← ИИ для профессионалов: нейросети в ежедневной работе
Lesson
Урок 6.2. AI-грамотность, этика и прозрачность: предвзятость, авторство, EU AI Act
Понять обязанность AI-грамотности (EU AI Act, ст. 4 как мировой ориентир), а также этические вопросы: предвзятость данных, прозрачность раскрытия использования ИИ, авторские права и достоверность.
AI-грамотность и этика: что должен знать каждый
EU AI Act и профессиональная этика использования ИИ
EU AI Act — европейский закон об искусственном интеллекте — содержит статью 4, которая обязывает организации (провайдеров и тех, кто внедряет AI) обеспечивать «в меру возможностей достаточный уровень AI-грамотности» своих сотрудников и всех, кто использует AI от их имени. Эта норма вступила в силу 2 февраля 2025 года, а принудительное исполнение и санкции начнутся с 3 августа 2026 года. Важно: ст. 4 не ограничена только высокорисковыми системами — она применяется широко. Для нас это мировой ориентир профессионального стандарта, а не юридический совет для конкретной страны.
Предвзятость (bias) — один из главных этических рисков AI. Модели обучаются на данных, которые отражают исторические неравенства и стереотипы. Если в обучающих данных женщины редко упоминались в руководящих ролях, модель может воспроизводить эту диспропорцию. Перед использованием результатов AI в решениях, которые касаются людей (найм, оценка, кредит), стоит задуматься: нет ли системного перекоса в ответе?
Прозрачность означает готовность раскрывать использование AI там, где это уместно. Если вы публикуете текст, написанный с помощью AI, и аудитория ожидает авторского человеческого мнения — честно укажите это. Авторские права на AI-сгенерированный контент пока регулируются неоднозначно в разных юрисдикциях; стандарт добросовестности — проверять, не воспроизводит ли модель чужой защищённый материал.
Достоверность связана с тем, что обсуждалось в U4: модели могут галлюцинировать — уверенно выдавать неверную информацию. AI-грамотный специалист знает об этом, проверяет ключевые факты по источникам и не публикует результат без валидации.
Lesson notes
EU AI Act и профессиональная этика использования ИИ
EU AI Act — европейский закон об искусственном интеллекте — содержит статью 4, которая обязывает организации (провайдеров и тех, кто внедряет AI) обеспечивать «в меру возможностей достаточный уровень AI-грамотности» своих сотрудников и всех, кто использует AI от их имени. Эта норма вступила в силу 2 февраля 2025 года, а принудительное исполнение и санкции начнутся с 3 августа 2026 года. Важно: ст. 4 не ограничена только высокорисковыми системами — она применяется широко. Для нас это мировой ориентир профессионального стандарта, а не юридический совет для конкретной страны.
Предвзятость (bias) — один из главных этических рисков AI. Модели обучаются на данных, которые отражают исторические неравенства и стереотипы. Если в обучающих данных женщины редко упоминались в руководящих ролях, модель может воспроизводить эту диспропорцию. Перед использованием результатов AI в решениях, которые касаются людей (найм, оценка, кредит), стоит задуматься: нет ли системного перекоса в ответе?
Прозрачность означает готовность раскрывать использование AI там, где это уместно. Если вы публикуете текст, написанный с помощью AI, и аудитория ожидает авторского человеческого мнения — честно укажите это. Авторские права на AI-сгенерированный контент пока регулируются неоднозначно в разных юрисдикциях; стандарт добросовестности — проверять, не воспроизводит ли модель чужой защищённый материал.
Достоверность связана с тем, что обсуждалось в U4: модели могут галлюцинировать — уверенно выдавать неверную информацию. AI-грамотный специалист знает об этом, проверяет ключевые факты по источникам и не публикует результат без валидации.