← ИИ для профессионалов: нейросети в ежедневной работе
Lesson
Урок 4.3. Практика: найти и обезвредить галлюцинацию
Самостоятельно разобрать ответ модели: найти сомнительные места, описать, как их проверить, и переписать запрос так, чтобы снизить риск ошибки.
Как разбирать ответ модели на риски
Как разбирать ответ модели на риски
Навык поиска галлюцинаций — это навык критического чтения, применённый к тексту, который кажется очень авторитетным. Первый шаг: читать ответ модели с включённым «детектором красных флагов». Конкретные цифры, ссылки, цитаты, названия людей и организаций, события с датами, нишевые технические факты — всё это кандидаты на проверку.
Второй шаг: для каждого подозрительного утверждения выбрать способ верификации. Найти первоисточник. Открыть ссылку. Посчитать самостоятельно. Запустить код. Спросить профильного эксперта. Чем выше ставки (публикация, юридический документ, финансовое решение, медицинский совет), тем тщательнее проверка.
Третий шаг: переписать запрос так, чтобы снизить будущий риск. Попросить модель явно указывать источники или признавать неуверенность («если не уверен — скажи об этом»), избегать конкретных цифр без ссылки, структурировать ответ так, чтобы факты были отделены от выводов. Это не устраняет галлюцинации, но делает их заметнее.
Помните: EU AI Act (ст. 4) с 2 февраля 2025 года требует от организаций обеспечивать достаточный уровень AI-грамотности сотрудников. Умение находить и проверять потенциальные ошибки ИИ — одна из ключевых составляющих этой грамотности. Ответственность за итог всегда остаётся на человеке.
Lesson notes
Как разбирать ответ модели на риски
Навык поиска галлюцинаций — это навык критического чтения, применённый к тексту, который кажется очень авторитетным. Первый шаг: читать ответ модели с включённым «детектором красных флагов». Конкретные цифры, ссылки, цитаты, названия людей и организаций, события с датами, нишевые технические факты — всё это кандидаты на проверку.
Второй шаг: для каждого подозрительного утверждения выбрать способ верификации. Найти первоисточник. Открыть ссылку. Посчитать самостоятельно. Запустить код. Спросить профильного эксперта. Чем выше ставки (публикация, юридический документ, финансовое решение, медицинский совет), тем тщательнее проверка.
Третий шаг: переписать запрос так, чтобы снизить будущий риск. Попросить модель явно указывать источники или признавать неуверенность («если не уверен — скажи об этом»), избегать конкретных цифр без ссылки, структурировать ответ так, чтобы факты были отделены от выводов. Это не устраняет галлюцинации, но делает их заметнее.
Помните: EU AI Act (ст. 4) с 2 февраля 2025 года требует от организаций обеспечивать достаточный уровень AI-грамотности сотрудников. Умение находить и проверять потенциальные ошибки ИИ — одна из ключевых составляющих этой грамотности. Ответственность за итог всегда остаётся на человеке.