🤷 Совет по ИИ: разрешите своему ИИ говорить «Я не знаю»

Модели часто заполняют пробелы уверенными догадками. В руководстве Anthropic по сокращению галлюцинаций прямо говорится, что разрешение Claude признавать неопределённость «может значительно сократить количество ложной информации».

Добавьте в запрос одну строку:
Если вы не уверены или в отчёте нет нужной информации, скажите: «У меня недостаточно информации, чтобы дать уверенную оценку».

Работаете с длинным документом? Пойдите дальше: сначала попросите привести дословные цитаты, а затем дать ответ, основанный только на них. Или после чернового ответа попросите найти подтверждающую цитату для каждого утверждения и удалить всё, что нельзя подкрепить.

⭐ Честное «Я не знаю» лучше уверенно выдуманного факта.

#ИИ