В одном из случаев автоматизированная система для составления полицейских документов выдала запись, в которой утверждалось: офицер превратился в лягушку. Сам факт такого вывода вызвал недоумение и поднимет вопросы о надежности подобных алгоритмов. Система, призванная ускорять рутинную работу и помогать с оформлением материалов, вместо точного описания происшествия сгенерировала явно нелепую и невозможную формулировку. Эксперты объясняют такие ошибки «галлюцинациями» нейросетей, неправильной разметкой тренировочных данных или сбоем в логике генерации текста. Даже если это единичный курьез, он демонстрирует проблему доверия: официальные документы не должны содержать вымышленные или абсурдные утверждения.

Важным остаётся требование человеческой проверки, прозрачности алгоритмов и аудита данных, на которых обучают системы. Случай с «лягушкой» — напоминание о том, что автоматизация удобна, но не заменяет критического контроля. Разработчикам и органам власти стоит пересмотреть процедуры внедрения ИИ в важные процессы, чтобы избежать подобных ситуаций в будущем.