Исследование OpenAI утверждает: галлюцинации LLM неизбежны из‑за фундаментальных математических ограничений. OpenAI опубликовала работу с формальным обоснованием, почему большие языковые модели неизбежно выдают правдоподобные, но ложные ответы. Причина — фундаментальные статистические и вычислительные пределы: модели вынуждены угадывать при неопределенности, ограничены представляемостью архитектур и упираются в задачи, вычислительно или криптографически трудные. Более того, промышленная практика оценивания (бинарные метрики, штраф за «не знаю») усугубляет проблему, подталкивая модели к уверенным, но неверным ответам. Вывод: нужен сдвиг к управлению рисками, калибровке уверенности и новым стандартам доверия, а не ожидание полного устранения галлюцинаций. https://www.computerworld.com/article/4059383/openai-admits-ai-hallucinations-are-mathematically-inevitable-not-just-engineering-flaws.html