Согласно данным бенчмарка SimpleQA, искусственный интеллект GPT-4.5 от компании OpenAI в 37% случаев предоставляет недостоверную информацию.
Этот эффект, известный как “галлюцинации” ИИ, проявляется в том, что программа ошибается даже при ответе на элементарные вопросы, не говоря уже о более сложных запросах и анализе данных. При этом GPT-4.5 считается одной из самых продвинутых моделей, так как другие аналогичные разработки демонстрируют еще более низкий уровень достоверности, ошибаясь в 65% случаев.
В борьбе с галлюцинациями искусственного интеллекта наблюдается определенный прогресс. Например, предыдущая версия, GPT-4o, допускала ошибки в 61% случаев. Однако, по мнению экспертов, темпы развития в этом направлении недостаточны. Они полагают, что поверхностные улучшения не смогут решить проблему в ближайшее время и потребуются принципиально новые подходы к разработке.
Глава Microsoft, Сатья Наделла, ранее заявлял, что пока рано сравнивать внедрение ИИ с промышленной революцией XIX века. По его мнению, индустрия искусственного интеллекта станет зрелой только тогда, когда ее вклад в мировую экономику достигнет не менее 10%.