Deloitte уличили в использовании ИИ при подготовке отчета для австралийского правительства

Исследование показало, что значительная часть отчета была создана при помощи ИИ, а не специалистами компании. После обнародования этих данных Deloitte провела внутреннюю проверку и пересмотрела документ. В обновленной версии отчета были удалены фиктивные ссылки, исправлены сноски и обновлен список литературы. Кроме того, компания впервые официально указала, что использовала генеративные модели, включая Azure OpenAI GPT-4o.

Несмотря на внесенные изменения, скандал вызвал широкое обсуждение в научных и профессиональных кругах Австралии. Профессор Сиднейского университета Кристофер Радж отметил, что ошибки в документе являются типичными для так называемых «галлюцинаций» искусственного интеллекта. Он подчеркнул, что отсутствие прозрачности при использовании подобных инструментов ставит под сомнение достоверность рекомендаций, изложенных в отчете.

Представители DEWR заявили, что ключевые выводы отчета остались без изменений, однако отказались уточнить, будет ли Deloitte обязана полностью вернуть средства или продолжит сотрудничество с ведомством. Известно лишь, что компания согласилась выплатить заключительный взнос по контракту, сумма которого не разглашается.

Помимо проблем с самим отчетом, проверка выявила внутренние недостатки в системе DEWR. Среди них — ошибки в процессах, слабая документация и чрезмерно строгие меры контроля за соблюдением требований. Эти выводы совпали с более ранним отчетом омбудсмена Содружества, где отмечалось, что многие случаи приостановки социальных выплат были незаконными.

Эксперты отмечают, что инцидент стал тревожным сигналом относительно надежности и этических аспектов использования искусственного интеллекта в государственных и корпоративных исследованиях. Deloitte, активно применяющая ИИ в своей работе, теперь сталкивается с риском потери доверия как со стороны клиентов, так и со стороны общественности.

Этот случай стал одним из первых, когда крупная консалтинговая компания признала, что искусственный интеллект участвовал в подготовке официального правительственного документа, что усилило общественную дискуссию о границах ответственности при использовании ИИ.