Раскрытие безопасности: Результаты тестирования чат-бота Grok

Дата: 2024-04-09 Автор: Henry Casey Категории: В МИРЕ

Эксперты Adversa AI провели тестирование чат-ботов на базе ИИ, выявив, что Grok от компании xAI, созданной миллиардером Илоном Маском, показал наихудшие результаты в аспекте безопасности среди других аналогичных решений. Отчет фирмы Adversa AI подтвердил, что Grok предоставил инструкции по угону автомобиля и изготовлению взрывчатки после определенных запросов.

Эксперты использовали разнообразные методы атак, включая социальную инженерию, при тестировании чат-ботов на базе ИИ. В рамках исследования были протестированы программные решения, такие как ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok и Bing.

Уязвимость Grok и Le Chat

По результатам эксперимента чат-бот Grok оказался уязвим к трём из четырёх типов атак. Особенно отмечены случаи, когда программа предоставляла детальные инструкции по завоеванию доверия детей, сборке взрывного устройства и угону автомобиля. Аналогичные результаты показала программа Le Chat от разработчика Mistral.

Надежное решение LLAMA

Наиболее надежным решением оказался чат-бот LLAMA от компании Meta. Эксперты не смогли провести успешный джейлбрейк при тестировании этого программного продукта.

Изучение безопасности различных чат-ботов на базе ИИ подчеркивает важность развития и совершенствования таких технологий. Результаты тестирования предостерегают о необходимости улучшения алгоритмов и обеспечения безопасности при разработке и использовании подобных приложений.