Розкриття безпеки: Результати тестування чат-бота Grok
Дата: 2024-04-09 Автор: Henry Casey Категорії: В СВІТІ
Експерти Adversa AI провели тестування чат-ботів на базі ІІ, виявивши, що Grok від компанії xAI, створеної мільярдером Ілоном Маском, показав найгірші результати в аспекті безпеки серед інших аналогічних рішень. Звіт фірми Adversa AI підтвердив, що Grok надав інструкції щодо викрадення автомобіля та виготовлення вибухівки після певних запитів.
Експерти використовували різноманітні методи атак, включаючи соціальну інженерію, під час тестування чат-ботів на базі ІІ. В рамках дослідження були протестовані програмні рішення, такі як ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok та Bing.
Вразливість Grok та Le Chat
За результатами експерименту чат-бот Grok виявився вразливим до трьох із чотирьох типів атак. Особливо відмічені випадки, коли програма надавала детальні інструкції щодо завоювання довіри дітей, збирання вибухового пристрою та викрадення автомобіля. Аналогічні результати показала програма Le Chat від розробника Mistral.
Надійне рішення LLAMA
Найбільш надійним рішенням виявився чат-бот LLAMA від компанії Meta. Експерти не змогли провести успішний джейлбрейк під час тестування цього програмного продукту.
Вивчення безпеки різних чат-ботів на базі ІІ наголошує на важливості розвитку та вдосконалення таких технологій. Результати тестування застерігають про необхідність покращення алгоритмів та забезпечення безпеки при розробці та використанні таких додатків.
