Результаты эксперимента с блокчейном приводят к созданию роя децентрализованных обучающих роботов

В смоделированной среде исследователи разработали способ координации обучения между отдельными автономными ИИ-агентами. Команда использовала технологии блокчейна для упрощения и обеспечения безопасности коммуникаций агентов, создавая таким образом децентрализованный «рой» обучающих моделей.

Индивидуальные результаты обучения каждого агента в рое затем использовались для разработки более крупной модели ИИ. Поскольку данные обрабатывались через блокчейн, эта большая система получила выгоду от коллективного интеллекта роя, не получая доступа к данным отдельных агентов.

Машинное обучение, концепция, тесно связанная с искусственным интеллектом, имеет множество форм. Типичный чат-бот, например, ChatGPT от OpenAI или Claude от Anthropic, разрабатывается с использованием нескольких техник. Он предварительно обучается с использованием парадигмы, называемой «обучение без учителя», а затем уточняется с помощью другой, известной как «обучение с подкреплением на основе человеческой обратной связи».

Одной из основных проблем с этим подходом является то, что он обычно требует хранения данных для обучения в централизованной базе данных. Это делает его непрактичным для приложений, требующих непрерывного автономного обучения или где конфиденциальность важна.

Команда исследователей проводила свои исследования блокчейна, используя парадигму обучения, называемую «децентрализованное федеративное обучение». В результате они обнаружили, что могут успешно координировать модели, сохраняя децентрализацию данных.

Большинство исследований команды сосредоточилось на изучении устойчивости роя к различным методам атак. Поскольку технология блокчейна представляет собой общедоступный реестр, а сеть обучения, используемая в эксперименте, была децентрализована, команда смогла продемонстрировать устойчивость к традиционным хакерским атакам.

Однако они нашли определённый порог для количества недобросовестных роботов, которое рой может выдержать. Исследователи разработали сценарии, включающие роботов, намеренно спроектированных для причинения вреда сети. Эти сценарии включали агентов с злыми намерениями, агентов с устаревшей информацией и роботов, закодированных с простыми инструкциями по нарушению работы.

Хотя простые и устаревшие агенты были относительно легко защищаемы, команда обнаружила, что умные агенты с злыми намерениями могли бы в конечном итоге нарушить интеллект роя, если бы достаточное количество из них смогло внедриться.

Это исследование остаётся экспериментальным и проводилось только в рамках симуляций. Но вскоре может наступить время, когда рои роботов смогут быть скоординированы децентрализованным образом. Это может однажды позволить командам ИИ-агентов из разных компаний или стран работать вместе для обучения более крупного агента, не жертвуя конфиденциальностью данных.