Roblox создает собственную языковую модель

Roblox, популярная игровая онлайн-платформа, представила революционную функцию, которая призвана революционизировать способ общения игроков в игровом сообществе. 5 февраля технический директор компании Дэн Стурман объявил о создании специальной языковой модели (LLM), которая позволяет в реальном времени переводить текст между игроками, говорящими на разных языках. Это нововведение сокращает задержку сообщения всего до 100 миллисекунд, делая разговоры плавными и мгновенными.

Хотя Roblox уже автоматизировал перевод контента, компания стремилась выйти за рамки перевода статического контента. Штурман выделил две важные задачи при создании этого переводчика: создание системы, способной независимо переводить между всеми 16 поддерживаемыми языками, и обеспечение ее достаточной скорости для поддержки чатов в реальном времени. Чтобы решить эту проблему, Roblox разработал унифицированную LLM на основе преобразователя, обрабатывающую все языковые пары в одной модели.

Roblox начал с обучения своей LLM на основе трансформаторов, используя как общедоступные, так и частные данные. Затем компания заручилась помощью «экспертных» приложений-переводчиков, чтобы обучить модель каждому отдельному языку. Стурман объяснил, что перевод менее распространенных пар, таких как французский на тайский, оказался сложной задачей из-за ограниченности высококачественных данных, что требовало от Roblox использования метода «обратного перевода» для обеспечения точности.

Модель также прошла обучение пониманию человеческого сленга. Roblox привлек оценщиков для перевода «популярных и модных терминов» на каждый язык. Это был непрерывный процесс, при этом оценщики постоянно обновляли систему новейшими фразами.

В ходе тестирования Roblox обнаружил, что новая система перевода значительно улучшила взаимодействие с пользователем и качество сеанса на его платформе. Имея 70 миллионов активных пользователей из более чем 180 стран мира, Roblox ежедневно отправляет более 2,4 миллиарда сообщений.

Генеральный директор Roblox Дэвид Басуки выразил свое видение функциональной совместимости, полагая, что все пользователи метавселенной должны иметь возможность перемещать невзаимозаменяемые токены (NFT) и другие цифровые активы между несколькими независимыми платформами. Инновационная языковая модель Roblox — важный шаг на пути к реализации этой амбициозной цели.