OpenAI Представляет Инструменты для Обнаружения ИИ-Контента

Дата: 2024-05-09 Автор: Gabriel Deangelo Категории: В МИРЕ

ИИ-лаборатория OpenAI представила новый инструмент для обнаружения изображений, созданных с использованием алгоритма DALL-E 3, а также водяной знак, который защищает контент от несанкционированного доступа.

Классификатор с Точностью 98%

Точность классификатора изображений ИИ, разработанного OpenAI, составляет 98%, что делает его надежным инструментом для определения использования алгоритма DALL-E 3 даже на обработанных и сжатых изображениях.

При обработке изображений, таких как обрезка, сжатие и изменение насыщенности, точность классификатора снижается до 95–97%, а при изменении цветокоррекции – до 82%.

Инициатива по Стандартам C2PA

OpenAI начала добавлять "учетные данные для содержимого" к метаданным изображений, созданных с помощью DALL-E 3, в рамках поддержки стандартов Коалиции по проверке происхождения и аутентичности содержимого (C2PA), членом которой является компания вместе с Microsoft и Adobe.

OpenAI отмечает, что новые инструменты требуют доработок, и призывает пользователей дать обратную связь для оценки их эффективности и функциональности.

Сотрудничество в Обеспечении Прозрачности ИИ

Инициативы OpenAI в сфере обеспечения прозрачности и ответственности в области ИИ согласуются с действиями других компаний, таких как Microsoft, которая также делится своими достижениями в развертывании ответственных систем ИИ.