Google открыла всем сервис для проверки контента на ИИ

Компания открыла всем пользователям доступ к Syn­thID Detec­tor — бесплатному веб-сервису для проверки изображений, видео и аудио на признаки генерации или редактирования с помощью ИИ.

Фото: pexels.com

Syn­thID Detec­tor работает с популярными форматами изображений, видео и аудио. Сервис умеет распознавать контент, созданный инструментами Google и партнеров компании, включая Ope­nAI, Nvidia и Kakao. Для проверки достаточно загрузить файл на сайт.

Ранее инструмент был доступен ограниченному кругу журналистов, исследователей и медиаспециалистов, а теперь работает глобально на английском языке. Поддержка изображений, созданных или измененных с помощью Apple Intel­li­gence, появится позже.

Google использует Syn­thID с 2023 года. По данным компании, водяными знаками уже помечены более 180 миллиардов изображений и видео, а также аудио общей продолжительностью около 240 тысяч лет. Проверка Syn­thID также встроена в Gem­i­ni, Chrome и поиск Google — эти функции обрабатывают более 1 миллиона запросов в день.

При этом сервис нельзя считать универсальным детектором ИИ-контента. Он распознает только материалы, в которые был встроен поддерживаемый водяной знак, а в некоторых случаях такие метки можно удалить.

Кроме того, Syn­thID Detec­tor не всегда показывает, был ли файл полностью сгенерирован ИИ или лишь отредактирован с его помощью.

Какие способы выявления ИИ-текста существуют и где заканчиваются их возможности?