Мета создала собственную систему обнаружения ИИ. Надо было просто использовать Google

Подробности

В марте Наблюдательный совет Meta призвал компанию «выполнить свои публичные обязательства и использовать собственные инструменты», чтобы помочь подавить распространение обманчивого генеративного контента ИИ на платформах. Meta отреагировала в июле, представив Content Seal — технологию невидимых водяных знаков, которая помечает изображения, созданные новой моделью искусственного интеллекта компании. Но по сути это была сноска, спрятанная в объявлении компании об инструментах создания изображений и видео Muse.

Как человек, который тратит много времени на изучение систем маркировки искусственного интеллекта, Content Seal не внушает мне уверенности. Уже существуют более устоявшиеся решения, такие как C2PA Content Credentials и Google SynthID, которые Meta могла бы использовать вместо запуска собственной системы значительно позже. Покопавшись, чтобы выяснить, почему Meta запустила свою собственную систему, я не уверен, что Meta все это продумала.

По описанию Meta, Content Seal работает аналогично SynthID. Водяной знак, невидимый для человеческого глаза, обеспечивает «скрытый сигнал происхождения», встроенный в изображения, сгенерированные искусственным интеллектом, которые затем могут быть отсканированы и помечены инструментом обнаружения, помогая онлайн-пользователям отличать дипфейки от подлинного контента. Как и SynthID, Meta также утверждает, что водяные знаки Content Seal остаются нетронутыми и их все равно можно обнаружить, если изображение «обрезано, сжато, изменено в размере или сделано скриншот».

Итак, если Content Seal функционально делает то же самое… почему бы просто не использовать SynthID? Meta уже выступает в качестве члена руководящего комитета Коалиции по происхождению и аутентичности контента (C2PA), которая продвигает отдельный стандарт Content Credentials вместе с Google, поэтому она продемонстрировала готовность работать с другими над решением растущей проблемы обнаружения ИИ. SynthID также уже принят OpenAI, поэтому очевидно, что Google также желает открыть свою технологию для конкурирующих поставщиков ИИ во имя повышения прозрачности.

В своем нынешнем состоянии Content Seal имеет несколько ограничений, несмотря на сходство с системой Google. На данный момент пользователи могут обнаруживать водяные знаки Content Seal только с помощью специального веб-инструмента, который тестирует Meta. Это означает, что Meta не встроила эти возможности обнаружения в своего чат-бота Meta AI, как это сделал Google с Gemini. Однако похоже, что это может быть в разработке. Представитель Meta Фейт Айшен рассказала The Verge, что компания «исследует способы приблизить обнаружение к тем местам, где люди сталкиваются с контентом, созданным искусственным интеллектом». Учитывая, что именно здесь обнаружение ИИ необходимо больше всего и было необходимо в течение некоторого времени, почему оно не доступно при запуске?