Обнаружение искусственного интеллекта в Instagram — это беспорядок (опять)

Подробности

Meta вернулась к добавлению меток AI на исходные фотографии, но не помечает изображения AI, как это должно быть.

Поделиться подарком Если вы покупаете что-то по ссылке Verge, Vox Media может получить комиссию. См. наше заявление об этике.

Предполагается, что видимые метки искусственного интеллекта в Instagram помогут людям быстро распознать синтетический контент. Однако в последние несколько недель пользователи сообщают, что система вышла из строя. Они говорят, что Meta автоматически применяет метку «AI Content» к изображениям, которые они не создавали и не редактировали с помощью генеративных инструментов AI. Между тем, реальные изображения ИИ ускользают из виду, создавая впечатление, что в Instagram вообще ничему нельзя доверять.

Точные причины этой маркировки, по-видимому, различаются. Многие люди говорили, что метка появлялась на изображениях, которые были отредактированы с помощью таких инструментов, как Canva Background Remover, или с незначительным использованием инструментов для исправления дефектов. Один пользователь в Threads сказал, что Instagram применяет метку «каждый раз, когда используется средство для удаления фона», а другой пользователь сказал, что она появилась после того, как они использовали Canva для удаления «пятен» со своей фотографии, в результате чего все изображение было помечено в Instagram как AI. В других случаях причины еще менее ясны.

Если эта ошибка с маркировкой звучит знакомо, вы, возможно, помните, что аналогичная проблема испортила фотографии в Instagram с ярлыком «Сделано искусственным интеллектом» в 2024 году, через несколько месяцев после запуска этой функции. В феврале того же года Meta объявила, что будет сканировать изображения на предмет метаданных IPTC и C2PA, что может с разумной уверенностью доказать, использовался ли генеративный ИИ для их создания или манипулирования ими. Но его методы всегда были туманны. Сообщается, что в 2024 году система обнаружения обнаружила фотографии, метаданные Adobe которых указывали, что они были отретушированы с помощью инструментов генеративного искусственного интеллекта, даже если изменения были крайне незначительными и по существу приводили к одной и той же фотографии. Затем Meta пообещала изменить свой подход к маркировке, чтобы лучше отражать «количество искусственного интеллекта, используемого в изображении». В компании также заявили, что используют «стандартные отраслевые индикаторы, которые другие компании включают в контент своих инструментов», но нет никакой свежей информации о том, что они собой представляют, а также о том, как и когда они их сканируют. Мета не ответила на запрос разъяснений.