Anthropic делится подробностями о том, как будут работать новые водяные знаки Клода

Подробности

В пятницу компания Anthropic опубликовала сообщение в блоге, пытаясь ответить на некоторые основные вопросы о том, как она будет ставить водяные знаки в тексте, сгенерированном ее чат-ботом Клодом. Например: Как на самом деле будут работать водяные знаки? Можно ли это скрыть при редактировании? И как это влияет на код?

Пользователи Claude обсуждают этот шаг с тех пор, как ранее на этой неделе компания объявила, что будет наносить водяные знаки в соответствии с Кодексом прозрачности Закона ЕС об искусственном интеллекте, который требует от компаний, занимающихся искусственным интеллектом, использовать системы, которые позволяют идентифицировать контент, созданный искусственным интеллектом.

Например, на Reddit один плакат охарактеризовал это как заговор против невинных пользователей Клода, а другой заявил: «Единственная причина, по которой вы этого не хотите, — это ложь людям». А Business Insider сообщает, что «десятки» пользователей X заявили, что в результате отменили свои подписки на Claude.

Новый пост Anthropic начинается с общего обзора концепции водяных знаков, объясняя, что, делая «выбор с низкими ставками» — например, выбирая между словами «пасмурно» и «серый» для описания погоды — Клод может создать шаблон в своих ответах, который «незаметен для читателя, но может быть обнаружен любым, у кого есть ключ, который его кодирует».

«Водяные знаки не влияют на качество продукции Клода», — заявили в компании. «Для читателя ответ с водяными знаками неотличим от ответа без водяных знаков».