The Verge · Разработка · 2 ч назад
Substack добавляет детектор искусственного интеллекта, который поможет обнаружить блоги, написанные никем
Substack теперь поможет пользователям определить, было ли то, что они читают, написано искусственным интеллектом. Согласно сообщению в блоге, опубликованному во вторник, новый инструмент, появившийся на платформе, может сканировать сообщения, заметки, ответы и комментарии, чтобы оценить, сколько текста может быть сгенерировано или написано с помощью ИИ. Инструмент разработан компанией Pangram, занимающейся обнаружени…
Подробности
Substack теперь поможет пользователям определить, было ли то, что они читают, написано искусственным интеллектом. Согласно сообщению в блоге, опубликованному во вторник, новый инструмент, появившийся на платформе, может сканировать сообщения, заметки, ответы и комментарии, чтобы оценить, сколько текста может быть сгенерировано или написано с помощью ИИ.
Этот инструмент разработан компанией Pangram, занимающейся обнаружением искусственного интеллекта, и распространяется через Интернет и приложение для iOS, а запуск Android состоится «скоро». Читатели могут анализировать контент длиной более 100 слов, выбрав опцию «Сканировать текст AI» в трехточечном меню в правом верхнем углу сообщения.
Соучредитель и генеральный директор Substack Крис Бест говорит, что интеграция с Pangram призвана повысить прозрачность платформы, поскольку искусственный интеллект становится все более распространенным в социальных сетях. «Основная проблема заключается не в людях, использующих ИИ, и не в качестве его результатов», — пишет Бест. «Проблема в том, что существует несоответствие между ожиданиями читателя и реальностью, особенно когда он невольно вкладывает свое внимание во что-то, на другом конце которого нет человеческой мысли. Это Клодфишинг».
В соответствии с этим изменением, Substack также позволит авторам объяснять читателям процесс написания с помощью нового заявления «Как я это делаю». Авторы также могут сканировать свои черновики с помощью Pangram и иметь возможность сообщать о неточных результатах.
Бест отмечает, что «Pangram может определить только то, использовался ли ИИ для создания текста, а не то, была ли большая человеческая забота потрачена на его создание или использовались ли инструменты ИИ в качестве источника». Но цель, по словам Беста, состоит в том, чтобы облегчить кому-то выбор потратить свое время на чтение сообщения в блоге. «Когда читателям приходится задаваться вопросом, реально ли то, что они читают, это подрывает доверие к авторству и ставит под угрозу средства к существованию писателей, в том числе тех, кто вдумчиво использует инструменты искусственного интеллекта для создания работ, в которые они верят», — пишет Бест. «Платформы, которые вознаграждают фальшивость, создадут гонку ко дну».