The Verge · Разработка · 1 ч назад
Детекторы искусственного интеллекта создают новую эру недоверия
Это The Stepback, еженедельный информационный бюллетень, в котором рассказывается об одной важной истории из мира технологий. Чтобы узнать больше о том, как ИИ меняет нашу повседневную жизнь, подписывайтесь на Эмму Рот. Stepback поступит в почтовые ящики наших подписчиков в 8 утра по восточному времени. Подпишитесь на The Stepback здесь. Как все началось Задолго до того, как появился ChatGPT, преподаватели и редактор…
Подробности
Инструменты, обещающие обнаружить ИИ, могут быть сомнительными, но преподаватели и издатели все равно их используют.
Поделиться подарком Если вы покупаете что-то по ссылке Verge, Vox Media может получить комиссию. См. наше заявление об этике.
Задолго до того, как появился ChatGPT, преподаватели и редакторы часто использовали инструменты борьбы с плагиатом, чтобы проверить, честны ли авторы в своей работе. Эти инструменты работают путем сравнения письменной работы с базой данных, наполненной контентом из Интернета, научными статьями и т. д., для проверки совпадения предложений и фраз. Некоторые, например Turnitin, предлагают процент, который утверждает, что показывает, насколько сочинения студента совпадают с другими работами. Из-за потенциальных ложных срабатываний и неуверенности в том, была ли работа дублирована намеренно, некоторые преподаватели отказались от использования этого конкретного инструмента.
Но теперь охота за скопированным контентом перерастает в войну с работами, созданными искусственным интеллектом. Как только учащиеся освоили ChatGPT, Google Gemini и Microsoft Copilot, учителя так же быстро освоили так называемые детекторы искусственного интеллекта. Опрос, проведенный Центром демократии и технологий, показал, что 43 процента учителей с шестого по двенадцатый классы в США регулярно использовали детекторы ИИ в период с 2024 по 2025 год. Некоторые университеты, уже использующие Turnitin в своих системах управления обучением, обнаружили, что сервис автоматически включал обнаружение ИИ, когда инструмент был запущен в 2023 году.
Вместо сравнения фрагментов письменного контента детекторы искусственного интеллекта, такие как GPTZero, Pangram и созданный Turnitin, полагаются на свои собственные модели искусственного интеллекта, чтобы угадать, не написано ли что-то человеком — процесс, который, возможно, даже более запутан, чем сопоставление текста в сети. Как отмечает GPTZero, детекторы ИИ используют алгоритм для анализа формулировок, ритма и структуры текста, а также для выявления шаблонов длины и тона, которые могут быть более распространены в тексте, написанном ИИ. Эта относительно субъективная оценка не так надежна, как та, которую вы могли бы подкрепить сопоставлением текста в Интернете, и ее могут сбить с толку писатели, для которых английский является вторым языком. Несмотря на это, Turnitin заявила, что ее детектор искусственного интеллекта ошибочно помечает менее 1 процента написанного человеком контента как ИИ, в то время как Pangram утверждает, что уровень ложных срабатываний составляет всего 1 из 10 000. GPTZero утверждает, что у него столь же низкий уровень ошибочного принятия человеческого контента за ИИ.