Сексуальные мошенничества с приложениями для знакомств на базе искусственного интеллекта уже здесь

Подробности

Поделиться Исследователь Gift Security Мэтью «Зигула» Гор-Корманик анализировал мошенническое приложение для знакомств под названием Dora, когда получил всплывающее сообщение о том, что ему звонит Дженнифер. Согласно ее биографии, она 41-летний Стрелец с рыжими волосами, голубыми глазами и пирсингом. Ей нравится музыка, фильмы ужасов, ночная жизнь и спорт.

Гор-Корманик ответил на звонок, но не увидел Дженнифер в своей видеотрансляции. Он увидел гобелен, который двигался, вероятно, из-за вентилятора, и услышал странные искажения на заднем плане. После окончания разговора «Дженнифер» написала ему, что ей было весело и что «твой голос намного лучше, чем ожидалось». Его микрофон даже не был подключен.

Гор-Корманик ковырялся в Dora и других подобных приложениях, потому что я поделился с ним таблицей потенциальных мошеннических приложений для знакомств. Я рассматривал этот вопрос, потому что 5 июня Anthropic сделала нечто нетипичное: обычно молчаливая компания позволила своему исследователю по анализу угроз Крису Кронбо выступить с докладом на публичной конференции по кибербезопасности под названием Sleuthcon. Компания обнаружила мошенническую сеть приложений для знакомств после того, как заметила необычную активность Клода: с предоплаченного аккаунта отправлялось более 100 000 запросов API в день.

В ходе доклада под названием «Проведите вправо, заплатите: ловля ИИ в промышленном масштабе» Кронбо описал сеть из примерно 28 приложений для знакомств, где общение в основном вели автономные ИИ-персонажи. По его словам, в большинстве чатов вообще не участвовал человек-агент. С тех пор Anthropic опубликовала свои выводы в разделе «Мошенничество и мошенничество» своего отчета «Обнаружение и противодействие неправомерному использованию ИИ: сентябрь 2026 года», но только после того, как мы потратили много времени на изучение сети и попытки подтвердить выводы. Меня заинтриговал тот факт, что Anthropic говорил об этом публично, в то время как многие приложения все еще были доступны в обоих крупных магазинах приложений США, и я задавался вопросом, почему их не удалили.

Глядя на сами приложения, я заметил, что они созданы для того, чтобы помогать людям находить людей, с которыми можно поговорить. Они не были похожи на сопутствующие приложения, такие как Replika, где ясно, что персонажи на самом деле являются искусственным интеллектом. Например, Dora описывалась как «приложение для знакомств, тщательно разработанное для людей самых разных возрастов… уважительное и простое в использовании пространство для знакомств с людьми, которые разделяют ваши ценности». В другой версии говорилось, что это «теплое и простое приложение для знакомств для взрослых, ищущих настоящего общения». Роми, как говорилось в описании, «помогает вам находить, общаться и общаться с реальными людьми». Слоган Дони был «начни настоящие дружеские отношения»; в описании говорилось, что оно «помогает вам общаться с одинокими людьми поблизости».