Подростки подали в суд на xAI Илона Маска из-за CSAM, созданного Гроком

Подробности

Одна жертва утверждает, что откровенные изображения ее самой и как минимум 18 других несовершеннолетних, созданные искусственным интеллектом, были опубликованы в Discord.

Трое подростков из Теннесси подали в суд на xAI Илона Маска из-за утверждений о том, что чат-бот Grok AI компании создавал сексуализированные изображения и видео с ними, когда они были несовершеннолетними, как ранее сообщало The Washington Post. В предложенном коллективном иске, поданном в понедельник, Маск и другие лидеры xAI обвиняются в том, что Грок будет производить сгенерированные ИИ материалы о сексуальном насилии над детьми (CSAM), когда запускал свой «пикантный режим» в прошлом году.

В число истцов входят двое несовершеннолетних и взрослый, который был несовершеннолетним на момент событий, о которых идет речь в иске. Одна из жертв, идентифицированная как «Джейн Доу 1», утверждает, что в декабре прошлого года она узнала, что на Discord были доступны откровенные, созданные искусственным интеллектом изображения ее самой и как минимум 18 других несовершеннолетних. «По меньшей мере пять из этих файлов, одно видео и четыре изображения изображали ее настоящее лицо и тело в знакомых ей местах, но трансформировались в откровенно сексуальные позы», — говорится в иске.

Преступница, которая с тех пор была арестована, предположительно использовала CSAM Джейн Доу 1, сгенерированный искусственным интеллектом, «в качестве инструмента бартера в групповых чатах Telegram с сотнями других пользователей, обменивая свои файлы CSAM на откровенно сексуальный контент других несовершеннолетних». В иске утверждается, что преступник с помощью Грока создал откровенные изображения Джейн Доу-1 и двух других жертв. В нем также утверждается, что xAI «не смогла проверить безопасность разработанных ею функций» и что Grok имеет «дефектный дизайн».

Маск и xAI стали объектом пристального внимания после того, как Грок заполонил X откровенными изображениями взрослых и несовершеннолетних. Инцидент вызвал общенациональный призыв к Федеральной торговой комиссии провести расследование в отношении Грока, расследование со стороны Европейского Союза и предупреждение от премьер-министра Великобритании Кейра Стармера. Сенат также принял в январе законопроект, который позволит жертвам дипфейков, созданных без согласия, подавать в суд на людей, создавших изображение, в то время как Закон «Сними это», который президент Дональд Трамп подписал в 2025 году, введет уголовную ответственность за распространение дипфейков, созданных без согласия, когда он вступит в силу в мае.