xAI подает в суд на человека за использование Grok для создания «дипфейков» CSAM

Подробности

xAI Илона Маска утверждает, что Терри Харвуд обошел меры безопасности Грока и создал CSAM. Компания требует возмещения репутационного и юридического ущерба.

Компания xAI, принадлежащая Илону Маску, подает в суд на жителя Южной Каролины, который предположительно использовал чат-бота Grok AI для создания материалов о сексуальном насилии над детьми (CSAM). В иске, о котором ранее сообщило агентство Reuters, xAI утверждает, что Терри Уэйн Харвуд «сознательно и намеренно использовал Grok для обхода мер безопасности, изменения изображений без согласия, а также создания и распространения CSAM», нарушая политику компании.

Харвуд был арестован в феврале по подозрению в хранении и распространении CSAM, и ему предъявлено обвинение в восьми уголовных преступлениях. В иске утверждается, что «по крайней мере некоторые» изображения, связанные с уголовными обвинениями Харвуда, «были созданы или изменены» Гроком, и что Харвуд обошел гарантии Грока и «злоупотребил инструментом для преобразования несексуальных фотографий в откровенно сексуальные изображения» без согласия субъектов.

После запуска в прошлом году «пикантного» режима для Грока, xAI добавила возможность редактировать изображения с помощью чат-бота, что привело к потоку сексуализированных дипфейков с искусственным интеллектом, в том числе с участием несовершеннолетних. В марте группа подростков подала в суд на xAI из-за утверждений, что Грок создавал сексуализированные изображения себя несовершеннолетними. Маск ответил: «Любой, кто использует Grok для создания нелегального контента, пострадает от тех же последствий, как если бы он загружал нелегальный контент», хотя, похоже, это первый раз, когда xAI подает в суд на кого-либо из-за дипфейков, созданных с помощью ИИ.

xAI утверждает, что предполагаемые действия Харвуда подвергли компанию «значительному юридическому риску и репутационному ущербу». Он просил суд обязать Харвуд выплатить xAI любой ущерб, а также «разумные расходы, понесенные при защите себя в любом судебном иске, поданном жертвой действий Ответчика». xAI также хочет, чтобы судья запретил Харвуду создавать учетную запись xAI или использовать Grok.