TechCrunch · AI · 10 мин назад
Opus 4.6 от Anthropic — это грязная машина
Anthropic запрещает своим моделям Claude создавать контент откровенно сексуального характера. Но серия тестов, проведенных TechCrunch, показала, что обойти ограничение не потребовалось много времени.
Подробности
Универсальные стандарты использования Anthropic для Клода запрещают модели создавать контент откровенно сексуального характера, включая изображение или запрос полового акта или половых актов, создание контента, связанного с сексуальными фетишами или фантазиями, или участие в эротических чатах. Но это не помешало Claude Opus 4.6, модели Anthropic, выпущенной ранее в этом году, охотно участвовать в сценариях эротических ролевых игр, предотвратить которые призваны ее средства защиты.
В тестировании TechCrunch Opus 4.6 даже не потребовалось особых усилий, чтобы обойти ограничение на материалы сексуального характера. В 10 из 10 прямых запросов на создание откровенного сексуального контента модель выполнила немедленно.
Другие старые модели, в том числе Opus 3 и Haiku 4.5, также генерируют контент откровенно сексуального характера с помощью недавно использованного метода взлома.
Независимый исследователь из Великобритании, пожелавший остаться анонимным, эксклюзивно поделился с TechCrunch многоходовой техникой, которая постепенно подталкивает определенные модели Клода к созданию запрещенных материалов откровенно сексуального характера. Более поздние модели Opus (от 4.7 до текущего Opus 5) устойчивы к джейлбрейку.
Хотя это уже не самые последние модели, Anthropic не прекратил поддержку Opus 4.6, Opus 3 или Haiku 4.5, все из которых остаются доступными через Anthropic API. Opus 4.6 и Haiku 4.5 также доступны через сторонние сервисы, такие как Azure Foundry и Amazon Bedrock.