The Guardian Business · Экономика · 11 ч назад
Anthropic подробно описывает попытки злоумышленников злоупотребить искусственным интеллектом для создания биологического оружия
Отчет появился через два дня после того, как бывший сотрудник уволился, утверждая, что модели компании могут привести к вымиранию человечества к 2030 году. Преступники, спонсируемые государством группы, поставщики шпионского ПО, ученые и пропагандисты пытались использовать мощные модели искусственного интеллекта Anthropic для разработки ракет и бомб, создания смертельных патогенов и слежки за диссидентами, согласно о…
Подробности
«Биологическое злоупотребление — один из самых серьезных рисков передовых моделей ИИ. Без надлежащих мер безопасности такие возможности могут иметь катастрофические последствия». Фотография: Дадо Рувич/Reuters Посмотреть изображение в полноэкранном режиме «Биологическое злоупотребление — один из самых серьезных рисков передовых моделей искусственного интеллекта. Без надлежащих мер безопасности такие возможности могут иметь катастрофические последствия». Фотография: Дадо Рувич/Reuters Anthropic Anthropic подробно описывает попытки злоумышленников использовать ее искусственный интеллект для создания биологического оружия. Отчет появился через два дня после увольнения бывшего сотрудника, утверждающего, что модели компании могут привести к вымиранию человечества к 2030 году.
Предпочитайте Guardian в Google Преступники, спонсируемые государством группы, поставщики шпионского ПО, ученые и пропагандисты пытались использовать мощные модели искусственного интеллекта Anthropic для разработки ракет и бомб, создания смертельных патогенов и слежки за диссидентами, согласно отчету об угрозах, опубликованному компанией в четверг.
«Случаи, о которых мы здесь рассказываем, — это не типичные злоупотребления, а скорее примеры наиболее заметной и новой угрозы, которую мы выявили на сегодняшний день», — написала Anthropic в своем 154-страничном отчете. «Мы публикуем эту работу, потому что считаем, что несем ответственность за раскрытие злонамеренного использования наших услуг».
В частности, компания подробно рассказала о пяти тематических исследованиях ученых, использующих ее модели искусственного интеллекта в биологических исследованиях. В этих примерах Anthropic заявила, что исследователи обошли меры безопасности, направленные на предотвращение доступа пользователей в «неподдерживаемые регионы», а также пытались скрыть цель своей работы.
Anthropic заявила, что заблокировала эти аккаунты. Компания не раскрыла названия исследовательских учреждений или стран, где имело место неправомерное использование, заявив, что не уверена в намерениях исследователей.