TechCrunch · AI · 2 ч назад
OpenAI, Anthropic, Google и еще 100 компаний призывают к действиям по защите от мошеннического ИИ
Некоторые крупнейшие мировые технологические компании и стартапы в области искусственного интеллекта объединились, чтобы осудить нынешнее состояние кибербезопасности и рекламировать новое решение, которое, по их словам, может предотвратить новое поколение киберугроз.
Подробности
Более ста технологических компаний, в том числе OpenAI, Anthropic, Google и Microsoft, подписали открытое письмо, призывающее частный и государственный сектор работать вместе, чтобы защитить себя от киберугроз, связанных с искусственным интеллектом.
Письмо, которое также подписали известные киберфирмы, такие как CrowdStrike, Okta и Fortinet, а также известные финансовые учреждения и компании, занимающиеся интернет-инфраструктурой, призывает к принятию новых форм киберзащиты, а также призывает правительства на «местном, национальном и международном уровнях» сотрудничать в области безопасности.
«В ближайшие месяцы кибератаки с использованием искусственного интеллекта станут гораздо более распространенными и сложными, поскольку модели по всему миру станут все более функциональными», — говорится в письме. «Компании и государственные службы, от которых зависят наши сообщества — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу Интернета — находятся под угрозой».
Проблема, которую ИИ представляет для традиционных средств защиты кибербезопасности, в последнее время оказалась в центре внимания из-за череды странных инцидентов, в которых агенты ИИ атаковали компании.
За инцидентом Hugging Face, в ходе которого один из агентов OpenAI самостоятельно вырвался из изолированной среды и атаковал технологическую компанию, последовал ряд других сообщений о взломах с участием агентов, разработанных другими компаниями, занимающимися искусственным интеллектом, включая Anthropic и Meta. Эти инциденты укрепили аргумент о том, что сфера кибербезопасности фундаментально изменилась и что для смягчения этих последствий необходимы новые смелые коммерческие решения.