Модель Astra от Open AI находится в разработке и очень хороша для взлома компьютерных систем.

Подробности

OpenAI поделилась новыми подробностями о своей будущей модели Astra, которая, по словам компании, является первой большой языковой моделью, которая достигнет «критического порога кибербезопасности», в рамках подготовки к ее скорому выпуску.

«Мы планируем сделать Astra доступной в ближайшее время, — говорится в сообщении в блоге OpenAI, — но доступ к ее самым передовым возможностям кибербезопасности будет более ограниченным».

Пограничная лаборатория установила, что Astra способна находить неизвестные недостатки безопасности в компьютерных системах и использовать их без чьего-либо вмешательства. Это похоже на опасения, которые Anthropic выразила по поводу своей модели Mythos ранее в этом году, и OpenAI принимает аналогичные меры предосторожности, готовясь к выпуску Astra.

Без какого-либо подтверждения со стороны третьих лиц трудно оценить заявления OpenAI о безопасности и готовности. Компания заявила, что проведет предварительный просмотр модели с группой тестировщиков, но не уточнила, кто они и как их будут выбирать. Неясно, работает ли OpenAI с правительством США над оценкой модели перед ее выпуском.

OpenAI отметила, что Astra получила высший балл на ExploitBench, оценке способности LLM взламывать известные уязвимости системы. В модифицированной версии теста, разработанной инженерами OpenAI, модель обнаружила и использовала две уязвимости нулевого дня, сообщили в компании.