Ars Technica · Разработка · 3 ч назад
Клод Код теперь может взять на себя управление вашим компьютером для выполнения задач
Но Anthropic призывает к осторожности, поскольку гарантии «предварительного исследования» «не являются абсолютными».
Подробности
Позвольте нам скопировать Claude Code, теперь он может взять на себя управление вашим компьютером для выполнения задач. Но Anthropic призывает к осторожности, поскольку гарантии «предварительного исследования» «не являются абсолютными».
По словам Anthropic, когда это возможно, Claude Code и Cowork по-прежнему будут отдавать предпочтение использованию соединителей для прямого доступа и управления внешними приложениями или источниками данных. Однако, когда это соединение недоступно, эти инструменты теперь могут запрашивать разрешение «прокручивать, нажимать, чтобы открыть и исследовать по мере необходимости» на самой машине, чтобы делать то, что запрошено. Этот вид прямого управления компьютером также можно инициировать и управлять удаленно с помощью инструмента диспетчеризации Клода, пока целевой компьютер остается включенным.
Предоставление заведомо несовершенному и «склонному к ошибкам» инструменту искусственного интеллекта возможности исследовать рабочий стол вашего компьютера «по мере необходимости» может стать оправданным сигналом тревоги для многих пользователей. Это особенно верно, учитывая широко распространенные истории о проблемах безопасности, возникающих, когда компании или отдельные пользователи предоставляют агентам ИИ доступ к конфиденциальным ресурсам.
Anthropic заявляет, что у нее есть меры защиты для предотвращения распространенных рисков, таких как быстрое внедрение, и по умолчанию она ограничивает доступ к определенным «запрещенным» приложениям (например, «инвестиционным и торговым платформам, криптовалюте»).
Anthropic также отмечает на странице поддержки, что модель обучена избегать «рискованных операций», таких как перемещение или инвестирование денег, изменение файлов, очистка изображений лиц или ввод «конфиденциальных данных». Но компания также предупреждает, что такие гарантии обучения «не идеальны» и «не абсолютны», а это означает, что «Клод может время от времени действовать за пределами этих границ».