TechCrunch · AI · 1 ч назад
OpenAI стремится превзойти Anthropic с помощью новых средств защиты конфиденциальности клиентов
Между OpenAI и Anthropic развивается конкуренция за то, кто сможет обеспечить лучшую защиту конфиденциальности данных корпоративных клиентов.
Подробности
По мере того, как модели ИИ становятся более мощными, растет вероятность их неправильного использования, равно как и требования о создании защитных ограждений, которые могут предотвратить подобные злоупотребления. Компании, занимающиеся искусственным интеллектом, теперь должны идти по тонкому канату между уважением конфиденциальности своих корпоративных клиентов и наблюдением за использованием на предмет возможных проблем.
Почувствовав возможность превзойти своего конкурента Anthropic, OpenAI только что объявила о подходе к мониторингу злоупотреблений, ориентированном на конфиденциальность. Компания тестирует новую услугу для избранных клиентов, которую она называет Private Safety Processing. Это автоматизированная система, которая отслеживает потенциальные злоупотребления, одновременно не сохраняя при этом никаких данных клиента.
Эта система явно противоречит недавно объявленной политике хранения данных Anthropic. Политика, вызвавшая раздражение некоторых клиентов, позволяет лаборатории искусственного интеллекта хранить пользовательские данные (все их сеансы и разговоры в них) в течение 30 дней, когда речь идет о «охваченных моделях». В число этих моделей входят все модели класса Mythos и «будущие модели с аналогичными возможностями», заявляет компания.
Эта политика, о которой было объявлено в июле, была разработана в целях безопасности, позволяя лаборатории отсеивать и анализировать потенциальные нарушения. Однако это глубоко обеспокоило некоторые предприятия, которые обрабатывают большие объемы конфиденциальных данных и не хотят, чтобы они хранились (или проверялись) лабораторией искусственного интеллекта.
OpenAI, как и большинство других компаний, занимающихся искусственным интеллектом, уже предоставляет клиентам относительный уровень конфиденциальности, придерживаясь политики, известной как «нулевое сохранение данных». ZDR использует агентов в API OpenAI для отслеживания злоупотреблений для каждого сеанса. Таким образом, данные о клиентах не сохраняются в компании, но компании по-прежнему могут сканировать их на наличие нежелательной активности без вмешательства человека. Стоит отметить, что Anthropic также в значительной степени соблюдает ZDR — за исключением случаев, когда речь идет о «закрытых моделях», таких как Fable.