Meta добавляет проверку ИИ для обнаружения мошенничества в WhatsApp

Подробности

Meta запускает дополнительную функцию Scam Alert в WhatsApp, которая использует машинное обучение на устройстве для обнаружения подозрительных сообщений. Ранее в этом году Meta также запустила функцию обнаружения мошенничества для запросов на привязку устройств в WhatsApp. Новая функция Scam Alert, которая внедряется в ограниченной бета-версии, показывает пользователям предупреждение, если чат кажется мошенничеством:

Если модель определяет сообщение как вероятную попытку мошенничества, пользователь видит предупреждение в чате, которое не видно другому человеку. Оттуда пользователь может решить, что делать: заблокировать, сообщить или продолжить разговор. Если они решат, что предупреждение помечено неправильно, пользователь может пометить чат как доверенный, и в этом случае предупреждение будет удалено, и Scam Alert больше не будет помечать этот чат. Если пользователь отмечает, что он доверяет чату, он также может согласиться поделиться последними 5 полученными сообщениями в WhatsApp, чтобы повысить точность этой функции.

WhatsApp, насчитывающий более 3 миллиардов пользователей, входит в число крупнейших сфер мошеннической деятельности, таких как банковские переводы и мошенничество с забоем свиней. Федеральная торговая комиссия сообщила, что жертвы сообщили, что потеряли 425 миллионов долларов из-за мошенничества только через WhatsApp, из более чем 2,1 миллиарда долларов, потерянных в результате мошенничества в социальных сетях в 2025 году.

Meta говорит, что «ни одно сообщение не покидает пользовательское устройство для классификации», когда включена функция обнаружения мошенничества, и ни о чем «автоматически не сообщается в WhatsApp, Meta или кому-либо еще». Пользователи также могут отключить оповещение о мошенничестве в любое время.