После того, как фальшивый голос обманул ее дедушку, основательница компании приступила к действию.

Подробности

Когда раздался звонок, дедушка Тарини Падманабхуни подумал, что он разговаривает со своим братом. Голос на другом конце линии сказал, что его похитили и что единственный способ вернуть его — заплатить выкуп. Ее дедушка заплатил, но позже узнал, что его брат был где-то совсем в другом месте, даже не подозревая, что что-то происходит. Голос, как оказалось, был дипфейком, имитацией, созданной искусственным интеллектом.

«Что осталось со мной, так это не деньги», — говорит Падманабхуни об инциденте. «Дело в том, что он не мог сказать об этом».

Это было около двух лет назад. Сегодня, по ее словам, основанная ею компания DetectifAI из Сан-Франциско стремится гарантировать, что других нельзя обмануть таким же способом.

Это большая и растущая проблема, и у нее есть соответствующий рынок. По данным ФБР, в прошлом году американцы потеряли около 900 миллионов долларов из-за мошенничества с использованием искусственного интеллекта, что на 24% больше, чем в 2024 году. Люди 60 лет и старше потеряли вдвое больше, чем люди в возрасте от 50 до 59 лет.

В области обнаружения фейкового голоса нет недостатка в конкуренции со стороны таких компаний, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (которые также принадлежат Microsoft). Но сегодняшние продукты обнаружения, утверждает Падманабхуни, работают в облаке на удаленных серверах, поэтому производители телефонов не могут встраивать их непосредственно в свои устройства, в результате чего у человека, на которого направлена ​​атака, практически нет средств защиты.