Meta внедряет новые системы контроля над контентом с использованием искусственного интеллекта, одновременно снижая зависимость от сторонних поставщиков.

Подробности

В четверг Meta объявила, что начинает внедрять более совершенные системы искусственного интеллекта для обеспечения соблюдения требований к контенту, поскольку планирует сократить количество сторонних поставщиков. Задачи, связанные с контролем за контентом, включают выявление и удаление контента о терроризме, эксплуатации детей, наркотиках, мошенничестве и мошенничестве.

Компания заявляет, что будет использовать эти более продвинутые системы искусственного интеллекта в своих приложениях, как только они будут стабильно превосходить текущие методы контроля за контентом. В то же время это уменьшит зависимость от сторонних поставщиков при обеспечении соблюдения требований к контенту.

«Хотя у нас по-прежнему будут люди, которые просматривают контент, эти системы смогут выполнять работу, которая лучше подходит для технологий, например, повторяющиеся проверки графического контента или областей, где злоумышленники постоянно меняют свою тактику, например, с незаконной продажей наркотиков или мошенничеством», — объяснила Мета в своем блоге.

Мета считает, что эти системы искусственного интеллекта могут обнаруживать больше нарушений с большей точностью, лучше предотвращать мошенничество, быстрее реагировать на реальные события и снижать чрезмерное правоприменение.

Компания заявляет, что первые испытания систем искусственного интеллекта оказались многообещающими, поскольку они могут обнаружить вдвое больше контента с сексуальным домогательством для взрослых, чем ее группы проверки, а также снижают уровень ошибок более чем на 60%. В нем также говорится, что системы могут выявлять и предотвращать новые учетные записи, выдающие себя за другое лицо с участием знаменитостей и других высокопоставленных лиц, а также помогают остановить захват учетных записей, обнаруживая такие сигналы, как вход в систему из новых мест, изменение пароля или редактирование профиля.