Meta теперь предупреждает родителей, если их подросток обсуждал самоубийство или членовредительство с помощью своего чат-бота с искусственным интеллектом.

Подробности

В четверг Meta объявила, что теперь будет уведомлять родителей, если их подросток обсуждает самоубийство или членовредительство с помощью чат-бота Meta AI компании. В Meta говорят, что они также работают над возможностью обращаться в службы экстренной помощи, если чьи-то разговоры предполагают, что они могут подвергнуться риску членовредительства.

Эти изменения происходят в то время, когда Meta и другие технологические компании сталкиваются с пристальным вниманием со стороны регулирующих органов и родителей по поводу того, как чат-боты с искусственным интеллектом реагируют на пользователей в кризисных ситуациях, особенно на подростков – вопрос ответственности, который все больше влияет на то, как компании, занимающиеся искусственным интеллектом, разрабатывают и продают свои продукты.

Meta заявляет, что создала специальную систему искусственного интеллекта для выявления разговоров, в которых подросток явно намекает на причинение себе вреда.

«Мы понимаем, насколько неприятными могут быть такие оповещения для родителей», — написала Мета в своем блоге. "Вот почему, поскольку мы продолжаем совершенствовать наше обнаружение, все чаты, помеченные нашим искусственным интеллектом, будут проверяться вручную перед отправкой оповещения. Если намерения подростка неоднозначны, мы проявим осторожность и предупредим родителей. Хотя это означает, что иногда мы можем уведомлять родителей, когда нет реальных причин для беспокойства, мы считаем, что это правильная отправная точка, и мы продолжим мониторинг, чтобы убедиться, что мы находимся в правильном месте".

По словам Меты, эти оповещения теперь доступны для родителей, использующих родительский контроль Instagram в США, Великобритании, Австралии и Канаде, а к концу года они станут доступны по всему миру.