Компания Meta начинает внедрять функцию, которая позволит родителям узнавать о опасных разговорах их детей с чат-ботами на основе искусственного интеллекта. Речь идет о случаях, когда подростки обсуждают с ИИ темы самоубийства или самоповреждения, сообщает ABC news.
Новая возможность под названием Сообщения для родителей станет доступной для пользователей родительского контроля в Instagram в США, Великобритании, Австралии и Канаде. К концу года Meta планирует запустить её для пользователей по всему миру.
После уведомления родители будут получать не только информацию о потенциально опасном разговоре, но и рекомендации от специалистов по психическому здоровью. Они должны помочь правильно поговорить с ребёнком о его состоянии и возможных проблемах.
В Meta заявили, что систему выявления рискованных диалогов создавали вместе с родителями и экспертами. ИИ будет анализировать общение и определять случаи, которые могут требовать внимания. При этом каждый разговор, который система отметит как потенциально опасный, перед отправкой сообщения будет проверять человек.
«Если намерения подростка останутся непонятными, мы будем действовать по принципу осторожности», — отметили в компании.
В Meta также сообщили, что работают над функцией, которая позволит обращаться в службы экстренной помощи, если общение с Meta AI укажет на непосредственную угрозу жизни пользователя.
Кроме того, компания продолжает совершенствовать реакцию своих ИИ-инструментов на запросы о самоубийстве и самоповреждении с участием экспертов по психическому здоровью подростков.
