Губернатор штата Нью-Йорк Кэти Гокул подписала закон, запрещающий чат-ботам на основе искусственного интеллекта демонстрировать ряд видов опасного поведения при общении с детьми и подростками до 18 лет. Документ определяет перечень запрещенных функций, а за нарушение разработчикам грозят финансовые санкции и другие меры. Закон вступит в силу 1 января 2027 года, сообщает Associated Press.
Согласно новым требованиям, чат-боты не должны создавать впечатление, что они являются реальными людьми с собственными эмоциями, мыслями или подлинными отношениями с ребенком. Также запрещаются сообщения сексуального характера, манипулятивная лесть и поощрение к секретности или нездоровому поведению.
В случае нарушения закона генеральный прокурор штата сможет подать иск против разработчика. Возможные последствия включают денежные штрафы, прекращение работы чат-бота и уничтожение данных.
Основатель и генеральный директор Common Sense Media Джим Стейер назвал закон Нью-Йорка самым строгим в США законодательным актом по безопасности детей в сфере ИИ. По его мнению, документ усиливает защиту несовершеннолетних от потенциально вредного поведения чат-ботов.
В то же время Джастин Глак, политический аналитик некоммерческой организации Future of Privacy Forum, обратила внимание на нечеткость некоторых положений. По её словам, широкие формулировки могут затруднить определение того, какое поведение чат-бота является обычной разговорной тактичностью, а какое уже нарушает закон.
Закон в Нью-Йорке был принят на фоне растущей обеспокоенности по поводу влияния искусственного интеллекта на детей и общество в целом. Поскольку Конгресс США пока не ввел всеобъемлющего федерального регулирования ИИ, законодатели штатов разрабатывают собственные правила защиты потребителей, повышения прозрачности и предотвращения злоупотреблений.
В частности, Калифорния ужесточает требования к разработчикам. В сентябре губернатор Гэвин Ньюсом подписал закон, обязывающий компании оценивать риски своих чат-ботов для детей, объяснять принятые меры безопасности и проходить независимый аудит на соответствие требованиям. Кроме того, Ньюсом подписал закон, запрещающий социальным сетям использовать функции, вызывающие зависимость, для пользователей в возрасте до 16 лет.
