Гендиректор OpenAI Сем Альтман рассматривает возможность замедления разработки передовых систем искусственного интеллекта. Об этом сообщает Bloomberg со ссылкой на осведомленные источники.
Альтман обсудил такую возможность на общем собрании компании на этой неделе. Идея может предусматривать добровольное ограничение темпов разработки несколькими ИИ-компаниями, хотя некоторые лаборатории могут не согласиться на такой шаг.
Обсуждение происходит на фоне усиления обеспокоенности по поводу безопасности всё более мощных систем ИИ. Главный научный сотрудник OpenAI Якуб Пачоцкий недавно призвал замедлить разработку, пока не будут установлены общие стандарты безопасности.
OpenAI уже сделала ряд шагов для замедления разработки. В августе компания сообщила, что на две недели приостановила обучение с подкреплением своих последних моделей после инцидента с ИИ-агентом и Hugging Face. За это время компания усиливала меры безопасности, мониторинга и согласования.
Крупнейший запланированный фронтирный прогон обучения с подкреплением, как и прежде, приостановлен в ожидании дополнительного тестирования.
Исследователи Anthropic и Google DeepMind также публично выражали обеспокоенность темпами развития ИИ. В то же время американские законодатели усилили контроль: Сенат расследует обстоятельства инцидента OpenAI с Hugging Face.
Дискуссия происходит также на фоне подготовки OpenAI и Anthropic к возможным публичным размещениям акций. Это усиливает внимание инвесторов к тому, как компании будут балансировать между коммерческой ценностью быстрого развития ИИ и затратами и рисками создания более мощных систем.
Кроме того, OpenAI призвала Конгресс установить обязательные национальные требования к безопасности ИИ, в том числе независимые оценки, меры кибербезопасности и обязательное уведомление о инцидентах.
