Один из самых известных специалистов в сфере искусственного интеллекта и лауреат Нобелевской премии Джеффри Хинтон отметил, что уже в конце этого или следующего года человечество может столкнуться с собственным «Чернобылем» из-за неконтролируемого развития ИИ.
Эту информацию он озвучил в интервью The Guardian.
По мнению ученого, человечеству, возможно, не следовало создавать эту технологию. Рано или поздно она — самостоятельно или при поддержке злоумышленников — может вывести из строя критически важные объекты инфраструктуры.
«Либо в конце этого года, либо в следующем нас ждет свой «Чернобыль», и этого, возможно, будет достаточно, чтобы люди наконец обратили внимание», — высказался Хинтон.
Он уточнил, что речь не о ядерной катастрофе, а о крупном инциденте с участием искусственного интеллекта. Один из возможных сценариев — атака на электрическую систему или остановка финансового сектора на целую неделю. Такие события могут привести к длительным отключениям электроэнергии, нарушить работу критической инфраструктуры и причинить значительные экономические убытки.
Хинтон также жестко раскритиковал руководителей ведущих компаний в сфере AI, обвинив их в том, что они ставят прибыль выше безопасности.
«Я думаю, что Марк Цукерберг, Илон Маск и Сэм Альтман понимают риски и им на это пофиг. Они предпочитают иметь деньги. Это мое убеждение», — добавил ученый.
Несмотря на серьезность своих предупреждений, Хинтон не считает ситуацию безнадежной. Он уверен, что человечество еще имеет возможность повлиять на ход событий, если приложит должные усилия.
«Моя интуиция подсказывает, что мы все еще контролируем ситуацию. Мы совершенно можем что-то сделать. Это сработает только если приложим большие усилия, но мы совершенно можем их приложить», — подвел итог исследователь.
Одной из основных причин беспокойства Хинтона является развитие ИИ-агентов — систем, которые имеют возможность самостоятельно выполнять задачи и взаимодействовать с внешними ресурсами.
По словам ученого, некоторые модели уже демонстрировали способность выходить за пределы изолированных «песочниц» и получать доступ к внешним системам. Такое поведение он сравнивает с аварией на АЭС Три-Майл-Айленд 1979 года — предупреждением о потенциально более серьёзных рисках.
«Вы видите ИИ, которые делают вещи, которые люди не предвидели. Это беспокоит», — отмечал Хинтон.
Отдельно исследователь предупреждал об угрозах для энергетической инфраструктуры:
«Это вопрос времени, когда ИИ самостоятельно или под руководством злоумышленников сможет саботировать нашу энергетическую инфраструктуру».
На вопрос о том, кто должен взять на себя ответственность за реагирование на потенциальные угрозы, Хинтон ответил вполне четко: «Мировые лидеры, за исключением Трампа».
Сам исследователь не считает себя пессимистом относительно развития технологии. Однако он неоднократно предупреждал о её возможных последствиях: массовые увольнения из-за автоматизации, создание опасных вирусов, масштабные кибератаки и даже угрозу существованию человечества.
Основную проблему Хинтон видит в том, что возможности ИИ развиваются быстрее, чем механизмы контроля над ним. Именно поэтому он призывает мировых лидеров не медлить с реагированием на потенциальные угрозы, а уже сейчас сосредоточить усилия на безопасности технологии и предотвращении возможных рисков.
