Автономное оружие с искусственным интеллектом представляет серьезную угрозу для человечества и должно быть запрещено, говорится в открытом письме организации Future of Life Institute. Письмо подписали около тысячи человек, в том числе специалисты по робототехнике, основатель частной космической компании SpaceX Элон Маск, знаменитый астрофизик Стивен Хокинг, основатель Apple Стив Возняк, философ и лингвист Ноам Хомский и многие другие представители научного сообщества.
В открытом письме говорится, что развитие технологий искусственного интеллекта в оружейной области неизбежно приведет к гонке вооружений, при этом для производства такого оружия не нужны дорогостоящие материалы. Как только подобные вооружения станут достаточно дешевыми, они появятся на «черном рынке» и могут быть доступны преступникам, террористам, диктаторам и наемникам.
Авторы письма отмечают, что распространенное мнение о снижении числа жертв в конфликтах благодаря применению автономных вооружений не вполне верно. Распространение такого оружия сделает его «новым Калашниковым» и приведет к масштабной гонке вооружений. Существует множество способов, как искусственный интеллект мог бы без создания новых видов вооружения помочь сделать поле боя безопаснее, в первую очередь для мирных граждан, считают авторы обращения.
По мнению ученых и предпринимателей, технологически подобное оружие может появится в течение ближайших лет.
В целом, мы считаем, что искусственный интеллект может принести пользу человечеству различными путями, и это должно произойти. Однако начало гонки вооружений в области военного применения искусственного интеллекта — это опасная идея, для предотвращения этого необходимо запретить автономное наступательное вооружение без разумного контроля со стороны человека.
Автономные вооружения под управлением искусственного интеллекта — это оружие, способное вести поиск целей и огонь без вмешательства человека. К примеру, таким видом оружия может являться самоуправляемый вооруженный дрон, самостоятельно ищущий и атакующий цели, подходящие под заданный критерий.
В настоящее время автономное оружие не применяется. Распространенные в вооруженных силах многих стран беспилотные летательные аппараты не являются оружием с искусственным интеллектом, так как каждым аппаратом на расстоянии управляет человек.