Ученый Университета Луисвилля (США) Роман Ямпольский предупредил о том, что искусственный интеллект (ИИ) может стать неконтролируемым. Об этом сообщает издание Tech Xplore.
В своей книге «ИИ: необъяснимый, непредсказуемый, неконтролируемый» ученый рассказал, что если человечество и дальше будет неограниченно развивать новые технологии, то потеряет над ними контроль. «Мы столкнулись с почти гарантированным событием, которое потенциально может вызвать экзистенциальную катастрофу», — отметил Ямпольский.
По словам специалиста, наивно полагать, что люди смогут объяснить любые действия ИИ, так как «наша способность создавать интеллектуальное ПО намного превосходит нашу способность контролировать его». Ученый назвал ИИ потенциально непредсказуемым и заявил, что он может стать полностью автономным.
«Если мы привыкнем принимать ответы ИИ без объяснения причин, мы не сможем гарантировать, не будет ли он давать неправильные или манипулятивные ответы», — подчеркнул Ямпольский. По его мнению, ученые должны найти баланс между высокоразвитым ИИ и безопасностью. Специалист подытожил, что люди должны иметь возможность отменить любые действия или решения ИИ.
В конце января компания AI Impacts провела опрос среди экспертов в области ИИ и заключила, что новые технологии приведут к достижениям в науке и культуре, но в то же время создадут новые угрозы. Ученые пришли к выводу, что вопросам безопасности нужно посвятить как можно больше исследований.
