Создатели чат-бота ChatGPT говорят об открытии, которое может угрожать человечеству

Исследователи компании OpenAI, создавшей чат-бота ChatGPT, предупредили руководство об открытии «мощного искусственного интеллекта, который может угрожать человечеству». Это произошло незадолго до того, как Сэм Альтман был уволен с поста генерального директора.

Об этом пишет Reuters со ссылкой на источники. Модель под кодовым именем Q* пока умеет решать несложные математические задачи, однако это может стать ключом к универсальному ИИ, способному достичь потенциала человеческого мозга в широком спектре задач.

Исследователи считают, что математика – это передовой рубеж развития генеративного ИИ. Сегодняшним генеративным нейромоделям хорошо удается создавать и переводить текст, статистически предсказывая следующее слово. Но освоение математики «подразумевает, что ИИ будет иметь более широкие возможности рассуждения, что напоминает человеческий интеллект», пишет Reuters. 

Исследователи OpenAI не уточняют, какие именно угрозы несет Q*. Среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины: например, если они решат, что уничтожение человечества отвечает их интересам.

По словам источника издания Reuters, некоторые сотрудники всерьез обеспокоены тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.  

В марте этого года, вслед за переходом ChatGPT до языковую модель GPT-4, глава OpenAI Сэм Альтман признался, что он «немного боится» своего детища и что он несет реальную опасность, оказавшись «не в тех руках». Ожидается, что выходящая в конце 2023 года модель GPT-5 достигнет ранее невиданного уровня ИИ.

54321
(Всего 0, Балл 0 из 5)
Facebook
LinkedIn
Twitter
Telegram
WhatsApp

Читайте также

Украинцам разрешили подавать отчеты о ремонте поврежденного жилья на портале "Дия"

Украинцам разрешили подавать отчеты о ремонте поврежденного жилья на портале...

На портале «Дия» появилась возможность подать отчет о выполненном за средства по программе «еВосстановление» ремонте поврежденного жилья. Эта услуга ранее…
Google будет фиксировать вредные выбросы из космоса

Google будет фиксировать вредные выбросы из космоса

Google выведет на околоземную орбиту спутник для мониторинга вредных выбросов. Об этом сообщается в официальном блоге американской корпорации. Работы ведутся…
Кабмин принял решение открыть код "Дии"

Кабмин принял решение открыть код "Дии"

Правительство приняло решение открыть код мобильного приложения «Дия» для разработчиков из других стран, сообщило Минцифры в Телеграм в среду. «Открываем…

При полном или частичном использовании материалов сайта, ссылка на «Версии.com» обязательна.

Всі інформаційні повідомлення, що розміщені на цьому сайті із посиланням на агентство «Інтерфакс-Україна», не підлягають подальшому відтворенню та/чи розповсюдженню в будь-якій формі, інакше як з письмового дозволу агентства «Інтерфакс-Україна

Напишите нам