Создатели чат-бота ChatGPT говорят об открытии, которое может угрожать человечеству

Исследователи компании OpenAI, создавшей чат-бота ChatGPT, предупредили руководство об открытии «мощного искусственного интеллекта, который может угрожать человечеству». Это произошло незадолго до того, как Сэм Альтман был уволен с поста генерального директора.

Об этом пишет Reuters со ссылкой на источники. Модель под кодовым именем Q* пока умеет решать несложные математические задачи, однако это может стать ключом к универсальному ИИ, способному достичь потенциала человеческого мозга в широком спектре задач.

Исследователи считают, что математика – это передовой рубеж развития генеративного ИИ. Сегодняшним генеративным нейромоделям хорошо удается создавать и переводить текст, статистически предсказывая следующее слово. Но освоение математики «подразумевает, что ИИ будет иметь более широкие возможности рассуждения, что напоминает человеческий интеллект», пишет Reuters. 

Исследователи OpenAI не уточняют, какие именно угрозы несет Q*. Среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины: например, если они решат, что уничтожение человечества отвечает их интересам.

По словам источника издания Reuters, некоторые сотрудники всерьез обеспокоены тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.  

В марте этого года, вслед за переходом ChatGPT до языковую модель GPT-4, глава OpenAI Сэм Альтман признался, что он «немного боится» своего детища и что он несет реальную опасность, оказавшись «не в тех руках». Ожидается, что выходящая в конце 2023 года модель GPT-5 достигнет ранее невиданного уровня ИИ.

54321
(Всего 0, Балл 0 из 5)
Facebook
LinkedIn
Twitter
Telegram
WhatsApp

Читайте также

Samsung признала проблему с дисплеем своих флагманов

Samsung признала проблему с дисплеем своих флагманов

Корпорация Samsung признала и исправила проблему, из-за которой экраны ее флагманских смартфонов работали с неполадками на низкой яркости. На это…
В Windows 11 добавили поддержку iPhone

В Windows 11 добавили поддержку iPhone

В бета-версию Windows 11 добавили отображение подключенного iPhone в меню «Пуск». На это обратило внимание издание 9to5Mac. В блоге Windows…
Logitech выпустила девайс для слежки за офисными сотрудниками

Logitech выпустила девайс для слежки за офисными сотрудниками

Американская компания Logitech выпустила гаджет для улучшения рабочих процессов в офисе. Об этом сообщает издание TechRadar. Умный радар Logitech Spot…

При полном или частичном использовании материалов сайта, ссылка на «Версии.com» обязательна.

Всі інформаційні повідомлення, що розміщені на цьому сайті із посиланням на агентство «Інтерфакс-Україна», не підлягають подальшому відтворенню та/чи розповсюдженню в будь-якій формі, інакше як з письмового дозволу агентства «Інтерфакс-Україна

Напишите нам