На фоне ошеломительной популярности умного чат-бота ChatGPT и появления множества конкурирующих продуктов, ведущая группа экспертов в сфере искусственного интеллекта (ИИ) и представителей ИТ-отрасли призвала как минимум на полгода приостановить обучение нейросетей, превосходящих GPT-4.
Открытое письмо о рисках таких технологий для общества и цивилизации подписали Илон Маск, сооснователь Apple Стив Возняк и еще более 1100 человек.
В заявлении упоминаются, что подобные ИИ-системы должны разрабатываться только после того, как появится уверенность в том, что они будут иметь положительные последствия, а связанные с ними риски будут управляемы. В частности, необходимо создать специальные протоколы и стандарты безопасности, за применением которых будут следить независимые аудиторы.
Пока предлагается временная мера: с остановкой работ до того момента, пока не будут разработаны стандарты безопасности.
Отмечается, что с момента своего запуска в конце 2022 года ChatGPT побудил конкурентов ускорить разработку аналогичных мощных языковых моделей, а компании интегрировать генеративные модели ИИ в свои продукты. Microsoft, к примеру, с последним обновлением Windows 11 интегрировала обновленный поисковик Bing со встроенным ChatGPT прямо в панель задач.
