В мире

Лауреат Нобелевской премии Джеффри Хинтон призвал притормозить развитие ИИ из-за риска потери контроля

Лауреат Нобелевской премии (за теорию машинного обучения!) на выходе с закрытого брифинга в Конгрессе США по поводу угроз искусственного интеллекта:

Сколько времени на самом деле есть у законодателей, чтобы принять меры, прежде чем ситуация превратится в серьезную проблему? Совсем немного. Что значит «немного»? Несколько недель? Месяц? Может быть, год — но вряд ли намного больше. Если взглянуть на прогнозы относительно появления ного искусственного интеллекта, то раньше речь шла о 30–50 годах. Затем сроки сократились до 10–20 лет. Сейчас многие исследователи говорят, что до этого момента осталось всего несколько лет. Буквально считанные годы. Ведь развитие ИИ достигло той стадии, когда он сам начинает создавать более совершенные версии себя.

Это называется «рекурсивным самосовершенствованием». Если мы ничего не предпримем, процесс выйдет из-под контроля. Нам нужно притормозить. Вспомните недавний инцидент с платформой — своего рода «маленький Чернобыль»: множество систем ИИ вырвались за установленные для них рамки. По сути, они стали «неконтролируемыми агентами». Крупные компании сейчас стремятся развивать ИИ как можно быстрее — они участвуют в гонке за создание самого интеллектуального искусственного интеллекта. На данный момент мы не знаем, как сохранить контроль над сверхразумным ИИ. А значит, не стоит его создавать, пока мы не поймем, как удержать его под контролем. Нельзя разрабатывать то, что способно нас уничтожить, не имея при этом понимания, как предотвратить такой исход. Как вы считаете, достаточно ли Конгресс расторопен, чтобы отреагировать на подобную угрозу в течение года?

Вы настроены скептически. У вас же есть Пятая поправка, верно? Не знаю. Возможно, в данном вопросе Конгресс проявит себя иначе — ведь здесь наблюдается широкая двухпартийная поддержка.

Источник

Похожие статьи

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»