Ученые предупредили об опасности сверхразумного ИИ
Фото: pixabay.com
Невозможно построить эффективный алгоритм сдерживания
искусственного суперинтеллекта, а значит его нельзя
контролировать.
Команда ученых, в том числе из Центра людей и машин Института
развития человека Макса Планка, пришла к выводу, что человечество
не сможет держать под контролем искусственный суперинтеллект, даже
если примет для этого все возможные меры. Статья с соответствующими
выводами была опубликована в Journal of Artificial Intelligence
Research, сообщает EurekAlert.
"Сверхразумная машина, которая управляет миром – звучит как
научная фантастика. Но уже есть роботы, выполняющие определенные
важные задачи независимо. При этом программисты вообще не понимают,
как они этому научились. В результате возникает вопрос: может ли
этот процесс в какой-то момент стать неконтролируемым и опасным для
человечества?" – подчеркнул один из авторов исследования Мануэль
Себриан.
Пройдя через множество алгоритмов и сценариев, исследователи
пришли к выводу, что полностью контролировать сверхразумный ИИ
невозможно.
Даже если заложить в сверхразумную машину данные об этических
принципах и ограничить ее связи с внешним миром (например,
отключить доступ в интернет), это не спасет человечество от рисков
того, что подобная система выйдет из-под контроля.
За период с 1955 года тепловая энергия, запасенная в водах
Мирового океана, увеличилась на 380 зеттаджоулей, что подтверждает
стремительный темп глобального потепления.