Тольятти, 13.01.2021 — Тольятти Онлайн.
Ученые провели исследование с помощью компьютерного моделирования, чтобы выяснить, сможет ли человек управлять сверхразумным суперкомпьютером.
Эксперты Центра людей и машин при Институте развития человека Макса Планка, пришли к выводу, что человек не сможет контролировать сверхразумный компьютер с искусственным интеллектом.
Самым важным вопросом исследования было выяснение, сможет ли сдерживание искусственного интеллекта обеспечить безопасность человечеству. Ученые считают, что машина с искусственным интеллектом, который была бы в состоянии обучаться независимо от человека, в какой-то момент превзошла бы человеческий интеллект. Последствия доступа такой машины к накопленным человечеством знаниям и к всемирной Сети, пока неизвестны. Конечно, ИИ может, например, помочь победить рак или найти способы предотвращения глобальной климатической катастрофы, но и напротив, сможет уничтожить человечество и захватит власть на Земле.
Исследователи предлагают различные способы сдерживания и контроля искусственного интеллекта, в частности, изучались алгоритмы, запрещающие компьютерам наносить вред людям. Ученые сделали вывод, что человек не сможет в будущем создать такой сдерживающий алгоритм. Любой алгоритм сдерживания может в любой момент запустить процесс автоотключения и стать нерабочим, или же сверхразумный суперкомпьютер сможет и сам найти возможность отключить систему сдерживания.
Таким образом, по мнению ученых, может наступить такой момент, когда искусственный интеллект станет настоящей угрозой для человечества.
Хотите узнавать об интересных событиях первыми? Подпишитесь на нас в Яндекс.Дзен, Яндекс.Новости, Google.Новости!
