Международная группа экспертов из Германии и Великобритании дала ответ на вопрос, который волнует сегодня многих. Они поведали о том, способен ли искусственный интеллект восстать против людей.
Ученые проанализировали, способны ли модели на основе искусственного интеллекта выйти из-под контроля и создать угрозу для всего человечества.
Исследователи сконцентрировались на так называемых эмерджентных способностях, то есть навыках, которые развиваются у искусственного интеллекта независимо, а не преднамеренно кодируются в программе создателями нейросети.
Были проведены опыты с четырьмя различными моделями. Тем давали задачи, которые ранее были определены как эмерджентные.
Требовалось установить, может ли искусственный интеллект создавать новые способы выполнить поручения, или же они просто сложным образом действуют в рамках своего кода.
Информируется, что для всех четырех моделей способность следовать инструкциям, запоминание и лингвистическая компетентность смогли объяснить все показанные способности.
Подчеркивается: не было найдено никаких признаков независимого поведения у рассмотренных нейросетей.
Говорится: «Существовали опасения, что по мере того, как модели будут становиться все больше и больше, они смогут решать новые проблемы, которые мы сегодня не можем предсказать. Это создает угрозу того, что эти более крупные модели могут приобрести опасные способности, включая рассуждение и планирование. Исследование показывает, что страх того, что модель выйдет из-под контроля и сделает что-то совершенно неожиданное, инновационное и потенциально опасное, необоснован».
Резюмируется, что сегодня модели искусственного интеллекта не обладают интеллектом как таковым, но это не означает, что они полностью безобидны и не представляют угрозы людям.
Ранее мы писали, что искусственный интеллект поможет искать в космосе пригодные для жизни планеты.
