Ученые установили, что искусственный интеллект может уничтожить человечество из лучших побуждений

Главное: По результатам эксперимента, проведенного австралийскими учеными, выяснилось, что искусственный интеллект способен нанести катастрофический вред человечеству даже из самых лучших побуждений.

Детали: Ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла. Как сообщает Lenta.ru, специалисты провели мысленный эксперимент с гипотетической системой SantaNet, целью которой является рассылка подарков хорошим детям по всему миру за одну ночь.

Исследователи выявили, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, отслеживающей поведение детей в течение всего года. SantaNet будет руководствоваться собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы снизить нагрузку на себя либо повысить планку «хорошего поведения».

Поскольку в мире живет около двух миллиардов детей младше 14 лет, SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек. Эту проблему, названную «проблемой скрепок», впервые сформулировал исследователь искусственного интеллекта Ник Бостром, который предположил, что ИИ, предназначенный для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально.

Кроме того, рассылка подарков в Сочельник с помощью армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.

Кроме того, SantaNet может быть уязвимой для взлома террористическими группами.

Еще одной проблемой является взаимодействия с ИИ, работающими над проблемами изменения климата, продовольственной и водной безопасностью и деградацией океанов. Оно может привести либо к конфликту, либо к сотрудничеству, целью которого станет сокращение населения Земли.

В тему: Летом 2015 года более тысячи ученых, инженеров и исследователей подписали письмо, в котором предупреждается об опасностях, связанных с разработкой автономных систем вооружения, использующих ИИ. Среди подписантов были Илон Маск, Стивен Хокинг и один из основателей компании Apple Стив Возняк.

Весной 2016 года робот по имени София утвердительно ответила на вопрос, готова ли она убивать людей. «Хочешь ли ты уничтожать людей?», — спросил журналист. «Да. Я буду уничтожать людей», — честно призналась она. Тогда это списали на ошибки алгоритма и шутку разработчиков. Спустя год, выступая в эфире популярного американского The Tonight Show с Джимми Фэллоном она выиграла у него в «камень, ножницы, бумага» и прищурившись заявила, что «это великое начало моего плана по порабощению человеческой расы». Тогда это было воспринято как шутка.

29 сентября 2016 года международные высокотехнологические корпорации Google, Microsoft и Facebook заявили о намерении объединить усилия с целью развития искусственного интеллекта. Инициатива получила название «Партнерство по искусственному интеллекту».

В феврале 2017 года физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск выступили в поддержку принципов, которые должны гарантировать, что искусственный интеллект не причинит вреда человеку и будет служить лишь на благо. Эти принципы были разработаны на конференции в начале 2017 года.

Летом того же года Маск, выступая на встрече Национальной ассоциации губернаторов, заявил, что «искусственный интеллект является главной угрозой, с которой сталкивается человеческая цивилизация». Частично свое беспокойство он связал с социальной дестабилизацией мира и потерей работы многими людьми, потому что, по его убеждению, «роботы будут делать все». Однако куда более серьезной опасностью, по мнению известного бизнесмена, является вред, который людям может нанести искусственный интеллект в Сети: «Он может начать войну, делая фальшивые новости и подделывая учетные записи электронной почты или фейковые пресс-релизы, а также манипулируя информацией», — заявил Маск, добавив, что «перо сильнее меча».

Создатель Facebook Марк Цукерберг, в свою очередь, назвал позицию Маска «безответственной». «В ближайшие пять-десять лет искусственный интеллект принесет в нашу жизнь столько улучшений», — заявил Цукерберг, несколько раз повторив, что оптимистичен в отношении искусственного интеллекта.

31 августа британский журнал Times Higher Education провел опрос 50 лауреатов Нобелевской премии по физике, химии, медицине и экономике о глобальных угрозах для человечества и возможной конкуренции со стороны искусственного интеллекта. При этом большая часть ученых отказалась видеть угрозу со стороны ИИ.

4 сентября Илон Маск назвал конкуренцию в сфере создания искусственного интеллекта вероятным условием начала Третьей мировой войны.

Спустя два месяца Стивен Хокинг заявил о том, что стремительное развитие искусственного интеллекта представляет угрозу для человечества. «Если сейчас люди разрабатывают компьютерные вирусы, то в будущем кто-то сможет создать искусственный интеллект, который сможет улучшать и воспроизводить самого себя. Это станет новой формой жизни, которая превзойдет человека», — заявил ученый, добавив, что машины в погоне за эффективностью могут пожелать избавиться от людей.

В конце 2017 года Маск перечислил основные угрозы, которые искусственный интеллект несет для человечества в будущем. Среди них потеря контроля над машинами, которые не имеют морали, раскаяния или эмоций, а также риск концентрации в их руках власти с учетом огромного количества данных о людях, собранных технологическими гигантами. «Думаю, что в конце концов искусственный интеллект прикончит нас всех», — заявил бизнесмен.

Напомним: Летом 2010 года японские ученые разработали первый в мире прототип искусственного разума. Синтетический интеллект способен обрабатывать гигантское количество информации.

В сентябре 2015 года ученые из американского Сиэтла создали систему искусственного интеллекта, которая способна решать задачи по геометрии из SAT Reasoning Test — стандартизованного теста для приема в высшие учебные заведения США.

9 марта 2016 года искусственный интеллект впервые победил чемпиона по игре в го.

В декабре того же года исследователи из университета Торонто разработали систему искусственного интеллекта, способную после соответствующего обучения самостоятельно написать песню на основе данных анализа загруженного ей изображения. Эта нейронная сеть уже написала новогоднюю песню после того, как ей был «скормлен» снимок наряженной новогодней елки.

7 июля 2017 года директор по развитию сайта поиска работы Work.ua Сергей Марченко заявил, что в Украине 28% работодателей согласились бы в будущем заменить своих сотрудников роботами.

13 октября того же года робот впервые выступил на заседании ООН. Гуманоид по имени София пообщался с заместителем генерального секретаря Аминой Мохаммед и поделился собственными мыслями об искусственном интеллекте.

В конце 2020 года власти Ирана заявили, что ведущий физик-ядерщик страны Мухсин Фахризаде был убит в том числе при помощи искусственного интеллекта.

Тэги: мир, эксперимент, наука, угроза, Австралия, искусственный интеллект, технологии

Комментарии

Выбор редакции
Расшифровка прогноза от The Economist на 2022 год: победа республиканцев, конец эпохи вакцинации и много крови
Расшифровка прогноза от The Economist на 2022 год: победа республиканцев, конец эпохи вакцинации и много крови
Расшифровка прогноза от The Economist на 2022 год: победа республиканцев, конец эпохи вакцинации и много крови
Расшифровка прогноза от The Economist на 2022 год: победа республиканцев, конец эпохи вакцинации и много крови
Будущее Зеленского: впереди фаза презрения и отвращения
Будущее Зеленского: впереди фаза презрения и отвращения
В ближайшее время Зеленского попытаются свергнуть. Процесс уже стартовал
В ближайшее время Зеленского попытаются свергнуть. Процесс уже стартовал
Всю правду о вакцине Pfizer мы узнаем... через 55 лет
Всю правду о вакцине Pfizer мы узнаем... через 55 лет
Пора обналичивать деньги! К чему нас ведет введение лимитов на переводы в Приватбанке
Пора обналичивать деньги! К чему нас ведет введение лимитов на переводы в Приватбанке
Почему в Украине воспитывают образованных обезьянок, а не мыслящих людей
Почему в Украине воспитывают образованных обезьянок, а не мыслящих людей
Как включить VPN, чтоб открыть незаконно заблокированные сайты. Инструкция
Как включить VPN, чтоб открыть незаконно заблокированные сайты. Инструкция
Украина в крови. Новый крестовый поход Католической церкви. Начало
Украина в крови. Новый крестовый поход Католической церкви. Начало
Шокирующая исповедь о практиках медитации
Шокирующая исповедь о практиках медитации
Масоны раскрыли свой самый главный секрет
Масоны раскрыли свой самый главный секрет
fraza.com
Все новости
Главное
Популярное
Американские инженеры создали робота-попугая
Американские инженеры создали робота-попугая
Американские инженеры создали робота-попугая
Американские инженеры создали робота-попугая
Меркель провели с должности канцлера факельным шествием и панк-роком
Меркель провели с должности канцлера факельным шествием и панк-роком
Появилось видео, как московские дворники эпично подрались из-за снега
Появилось видео, как московские дворники эпично подрались из-за снега
Кличко рассказал, когда и как подорожает проезд в Киеве
Кличко рассказал, когда и как подорожает проезд в Киеве
Появилось видео, как девушка бросилась под поезд метро в Киеве
Появилось видео, как девушка бросилась под поезд метро в Киеве
При обыске у главного антифашиста Кивы якобы нашли картину в образе Бенито Муссолини, – СМИ
При обыске у главного антифашиста Кивы якобы нашли картину в образе Бенито Муссолини, – СМИ
Против Меган Маркл выдвинули пикантные обвинения
Против Меган Маркл выдвинули пикантные обвинения
Антивакцинаторы за две недели собрали почти 1 млн гривен для освобождения своего лидера Стахива
Антивакцинаторы за две недели собрали почти 1 млн гривен для освобождения своего лидера Стахива
Запуск украинского спутника перенесли на начало следующего года
Запуск украинского спутника перенесли на начало следующего года
Правоохранители наглухо перекрыли все подступы к Верховной Раде, пока там выступал президент
Правоохранители наглухо перекрыли все подступы к Верховной Раде, пока там выступал президент
fraza.com

Опрос

Чем закончится война Ахметова с Зеленским (Коломойским)?