Ученые установили, что искусственный интеллект может уничтожить человечество из лучших побуждений

Главное: По результатам эксперимента, проведенного австралийскими учеными, выяснилось, что искусственный интеллект способен нанести катастрофический вред человечеству даже из самых лучших побуждений.

Детали: Ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла. Как сообщает Lenta.ru, специалисты провели мысленный эксперимент с гипотетической системой SantaNet, целью которой является рассылка подарков хорошим детям по всему миру за одну ночь.

Исследователи выявили, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, отслеживающей поведение детей в течение всего года. SantaNet будет руководствоваться собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы снизить нагрузку на себя либо повысить планку «хорошего поведения».

Поскольку в мире живет около двух миллиардов детей младше 14 лет, SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек. Эту проблему, названную «проблемой скрепок», впервые сформулировал исследователь искусственного интеллекта Ник Бостром, который предположил, что ИИ, предназначенный для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально.

Кроме того, рассылка подарков в Сочельник с помощью армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.

Кроме того, SantaNet может быть уязвимой для взлома террористическими группами.

Еще одной проблемой является взаимодействия с ИИ, работающими над проблемами изменения климата, продовольственной и водной безопасностью и деградацией океанов. Оно может привести либо к конфликту, либо к сотрудничеству, целью которого станет сокращение населения Земли.

В тему: Летом 2015 года более тысячи ученых, инженеров и исследователей подписали письмо, в котором предупреждается об опасностях, связанных с разработкой автономных систем вооружения, использующих ИИ. Среди подписантов были Илон Маск, Стивен Хокинг и один из основателей компании Apple Стив Возняк.

Весной 2016 года робот по имени София утвердительно ответила на вопрос, готова ли она убивать людей. «Хочешь ли ты уничтожать людей?», — спросил журналист. «Да. Я буду уничтожать людей», — честно призналась она. Тогда это списали на ошибки алгоритма и шутку разработчиков. Спустя год, выступая в эфире популярного американского The Tonight Show с Джимми Фэллоном она выиграла у него в «камень, ножницы, бумага» и прищурившись заявила, что «это великое начало моего плана по порабощению человеческой расы». Тогда это было воспринято как шутка.

29 сентября 2016 года международные высокотехнологические корпорации Google, Microsoft и Facebook заявили о намерении объединить усилия с целью развития искусственного интеллекта. Инициатива получила название «Партнерство по искусственному интеллекту».

В феврале 2017 года физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск выступили в поддержку принципов, которые должны гарантировать, что искусственный интеллект не причинит вреда человеку и будет служить лишь на благо. Эти принципы были разработаны на конференции в начале 2017 года.

Летом того же года Маск, выступая на встрече Национальной ассоциации губернаторов, заявил, что «искусственный интеллект является главной угрозой, с которой сталкивается человеческая цивилизация». Частично свое беспокойство он связал с социальной дестабилизацией мира и потерей работы многими людьми, потому что, по его убеждению, «роботы будут делать все». Однако куда более серьезной опасностью, по мнению известного бизнесмена, является вред, который людям может нанести искусственный интеллект в Сети: «Он может начать войну, делая фальшивые новости и подделывая учетные записи электронной почты или фейковые пресс-релизы, а также манипулируя информацией», — заявил Маск, добавив, что «перо сильнее меча».

Создатель Facebook Марк Цукерберг, в свою очередь, назвал позицию Маска «безответственной». «В ближайшие пять-десять лет искусственный интеллект принесет в нашу жизнь столько улучшений», — заявил Цукерберг, несколько раз повторив, что оптимистичен в отношении искусственного интеллекта.

31 августа британский журнал Times Higher Education провел опрос 50 лауреатов Нобелевской премии по физике, химии, медицине и экономике о глобальных угрозах для человечества и возможной конкуренции со стороны искусственного интеллекта. При этом большая часть ученых отказалась видеть угрозу со стороны ИИ.

4 сентября Илон Маск назвал конкуренцию в сфере создания искусственного интеллекта вероятным условием начала Третьей мировой войны.

Спустя два месяца Стивен Хокинг заявил о том, что стремительное развитие искусственного интеллекта представляет угрозу для человечества. «Если сейчас люди разрабатывают компьютерные вирусы, то в будущем кто-то сможет создать искусственный интеллект, который сможет улучшать и воспроизводить самого себя. Это станет новой формой жизни, которая превзойдет человека», — заявил ученый, добавив, что машины в погоне за эффективностью могут пожелать избавиться от людей.

В конце 2017 года Маск перечислил основные угрозы, которые искусственный интеллект несет для человечества в будущем. Среди них потеря контроля над машинами, которые не имеют морали, раскаяния или эмоций, а также риск концентрации в их руках власти с учетом огромного количества данных о людях, собранных технологическими гигантами. «Думаю, что в конце концов искусственный интеллект прикончит нас всех», — заявил бизнесмен.

Напомним: Летом 2010 года японские ученые разработали первый в мире прототип искусственного разума. Синтетический интеллект способен обрабатывать гигантское количество информации.

В сентябре 2015 года ученые из американского Сиэтла создали систему искусственного интеллекта, которая способна решать задачи по геометрии из SAT Reasoning Test — стандартизованного теста для приема в высшие учебные заведения США.

9 марта 2016 года искусственный интеллект впервые победил чемпиона по игре в го.

В декабре того же года исследователи из университета Торонто разработали систему искусственного интеллекта, способную после соответствующего обучения самостоятельно написать песню на основе данных анализа загруженного ей изображения. Эта нейронная сеть уже написала новогоднюю песню после того, как ей был «скормлен» снимок наряженной новогодней елки.

7 июля 2017 года директор по развитию сайта поиска работы Work.ua Сергей Марченко заявил, что в Украине 28% работодателей согласились бы в будущем заменить своих сотрудников роботами.

13 октября того же года робот впервые выступил на заседании ООН. Гуманоид по имени София пообщался с заместителем генерального секретаря Аминой Мохаммед и поделился собственными мыслями об искусственном интеллекте.

В конце 2020 года власти Ирана заявили, что ведущий физик-ядерщик страны Мухсин Фахризаде был убит в том числе при помощи искусственного интеллекта.

Тэги: мир, эксперимент, наука, угроза, Австралия, искусственный интеллект, технологии

Комментарии

Выбор редакции
Шпрехенфюреров и их помощников-стукачей нужно тыкать физиономиями в Конституцию
Шпрехенфюреров и их помощников-стукачей нужно тыкать физиономиями в Конституцию
Шпрехенфюреров и их помощников-стукачей нужно тыкать физиономиями в Конституцию
Шпрехенфюреров и их помощников-стукачей нужно тыкать физиономиями в Конституцию
Ученые утверждают, что придумали способ извлечения энергии из черных дыр
Ученые утверждают, что придумали способ извлечения энергии из черных дыр
YouTube удаляет видео с «неудобной» информацией о вакцинации и оболванивании населения
YouTube удаляет видео с «неудобной» информацией о вакцинации и оболванивании населения
Предварительные итоги 2020 года
Предварительные итоги 2020 года
Русский язык в Украине так и не получилось задавить
Русский язык в Украине так и не получилось задавить
Почему нам не дают возможности выбрать самим: вакцинироваться русской вакциной или нет?
Почему нам не дают возможности выбрать самим: вакцинироваться русской вакциной или нет?
Педофил из Львова насиловал девочек под прикрытием католической церкви
Педофил из Львова насиловал девочек под прикрытием католической церкви
Дискриминационный закон о языке можно смело не выполнять
Дискриминационный закон о языке можно смело не выполнять
ТОП 8 сериалов про тайные общества
ТОП 8 сериалов про тайные общества
fraza.com
Австралийка засняла на видео странное существо, забравшееся в дом
Австралийка засняла на видео странное существо, забравшееся в дом
Австралийка засняла на видео странное существо, забравшееся в дом
Австралийка засняла на видео странное существо, забравшееся в дом
На суровой Николаевщине парень отрезал половые органы собственному отцу
На суровой Николаевщине парень отрезал половые органы собственному отцу
Появилось видео с места крушения медицинского вертолета в ЮАР
Появилось видео с места крушения медицинского вертолета в ЮАР
Под Майданом Незалежности обвалился потолок
Под Майданом Незалежности обвалился потолок
15 стариков сгорели заживо на пожаре в харьковском доме престарелых
15 стариков сгорели заживо на пожаре в харьковском доме престарелых
В Индии пылает крупнейший в мире завод по производству вакцин
В Индии пылает крупнейший в мире завод по производству вакцин
Билл Клинтон стоя уснул на инаугурации Байдена
Билл Клинтон стоя уснул на инаугурации Байдена
Появилось видео с места крушения военного вертолета в Нью-Йорке
Появилось видео с места крушения военного вертолета в Нью-Йорке
Всему виной труба: в центре Киева столкнулись сразу 6 автомобилей
Всему виной труба: в центре Киева столкнулись сразу 6 автомобилей
В Замбии произошел очень необычный футбольный инцидент
В Замбии произошел очень необычный футбольный инцидент
fraza.com

Опрос

На каком языке разговариваете вы и ваши дети?