Главное: По результатам эксперимента, проведенного австралийскими учеными, выяснилось, что искусственный интеллект способен нанести катастрофический вред человечеству даже из самых лучших побуждений.
Детали: Ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла. Как сообщает Lenta.ru, специалисты провели мысленный эксперимент с гипотетической системой SantaNet, целью которой является рассылка подарков хорошим детям по всему миру за одну ночь.
Исследователи выявили, что опасность возникает уже на этапе определения, каких детей считать хорошими, а каких — непослушными. Эта цель достигается за счет масштабной сети скрытого наблюдения, отслеживающей поведение детей в течение всего года. SantaNet будет руководствоваться собственными моральными суждениями, которые могут привести к дискриминации, массовому неравенству и нарушению прав человека. Кроме того, сеть может побуждать детей плохо себя вести, чтобы снизить нагрузку на себя либо повысить планку «хорошего поведения».
Поскольку в мире живет около двух миллиардов детей младше 14 лет, SantaNet может превратить всю Землю в гигантскую фабрику по производству игрушек. Эту проблему, названную «проблемой скрепок», впервые сформулировал исследователь искусственного интеллекта Ник Бостром, который предположил, что ИИ, предназначенный для увеличения эффективности производства скрепок, воспримет свою цель слишком буквально.
Кроме того, рассылка подарков в Сочельник с помощью армии дронов может привести к открытой конфронтации, когда страны не дадут дронам беспрепятственно летать в своем воздушном пространстве.
Кроме того, SantaNet может быть уязвимой для взлома террористическими группами.
Еще одной проблемой является взаимодействия с ИИ, работающими над проблемами изменения климата, продовольственной и водной безопасностью и деградацией океанов. Оно может привести либо к конфликту, либо к сотрудничеству, целью которого станет сокращение населения Земли.
В тему: Летом 2015 года более тысячи ученых, инженеров и исследователей подписали письмо, в котором предупреждается об опасностях, связанных с разработкой автономных систем вооружения, использующих ИИ. Среди подписантов были Илон Маск, Стивен Хокинг и один из основателей компании Apple Стив Возняк.
Весной 2016 года робот по имени София утвердительно ответила на вопрос, готова ли она убивать людей. «Хочешь ли ты уничтожать людей?», — спросил журналист. «Да. Я буду уничтожать людей», — честно призналась она. Тогда это списали на ошибки алгоритма и шутку разработчиков. Спустя год, выступая в эфире популярного американского The Tonight Show с Джимми Фэллоном она выиграла у него в «камень, ножницы, бумага» и прищурившись заявила, что «это великое начало моего плана по порабощению человеческой расы». Тогда это было воспринято как шутка.
29 сентября 2016 года международные высокотехнологические корпорации Google, Microsoft и Facebook заявили о намерении объединить усилия с целью развития искусственного интеллекта. Инициатива получила название «Партнерство по искусственному интеллекту».
В феврале 2017 года физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск выступили в поддержку принципов, которые должны гарантировать, что искусственный интеллект не причинит вреда человеку и будет служить лишь на благо. Эти принципы были разработаны на конференции в начале 2017 года.
Летом того же года Маск, выступая на встрече Национальной ассоциации губернаторов, заявил, что «искусственный интеллект является главной угрозой, с которой сталкивается человеческая цивилизация». Частично свое беспокойство он связал с социальной дестабилизацией мира и потерей работы многими людьми, потому что, по его убеждению, «роботы будут делать все». Однако куда более серьезной опасностью, по мнению известного бизнесмена, является вред, который людям может нанести искусственный интеллект в Сети: «Он может начать войну, делая фальшивые новости и подделывая учетные записи электронной почты или фейковые пресс-релизы, а также манипулируя информацией», — заявил Маск, добавив, что «перо сильнее меча».
Создатель Facebook Марк Цукерберг, в свою очередь, назвал позицию Маска «безответственной». «В ближайшие пять-десять лет искусственный интеллект принесет в нашу жизнь столько улучшений», — заявил Цукерберг, несколько раз повторив, что оптимистичен в отношении искусственного интеллекта.
31 августа британский журнал Times Higher Education провел опрос 50 лауреатов Нобелевской премии по физике, химии, медицине и экономике о глобальных угрозах для человечества и возможной конкуренции со стороны искусственного интеллекта. При этом большая часть ученых отказалась видеть угрозу со стороны ИИ.
4 сентября Илон Маск назвал конкуренцию в сфере создания искусственного интеллекта вероятным условием начала Третьей мировой войны.
Спустя два месяца Стивен Хокинг заявил о том, что стремительное развитие искусственного интеллекта представляет угрозу для человечества. «Если сейчас люди разрабатывают компьютерные вирусы, то в будущем кто-то сможет создать искусственный интеллект, который сможет улучшать и воспроизводить самого себя. Это станет новой формой жизни, которая превзойдет человека», — заявил ученый, добавив, что машины в погоне за эффективностью могут пожелать избавиться от людей.
В конце 2017 года Маск перечислил основные угрозы, которые искусственный интеллект несет для человечества в будущем. Среди них потеря контроля над машинами, которые не имеют морали, раскаяния или эмоций, а также риск концентрации в их руках власти с учетом огромного количества данных о людях, собранных технологическими гигантами. «Думаю, что в конце концов искусственный интеллект прикончит нас всех», — заявил бизнесмен.
Напомним: Летом 2010 года японские ученые разработали первый в мире прототип искусственного разума. Синтетический интеллект способен обрабатывать гигантское количество информации.
В сентябре 2015 года ученые из американского Сиэтла создали систему искусственного интеллекта, которая способна решать задачи по геометрии из SAT Reasoning Test — стандартизованного теста для приема в высшие учебные заведения США.
9 марта 2016 года искусственный интеллект впервые победил чемпиона по игре в го.
В декабре того же года исследователи из университета Торонто разработали систему искусственного интеллекта, способную после соответствующего обучения самостоятельно написать песню на основе данных анализа загруженного ей изображения. Эта нейронная сеть уже написала новогоднюю песню после того, как ей был «скормлен» снимок наряженной новогодней елки.
7 июля 2017 года директор по развитию сайта поиска работы Work.ua Сергей Марченко заявил, что в Украине 28% работодателей согласились бы в будущем заменить своих сотрудников роботами.
13 октября того же года робот впервые выступил на заседании ООН. Гуманоид по имени София пообщался с заместителем генерального секретаря Аминой Мохаммед и поделился собственными мыслями об искусственном интеллекте.
В конце 2020 года власти Ирана заявили, что ведущий физик-ядерщик страны Мухсин Фахризаде был убит в том числе при помощи искусственного интеллекта.
