Физик-теоретик Макс Тегмарк из Массачусетского технологического института (США) назвал самый вероятный негативный сценарий будущего человеческой цивилизации. Как выяснили журналисты «Фразы», в интервью IEEE Spectrum, посвященном выходу своей новой книги «Жизнь 3.0», ученый заявляет о том, что наибольшую опасность для жителей Земли представляет искусственный суперинтеллект, не наделенный сознанием.
По мнению Тегмарка, исследование искусственного интеллекта зачастую игнорирует проблему сознания, в частности, различие между сознательной и бессознательной системами обработки информации, характерными для живой и неживой природы. «Когда я говорю о сознании, я просто имею в виду субъективный опыт: как если бы это был я», — объяснил ученый.
При этом эксперт полагает, что интеллект и сознание могут быть описаны уравнениями. «Если мы воспитываем детей, которые продолжают следовать мечтам, которых не достигли мы, тогда мы можем гордиться ими, даже если нас уже нет. Но если вместо этого мы вырастим нового Адольфа Гитлера, который уничтожит все, что важно для нас, это не будет так здорово», — считает ученый.
Тегмарк призывает задуматься о будущем человечества, связанном с искусственным интеллектом: «Только то, что мы не знаем, что пойдет не так, не означает, что мы не должны об этом думать». «Это основная идея инженерии безопасности: вы много думаете о том, что может пойти не так, чтобы этого не произошло. Многие люди воспринимают подобный подход как паникерство. Но когда руководители программы „Аполлон“ тщательно продумали все, что могло пойти не так, когда отправили ракету с космонавтами на Луну, они не были паникерами. Они делали именно то, что в конечном итоге привело к успеху миссии», — объяснил ученый.
Макс Тегмарк — шведско-американский космолог, профессор Массачусетского технологического института, создатель Института основополагающих вопросов (организации, предоставляющей гранты на «развитие, поддержку и распространение исследований в сфере вопросов физики и космологии»). Разработал инструменты анализа данных на основе теории информации и применил их к реликтовому излучению, является одним из авторов обнаружения так называемой «оси зла» в космосе.
Тегмарк также сформулировал собственную «Окончательную теорию всего», единственный постулат которой состоит в том, что «все математически непротиворечивые структуры существуют физически». Эта простая теория без свободных параметров подразумевает, что в математических структурах, достаточно сложных, чтобы содержать способные к самоосознанию подструктуры, эти последние будут воспринимать себя живущими в «реальном» физическом мире. Эта идея обозначается как «гипотеза математической вселенной».
Как сообщала «Фраза», 17 июля 2017 года американский предприниматель Илон Маск заявил, что «искусственный интеллект является главной угрозой, с которой сталкивается человеческая цивилизация». По мнению бизнесмена, искусственный интеллект может быть задействован в информационной войне, в частности распространении фейковых новостей.
Создатель Facebook Марк Цукерберг, в свою очередь, назвал позицию Маска «безответственной». «В ближайшие пять-десять лет искусственный интеллект принесет в нашу жизнь столько улучшений», — заявил Цукерберг, несколько раз повторив, что оптимистичен в отношении искусственного интеллекта.
31 августа британский журнал Times Higher Education провел опрос 50 лауреатов Нобелевской премии по физике, химии, медицине и экономике о глобальных угрозах для человечества и возможной конкуренции со стороны искусственного интеллекта. При этом большая часть ученых отказалась видеть угрозу со стороны ИИ.
4 сентября Илон Маск назвал конкуренцию в сфере создания искусственного интеллекта вероятным условием начала Третьей мировой войны.
Напомним, летом 2010 года японские ученые разработали первый в мире прототип искусственного разума. Синтетический интеллект способен обрабатывать гигантское количество информации.
Летом 2015 года более тысячи ученых, инженеров и исследователей подписали письмо, в котором предупреждается об опасностях, связанных с разработкой автономных систем вооружения, использующих ИИ. Среди подписантов были Маск, Хокинг и один из основателей компании Apple Стив Возняк.
В сентябре того же года ученые из американского Сиэтла создали систему искусственного интеллекта, которая способна решать задачи по геометрии из SAT Reasoning Test — стандартизованного теста для приема в высшие учебные заведения США.
9 марта 2016 года искусственный интеллект впервые победил чемпиона по игре в го.
29 сентября международные высокотехнологические корпорации Google, Microsoft и Facebook заявили о намерении объединить усилия с целью развития искусственного интеллекта. Помимо указанных компаний в совместном проекте участвуют Amazon и IBM. Также не исключено, что в скором времени к проекту присоединится компания Apple. Кроме того, в инициативе подключатся ведущие эксперты отрасли. Инициатива называется «Партнерство по искусственному интеллекту».
В декабре того же года исследователи из университета Торонто разработали систему искусственного интеллекта, способную после соответствующего обучения самостоятельно написать песню на основе данных анализа загруженного ей изображения. Эта нейронная сеть уже написала новогоднюю песню после того, как ей был «скормлен» снимок наряженной новогодней елки.
В феврале 2017 года физик-теоретик Стивен Хокинг и основатель Tesla Motors Илон Маск выступили в поддержку принципов, которые должны гарантировать, что искусственный интеллект не причинит вреда человеку и будет служить лишь на благо. Эти принципы были разработаны на конференции в начале 2017 года.
7 июля директор по развитию сайта поиска работы Work.ua Сергей Марченко заявил, что в Украине 28% работодателей согласились бы в будущем заменить своих сотрудников роботами.
Прогнозы экспертов о том, грозит ли Украине роботизация и к чему это приведет, читайте здесь.
