В колонке для The Guardian автор книги «От Гутенберга до Цукерберга» Джон Нотон утверждает, что «сверхинтеллектуальные и недружественные человеку машины уже здесь». Это не искусственный интеллект, а корпорации.
В серии радиолекций для ВВС профессор Стюарт Рассел из США процитировал высказывание Алана Тьюринга, сделанное им в 1950 году в работе «Вычислительные машины и разум»:
«Как только появится метод машинного мышления, ему не потребуется много времени на то, чтобы превзойти наши ничтожные способности. Следовательно, на каком-то этапе следует ожидать, что машины возьмут власть». Эта мысль была еще более настойчиво озвучена Ирвингом Гудом, коллегой Тьюринга: «Первая сверхинтеллектуальная машина будет последним изобретением, которое нужно людям, конечно, если машина будет достаточно послушной, чтобы рассказать, как нам контролировать ее».
Разработчики ИИ строят машины, давая им четкие цели и оценивая их по степени успешности в достижении этих задач. Для лаборатории это неплохо, но когда речь заходит о практическом применении в реальном мире, мы не в состоянии полностью и корректно описать задачу.
Тем временем, корпорации продолжают создавать все более способные, беспощадные и однозадачные машины, размещая их в критически важных сферах человеческого общества.
Стюарт Рассел отмечает, что если разработка ИИ продолжится в том же направлении, будут созданы сверхинтеллектуальные машины, которые воплотят антиутопический кошмар.
Разумеется, представители ИТ-индустрии и некоторые коллеги высмеивают такой взгляд как алармистский и беспочвенный. Как пошутил один из них, беспокоиться о сверхинтеллекте следует в той же мере, что и о перенаселении Марса.
Однако, по мнению профессора Джона Нотона, мы уже живем в таком мире. Те самые ИИ, которых следует бояться, называют себя корпорациями. Они определенно достигли уровня сверхинтеллекта, поскольку коллективный IQ их сотрудников превосходит интеллект обычных людей и членов правительств. У них огромный капитал и масса ресурсов. Продолжительность их жизни превосходит срок жизни всякого человека. И они существуют ради выполнения единственной цели — увеличения стоимости своих акций. Ради этого они будут делать что угодно, вне зависимости от этических соображений и сопутствующего ущерба обществу.
По материалам Цифровой апокалипсис
