Наблюдая за разгоревшейся информационной войной между США и Китаем, приходит в голову мысль о том, что исполнители разыгрывают её как по нотам, только вот в финале партитуры — окончательное уничтожение глобальной экономики. Может ли странным оркестром, где свои места за инструментами заняли Трамп, председатель Си, другие политики, экономисты, эксперты, журналисты, дирижировать кто-то один? И кому был бы выгоден такой сумасшедший концерт?
Начнём с ответа на второй вопрос. Бенефициаром нынешнего карантинного капитализма и будущей экономики перманентной катастрофы являются мировые технологические гиганты плюс Федеральный резерв США.
Каким-то странным образом перед самой бедой у «Гугла», «Амазона», «Фейсбука» и «Майкрософта» образовались большие запасы кэша, и скоро они смогут скупить за бесценок всё, что посчитают нужным. Уже сегодня этой скупкой вовсю занимается ФРС, попросту включив печатный станок.
Несмотря на эпидемию, капитализация «Амазона» резко выросла, корпорация нанимает десятки тысяч людей из миллионов, каждую неделю теряющих работу. Эта компания подмяла под себя американский ритейл, эксперты предсказывают ей по итогам большой коронавирусной распродажи 10 процентов американского рынка, но если случится катастрофа или серия катастроф, вполне возможно, детище Джеффа Безоса останется единственным игроком. У других компаний «большой цифры» похожие истории: локальные потери компенсируются созданием олигополий на ключевых рынках. Кризис переживут лишь цифровые в основе бизнесы, которые будут вынуждены платить монополистам ренту просто за возможность существовать.
Но дело не ограничивается скупкой резко подешевевших акций. Уже сегодня вырисовываются контуры дивного нового мира, в котором «большая цифра» в союзе — до поры до времени — с государствами — открыто управляет человеческими массами.
Только цифровые корпорации, ставшие государствами и государства, ставшие цифровыми корпорациями, смогут оперативно реагировать на критические или даже катастрофические взлеты и падения «прекрасного цифрового грядущего», — изменения, не подчиняющиеся привычным алгоритмам.
Большая игра
Может ли режиссёром нынешней постановки быть искусственный интеллект? Возможно ли это, ведь ученые говорят, что на пути к созданию так называемого «общего искусственного интеллекта» еще очень много препятствий, некоторые из которых кажутся непреодолимыми!
Это так — но для ведения «Большой игры», итогом которой может быть глобальный экономический крах, вполне достаточно сетевого взаимодействия «узких ИИ», каждый из которых выполняет свою задачу, в то время как сеть работает по принципу роя — пока что не без участия человека или людей, которые принимают решения. Или считают, что они принимают решения.
Как это может быть?
Прежде всего, надо понимать, что уже сегодня в распоряжении правительств и корпораций находятся высокоэффективные и прекрасно масштабируемые системы с ИИ, которые способны не просто отслеживать, но и управлять поведением как отдельных людей, так и сообществ, наций и их лидеров. Ещё в 2013 году Эдвард Сноуден раскрыл многое о не только о методах слежки NSA (Агентства национальной безопасности) за миллионами людей в США и во всем мире, но и о том, как эта информация обрабатывается и используется. Любопытно, что именно с того момента прекратились публикации о гигантских центрах, вооруженных суперкомпьютерами, которые, используя реальные цифровые профили сотен миллионов людей, по заданию правительства моделируют разные социальные и экономические ситуации. Например, такая система потенциально может смоделировать объявление в стране военного положения, с пошаговыми инструкциями другим системам и органам о том, что надо делать в какой момент времени. Со времён разоблачений Сноудена технологии совершили большой скачок, и последние публикации дают понять, что существуют сети виртуальных агентов — ИИ-систем — которые работают в реальном мире, направляя действия «реальных агентов» — то есть людей, сообществ, организаций.
Человек — это статичная и очень уязвимая система, подверженная усиливающимся атакам все более цепких алгоритмов ИИ. Их цель — составить самое полное представление о нас, о том, что мы делаем, что чувствуем, во что верим, и почему действуем так, а не иначе. Алгоритмы установили практически полный контроль над информацией, которую мы потребляем, а корпорации и правительства вкладывают в новые разработки десятки миллиардов долларов с тем чтобы «стать лидерами» в отрасли, чьим главным бизнесом сегодня становится управление человеческим поведением. Это поведение рассматривается сегодня в терминах бихевиоризма и «роевого мышления».
Ключевую роль в управлении поведением и создании «человеческого роя» принадлежит соцсетям, особенно компании «Фейсбук», которой принадлежат также приложения «Вотсап» и «Инстаграм». Недавно консорциум под руководством ФБ заявил и о возобновлении подготовки к запуску собственной цифровой валюты Libra, предназначенной прежде всего для самых слабых стран мира. Именно по этим странам, скорей всего, придется главный удар если не самой эпидемии коронавируса, то сопутствующего экономического кризиса. Очень важны для управления и алгоритмы «Гугла» — ведь это не только ведущий в мире поисковик «всего», но и ИИ-системы геолокации, коммуникации и дешевой мобильной связи через систему «андроид».
Создание роя
Как работает управление массами? Прежде всего через сами соцсети, но и опосредованно, через СМИ, включая популярных блогеров, у которых своя важная роль в выработке роевого мышления. СМИ и блогеры чутко реагируют на любое изменение алгоритмов «Фейсбука» и «Гугла», стараясь под них подстроиться. Так алгоритм задает даже самым «независимым» из них повестку, поощряет показами «правильный» контент, убирает с глаз долой «неправильный», а порой и просто отправляет источник неугодной информации в «бан». Создатель алгоритма «Ютьюб» Кристос Гудроу в интервью одному из научных подкастов проговорился, рассказав, как система анализирует содержание видеоматериалов. Алгоритм добавляет просмотров тем из них, что соответствуют общепринятым версиям и «задвигает» тот контент, который не соответствует.
Западный политик любого уровня, идущий наперекор роевому консенсусу, рискует проиграть выборы, потерять свое положение и статус. Исключения типа Трампа лишь подтверждают правило: он и его друзья-миллиардеры закачивают в его кампании колоссальные средства, но всё равно, чтобы донести свои послания, он действует через голову прессы, борется с ней не на жизнь, а на смерть, при всех своих ресурсах часто проигрывая и уступая.
Казалось бы, национальные лидеры менее всего подвержены воздействию роевого мышления и влиянию алгоритмов. Ведь у них есть собственные аналитические центры, за которыми стоят серьёзные ученые, каждый день им на стол кладутся записки и отчёты с глубоким анализом данных от разведывательных агентств. Например, в 2008 году Совет национальной разведки США предупредил президента о вероятности возникновения крайне заразной новой болезни, похожей на COVID-19, которая возникнет в Азии и приведет к мировой пандемии. О серьезности этой угрозы директора Национальной разведки сообщали на своих брифингах неоднократно, а в 2017 году ДНР Дэн Коутс добавил к этому, что пандемия будет стоить мировой экономике 5% ВВП. В 2019 году он повторил предупреждение, обратив особое внимание на экономические риски.
Предупрежден — значит, вооружен? Не факт, ибо лидеры склонны подозревать — порой небезосновательно — что у авторов подобных записок есть собственная тайная повестка — например, работа на «глубинное государство». И они недалеки от истины, но в любом случае, на решения лидеров и на мнения ключевых советников, которым они доверяют, можно воздействовать, используя приемы психологической манипуляции. На каждого из них даже по открытым данным можно составить цифровой профиль, который позволит алгоритму «подталкивать» их в «правильном» направлении. Не стоит забывать разоблачения Эдварда Сноудена, который показал, как работает система Агентства Национальной безопасности США PRISM, отслеживающая поведение в том числе мировых лидеров, например, таких верных союзников США, как канцлер Германии Ангела Меркель.
Однако возможности управления поведением, присущие системам с искусственным интеллектом, не ограничиваются умным точечным воздействием на лидеров и созданием давления роевого мышления, возрастающего до тех пор, пока не будет продавлено нужное решение. В самом способе обработки сырых данных сейчас скрываются большие возможности для манипуляций. Самая главная из них заключается в том, что результаты моделирования, на основании которых принимаются важные решения, стали принципиально непроверяемы. Присказка Рейгана больше не действует — моделям можно только верить.
Назад, к алхимикам
Дело в фундаментальном изменении подхода к истине в эпоху «постправды» и «бигдаты» — можно показать, что эти понятия связаны. Наука после Галилея основывалась на тех или иных законах, выраженных четкими формулами, идеями и концепциями, от которых кругами расходились теории. Декарт считал интуицию, вдохновенное проникновение в суть вещей, самым верным методом познания, и главные концепции науки, какой мы её знаем, были прозрениями великих учёных — Галилея, Ньютона, Эйнштейна, Шрёдингера и других. Все они вначале строили свои теории в голове, и часто для опытного подтверждения их выводов требовались годы. Как показал философ Карл Поппер, теория, выдвигаемая учёным, обязательно должна предсказывать действительность таким образом, что можно проверить, правдиво или ложно это предсказание. Например, теория относительности Эйнштейна, придуманная на листке бумаги, получила окончательное признание лишь примерно через 15 лет после опубликования, когда Артур Эддингтон сумел создать нужные инструменты и измерить предсказанное ей воздействие на орбиту Меркурия.
Есть ещё один важный аспект познания, связанный с эпохой Просвещения: а именно, что ценность рациональных аргументов не зависит от того, кто их выдвигает. Так, идеи Циолковского не были отвергнуты только потому, что он был простым провинциальным учителем и у него не было официального статуса в науке: их правильность была доказана опытом, полётом первого человека в космос.
Торжество «бигдаты», которое опирается на всё возрастающую мощь компьютеров, вернуло науку к догалилеевским временам. Теорий больше не нужно: достаточно заложить в стиральную вычислительную машину данные, нажать на кнопку пуска, и опля! — через час того или иного вида стирки мы получаем эффективный предсказательный результат. Концепции выведут нейросети внутри машины, но вы не сможете их проверить, ибо искусственная нейросеть — это принципиальный черный ящик. Таким образом, остается только собрать как можно больше «бигдаты», которая мистическим образом приведет к успеху.
По инерции этот подход продолжает называться «наукой», но он радикально отличается от просвещенческой науки. Более того, «когнитивные учёные» и «нейроучёные», сделавшие «бигдату» научным мейнстримом, высмеивают само право ученых выдвигать концепции и упраздняют все, что не укладывается в прокрустово ложе их метода. Например, язык как основу мышления, сознание, свободу воли — те основы, на которых стояла наука и философия начиная с Нового Времени. Отмечу, что эти люди называют себя сторонниками демократии и прогресса. Находясь в меньшинстве, они призывают к толерантности, но придя к власти, становятся нетерпимыми и преследуют все, что выходит за рамки их представлений.
На «бигдату», обработанную нейросетями для производства предсказаний, и опираются сегодня при принятии решений институты, включая высшую власть — примерно как император Рудольф II опирался на алхимиков.
Любопытно, что у каждого лидера сегодня свои алхимики и свои волшебные нейросети — ибо утратил смысл и просвещенческий тезис о проверяемости и самостоятельной ценности любой теории. Нет теорий — нет и ценности, а значит, всё зависит от того, насколько тот или иной алхимик умеет убедить владыку в том, что именно его магия работает.
Итак, с одной стороны на столе у лидера — мистические предсказания, с другой — прессинг общественного мнения, которым управляют соцсети. В то же время он сам (или она сама) является объектом профайлинга и манипуляции.
Можно ли объединить все эти системы в одну, которая бы направляла мировых лидеров, подталкивая их к нужным решениям? Чтобы ответить на этот вопрос, достаточно обратиться к вооруженным ИИ алгоритмам, которые сегодня полностью управляют финансовыми рынками. Но прежде стоит разобраться в том, насколько успешна «бигдата» оказалась в борьбе с коронавирусом.
COVID-19: сработала ли «бигдата»?
Какие ИИ-системы больше всего были задействованы в борьбе с пандемией? На основе каких моделей принимались решения? Если говорить о Соединенных Штатах, то на первый взгляд, речь может идти о биоинформатических системах, которые расшифровывают геном, определяют генетические риски и предсказывают, насколько эффективны будут новые лекарства. Именно эти системы широко развивались в США в последние годы, в том числе на деньги Национальных институтов здоровья (американский Минздрав). Искусственный интеллект используется для ускорения секвенирования геномов, более быстрой постановки диагноза, проведения анализов с помощью сканеров. Также активно разрабатывались и системы оценки рисков, работающие на многомерных больших данных. Они применяются в основном для систем принятия решений по постановке диагнозов и выписыванию рецептов. Еще одно направление ИИ, на которое в последнее время США делалась ставка — кастомизация лекарств для конкретного пациента.
Известно, как Китай применял ИИ для мер по ограничению передвижения населения, но, безусловно, при помощи алгоритмических моделей китайцы также прогнозировали ход эпидемии, отрабатывали методы лечения, рассчитывали логистику доставки продуктов, масок, медикаментов и медоборудования в эпицентры заражения, управляли роботами и дронами. При помощи ИИ они также разрабатывают вакцину.
ИИ моделирует структуру вируса, экономя ученым время на эксперименты, которые обычно занимают много месяцев. Очень важно понимать, как сворачивается белок, количество комбинаций здесь практически бесконечно, и есть основания полагать, что благодаря ИИ удается значительно сократить время, необходимое для разработки прототипа вакцины. Пандемия коронавируса дала толчок таким разработкам, которые ведут и американцы, и китайский технологический гигант Baidu, который, несмотря на ухудшившиеся отношения между США и КНР, работает над этой темой в партнерстве с Орегонским университетом и Университетом Рочестера. В феврале 2020 года Baidu опубликовал свой алгоритм прогнозирования линейной складчатости для изучения процесса сворачивания белка.
Биомедицина опирается на большое число методов, среди которых компьютерные науки и статистика уже давно вносят свой вклад. При всеобщем увлечении «бигдатой» есть основания полагать, что традиционные математические модели оказались более эффективными в прогнозировании распространения пандемии, нежели ИИ.
Но как такое может быть возможным? На первый взгляд, правительство США пользовалось именно моделями, основанными на «бигдате». Еще 22 марта 2020 года президент Трамп объявил о запуске нового частно-государственного партнёрства с целью «дать волю мощи и ресурсам американских суперкомпьютеров». В консорциум вошли Белый Дом, Министерство энергетики США и IBM. Помимо IBM, компании Amazon, Google и Microsoft также предоставили властям США огромные вычислительные мощности своих серверов для обработки бигдаты по эпидемиологии, биоинформатике и молекулярному моделированию. Сообщалось о том, что общая компьютерная мощность, представленная в распоряжение правительства, дошла до 330 петафлопов.
Незадолго до этого, 11 марта Управление по политике в области науки и техники Белого дома провело встречу с ведущими компаниями «большой цифры» и основными исследовательскими структурами. Им был задан вопрос: как с помощью искусственного интеллекта просеять тысячи научных работ, опубликованных по всему миру и посвященных пандемии, чтобы выбрать оттуда самое ценное?
С момента появления Covid-19 к тому времени было опубликовано уже около двух тысяч таких научных работ. Американским учёным было что ответить. Исследовательское подразделение Microsoft, Национальная медицинская библиотека и Институт Аллена представили совместный проект, в котором из почти тридцати тысяч документов, имеющих отношение к коронавирусу, были отобраны тринадцать тысяч. ИИ «просеял» информацию, взятую из этих работ, таким образом, чтобы компьютеры могли алгоритмизировать их основные выводы и данные, а также, что особенно важно, информацию о самих авторах и их связях.
Есть и другие примеры работы систем ИИ во время эпидемии. Так, канадской компании из Торонто BlueDot удалось установить, что в Ухани имело место заражение вирусом, при помощи анализа самой разнообразной «бигдаты». При помощи NLP (обработки натурального языка) анализировались данные из сотен источников по всему миру: официальные заявления и статьи в интернете, данные продаж авиабилетов, данные о погоде, отчеты о здоровье крупного рогатого скота, демография и многое другое. BlueDot 30 декабря 2019 года зафиксировала вспышку нетипичной пневмонии в районе рынка в Ухани и не только сообщила о ней, но и предупредила власти городов мира, куда в ближайшие дни отправлялись авиарейсы из Ухани: Бангкок, Гонконг, Токио, Тайпей, Пхукет, Сеул и Сингапур. Именно эти места стали первыми центрами распространения вируса за пределами Китая.
Еще одну ИИ-систему с той де самой целью разработала команда исследователей, работающих с Бостонской детской больницей. Система HealthMap берет данные из поисков Google, из соцсетей, блогов и онлайн- форумов. Конечно, и канадцы, и бостонцы не просто тупо загнали рандомную «бигдату» в компьютер, а применили вполне творческий подход, основанный на, если хотите, экспертной догадке о том, что возникновение эпидемии не останется незамеченным людьми.
Вдохновленный успехами BlueDot, Международный исследовательский центр искусственного интеллекта в Словении, действующий под эгидой ЮНЕСКО, также стал отслеживать прохождение коронавируса по создаваемому им информационному полю, запустив проект Corona Virus Media Watch.
Ещё один важный ИИ-инструмент — данные геолокации миллиардов людей. Сообщения из соцсетей, из аудио, видео и текстового общения по мессенджерам могут быть привязаны к точкам, в которых находятся люди. Анализ этих сообщений ИИ-системами обработки натурального языка может дать очень точную картину того, где говорят о коронавирусе. Да и не только коронавирусе — о чём угодно. В сборе этой информации лидирует университет Джона Хопкинса, который запустил сайт, где можно в режиме реального времени видеть распространение вируса по разным странам и городам по всему миру. Собирается также информация о температуре людей и данных их организмов, которая также может быть использована в прогнозах.
Крупные технологические компании, который в Штатах часто называют по первым буквам их имен — FAGMA — имеют в своем распоряжении огромное количество данных о поведении американцев. Если раньше масштаб этого скрывался, то теперь, с коронавирусом, представители этих компаний говорят о том, что эти данные могут сослужить пользу в борьбе с пандемией и даже, как заявил исполнительный директор Google.org Ларри Бриллиант, «изменить лицо общественного здравоохранения».
Но зададимся вопросом: насколько эффективны оказались «большие данные» в борьбе с коронавирусом? Если к Китае использование их властями вполне соответствует декларируемым целям — там никто не скрывает, что это служит, например, для контроля над гражданами — то в Соединённых Штатах и в других странах заявленные цели не обязательно соответствуют реальности. Несмотря на огромные возможности суперкомпьютеров, находящихся в распоряжении американских спецслужб, военных и крупных корпораций, принятая модель, на основании которой принимаются решения, совсем не основана на анализе «бигдаты» искусственным интеллектом. Это старая добрая модель SIR, разработанная Кермаком и МакСендриком в 1927 году. Иногда используются и другие модели — но все они экспертные, основанные не на алгоритмах машинного обучения, а на концепциях, придуманных эпидемиологами и математиками.
Однако стоит обратить внимание на область, где «бигдата» и алгоритмы используются весьма активно — и похоже, именно модели, пришедшие отсюда, очень сильно влияют на принятие политиками решений. Речь идет об алгоритмах и моделях финансовых рынков.
Искусственные нейросети для «киборг-финансов» сегодня не только управляют покупкой и продажей активов в режиме реального времени- так что брокерам-людям на бирже просто нечего делать. Так, по мнению экономиста Сергея Глазьева, обрушение рубля в марте 2020 года было значительно усилено стадами торговых ботов, настроенных на автоматическую привязку курса рубля к цене нефти. На финансовых рынках работают самые продвинутые ИИ-системы, которые генерируют и пишут пресс-релизы и статьи о финансовых результатах компаний, мгновенно распространяя их по сети. Истолкование новостей также уже давно перешло от людей к машинам. ИИ анализирует воздействие на рынок публичных заявлений ньюсмейкеров, реакцию населения, и моделирует потенциальный эффект тех или иных действий, покупая, если надо, цифровые профили тех, на кого нужно оказать воздействие. Фейсбук в 2010-е годы создал «социальный граф» — то есть глобальную карту пользователей и их взаимоотношений — это крупнейшая база данных в мире. Может ли такая система распространять мемы — например, «китайский вирус» — и вызывать эмоциональное заражение — вопрос риторический.
Ещё в подписанном Трампом в 2016 году «Национальном стратегическом плане разработки развития искусственного интеллекта» отмечалась важность как для правительства, так и для индустрии, чтобы ИИ мог обеспечить «раннее обнаружение необычного финансового риска по множеству параметров». С этой целью были запущены модели раннего предупреждения и извлечения данных, в том числе модели распознавания манипуляции рынками.
От моделей распознавания манипуляций — один шаг или даже полшага к собственно моделям манипуляции финансовыми рынками. Активные разработки в этой области ведутся давно, публикуются академические статьи о симуляции финансовых рынков при помощи искусственного интеллекта — агентов, которые учатся на ходу. Как мы знаем, генеративно-состязательная нейросеть может творить чудеса, например, она обыграла чемпиона мира по го, играя сама с собой. Что если такая сеть будет играть сама с собой на модели финансового рынка?
Пандемия страха
Может ли подобная система — или сеть ИИ-агентов — создать в глобальном масштабе ситуацию выбора между экономической катастрофой и массовым мором? Убеждая лидеров при помощью моделей «бигдаты», что есть алгоритм, который позволит сохранить социальную систему в отдельно взятой стране, при этом вот вам набор инструментов для регулирования числа жертв, вот вам поведенческие модели этой реакции? Вопрос остается открытым, но ничего невозможного в этом нет.
Разделавшись с Просвещением, мы получаем сознательную асимметрию знаний, при которой те, кто решает, определяют меру знания и возможности остальных, и, в свою очередь, легко управляются теми, кто решает кто решает. Таким образом, у лидера, даже если его увезли, как Бориса Джонсона, в больницу с коронавирусом, создаётся иллюзия, что он управляют ситуацией, что всё под контролем.
Но на деле контроль может находиться у алгоритма, который обладает разумом меньшим, чем интеллект дождевого червя.
Алгоритм, запущенный людьми, просчитавшими свою собственную выгоду, которая заключается, например, в тотальном разрушении экономики как она есть и её полной замене «экономикой цифры». Или, например, в создании пандемии страха, в нарастании террора, за которым последует умиротворение на принципах цифрового тоталитаризма.
Процесс, однако, может выйти из-под контроля тех, кто его запустил — как это бывало уже не раз в истории человечества.