Продолжение публикации избранных глав из книги Марка Гудмэна "Future Crimes", в переводе на русский. Напомню, что книга издана 5 лет тому, и ее автор - отслуживший долгое время в различных тамошних силовых структурах американец, с соответствующим взгядом на мир.
Глава 16 Угрозы безопасности следующих поколений
Почему кибер-атаки были только началом
"Мы сделали так, что почти никто не понимает науку и технологию. Это предпосылка для катастрофы. Мы можем ненадолго отдалить её, но рано или поздно эта огнеопасная смесь невежества и мощи взорвётся перед нашими лицами."
- КАРЛ САГАН
«Экстренная новость: в Белом Доме произошло два взрыва, и Барак Обама ранен», - сообщило агентство «Associated Press» в своих официальных новостях на Твиттере в 1:07 дня 23 апреля 2013года. В один момент два миллиона приверженцев «Associated Press» повторили эту новость тысячи раз, и мир впал в панику. На Уолл-Стрит реакция была и быстрой, и шокирующей: промышленный индекс Доу-Джонса и фондовый рынок «S&P 500» рухнули. В течение трёх минут социальная сеть «Associated Press» уничтожила $136 миллиардов биржевой стоимости ценных бумаг. После этого сообщения полетели быстро и яростно.
В 1:13 дня «Associated Press» подтвердило, что сообщение было фальшивым. В 1:16 дня пресс-секретарю Белого Дома Джей Карни пришлось дать комментарий по ТВ: «Я могу сказать, что Президент в полном порядке. Мы только что встречались». Наконец, в 1:17 дня, Сирийская Электронная Армия* призналась в том, что это она взломала «Associated Press». В течение всего девяти минут Сирийская Электронная Армия пошатнула самые мощные институты мира, от Уолл-Стрит до Белого Дома всего лишь одним преступным сообщением. Что же произошло?
К тому времени, когда прозвучала новость о взрыве на Пенсильвания Авеню 1600, рынок уже предполагал возможные атаки террористов и предвидел далеко идущие негативные воздействия, которые они могли бы оказать; кроме всего прочего, события 9 сентября, по оценкам, встали в $3.3 триллиона экономических потерь. Продавцы начали немедленно сбрасывать свои доли, и биржи ушли в свободное падение. Но эти продавцы не были Гордоном Гекко** прошлых лет, хозяином вселенной с прилизанными волосами и костюмами по $10 000. По сути, они даже не были людьми. В хеджевых фондах, инвестиционных банках и пенсионных фондах в районе трёх штатов*** и во всём мире сети суперкомпьютеров совместно осуществляли торговлю, будучи рабами своих алгоритмических программ.
Гекко и большинство его персонала на торговых площадках проиграли компьютерам в 1999 году, когда их заменили сверхбыстрые электронные высокочастотные торговые площадки. Эти алгоритмы являются типом искусственного интеллекта, наделённым правом принимать решения в части торговли и тратить деньги от имени своих клиентов. К 2015 году они представляли до 70 процентов объёмов продаж на Доу-Джонс.
Эти программы (написанные людьми) осуществляют пошаговые вычисления и автоматизированные логические построения в ответ на колебания рынка и производят анализ читаемых машиной новостей для обеспечения максимального дохода своим хозяевам. Проще говоря, это положительный квартальный заработок компаний, которые намерены купить и атаки террористов, которые намерены продать. Суперкомпьютеры, которые стоят за торговыми площадками, являются ненасытными читателями, работающими в режиме 24/7 в поиске интересных новостей, которые могут продвинуть товары на рынок.
Только одна новостная служба, «Thomson Reuters» выполняет эти алгоритмы высокочастотного трейдинга путём сканирования пятидесяти тысяч новостных источников и четырёх миллионов социальных сайтов со скоростями, которых человеческое существо никогда не сможет достичь. Развёрнутые сети машин высокочастотного трейдинга могут совместно осуществлять триллионы вычислений в секунду, и продажи могут быть осуществлены в течение одной миллионной доли секунды, в тысячи раз быстрее мигания глаза.
Когда торговые боты с алгоритмами, основанными на искусственном интеллекте, столкнулись в одном предложении с сообщениями, упоминавшими «взрывы», «Обама» и «Белый Дом» от источника, которому они были обучены доверять, «Associated Press», их реакция заняла всего несколько тысячных секунды. После этого были подхвачены другие алгоритмы, и вскоре вступил в действие эффект снежного кома. Алгоритмы скопом начали продажи, уничтожив по оценкам $136 миллиардов в невероятные три минуты.
Любой человек, внимательно посмотревший на сообщение, должен был бы заметить, что оно плохо сформулировано, написано не в стиле «Associated Press», слово «экстренная» написано не с заглавной буквы, по традиции «Associated Press», но эти тонкости были упущены робо-продавцом. К тому времени, однако, ущерб был уже причинён. Когда пыль осела, многие фирмы потеряли миллионы долларов.
Сирийская Электронная Армия, международная хакерская армия, связанная с режимом Башар-аль-Ассада, признала свою роль в этой атаке и понасмешничала над президентом, используя хэштег «#byebyeObama» в своём собственном аккаунте на Твиттере, «@official_SEA6». Она, также, была рада сообщить миру, что их пароль к аккаунту на Твиттере был «APM@rketing». ФБР и официальные лица из разведки и раньше сталкивались с Сирийской Электронной Армией, когда она взломала «New York Times», «BBC» и «CBS News», но её последней атаки стало достаточно, чтобы они назвали её террористической организацией и внесли в список самых разыскиваемых преступников.
Катастрофа с сообщением «Associated Press» о взрыве в Белом Доме была не первым случаем, когда алгоритмы вызвали помешательство на Уолл-Стрит, и, конечно же, это был не последний случай. Что более важно, проведённое Комиссией по Ценным Бумагам и Биржам исследование инцидентов такого типа, включая «Молниеносный Обвал» в мае 2010 года, пришло к выводу, что рынок, на котором доминируют сверхбыстрые торговые алгоритмы, «стал настолько раздробленным и непрочным, что одна крупная продажа может отправить акции во внезапное падение в штопор». В мире, который теперь измеряется миллионными долями секунды и постоянно экспоненциально ускоряется, буквально не остаётся времени для вмешательства человека, в случае, если алгоритмы начинают работать неправильно.
Способность Сирийской Электронной Армии в одно мгновение сотрясти финансовые рынки показывает экономические риски кибер-терроризма для нашего взаимосвязанного мира, управляемого компьютерами, работающими почти со скоростью света. Но эта история – больше, чем печальный рассказ об опасном состоянии нашей общей экономической безопасности. Это – предвестник грядущих событий. Понимаем мы это или нет, мы всё больше передаём наши жизни в руки компьютерных алгоритмов и искусственного интеллекта, которые принимают за нас решения. Для тех, кто вспоминает довольно неприятные отношения Джона Коннора с компьютером «Skynet» в фильме «Терминатор», эти решения преисполнены риска.
Примечания переводчика:
- * Группа хакеров, поддерживающая правительство президента Сирии Башара аль-Асада.
- ** Вымышленный персонаж фильма 1987 года «Уолл-Стрит» и фильма 2010 года «Уолл-стрит 2 Деньги не спят» в исполнении Майкла Дугласа.
- *** Так называются несколько групп штатов в США. Здесь, скорее всего, имеются в виду Нью-Йорк, Нью-Джерси и Коннектикут.
Примечание 3W3RR:
- Интересующимся вопросами HFT - высокочастотного трейдинга - рекомендовал бы книгу Макла Льюиса "Flash Boys". Она уже издана и в русском переводе, в том числе есть и в свободном доступе в Рунете. Для начала можно посмотреть видео обзор. Выход этой книги, и некоторые другие события, которые происходили до и после, встряхнул Wall Street так, что им икается до сих пор.
- В бытность Обамы президентом случилась у меня довольно забавная переписка с ним самим и, после, с его женой: "Семейный бизнес: переписка с Бараком и Мишель Обама".
Продолжим.
Социальные закладки