Человек есть нечто, что

дóлжно превзойти. Что сделали вы, чтобы превзойти его?

Заратустра

Настоящий ИИ — капитал.

Алексей Сахнин

Уподобление глобального капитализма искусственному интеллекту, которое явно улавливалось в фильме «Матрица» (1999), было трудно воспринимать буквально. Дело в том, что компьютеры, с которыми в то время связывались надежды на создание ИИ, были совсем непохожи на реальное капиталистическое производство. Традиционный компьютер имел централизованную архитектуру, а его деятельность сводилась к выполнению алгоритмизированных задач. Капиталистическое производство рассеяно: существует не одна гигантская корпорация с единым «центральным процессором», но тысячи фирм, собирающих информацию и принимающих деловые решения независимо друг от друга. Вместе с тем капитализм умеет адаптироваться к самым разнообразным изменениям среды и даже меняет среду самостоятельно, например, вводя на рынок и продвигая новые товары.

С одной стороны, адаптивность и изобретательность капитализма позволяет увидеть в нем больше «разумности», чем у лучших компьютеров. С другой стороны, децентрализованность производства наводит на мысль, что эта разумность — заслуга отдельных предпринимателей, а не качество, возникающее на уровне надындивидуальной системы.

Тем не менее последние успехи искусственных нейронных сетей (далее — ИНС) дают повод снова подумать об аналогии между ИИ и капитализмом[1]. В обоих рассмотренных отношениях ИНС больше похожа на капитал, чем на привычный компьютер. Во-первых, ИНС не имеет центрального процессора, но работает посредством обмена информацией между многими простыми процессорами («искусственными нейронами»), каждый из которых производит самостоятельные вычисления[2]. Во-вторых, ИНС умеет обучаться: когда перед ней ставят новую задачу, не требуется перепрограммировать каждый нейрон вручную. Нейроны сами меняют веса связей, соединяющих их между собой, когда оценивают степень ошибки, допущенной в процессе очередного решения.

Наконец, ИНС уже сегодня стали капиталом, причем таким, который не просто заменяет человеческий труд, но открывает принципиально новый предмет для эксплуатации. Первые ткацкие станки эксплуатировали человеческую или животную рабочую силу. Двигатель внутреннего сгорания позволил извлечь энергию, за миллионы лет накопленную древними организмами. Неэффективность их собственных энергетических систем помешала им потратить всю эту энергию самостоятельно, а потому часть ее сохранилась до сегодняшнего дня в форме нефти. ИНС же делают нечто удивительное: они извлекают прибавочную стоимость из времени, недорастраченного пользователями Интернета — людьми, в руках которых, казалось бы, лучшие современные технологии. Анализируя big data — в частности, данные о том, как люди провели время в Сети, — нейросети принимают решение о том, как пользователи Интернета будут проводить время в будущем: на какие сайты они будут заходить, среди кого они будут выбирать друзей и т.д. Возможно, впервые машина в буквальном смысле управляет человеком — даже если масштабы ее власти кажутся скромными. И если раньше рассуждения Маркса о подчинении рабочего машине могли восприниматься как метафора, то нынешние достижения ИНС дают нам повод спросить: не было ли это подчинение вполне реальным и не стало ли оно возможным благодаря тому, что капитал изначально был в чем-то подобен нейросети?

В этой статье мы попробуем смоделировать капиталистическое производство в качестве ИНС и поищем в этом эвристическую ценность[3]. В первой части статьи мы попытаемся построить нейросетевую модель капитала, каким его застали классики политэкономии. Во второй части мы будем использовать полученную модель, чтобы лучше понять те изменения, которые происходят в жизни людей, в политике и в самом капитале, когда он проникает во Всемирную паутину.

Капитал 1.0

Когда стоит задача смоделировать капиталистические отношения в качестве ИНС, первое, что приходит в голову, – это представить производителей и потребителей некоторого товара как два соседних слоя нейронов. Ниже мы увидим, что это неудачный подход, но, поскольку он напрашивается, давайте разберем его.

Вводными данными будут активации нейронов-«производителей». Они отражают количество товара, поставленного на рынок. Соответственно, вывод — это активации нейронов-«потребителей». Они могут вычисляться математической функцией, имеющей область значений в диапазоне {-1; 1}, где отрицательная активация будет означать недопотребление, положительная — перепотребление. В эти функции можно добавлять положительные и отрицательные смещения, тем самым моделируя индивидов с большими и меньшими потребностями. Вес отдельной нейронной связи будет отражать предпочтение, отдаваемое данным потребителем данному производителю в сравнении с его конкурентами. В ходе обратного распространения ошибки перепотребляющие нейроны будут понижать веса связей, соединяющих их с производителями, недопотребляющие — наоборот. «Задачей» такой сети будет полностью удовлетворить потребности, то есть достичь нулевой активации всех нейронов-«потребителей».

В качестве описания реальных отношений товарного обмена такая модель совершенно нереалистична. Главные ее проблемы следующие:

Во-первых, получается, что потребитель выбирает не между товарами, а между теми, кто их ему предоставляет. Если на основании этой модели строить шкалу предпочтений отдельного покупателя, она окажется рейтингом продавцов, ничего не говорящим о том, что именно потребитель потребляет.

Во-вторых, модель предполагает, что продавец имеет данные о предпочтениях каждого отдельного покупателя. На деле если только продавец не поставляет на рынок эксклюзивный и очень нишевый товар, то он лишен сведений об индивидуальных покупателях и знает только то, насколько хорошо расходится тот или другой товар.

В-третьих, обычно считается, что капитал нацелен не на удовлетворение потребителей, а на получение прибыли.

Все эти проблемы взаимосвязаны. Они вытекают из двух неверных посылок: во-первых, что потребители включены в структуру капитала, а потому должны быть смоделированы как отдельный слой нейронов; во-вторых, что процессоры нейросети — это обязательно люди. На деле данные об индивидуальных предпочтениях потребителей вообще не проникают внутрь рыночного метаболизма. На это обращали внимание столь непохожие друг на друга экономисты, как Карл Маркс и Альфред Маршалл[4]. Продавец вычисляет информацию о покупателе не напрямую, а опосредованно — через товар. Получаемая таким образом информация сообщает не о предпочтениях отдельных покупателей, а о кумулятивном спросе на сам товар. Расходясь с прилавка, товар кодирует предпочтения коллективного покупателя в двоичной системе, где 1 — это сбытая единица стоимости товара, а 0 — нераскупленная единица (или наоборот).

Это говорит о том, что последний слой нейронов в нашей модели должен обозначать именно товары, а не покупателей. Одновременно становится ясно, почему движение товаров от производителя к потребителю имеет смысл моделировать именно как ИНС, которая, в отличие от естественных нервных систем, – цифровая машина. Товар в его конечной точке сбыта — это рецептор всей нейросети; он оцифровывает данные, превращая предпочтения индивидуальных потребителей, неквантифицируемые по отдельности, в набор нулей и единиц.

Представим себе ситуацию, когда существует всего два производителя, два товара и два магазина, куда их привозят поставщики. Сеть товарообмена будет выглядеть, как показано на рисунке.

Нейроны p₁, p₂ — это производители. Активация каждого будет выражать его производственные издержки, нормированные в промежутке {0; 1}. g₁, g₂ — это два разных типа товаров. Функции активации этих нейронов будут линейными (предполагается, что вы получаете количество товара, пропорциональное тому, сколько средств потратили на его производство). Веса связей между первыми двумя слоями нейронов означают предпочтения производителей в пользу того или иного товара (например, если вес связи p₁g₁ вдвое больше, чем p₁g₂, это означает, что две трети издержек, понесенных p₁, пришлось на товар g₁ и одна треть — на товар g₂). Нейроны последнего слоя — это товары g₁ и g₂, поступившие в магазины m₁ и m₂. Активация каждого из этих нейронов означает затраты, понесенные магазином на закупку соответствующего товара. Цена обучающего примера будет рассчитываться исходя из разницы между этими затратами и полученной выручкой. Обратное распространение ошибки — цепная реакция рынка на прибыли и убытки, ведущая к большим инвестициям в производство более прибыльных товаров и наоборот.

В эту модель можно было бы добавить промежуточные слои нейронов, отражающие путь товара от производителя к конечной точке сбыта через всевозможных поставщиков и перекупщиков. В результате мы получили бы более «глубокую» ИНС.

Впрочем, получившаяся схема все равно не способна отразить множество вещей, которые могут происходить на реальном рынке. Это связано не только с упрощенностью модели, но и с особенностями ИНС как таковых. ИНС не может менять собственную архитектуру или функции активации своих нейронов. Все, что происходит в ее жизни, — это новые данные, которые она преобразует, гоняя их взад-вперед. На рынке же постоянно появляются новые «нейроны» (новые фирмы и товары), а другие начинают действовать более консервативно или рискованно (меняют свою «функцию активации»). Похоже, что ИНС — не такая уж и хорошая модель рынка.

Однако мы и не ставили себе задачу смоделировать рынок. Мы хотели смоделировать капитал. На рынке помимо капитала действуют и другие силы, такие как труд или природные факторы. Технические нововведения, перемены в стратегии фирм, появление новых игроков — это все труд тех, кто может или по крайней мере надеется перепрограммировать ИНС «Капитал» напрямую. Забастовки — это попытки тех, кто таких возможностей не имеет, повлиять на тех, у кого они есть. Труд по подсчету прибылей и убытков — это «железо» нейросети, ее вычислительные мощности. Труд курьеров, уборщиков, инкассаторов, дизайнеров интерьера и тренеров личностного роста — техобслуживание. Однако для самой сети труд невидим, поскольку вся информация, которую собирают и вычисляют ее нейроны, — это информация о движении капитала в одну сторону в форме издержек и в противоположную сторону в форме прибылей.

Сказанное наводит на мысль, что капитал, изображаемый такой моделью, — вовсе не онтологическая данность, помыслить конец которой сложнее, чем помыслить конец света. Напротив, можно прочертить вполне определенную границу, за которой его операции перестают иметь силу законов природы. Так, торговец, продающий товары с прилавка и в конце дня подсчитывающий прибыли и убытки, действует как элемент нейронного процессора. В этом качестве он имеет информацию лишь о собственных прибылях и о сигналах, подаваемых агентами, с которыми он торгует непосредственно. Но его существование не сводится к этому, даже внутри рыночных отношений. Например, когда он решает уйти в другой бизнес, он исходит из представления о системе в целом. Когда он придумывает новый способ раскрутки, он исходит из представления о среде, в которой эта система существует. В этих случаях он не исполняет программный код – он меняет его. Он может перепрограммировать элементы системы, потому что может выключаться из нее и воздействовать на нее извне.

Капитал 2.0

Впрочем, со времен Маркса и даже Хайека капитал менялся: появлялись новые финансовые инструменты и новые юридические формы регулирования, другие же исчезали. Возникали новые средства производства, транспортировки и коммуникации.

Однако мы полагаем, что сильнее всего капиталистические отношения изменились тогда, когда они переместились во Всемирную паутину. И, вероятно, ключевым нововведением, сказавшимся на нейросетевой структуре капитала, стало появление платформенного бизнеса, «особого типа технологических компаний, которые создают стоимость, ускоряя обмен между третьими лицами»[5]. Сюда относятся не только приложение Uber, страницы Booking или Amazon, но и такие сайты, как Facebook и YouTube, куда мы заходим, казалось бы, не для того, чтобы что-то купить. Алгоритмы машинного обучения, вшитые в такие платформы, анализируют поведение каждого отдельного посетителя, чтобы понять, что больше всего нравится именно ему. Смартфон — устройство, которое принципиально не завершено на момент покупки, потому что призвано адаптироваться к особенностям владельца[6]: это платформа платформ. Благодаря своим умным алгоритмам платформы делают то, что Маркс и Маршалл считали невозможным, — они исчисляют индивидуальные потребности.

Это приводит к переменам, достаточно существенным, чтобы говорить о появлении новой формы капитала, о своего рода капитале 2.0, который если и не имеет всемирного значения, то определенно господствует в цифровой отрасли и цифровой среде. Основные его отличия таковы:

Во-первых, если в модели, описанной в первой части статьи, товар оставлял информацию, а человек был вычислительным процессором при товаре, в цифровой среде это отношение переворачивается: предоставленный самому себе, человек оставляет в Сети информацию о посещенных страничках и лайкнутых постах, а платформы используют эту информацию, чтобы вычислять его потребности. Именно человек, а не товар становится теперь рецептором всей нейросети: на основании его «активаций» машинные алгоритмы настраивают веса бесчисленных связей, соединяющих его со страницами, разбросанными по Интернету.

Во-вторых, в среде, где любое действие автоматически превращается в информацию, возможность интерпретировать эту информацию как данные об индивидуальных предпочтениях открывает потрясающие перспективы для экспансии капитала. Мессенджеры и социальные сети оцифровывают человеческую общительность, навигаторы и приложения такси оцифровывают физическое перемещение, кнопка «оставить чаевые водителю» при ее нажатии оцифровывает нравственное чувство, а многочисленные кликбейты оцифровывают незаинтересованное благорасположение. Практически любые интенциональности сознания и даже бессознательные движения пальца по сенсорному экрану квантифицируются и перекодируются в данные о потребностях[7]. Экран смартфона становится интерфейсом жизненного мира; контекстная реклама, всплывающая на этом экране, — окном в бессознательное[8].

В-третьих, если телос традиционного капитала заключается в извлечении прибыли, то капиталу 2.0 свойственно что-то вроде диалектики прибыли и удовольствий. Алгоритмы Facebook или YouTube устроены так, чтобы сделать пребывание на этих сайтах как можно более приятным и увлекательным. Те, кто придумывал эти алгоритмы, вероятно, полагали, что большое количество Интернет-посетителей увеличит капитализацию их фирм. В этом они действовали как традиционные капиталисты (и преуспели). Но чтобы достичь этой отдаленной цели, им пришлось на каждом шагу делать нечто другое: показывать каждому пользователю те новости, которые интересны именно ему, усиленно жать на зоны удовольствия пользователей даже несмотря на то, что никакой непосредственной прибыли это не приносит. Телос прибыли на капитал теряется среди телосов удовольствия его многочисленных потребителей[9].

Увеличение капитализации Facebook или Apple — это конечная задача их нейросетей, но у этих нейросетей миллион глубоких слоев – промежуточных задач, над многими из которых работают настоящие ИНС. В этих глубоких слоях неизбежно происходят вещи, которых никто предвидеть не мог. Вот в моей ленте всплывает страничка политического движения, о котором я раньше ничего не слышал. Никто не знает, почему алгоритм решил, что именно эта страничка вызовет мой интерес. Но предположим, что я перешел по ссылке и поставил лайк. Алгоритм воспринимает это как положительное подкрепление и начинает показывать страничку «похожим» на меня пользователям (то есть тем, кто на основании анализа больших данных был отнесен в те же кластеры, что и я). И вот уже десять тысяч человек выходят на митинг, потому что сетевые платформы хотели увеличить свою рыночную стоимость.

Люди, организующиеся таким образом, — это уже не те политические субъекты, о которых говорили философы от Гоббса до Роулза. Из глубоких слоев капитала 2.0 выходит не старый добрый народ, состоящий из граждан, но «глубинный народ» 2.0, образуемый сетевыми структурами. Главным качеством, которое делало гражданина политическим субъектом, была его воля: волю можно было изъявить, проголосовав на референдуме, делегировать, наделив живого человека полномочиями суверена, или отозвать, устроив импичмент или восстание. Но воля, понятая таким образом, проявляет себя через сопротивление удовольствию, а потому внутри капитала 2.0 воля эфемерна. Тысяча просмотров или даже лайков у политического видео на YouTube — совсем не то же самое, что тысяча бюллетеней в урне.

Бюллетени были брошены в урны людьми, которые взяли паспорт, вышли из дома и отметились в избирательных листах. Может показаться, что это не такие уж большие усилия, но тем не менее они требуют пожертвовать некоторым количеством удовольствия. Поэтому политическая система, которая считает эти бюллетени, интерпретирует их как проявление воли – как голоса граждан, поддерживающих соответствующий политический курс или кандидата.

Просмотры видео в Интернете были совершены самыми разными людьми: кто-то попал на страничку случайно, кого-то привели сюда умные алгоритмы, а кто-то репостнул видео лишь для того, чтобы высказать возмущение по его поводу. Но система, считающая эти просмотры, лайки и репосты, воспринимает их исключительно как данные о полученных удовольствиях, и она будет «утяжелять» нейронные связи тех блогеров и каналов, которые получают много просмотров.

Здесь проявляется ограничение капитала 2.0, который может квантифицировать практически что угодно, но, оставаясь цифровой машиной, не может понять аналоговый смысл вычисляемых величин. Алгоритмы не ставят себе задачей вывести людей на улицы, но все-таки делают это, нечаянно создавая для индивидов такую гедонистическую цифровую среду, в которой выход на митинг предстает чем-то максимально естественным[10].

Выше мы упоминали, что капитал 2.0 переворачивает отношение между товаром и человеком: человек становится рецептором данных, а товар — их оператором. По этой причине такая система лучше всего работает с пассивными гедонистами, каждое действие которых и в самом деле сообщает об источниках их удовольствия. Хотя большинство людей не таковы, преобладание в людях гедонистических черт — это то равновесие, к которому стремится новый цифровой капитал[11]. Именно гедонист наиболее читаем для алгоритмов и именно он лучше всего откликается на создаваемые ими стимулы. Поэтому, как ни парадоксально, в Сети лучше всего политизируются самые аполитичные[12].

Но они политизируются не как «граждане», а именно как «нейроны», как элементы невидимой для них структуры, в отсутствие которой они не могут действовать политически. Выйдя на улицу, «глубинный народ» 2.0 быстро дезинтегрирует. Как правило, такие протестующие мало чего добиваются, если только политическая система не совершит какую-то глупость, напуганная простым их количеством. Но испуг проистекает из непонимания того, что перед нами здесь не столько индивиды, сколько сетевое существо, которое вне цифровой среды чувствует себя примерно так же, как речная гидра в банке с зеленкой.

Если капитал 1.0 часто представляли как циничную силу, занятую исключительно погоней за прибылью, то капитал 2.0 больше похож на странную силу, которая вечно хочет зла и вечно совершает что попало. Капитал 1.0 может быть перепрограммирован и действительно постоянно перепрограммируется, как показано в первой части статьи. Капитал 2.0 может быть взломан, на что намекает скандал с Cambridge Analytica. Если капитал 1.0 создает ложное сознание, то капитал 2.0 создает множество маленьких и больших жизненных миров, максимально отвечающих тому, что он интерпретирует как желания пользователей. Характеризовать эти миры как ложные или истинные затруднительно, да и не так важно, поскольку значение имеет не столько то, какими они предстают отдельным пользователям через интерфейсы устройств, сколько те специфические формы, которые принимает их сетевая организация[13].

Заключение

Разумеется, картина, которая у нас получилась, сильно утрирована и однобока. Купив смартфон, человек не превращается автоматически из аристотелевского «животного, наделенного речью», в датасет однобитных удовольствий. Вообще, цифровая логика капитала 2.0 не настолько автономна от человеческого аналогового мышления, как могло показаться: порой результаты, выдаваемые алгоритмами машинного обучения, на удивление недвусмысленно отражают расовые, классовые или гендерные установки людей, участвовавших в их создании и обучении[14]. Наконец, как и традиционное промышленное производство, капитал 2.0 не существует в вакууме: он находится в определенных отношениях с государством, с рынком, с природными экосистемами.

Впрочем, даже в этих отношениях зачастую проявляется его новизна. Капитал 2.0 меняет государство: оно лишается контроля над саморепрезентацией, зато получает в руки невиданные средства надзора[15]. Меняется и рынок, когда инвестиционные решения отдаются на откуп машинным алгоритмам, то есть самому капиталу. Новый цифровой капитал размывает старые границы и устанавливает новые – главным образом границу между теми, кто все больше погружается в цифровые жизненные миры, и теми, кто вынужден и дальше существовать в аналоговом мире, все более безжизненном[16].

Возможно, этот новый капитал еще не достиг своей кульминации; возможно, когда доступ к платформам станет еще проще и удобнее, когда они лучше интегрируются друг с другом, а их алгоритмы станут еще умнее, то и «глубинный народ» 2.0 покажет себя по-настоящему серьезной силой. Но чего эта сила захочет, едва ли можно узнать из книжек по политической философии или исследований общественного мнения. Скорее, за подсказками стоит обратиться к компьютерным симуляциям.