Я впервые выступил на TED еще в 1980 году, проведя тогда один из самых первых публичных показов виртуальной реальности со сцены TED. Уже в то время мы понимали, что наше будущее на волоске, что технология, в которой мы нуждались, технология, которую мы обожали, могла нас погубить. Мы знали, что если превратим технологию в средство для достижения власти, если используем ее в погоне за властью, мы неминуемо себя уничтожим. Так случается всегда, когда гонишься лишь за властью, не думая ни о чем другом.
Так вот идеализм цифровой культуры того времени заключался в том, чтобы, осознав эту потенциальную угрозу, попытаться превозмочь ее силой красоты и творчества.
Свои ранние выступления на TED я, как правило, заканчивал пугалкой: «Перед нами сложная задача. Мы должны создать вокруг технологий культуру, которая своей красотой, смыслом, глубиной, бесконечностью творчества, своим бескрайним потенциалом смогла бы уберечь нас от массового самоубийства». Мы говорили в том же ключе о вымирании как о необходимости создания прекрасного, бесконечно творческого будущего. И я до сих пор верю, что творчество и есть совершенно реальная и верная альтернатива гибели, возможно, самая реальная из всего, что у нас есть.
Что же касается виртуальной реальности… Я говорил о ней так, как будто она станет чем-то вроде языка в момент его возникновения. С языком открылись новые возможности, новая глубина, новый смысл, новые пути сближения, новые пути сотрудничества, новые подходы к воображению и воспитанию детей. И мне представлялось, что виртуальная реальность станет тем нововведением, которое будет напоминать диалог и в то же время походить на осознанные сны наяву. Мы называли ее пост-символическим общением, при котором можно непосредственно воссоздавать то, что испытываешь, вместо того, чтобы косвенно выражать все через символы.
Это было прекрасной идеей, в которую я верю до сих пор, но у этой прекрасной идеи была та самая обратная сторона, которой все могло обернуться.
Тут я хотел бы упомянуть одного из первых ученых-информатиков по имени Норберт Винер, который еще в 50-е годы, то есть до моего рождения, написал книгу, озаглавленную «Человеческое использование человеческих существ». В той книге он описал создание гипотетической компьютерной системы, которая собирала бы данные о людях и в реальном времени посылала бы этим людям ответные сигналы, с тем чтобы держать их, хотя бы частично, статистически, в эдаком ящике Скиннера, в бихевиористской системе. У него есть удивительные строки, где он пишет, что в качестве мысленного эксперимента можно представить — я перефразирую, это не цитата — можно представить себе глобальную компьютерную систему, в которой каждый постоянно носит при себе некие приборы, подающие людям сигналы в зависимости от того, что они делают, и все население в той или иной мере подвергается корректировкам поведения. Такое общество было бы безумным, неспособным к выживанию, к решению собственных проблем.
Он добавляет, что это всего лишь мысленный эксперимент и что подобное будущее технологически нереализуемо.
Тем не менее, это именно то, что мы создали и что нам теперь нужно пересоздать ради собственного выживания. Так вот…
На мой взгляд, мы совершили вполне определенную ошибку, и случилось это в самом начале, и понимание этой ошибки поможет нам ее исправить. Это произошло в 90-х годах, на рубеже веков, и заключалось оно в следующем. Ранней цифровой культуре — да и цифровой культуре по сей день — было присуще несколько, я бы сказал, левое, социалистическое ви́дение, что в отличие от других изобретений, таких как книги, все в интернете должно быть открытым, должно быть в бесплатном доступе, потому что если кто-то не сможет за это платить, возникнет ужасающее неравенство. Однако это решается и другими способами. Раз книги стоят денег, существуют публичные библиотеки. И тому подобное. Но мы думали: нет, нет, нет, это будет исключением. Пусть это безоговорочно станет всеобщим достоянием, мы так хотим.
И эта идея продолжает жить. Она нашла воплощение в таких проектах, как Wikipedia и многих других. Но в то же время мы с равным энтузиазмом придерживались другой идеи, совершенно несовместимой с первой, которая выражалась в нашей любви к технарям-предпринимателям. Мы были влюблены в Стива Джобса, влюблены в ницшеанский миф о технаре, который продырявит Вселенную. Понимаете? И эта мистическая сила все так же властвует над нами. Так вот, есть два различных стремления: к тому, чтобы сделать все бесплатным, и к почти сверхъестественной власти технаря-предпринимателя. Как же быть предпринимателем, когда все бесплатно?
Единственным на тот момент решением был бизнес, основанный на рекламе. Таким образом родился Google — бесплатный, но с рекламой, родился Facebook — бесплатный, но с рекламой. И поначалу это было даже мило, пока Google был в младенчестве.
Тогда реклама действительно была рекламой, вроде адреса ближайшего зубного и тому подобного. Но существует такая вещь, как закон Мура, согласно которому компьютеры становятся все эффективнее и дешевле. Их алгоритмы улучшаются. Люди уже изучают их в университетах, и они становятся все лучше и лучше. А потребители и организации, пользующиеся этими системами, накапливают все больше опыта, становясь все умнее и умнее. И то, что началось с рекламы, больше уже рекламой не назовешь. Она превратилась в метод влияния на поведение, как того опасался Норберт Винер.
И я больше уже не могу называть это социальными сетями. Я их называю империями по контролю поведения.
При этом я отказываюсь конкретно кого-либо обвинять. У меня в этих компаниях хорошие друзья, я сам продал Google фирму, хотя считаю его одной из таких империй. Я не думаю, что тут дело в плохих людях, которые совершили злодеяние. Я думаю, что речь скорее о глобальной, трагической, поразительно нелепой ошибке, чем о злонамеренных действиях.
Позвольте, я остановлюсь поподробнее на механизме работы этой ошибки. В бихевиоризме вы даете существу, будь то крыса, собака или человек, маленькие поощрения, а иногда и наказания в ответ на их действия. Например, животному в клетке дают сладости или ударяют его током. Но в случае со смартфоном реакция поступает в виде символических наказаний и поощрений. Павлов, один из ранних бихевиористов, продемонстрировал этот знаменитый принцип: у собаки можно вызвать слюну в ответ на звонок, то есть на символ. Так вот в социальных сетях социальные наказания, социальные поощрения играют роль наказаний и подкреплений. Всем известно, что мы при этом чувствуем. Вы чувствуете подъем: «Кто-то лайкнул мой пост и перепостил его». Или же расстраиваетесь: «О Боже, я им не нравлюсь, наверно, кто-то популярнее меня, ах, какой ужас». И вы поочередно испытываете два эти чувства, дозированные таким образом, что вы попадаете в замкнутый круг. И как уже было во всеуслышанье признано многими основателями этой системы, все были в курсе того, что происходит.
Но вот в чем дело: традиционно при академическом подходе к изучению поведения сравнивается влияние положительных и отрицательных стимулов. А в данном контексте, в коммерческом контексте, акцент делается на ином различии, которое долго не учитывалось в академических исследованиях, — это различие в том, что какими бы эффективными ни были в различных ситуациях положительные стимулы, отрицательные стимулы дешевле. Именно они определяют исход сделки. То есть, другими словами, намного легче потерять доверие, чем обрести доверие. Нужно очень много времени, чтобы создать любовь, и очень мало времени, чтобы ее уничтожить.
И вот потребители этих империй по воздействию на поведение попадают в скоростной круговорот. Почти как сверхскоростные трейдеры. Они получают отклик на свои затраты или какую-то другую деятельность, если это не инвестиции, и сразу видят, что работает, и делают на этом упор. И так как отклик незамедлителен, получается, что по большей части они реагируют на негативные эмоции, потому что именно такие эмоции возникают быстрее, так? Таким образом даже самые благонамеренные участники, уверенные, что они всего лишь рекламируют зубную пасту, в результате продвигают интересы озлобленных людей, негативных настроений, фанатиков, параноиков, циников и нигилистов. Именно их голоса усиливаются системой. И нельзя заплатить одной из этих компаний, чтобы она изменила мир к лучшему и укрепила демократию, а заплатить, чтобы она их разрушила, — можно. Вот в какую проблемную ситуацию мы себя загнали.
У нас есть альтернатива: огромным усилием повернуть время вспять и пересмотреть свое решение. Пересмотр будет означать две вещи. Во-первых, многие люди, которые могут себе это позволить, начали бы платить за пользование. Вы бы платили за поиск, вы бы платили за соцсети. Каким образом? Например, через абонентские взносы или через разовые оплаты по мере пользования. Вариантов достаточно. Возможно, кто-то из вас возмущается и думает: «Ну, знаете, я не стану за это платить. Да и кто вообще захочет платить?» Так вот, я хочу напомнить вам об одном недавнем случае. Примерно в то же время, когда компании вроде Google и Facebook формировали свой принцип бесплатности, во многих кибер-кругах также верили, что в будущем то же самое произойдет с телевидением и кино, что они уподобятся Wikipedia. Но тогда компании вроде Netflix, Amazon, HBO сказали: «Вообще-то, давайте подписывайтесь. Мы обещаем вам классные программы». И это сработало! Мы находимся сейчас на так называемом «телевизионном пике», так ведь? Иногда, если за что-то заплатить, оно становится лучше.
Мы можем вообразить эдакий мир «пика социальных сетей». Как бы это выглядело? Это означало бы, что, зайдя туда, вы могли бы получить совет от настоящего доктора, а не маньяка. Это означало бы, что, зайдя туда в поисках правдивой информации, вы не получите кучу немыслимых параноидальных теорий заговора. Можно представить себе эту замечательную возможность. Ах. Я мечтаю об этом. Я верю, что это возможно. Я уверен в том, что это возможно. И я уверен, что компании — Google, и Facebook, и им подобные — от этого только выиграют. Я не считаю, что нужно наказать Кремниевую долину. Нам просто нужно пересмотреть то решение.
Среди крупных технологических компаний только две по-настоящему зависят от поведенческих манипуляций и слежки в качестве своего бизнес-плана. Это Google и Facebook.
И я обожаю вас, ребята. Нет, серьезно, люди там фантастические. Я просто хочу сказать, если позволите, взгляните на Google: со всеми этими фирмами они могут до бесконечности множить центры затрат, но не центры прибыли. И изменить это они не могут, потому что сами на это подсели. Они подсели на эту модель так же, как и их пользователи. Они в той же ловушке, что и их пользователи, а так нельзя управлять крупной корпорацией. Так что в конечном счете это в интересах как акционеров, так и других заинтересованных в этих компаниях сторон. При таком решении выигрывают все. Просто нужно время, чтобы его обдумать. Нужно разобраться во многих деталях, но все абсолютно достижимо.
Я думаю, что мы не выживем как вид, если этого не исправим. Мы не можем жить в обществе, где общение между двумя людьми возможно исключительно при условии его финансирования третьим лицом, желающим ими манипулировать.
А в ожидании того, пока эти компании изменятся, удалите свои аккаунты, ладно?
У меня пока все. Большое вам спасибо.
ABOUT THE SPEAKER
Джарон Ланье
Учёный в области визуализации данных и биометрических технологий, автор термина «виртуальная реальность», футуролог, популяризатор, композитор, концептолог, философ, диджерати
