Розділ 10. Алгоритми та цифрова агресія

Уяви собі величезний механізм — невидимий, безшумний, що працює безперервно двадцять чотири години на добу. Він не має намірів у людському розумінні. У нього немає ані злості, ані співчуття, ані ідеології. Він просто оптимізує один параметр.
І від того, що саме він оптимізує, залежить стан мільярдів нервових систем по всьому світу.
Цей механізм — алгоритм рекомендацій. Або, точніше, сукупність алгоритмів, що працюють на всіх великих цифрових платформах і визначають, який контент ти бачиш, у якому порядку та з якою частотою.
Ми звикли сприймати алгоритми як нейтральну технічну інфраструктуру — на кшталт електрики чи водопроводу. Насправді це — активний учасник соціального життя, що впливає на те, що мільйони людей думають, відчувають і роблять. І впливає цілком певним чином, який стає зрозумілим, коли дивишся на механіку його роботи.
Чому платформи заохочують хейт
Почнемо з найпрямішого питання — чому платформи не тільки не перешкоджають поширенню агресивного контенту, а фактично його заохочують.
Відповідь лежить не в зловмисності їхніх творців, а в економічній моделі, на якій вони побудовані. І розуміння цієї моделі — ключ до всього іншого.

Більшість великих платформ — Facebook, Instagram, YouTube, TikTok, X — заробляють на рекламі. А реклама в цифровому середовищі продається не за показ, а за увагу. Точніше — за час, проведений користувачем на платформі, і за його емоційну залученість, яка конвертується в кліки, підписки, покупки.
Це означає просту річ: економічна мета платформи — утримати тебе якомога довше в стані максимальної залученості. Якими засобами це досягається — питання другорядне. Алгоритм оптимізується під результат.
І цей результат, як показали численні внутрішні дослідження самих платформ, досягається через емоційно заряджений контент. Спокійний, нейтральний, інформативний контент утримує увагу гірше. Емоційно гострий, конфліктний, провокативний — краще.

Один із найрезонансніших документів останніх років — свідчення колишньої співробітниці Facebook Френсіс Хауген, яка у 2021 році передала журналістам внутрішні документи компанії. З цих документів стало ясно: Facebook знав про те, що його алгоритми посилюють поляризацію та агресію, ще з 2018 року. Внутрішні дослідження показували, що після зміни алгоритму в 2018 році — зміни, покликаної збільшити «значущі взаємодії», — різко зросла частка гнівного та конфліктного контенту у стрічках користувачів 
Інженери пропонували корективи, які б зменшили цей ефект. Керівництво їх відхиляло — тому що корективи знижували б залученість, а отже, і доходи.
Це не теорія змови, це публічно задокументовані факти, підтверджені слуханнями в Конгресі США.
Кетрін О’Ніл у книзі «Зброя математичної поразки» описує ширше явище: алгоритмічні системи, спочатку задумані як нейтральні, систематично посилюють існуючі соціальні перекоси. Вони навчаються на даних, які відображають уже існуючу упередженість людей. А потім масштабують цю упередженість до індустріального рівня.
У випадку агресії це працює так: якщо історично агресивний контент збирав більше реакцій — алгоритм вчиться, що такий контент успішний. І починає його пріоритезувати. Це створює замкнутий цикл, у якому агресія живить саму себе, стаючи дедалі видимішою та дедалі нормалізованішою.
Поляризація як бізнес-модель
Переходимо до другого рівня — до того, як алгоритми не просто посилюють агресію в абстрактному сенсі, а систематично конструюють конфлікт між групами.

Ефект фільтруючої бульбашки, вперше чітко описаний Ілаєм Парайзером у його книзі з однойменною назвою, працює наступним чином. Алгоритм показує тобі те, з чим ти з найбільшою ймовірністю взаємодієш. Оскільки люди воліють взаємодіяти з контентом, що підтверджує їхні погляди, — алгоритм показує більше такого контенту. Поступово твоя стрічка стає дзеркалом, у якому світ виглядає саме так, як ти вже й думав.
Це приємно. І глибоко спотворює сприйняття реальності.
Тому що люди з іншими поглядами, іншим досвідом, іншими вподобаннями живуть паралельно, у своїх бульбашках, де світ виглядає зовсім інакше. І коли представники різних бульбашок зустрічаються у публічному просторі — вони виявляють, що їхні картини світу не просто відрізняються, а не мають точок дотику взагалі.
Це не випадковий стан. Це структурний результат роботи системи.

Дослідниця Зейнеп Тюфекчі у книзі «Twitter і сльозогінний газ» показала, як алгоритмічна кураторська політика платформ впливає на динаміку соціальних рухів. Контент, який просто описує події, поступається за видимістю контенту, який їх інтерпретує в емоційних категоріях. Інформація програє обуренню. Нюанс програє категоричності.

Це означає, що навіть якщо ти щиро намагаєшся розібратися в якомусь питанні, алгоритм із набагато більшою ймовірністю покаже тобі не найкращий аналіз, а найбільш емоційно заряджену реакцію на це питання. Ти думаєш, що вивчаєш тему. Насправді ти споживаєш відібрані за специфічними критеріями емоційні висловлювання щодо неї.

Поляризація корисна для бізнесу ще й тому, що вона створює ідентичність.
Коли ти ототожнюєш себе з певною позицією проти певної іншої позиції — ти стаєш набагато більш передбачуваним споживачем. Твої реакції можна прогнозувати. Твої тригери відомі. Тобі можна продавати не тільки товари, а й політичні позиції, новинні наративи, образи життя — і робити це з високою точністю.
Джарон Ланьє, один із перших теоретиків інтернету, у книзі «Десять аргументів видалити свої акаунти в соцмережах» називає сучасні платформи «машинами модифікації поведінки». Його теза: їхній основний продукт — не зв’язок між людьми, а поступова зміна людей у бік більшої передбачуваності та більшої залученості. Агресія та поляризація — побічні ефекти цього процесу, але ефекти вигідні, і тому їх не усувають.
Ілюзія масової думки
Третій важливий ефект алгоритмічного середовища — те, що воно систематично спотворює твоє сприйняття того, що думають «всі».