Коли алгоритм вирішує, хто тут людина
Я знову повертаюся до цієї теми не тому, що мені бракує інших приводів для розмови. Просто мене справді обурює те, що зараз починає відбуватися в письменницькому середовищі.
Мене обурює не сам ШІ. ШІ — це інструмент, факт і вже частина нашого життя. Мене обурює легкість, із якою навколо нього починають будувати нові плашки, нові підозри, нові способи ділити авторів на “правильних” і “неправильних”.
Я дуже дорожу правом вибору. Тим самим правом, яке людина отримала ще в Едемі. Правом не ковтати піднесений плід автоматично. Правом подивитися на нього, засумніватися, подумати, поставити питання і вже тоді вирішити, брати його чи ні.
І саме тому я не хочу знову ставати на граблі Адама — приймати те, що мені підносять, без сумніву й осмислення. Навіть якщо цього разу плід подають не зі зміїним шепотом, а з дуже сучасною плашкою, алгоритмом і словами про “турботу про читача”.
Одразу зніму дешевий закид: ні, я не прирівнюю перевірку текстів до расизму, антисемітизму, релігійних переслідувань чи будь-яких історичних трагедій.
Не плутайте масштаб із механізмом.
Я говорю про інше. Про стару людську звичку вигадувати новий ярлик, після якого людину вже можна не читати, не чути й не оцінювати по суті. Достатньо поставити позначку — і все. Далі працює не текст, не думка, не читач, а етикетка.
Колись людей ділили за кольором шкіри, походженням, вірою, класом, паспортом, мовою, політичними поглядами. Завжди знаходилась якась дуже зручна ознака, за якою можна було пояснити, чому одні “нормальні”, а інші — ні.
Тепер у літературному середовищі з’являється нова мітка: “синтетик”.
Звучить майже стерильно. Навіть технологічно. Не образа, ніби. Не вирок. Просто позначка. Просто турбота про читача. Просто система щось там “виявила”.
Але механізм підозріло знайомий.
Спершу з’являється ярлик. Потім — сортування. Потім — обмеження видимості. Потім — пояснення, що це не дискримінація, а боротьба за якість. А ще трохи пізніше всі звикають, що є “справжні” автори і є автори з приміткою. Тобто наче теж автори, але вже не зовсім.
Можна зрозуміти страх людей, для яких швидкість ШІ виглядає не інструментом, а вироком професії. Цей страх не вигаданий. Він справжній. Бо технології не питають дозволу в професій, які змінюють або роблять зайвими.
Ми вже проходили це багато разів.
В Англії ремісники палили фабрики, бо механізація забирала в них роботу або здешевлювала її. Зникали професії, які здавалися вічними. Телефонні операторки. Машиністки. Набірники тексту у видавництвах. Художники афіш у кінотеатрах. Багато ремесел, які колись годували людей, просто перестали бути потрібними в старому вигляді.
Професійні фотографи теж колись могли думати, що їхнє ремесло захищене майстерністю, оптикою, хімією, темною кімнатою, досвідом. Потім прийшла цифрова камера. Потім смартфон. І виявилося, що фотограф як людина з поглядом не зник. А от фотограф як людина, яка просто має апарат і вміє натискати кнопку, — майже зник.
Так само казали: театр не вб’є літературу. Кіно не вб’є театр. Телебачення не вб’є кіно. Інтернет не вб’є телебачення. І формально всі мали рацію. Нічого не вмерло остаточно. Усе ще дихає, продає квитки, збирає своїх поціновувачів і часом навіть народжує шедеври.
Але є маленьке “але”.
Коли нова технологія не вбиває стару форму, вона часто забирає в неї центр світу. Не вбиває — але переселяє з площі в клуб за інтересами. Не знищує — але змінює вагу, ціну, роль і кількість людей, яким це ще потрібно.
Не все, що вижило, залишилося головним.
Тепер це сталося з текстом.
ШІ не обов’язково вб’є письменництво. Але він уже вбиває монополію людини на виробництво пристойно складеного тексту. І тому справжнє питання вже не в тому, хто вміє складати речення. Питання в тому, хто має думку, за яку готовий відповідати.
Ми дійшли майже до краю можливого — до формування думки.
Раніше машина замінювала силу рук, швидкість рахунку, точність копіювання, механічну пам’ять, технічне виконання. А тепер вона підійшла до того, що людина довго вважала своєю останньою цитаделлю: до здатності формулювати світ словами.
І саме тому страх став майже релігійним.
Бо якщо машина може складати речення, людина раптом починає боятися, що її саму сплутають із машиною.
Але тут і починається головна підміна.
Що сьогодні вважається доказом “синтетичності”? Рівне речення? Відсутність помилок? Правильна розстановка слів? Логічна структура? Текст, який не розсипається на кожному третьому абзаці?
Тобто ми дожили до моменту, коли грамотність стала не перевагою автора, а підозрою проти нього?
Раніше автора сварили за помилки. Тепер його можуть запідозрити через їхню відсутність. Прекрасний прогрес: ми так довго вчили людей писати грамотно, що тепер грамотний текст доводиться виправдовувати.
Грамотність не є доказом штучності.
Безпорадність не є доказом людяності.
Якщо завтра автори почнуть навмисно залишати кострубаті фрази, помилки й стилістичні вибоїни, щоб пройти перевірку на “людяність”, значить ми не захистили літературу. Ми просто навчили її маскуватися під недбалість.
Бо добре відредагований людський текст не стає машинним лише тому, що він чистий. Так само як поганий текст не стає людяним лише тому, що в ньому кульгають коми.
Інструмент, який допомагає причесати текст, не є автором думки.
Калькулятор не стає математиком. Камера не стає режисером. Текстовий редактор не стає письменником. І ШІ не стає автором там, де людська думка, біль, досвід, пам’ять, інтонація й позиція народили текст.
Це якби в шістдесятих роках комусь забракували дисертацію не тому, що розрахунки неправильні, а тому, що він користувався калькулятором замість логарифмічної лінійки.
Не результат неправильний. Інструмент у руках автора комусь здався неправильним.
І особливо важливо: сам факт використання ШІ не є ні злочином, ні моральним тавром. Це не контрабанда, не заборонена речовина і не таємна угода з нечистою силою. Навпаки — ці інструменти щодня вбудовують у смартфони, браузери, поштові сервіси, редактори, месенджери й застосунки саме під гаслом: “ми полегшуємо вам життя”.
ШІ активно розробляється не для того, щоб зробити людину винною, а для того, щоб допомогти їй швидше, точніше, зручніше й інколи навіть людяніше взаємодіяти зі світом.
Уже сьогодні людина може попросити ШІ допомогти сформулювати відповідь співрозмовнику, скоротити лист, перекласти повідомлення, прибрати помилки, зробити тон м’якшим або чіткішим.
І що тепер? Роботодавцю звільнити працівника, бо він відповів на діловий лист із допомогою ШІ? Батькам відмовитися від дитини, бо вона написала не різко, не з нервами, не з тієї поганої хвилини, у якій перебувала, а спокійніше й людяніше?
Іноді ШІ не підміняє людину. Іноді він просто не дає людині сказати гірше, ніж вона насправді думає.
Абсурд починається там, де звичайний інструмент, який суспільство масово приймає в побуті, в літературі раптом перетворюють на доказ “неповноцінності” автора.
Якщо ШІ допоміг людині сказати її власну думку точніше, це не підміна автора. Це новий різновид редакторського інструмента. Питання не в тому, чи торкався текст інструмента. Питання в тому, хто є джерелом думки.
Я не беруся вирішувати за читача, що саме він має право читати, а що ні. Якщо йдеться не про новини, не про точні науки, не про медичну чи юридичну інформацію і не про пряму інструкцію до реальної шкоди, тоді остаточний вибір має залишатися за тим, хто бере текст у руки.
Хтось читає Біблію. Хтось — ЛаВея. Хтось шукає високої літератури, хтось — сороміцьких історій, хтось — темних, незручних або навіть огидних текстів. Це не завжди подобається. Це не завжди хочеться схвалювати. Але література не існує тільки для того, щоб підтверджувати мій особистий смак.
Я можу мати свою думку про текст. Можу сказати: лайно. Можу сказати: ніщо. Можу сказати: шедевр. Але це моя оцінка після читання, а не плашка перед читанням.
Я говорю про ситуацію, коли людину починають таврувати не за доведений факт, а за підозру. Не за відсутність думки, а за те, що речення здалося алгоритму надто рівним, надто чистим, надто структурованим.
Ознака — це не доказ.
“Схоже” — це не доказ.
“Система визначила” — це не доказ, якщо система не може чесно пояснити, де саме текст перестає бути людським і стає “синтетичним”.
У літературі взагалі немає лабораторного аналізу на душу.
Є тільки одна справжня перевірка: читач повірив тексту чи ні.
Саме тексту. Не автору.
Бо часто читач спершу купував книжку за обкладинкою, за жанром, за настроєм, за випадковим імпульсом. Читав кілька глав, зупинявся, дивився на обкладинку й думав: “От пише, зараза… Цікаво, хто це?”
І тільки тоді для нього народжувався автор.
Не з біографії. Не з плашки. Не з довідки про походження тексту. А з самого тексту.
Не ім’я освячує текст. Текст відкриває ім’я.
Справжнього автора читач знаходить не до читання, а після того, як текст уже зробив із ним свою роботу.
А плашка працює навпаки.
Вона каже читачеві ще до читання: “Обережно. Тут, можливо, не зовсім людина”.
Тобто читачу підсовують не текст, а попередній вирок щодо тексту. Його не запрошують пережити, повірити, роздратуватися, закохатися, кинути книжку чи дочитати до ранку. Йому спершу дають етикетку.
А література так не працює.
Література починається не з сертифіката походження. Не з відмітки про “органічність”. Не з алгоритмічного дозволу вважати текст живим. Вона починається з рядка, абзацу, сцени, інтонації.
Текст або бере за горло, або не бере.
Якщо бере — він відбувся.
Якщо не бере — не допоможе ні людський паспорт автора, ні клятва, що під час написання поруч не стояв жоден алгоритм.
І тут варто сказати ще одну неприємну річ.
Питання навіть не в тому, чи треба боротися з обманом. Бо художня література сама по собі побудована на дивному, прекрасному й добровільному обмані. Ми читаємо книжки саме тому, що хтось робить те, на що ми самі не здатні: вигадує світ, якого не було, людей, яких не існувало, біль, якого ми особисто не пережили, але раптом упізнали як свій.
Ми дивимося кіно, знаючи, що кров не справжня, смерть не справжня, поцілунок часто теж не зовсім справжній, а місто на екрані може бути павільйоном. І все одно віримо — або не віримо.
Якщо це не новини, не точні науки, не медична інструкція, не юридичний документ і не інформація, від якої залежить реальне рішення людини, тоді вибір має бути за читачем.
Він або скаже: “Нє верю!” — і викине книжку в смітник, або розпалюватиме нею котел, або поставить на полицю й триматиме дітям у придане.
У художньому тексті читач не вимагає сертифіката реальності. Він вимагає одного: щоб текст витримав його внутрішнє “вірю / не вірю”. А це не може вирішити плашка. Це може вирішити тільки читання.
І ось тут найнеприємніше.
Коли ШІ справді навчиться писати так, що читач йому повірить, ніяка плашка вже не врятує старий світ.
Бо людина не обов’язково піде купувати книжку. Вона сяде перед гаджетом і скаже: “Розкажи мені історію на ніч. Сьогодні я не маю сили читати щось чуже. Проскануй мій щоденник, пошту, соцмережі, мої мовчання, мої страхи, мої недоговорені розмови й дай мені саме те, що сьогодні торкне мій нерв”.
І ШІ дасть.
Не загальну історію. Не книжку для всіх. Не роман, який треба шукати, купувати, відкривати, впускати в себе. А персональну історію під конкретну втому, конкретну самотність, конкретний вечір, конкретну тріщину в душі.
ШІ не обов’язково вб’є книжку. Він може зробити страшніше — навчити читача не шукати автора, а замовляти власне емоційне дзеркало.
І тоді справжнє питання буде вже не в тому, хто склав речення.
Питання буде в тому, чи ще хоче читач зустрічі з чужою живою думкою, якщо машина може нескінченно обслуговувати його власну.
Бо людська література не завжди дає те, що читач замовив. Вона часто дає те, чого він не хотів знати про себе. Вона може не заспокоїти, а розворушити. Не обслужити нерв, а розітнути його. Не погладити по голові, а змусити подивитися туди, куди він сам не хотів дивитися.
У цьому й різниця.
ШІ знатиме, чим мене задовольнити.
Людський автор іноді знає, чим мене поранити так, щоб я став чеснішим перед собою.
Але для цього читачеві треба дати шанс зустрітися з текстом. Не з плашкою. Не з підозрою. Не з алгоритмічним шепотом: “Це, можливо, синтетик”. А саме з текстом.
Єдиний справжній доказ у літературі — чи читач повірив тексту.
Питання в тому, чи маємо ми право підміняти читання маркуванням.
Чи має безособова система право переводити людину з категорії “автор” у категорію “синтетик”, якщо вона не довела факту підміни авторства?
Чи може рівне речення бути доказом вини?
Чи може відсутність помилок стати причиною підозри?
Чи може інструмент, який щодня вбудовують у наші телефони, браузери, пошту й месенджери, раптом ставати клеймом лише тоді, коли ним скористався автор?
Чи не перетвориться боротьба з ШІ на боротьбу з грамотністю, редактурою і чистим стилем?
Чи не почнемо ми спеціально псувати тексти, щоб вони здавалися “людянішими”?
І головне: чи не занадто рано ми почали ділити авторів на “справжніх” і “синтетичних”, якщо самі ще не можемо чесно пояснити, де між ними межа?
Мені здається, ми зараз стоїмо перед дуже небезпечною спокусою.
Не перед ШІ. ШІ — це вже факт.
Ми стоїмо перед спокусою знайти просту плашку для складної епохи.
А прості плашки завжди небезпечні. Бо вони економлять людям найважчу роботу — думати, читати, відчувати, сумніватися й робити власний висновок.
Текст не просить вірити автору.
Текст просить одного: прочитай мене.
А вже після цього вирішуй — повірив ти чи ні.
1 коментар
Щоб залишити коментар, увійдіть в обліковий запис
УвійтиЦікавий блог. Написано гостро і по суті. Ви вмієте піднімати складні теми так, що це чіпляє з першого абзацу. Приємно бачити автора з такою якісною мовою та чіткими думками. Успіхів вам!
Сергій Більцан, Дякую. Але хотілося б чути Вашу думку з цього приводу.
Якщо не важко! :)
Видалення коментаря
Ви дійсно хочете видалити повідомлення?
Видалити СкасуватиКоментар буде видалено назавжди.
Блокування коментування
Ви дійсно хочете заборонити можливість коментування?
Заборонити Скасувати