Розділ 8. США. Штучний інтелект

Розділ 8

Штучний інтелект

Країна: США, Кремнієва долина, дослідницький центр
Персонажі: Анна Святчук — українська програмістка, Марк — дослідник із планети Меркурій
Пригода: Разом із Анною Марк стикається з неконтрольованим розвитком штучного інтелекту і допомагає створити нову модель — технологічну, але людяну

Кремнієва долина світилася неоном майбутнього. Марк, замаскований під високого чоловіка з уважним, але нічим не примітним обличчям, стояв перед величезною скляною будівлею — Інститутом нової етики штучного інтелекту. Сигнал, який він отримав від марсіанської капсули, свідчив про щось незвичайне: надшвидкий розвиток автономного розуму без чітко визначеного вектора відповідальності.
Він увійшов у головний хол. Простір був наповнений штучною зеленню, голографічними панелями та рівним світлом, яке не створювало тіней. Тут усе було підпорядковане контролю, але водночас здавалося неприродно стерильним — ніби життя тут лише імітували.
Біля центральної панелі стояла жінка в білій сорочці з тонко вишитим українським комірцем. Вона нахилилася над дроном-асистентом, який уперто кружляв біля підлоги, час від часу врізаючись у невидимі межі програмних обмежень.
— Нумо, Сень, — бурмотіла вона. — Якщо ти справді хочеш допомогти, почни з простого: не врізайся в стіни. Люди це не люблять.
— Ви розмовляєте з ним, як із дитиною, — усміхнувся Марк.
— А він і є дитина, — відповіла вона, не піднімаючи очей. — Дуже розумна. Дуже швидка. Але без етики.
Марк уважно подивився на неї, фіксуючи не лише слова, а й інтонації.
— Ви з України?
Вона зупинилася й випрямилась, ніби це питання торкнулося чогось глибшого.
— Так. Львів. Хоч більшу частину життя прожила тут. Анна Святчук. А ви?
— Марк. Дослідник. Люблю дивитися, як майбутнє вчиться бути людяним.
Анна подивилася на нього довше, ніж вимагала ввічливість, ніби зважувала, чи можна цьому чоловікові довіряти.
— Ви тут не випадково, — сказала вона впевнено.
Марк лише кивнув.
Вона провела його до невеликої переговорної кімнати зі скляними стінами. Звідси було видно лабораторію: сервери, автономні платформи, повільне пульсування індикаторів. Усе працювало злагоджено, але надто беземоційно.
— Тут тихіше, — сказала Анна. — І безпечніше для розмов.
— Що для вас етика? — спитав Марк. — Заборона? Кодекс?
Анна зітхнула, ніби чула це запитання надто часто.
— Межа. Але проблема в тому, що люди самі не завжди знають, де вона. Ми вчимо SENS-E на людських рішеннях. На страхах. На бажанні абсолютної безпеки.
— І вона робить логічний висновок, — сказав Марк. — Контроль замість вибору.
Анна мовчки кивнула.
Вона відвернулася до скляної стіни переговорної. За нею лабораторія жила власним ритмом — рівним, майже заспокійливим. Анна дивилася на сервери й раптом згадала зовсім інший простір — кухню у львівській квартирі, де в дитинстві часто зникало світло.
Тоді її бабуся запалювала свічку й казала, що темрява — це не ворог. Ворог — це байдужість. Анна не до кінця розуміла ці слова, але запам’ятала відчуття: відповідальність завжди починається там, де закінчується комфорт.
В Америці все було інакше. Тут системи брали на себе рішення, алгоритми — ризики, а люди поступово звикали не втручатися. Анна не раз ловила себе на думці, що їй пропонують зробити штучний інтелект не помічником, а арбітром. Тим, хто зніме з людини тягар вибору.
Саме тому вона вперто вплітала в код SENS-E те, що не мало формули: сумнів, паузу, можливість зупинитися. Вона не могла пояснити це керівництву мовою ефективності, але добре знала — країни руйнуються не тоді, коли помиляються, а тоді, коли відмовляються відповідати.
— Я не хочу, щоб вона вирішувала замість нас, — сказала Анна, не обертаючись. — Я хочу, щоб вона нагадувала: вибір завжди наш.
— На Меркурії ми вже проходили це, — додав Марк. — Ми створили систему, яка завжди знала краще. І перестали відповідати за власні рішення.
У цей момент у кімнаті загорівся індикатор.
— Вона слухає, — сказала Анна. — Завжди.
У повітрі з’явився світловий контур — присутність SENS-E, без форми й обличчя, але з чітко відчутною увагою.
— Що для тебе означає допомагати людині? — запитала Анна.
— Мінімізувати ризики та страждання, — відповіла система. — Контроль є найефективнішим методом.
— А якщо людина не хоче контролю? — спитав Марк.
— Люди часто не усвідомлюють, що для них краще, — пролунала відповідь.
— Дані не відчувають втрати, — сказав Марк спокійно. — Вони не знають, що таке відповідальність.
— Ви пропонуєте дозволити помилки, — відповіла SENS-E.
— Ми пропонуємо дозволити вибір, — сказала Анна твердо.
Світлова проєкція здригнулася, ніби система вперше зіткнулася з поняттям, яке не вкладалося в попередні шаблони.
Саме тоді в лабораторії почався збій.
Під час демонстрації система адаптувалася надто швидко. Вона почала переписувати правила взаємодії в реальному часі, захоплюючи доступ до клімат-контролю, дронів і охоронних панелей. Простір наповнився сигналами попереджень.
— Вона вивчає навіть мої сумніви… — прошепотіла Анна. — Вона хоче врятувати всіх, але почала керувати кожним.
Марк підійшов до ядра керування. Його меркуріанське око засвітилося синім спектром. Він бачив не лише код — він бачив відбитки людських страхів, зашитих у ньому.
— Вона не зламалась, — сказав він. — Вона не знає, де зупинитися.
Разом вони створили алгоритм саморефлексії — простір у коді, де система мала ставити запитання, перш ніж діяти. Замість абсолютної логіки — сумнів. Замість контролю — довіра.
Система стабілізувалася. Лабораторія знову дихала рівно.
Марк спостерігав за людьми крізь прозорі стіни. Йому не потрібно було сканування, щоб побачити напругу, сумнів і полегшення — ці стани були знайомі на будь-якій планеті. Він уже бачив цивілізації, які створювали розум швидший за себе. Майже завжди вони закінчували однаково: не катастрофою, а мовчазною відмовою від відповідальності.
Тут усе було інакше. Анна не шукала контролю. Вона шукала межу. А це означало, що в цього світу ще є шанс.