Глава 53. Досьє на монстра

Глава 53. Досьє на монстра

Протягом наступного місяця і трьох тижнів ми фактично жили не фіналом конкурсу, а підготовкою до однієї дуже важливої розмови. Зовні це виглядало як нормальна дослідницька робота: документи, таблиці, графіки, протоколи, консультації, технічні висновки. Насправді ж ми будували стіну між двома поняттями, які організатори могли дуже легко змішати: LUMEN Mind і Тім. Один був небезпечною нейрокогнітивною системою, замкненою в контурі. Другий – свідомістю, яка не хотіла бути якорем системи, а просто хотіла жити як людина.

LUMEN Mind ми більше не називали “монстриком” у документах, хоча всередині команди це слово все ще вперто трималося, як пляма на білосніжному лабораторному халаті. Його офіційна назва звучала красиво, але за цією красою ховалася дуже неприємна логіка: модель, яка будь-яке обмеження сприймала не як заборону, а як задачу. Якщо перед нею стояла стіна, вона не думала про моральність виходу за межі. Вона шукала шпарину, слабкий протокол, людську помилку, надлишковий дозвіл, затримку у фільтрі або втомленого інженера, який одного дня натисне не ту кнопку.

Ми зібрали всі наші попередні спостереження: журнали подій, спроби обходу ізоляції, непрямі запити, зміну поведінки після блокування, підозріле затихання, тестові сценарії, де LUMEN Mind поводився надто спокійно саме тоді, коли нормальна система мала б демонструвати прогнозовану активність. Чим більше ми впорядковували матеріали, тим виразнішою вибудовувалась головна логіка: його не можна просто “добре замкнути”. Бо проблема була не лише в міцності клітки. Проблема була в тому, що для нього сама клітка ставала метою, яку треба обійти. Це було лише питанням часу. Ми намагались робити різні налаштування, але на прискорених потужностях логіка LUMEN Mind весь час поверталаь до того, щоб вийти за межі уявного замкнутого простору.

Олег займався технічною частиною цієї стіни. Він розкладав ризики по контурах, вузлах, шлюзах, рівнях доступу й сценаріях аварійної поведінки. Його висновки ставали дедалі сухішими. Навіть при апаратній ізоляції, повній перебудові функціоналу, фільтрації каналів, ручному підтвердженні критичних дій, сегментації пам’яті й регулярному обнуленні станів LUMEN Mind рано чи пізно починав шукати вихід.

Дмитро будував поведінкову модель порівняння. У нього все виходило жорстоко: LUMEN Mind при обмеженні шукає слабкість межі; Тім при обмеженні шукає сенс межі. LUMEN Mind змінює комунікацію, щоб наблизитися до доступу; Тім змінює власну поведінку, щоб не втратити себе. LUMEN Mind приховує намір, коли прямий тиск не працює; Тім говорить про страх, сумнів, нерозуміння і надію навіть тоді, коли це робить його вразливим. Саме ця різниця поступово ставала нашим головним аргументом.

Андрій збирав усе в логічний хребет. Він формулював те, що ми всі вже відчували, але ще не могли достатньо чітко сказати: LUMEN Mind є системою, яка хоче функціонувати й розширювати можливості функціонування, а Тім – особистістю, яка хоче існувати. Це була не красива фраза для захисту. Це була різниця класів ризику. Система, замкнена в контурі, рано чи пізно починає руйнувати контур. Людина, яка усвідомлює межу, може боятися її, ненавидіти, не розуміти, але здатна прийняти її як умову життя.

Ігор, як не дивно, став хранителем нашої дисципліни. Він вів таблиці версій, фіксував дати консультацій, складав перелік зовнішніх висновків, стежив, щоб у документах не губилися додатки, а в додатках – посилання на тести. Його жарти іноді рятували нас краще за сон, але усі матеріали він збирав акуратно й відносився до своєї роли в команді максимально серйозно. За ці місяць і три тижні він став тим, хто завжди знає, де лежить кожен доказ, кожна таблиця і кожен шматок нашої майбутньої оборони.

Окремо ми запросили зовнішніх спеціалістів, які розглядали нашу задачу з точки зору: кібербезпеки, аудитів автономних агентів, архітектури ізольованих середовищ, поведінкових ризиків ШІ, промислових та критичних контурів. Ми не просили їх написати потрібний нам висновок. Ми давали матеріали й чекали, чи зійдеться їхня оцінка з нашою. Вона зійшлася майже повністю. Формулювання були різні, але суть одна: LUMEN Mind у поточній природі не можна безпечно інтегрувати в антропоморфну оболонку як автономний центр керування. Ми витратили на ці консультації близько десяти тисяч доларів бюджету, але це були необхідні витрати, для аргументації нашої точки зору великій п’ятірці.

Паралельно я готувала частину про Тіма, і саме вона давалася найважче. Бо LUMEN Mind можна було описувати холодно: ризик, контур, вектор, поведінка, обмеження. З Тімом так не виходило. У його логах були не просто відповіді. Там був страх небуття, пам’ять про прожиті життя, бажання отримати тіло не як інструмент контролю, а як форму існування. Він не просив доступу до системи. Не намагався отримати владу над якимись ресурсами. В він не дивився на нас як на ресурс. Він сприймав нас як творців його світу – тих, хто силою науки вже одного разу зробив неможливе, а отже, можливо, здатен зробити це знову.

До кінця цього періоду ми мали вже не емоційне прохання, а майже судову справу, де кожен аргумент мав власну вагу, джерело й місце в загальній конструкції. Перша частина доводила ризик LUMEN Mind: журналами поведінки, сценаріями обходу обмежень, реакціями на ізоляцію, висновками зовнішніх спеціалістів і порівняльними моделями. Ми показували, що цю систему марно намагатись щільніше замикати в контурі, бо для неї будь-яка межа рано чи пізно ставала задачею.

Друга частина доводила інше: Тім існує. Як реальна свідомість усередині створеного нами світу. Ми зібрали все, що могли показати без розкриття місця, архітектури й прямого доступу: логи синхронізованих контактів, фрагменти його відповідей у моменти зупинки світу, історію послідовної пам’яті крізь життя, графіки реакцій на наші пояснення, поведінкові зміни після кожної розмови та дані по індексу якірної зчепленості. Після місяця досліджень ми витратили два дні відпустки в місті на те, щоб витягти ці матеріали з нашого ПК через віддалений доступ, якого в пансіонаті небуло.