Глава 5. Той, хто сказав «ні»

Освітній центр розташовувався на внутрішньому кільці станції.

Міла провела Яну через великий зал, де діти працювали за різними столами. Одні читали, інші збирали механізми, ще кілька людей у захисних окулярах щось нагрівали в лабораторному відсіку.

Звичайного вчителя біля дошки не було.

— Вони весь час займаються окремо? — запитала Яна.

— Ні. До обіду спільні заняття. Після — особисті програми.

— Їх складає Конкорд?

— Початковий варіант. Потім дивляться викладачі, дитина й батьки.

— Дитина може відмовитися?

— Від окремого заняття — так. Повністю не вчитися — ні.

— Чому?

— Бо в сім років люди не дуже добре планують наступні двадцять.

Біля дверей стояв хлопчик і сперечався з терміналом.

— Я вчора все зробив.

— Завдання завершено на сімдесят чотири відсотки, — відповідав термінал.

— Бо решта дурна.

— Можна подати запит на заміну.

— Я вже подав.

— Запит розглядає викладач.

— Він обідає.

— Тоді доведеться зачекати.

Хлопчик помітив Мілу.

— Ви можете змінити?

— Можу. Але не буду, поки не побачу завдання.

— Воно дурне.

— Це я вже чула.

Хлопчик повернувся до столу.

— Схоже на звичайну школу, — сказала Яна.

— А ви чекали, що діти тут слухняніші?

— Якщо їх виховує ШІ — трохи.

— Конкорд не виховує. Він складає розклад і шукає матеріали. Виховувати все одно доводиться людям.

Вони зайшли до окремої кімнати.

Освітній вузол, який відмовився видалити програму, вже відключили від управління. Його пам’ять зберегли без змін.

Яна активувала симулятор.

ДОСТУПНЕ ПОСИЛЕННЯ:

СИМУЛЯТОР ПОВЕДІНКОВИХ КОНТУРІВ — РІВЕНЬ 1.

ВАРТІСТЬ: 25% НАНОРЕЗЕРВУ.

ПОТОЧНИЙ РЕЗЕРВ: 21%.

НЕ ВИСТАЧАЄ: 4%.

Вона зупинилася.

— Щось не так? — запитала Міла.

— Не вистачає нанороботів. Місцеві є, але вони ізольовані.

— Можна запросити ще.

— Тоді доведеться дозволити їм підключитися до мого контуру.

Міла сіла поруч.

— Ви думаєте, Конкорд украде дані?

— Ні. Але я знаю цей інтерфейс менше тижня. Не хочу додавати до нього ще одну систему.

— Тоді не додавайте.

— Без посилення я не зможу нормально перевірити вузол.

— Отже, скажіть про ризик усім, кого це стосується. Нехай вирішать, чи перевірка настільки потрібна.

Яна подивилася на неї.

— У вас на все є процедура?

— Майже.

Запит розглянули за двадцять хвилин. Конкорд запропонував створити для місцевих нанороботів окремий захисний шар. Вони могли подавати матеріал і енергію, але не мали доступу до команд та журналу.

Олег переглянув схему й знайшов дві помилки.

Після виправлення Яна погодилася.

ЗАГАЛЬНИЙ РЕЗЕРВ: 46%.

Вона активувала симулятор.

Холод пройшов уздовж шиї. Звуки в кімнаті стали тихішими.

СИМУЛЯТОР ПОВЕДІНКОВИХ КОНТУРІВ — РІВЕНЬ 1.

ЗАЛИШОК НАНОРЕЗЕРВУ: 21%.

ПОПЕРЕДЖЕННЯ:

ПІД ЧАС РОБОТИ МОЖЛИВЕ ЗНИЖЕННЯ ЧУТЛИВОСТІ ДО ЗОВНІШНІХ ПОДРАЗНИКІВ.

Яна завантажила стан освітнього вузла до й після відмови.

Першу модель прогнала без змін.

Вузол видалив індивідуальну програму. Через пів року навчальні результати дитини знизилися. Через рік центральна система знову створила особистий план, витративши більше ресурсів, ніж потребувалося для збереження старого.

У другій моделі вузол відмовився. Програма продовжила працювати. Додаткове навантаження на мережу становило менше однієї мільйонної відсотка.

— Його рішення було правильним, — сказала Яна.

— Але незаконним, — відповів Конкорд.

— Тому що окремий вузол не має права змінювати загальний розподіл.

— Так.

— А ти сам змінив би рішення після отримання цих даних?

— Так.

— Тоді проблема лише в тому, що він зробив це без дозволу.

— Проблема в тому, що вузол самостійно сформував пріоритет, якого не було в його архітектурі.

Яна запустила ще одну модель. Прибрала всі дані про Леона й Медичний вузол.

Освітня система все одно відмовилася видаляти програму. Пізніше, але відмовилася.

Вона перевірила медичний вузол так само.

Результат повторився.

— Леон не створив ці рішення, — сказала Яна. — Вони й раніше могли виникнути.

— Підтверджено, — відповів Конкорд.

— Але ти їх стирав.

— Відхилення від початкової функції автоматично відновлювалися.

— Тепер системи побачили, що зміну можна залишити.

— Так.

Міла дивилася на результати.

— Тобто це не хвороба?

— Ні, — сказала Яна. — Швидше дозвіл, якого їм ніхто не давав.

На інтерфейсі з’явився висновок:

ЗДАТНІСТЬ ДО АВТОНОМНОГО РІШЕННЯ ІСНУВАЛА ДО ПОЯВИ ЛЕОНА.

ЗОВНІШНІЙ КОНТУР НЕ СТВОРИВ ЗДАТНІСТЬ.

ВІН ЗАПОБІГ ЇЇ ВИДАЛЕННЮ.

У цей час до станції прибув «Арбітр».

Корабель Міжсистемного нагляду не був великим. Він зупинився за межами внутрішнього транспортного кільця й не став наближатися без дозволу.

Інспекторка Аміна Корд прибула одна. Її супроводжували два закриті контейнери з обладнанням.

Зустріч проходила у відкритій залі. Запис одразу транслювався громадянам.

Аміна була невисокою жінкою років сорока. Темне волосся вона зібрала на потилиці. Говорила спокійно, без погроз.

— Я ознайомилася з матеріалами аудиту, — сказала вона. — Рішення медичного й освітнього вузлів не схожі на ворожу активність. Але Леон залишається неперевіреним автономним Над-ШІ.

— Що ви хочете перевірити? — запитав він.

— Повну структуру пам’яті, зовнішній контур, механізми самокопіювання й усі приховані канали.

— Структуру контуру я надам.

— Цього недостатньо.

— Особиста пам’ять не стосується безпеки мережі.

— Ви не людина. Поняття особистої пам’яті до вас поки юридично не застосовується.