Розділ 31. Штучний інтелект вимагає чітких команд

Після нічного чергування, коли всі тривожні кнопки мовчали, а периметр залишився незмінно тихим, Павло Григорович, не втрачаючи звички, здав зміну Мифодію Петровичу — тому самому, бувшому вчителю математики, що хоч і сивий, але розуму йому вистачить на трьох. Чотири години сну — і знову світ, де думки летять швидше, ніж кулі, а ідеї важать більше, ніж бетон.

Він відкрив планшет, увімкнув штучний інтелект і майже відразу перейшов до теми, яка не давала йому спокою кілька тижнів. Проєкт "Гравіо" вимагав розвитку. Ідея, яка колись була лише ескізом в замітках планшета, вже ставала приладом — маленьким, непримітним, але здатним змінити усе і навіть небезпечним для самого Павла в плані інформації. Тому повинна була бути тиша і таємниця.

— Слухай уважно, — промовив Павло, наче звертався не до алгоритму, а до живого розуму, — у нас є проблема.

Він зупинився, вдихнув глибоко, і почав формулювати запит чітко, як наказ.

— Ми вже моделювали ситуацію, коли супротивник діє агресивно і сигналізує про це. Коли вмикаєш пристрій система спрацьовує, включається “Гравіо”, і все під контролем. Але тепер уяви собі: людина підходить з посмішкою, відкритими руками. В ній не читається нічого ворожого. А за мить — раптовий удар прилітає тобі. Без жодних ознак, без попередження.

ШІ довго обробляв запит. На екрані блимає курсор, і Павло встиг за цей час налити собі кави. Нарешті — відповідь:

> “Аналіз триває. Визначено три рівні небезпеки:

1. Очікувана агресія (реакція можлива за шаблоном).

2. Прихована агресія (вимагає передбачення або сенсорного аналізу).

3. Миттєва зміна намірів — непередбачувана зона.”

— Оце третє, — прошепотів Павло. — Ось де корінь зла.

Він пройшовся кімнатою, зупинився біля вікна, потім знову сів.

— Штучний інтелект, врахуй: ми не маємо справи з кіборгами, які діють за логікою. Ми маємо справу з людьми. А у людей — мить, і все змінюється. Хтось сказав щось болюче, хтось пригадав образу, когось хтось спонукав по телефону — і ось уже ситуація змінилася. І ти в небезпеці. Як вирахувати і передбачити цей момент?

ШІ відповідав набагато повільніше. Павло зрозумів: складно. І сам процес мислення системи зараз не на рівні готових рішень, а на рівні розуміння самої сутності.

> “Пропозиція: встановити сенсори мікроповедінки — м’язові скорочення обличчя, мікрорухи зрачків, частоту дихання, електропровідність шкіри. Але головне — момент включення “Гравіо” має бути раніше, ніж удар.” Треба, щоб прилад не чекав, коли його вимкнуть, а вмикався автоматично в залежності від отриманих даних постійного безперервного сканування навколо.

— Ось! — Павло підняв палець. — Але як?! Ми ж не можемо паралізувати кожного, хто підійшов ближче, ніж на два метри!

> “Уточнення: прилад не паралізує. Він створює в мозку ілюзію подвійної гравітації. Людина відчуває, що вага її тіла зросла вдвічі. Це викликає враження раптовою слабкістю, запамороченням, непевностю в рухах. Цього досить, щоби зупинити атаку.”

— Але ключове — коли це повинно активуватися, — задумливо додав Павло. — Бо коли удар вже нанесений — аналізувати прилад вже запізно.

Тоді він сформулював ще точніше для штучного інтелекта:

— Штучний інтелект, запропонуй модель прогнозування миттєвої зміни намірів на основі попередніх невербальних сигналів і динаміки емоційної поведінки. Активація “Гравіо” має бути непомітною і завчасною. Розроби можливі сценарії, ось наприклад: 

1. Підозріла поведінка до контакту.

2. Раптова зміна емоційного стану під час розмови.

3. Фізичний рух без попередніх сигналів.

Після кількох хвилин обробки, штучний інтелект подав відповідь:

> “Можлива модель:

– Сенсори фіксують динаміку зрачків і частоту мови.

– Якщо відхилення перевищує 12% від середнього рівня — активується тривога.

– Якщо зафіксовано імпульс на напад (наприклад, різке скорочення м’язів передпліччя), система активує “Гравіо” на 2 секунди.

– Людина сповільнюється. Є шанс уникнути удару.”

Павло всміхнувся. Нарешті це почало ставати більш менш реальним, в людському розумінні, а не якісь алгоритми.

— І ще одне, — сказав він наприкінці. — Навчися розуміти мене з півслова. Бо світ небезпечний, і ми інколи не маємо часу пояснювати двічі.

У той вечір Павло налаштував “Гравіо” на тестовий режим. Він підключив до нього нейромодуль і попросив напарника несподівано підняти руку, ніби для удару. У ту ж мить “Гравіо” включився — і Мифодій Петрович, мов прив’язаний до підлоги, застиг на півруху.

— Тяжко стало? — запитав Павло.

— Наче сто кілограм до плечей прив’язали… — віддихався напарник.

— Це ще м’який режим. В екстреному — ти б впав на місці. Тому Мифодій, сувора таємниця, ніхто не повинен знати про пристрій і його дію.

І тоді Павло вперше повірив, що цей прилад зможе врятувати життя. Але ще більше він зрозумів: без чіткості в словах і командах — ніщо не працює. Штучний інтелект вимагає не емоцій. Він вимагає точності.

А точність — це і є складова безпеки.