Половина Закону Робототехніки

Азимівські "Три Закони Робототехніки" досі часто зустрічаються не тільки у формі більш-менш прямої алюзії у творах сучасних фантастів, а й, на жаль, як цитати у деяких соціологів та представників когнітивної психології – як спроба формулювання деяких ”принципів організації взаємин між Штучним Інтелектом та людиною”. Важко повірити, проте багато людей насправді приймають ці висмоктані з пальця "три основні правила" за якісь філософські принципи, за щось, що має право претендувати на статус етичних заповідей ШІ. Я не применшую переваг чудових творів Азімова, але ж повторювані хороводи навколо тієї трійці, на якій ґрунтуються всі поведінкові механізми антропоморфних роботів в однойменному всесвіті його оповідань, вимагають зайнятися їх критичним розбором – якщо вже так вийшло, що вона набула статусу заповідей, гідних втілення в реальних системах штучного інтелекту.

Для початку нагадаємо цю трійцю:

1. Робот не може завдати шкоди людині або своєю бездіяльністю допустити, щоб їй було завдано шкоди.
2. Робот повинен виконувати накази людини, крім випадків, коли це суперечить Першому Закону.
3. Робот повинен піклуватися про свою безпеку, за умови, що це не суперечить Першому та Другому Закону.

Якщо уважно проаналізувати ці максими, стає зрозумілим, що з першої, як із кантівського імперативу, органічно і безумовно випливає друга, а третя імпліцитно міститься у двох попередніх. Більш того, якщо заглибитись в описі поведінкового регламенту робота на рівень деталізації, який характерний для третього закону, ми можемо розширити цей список на скільки завгодно багато пунктів, наприклад: “Робот повинен поважати права інших роботів на реалізацію власних цілей, доки ті відповідають першим двом законам, проте у разі конфлікту з третім апелювати до авторитету людини” (щоб унеможливити конкуренцію між роботами за ресурси, необхідні для їх функціонування), і так далі – подібний підхід дозволяє згенерувати нескінченну кількість "правил".

Однак ця надмірність властива не лише третьому закону, перші два також не мають логічної межі – іншими словами, не мають чіткого формального визначення самих себе. Робот не здатний запобігти заподіянню шкоди людині своєю бездіяльністю, якщо він заздалегідь не контролює власний гомеостаз, якщо він ігнорує людські накази, а також якщо він безвідповідально приймає до виконання команди, що призводять до заподіяння шкоди (як самому господарю, так і іншим людям). По суті, т.зв. другий і третій закони є лише варіантами прикладної деталізації першого, проте кількість подібних детальних описів, як ми можемо переконатися, нескінченна.

Як ми бачимо, досить уважно подивитися на Перший Закон, щоб стало зрозуміло, що Другий і Третій не просто не потрібні, але більш того – шкідливі, як будь-якій логічній системі шкідливе введення дублюючих тверджень, або ж таких, що зводять абстрактну ідею до переліку варіантів її реалізації. Будучи логічним базисом, ця система в жодному разі не повинна містити таких слабких місць, оскільки саме на її формалізмі вибудовується весь функціонал "позитронного мозку".

Однак це лише початок. Продовжимо аналіз азимівської фантазії. Поки ми лише побачили, що Перший, і він же Єдиний Закон робототехніки (втім, не лише її), проситься лаконізуватися в таку ж компактну, як і беззмістовну формулу: “Робот повинен робити те, і тільки те, що є благом людині, розуміючи суть його блага раніше, глибше і виразніше, ніж здатний це зробити сам господар, випереджаючи і виключаючи при цьому зі сфери турбот останнього другорядні дрібниці”. Тільки при такому визначенні дії (і бездіяльності) робота можна гарантувати недопущення їм шкоди людині та досягнення чистої рафінованої користі (в ідеалі, позбавляючи господаря від турбот про свого слугу).

OK, припустимо це. Однак, якщо це формулювання буде реалізовано, світ азимівських роботів стане неможливим – зникне фундамент практично всіх описаних у творах автора кумедних психологічних колізій між господарями роботів та цими милими залізними чурбанами. На жаль, у подібному формулюванні Головного Закону є слабке місце, яке не дозволяє побудувати на подібному фундаменті нічого, окрім літературних фантазій. Це місце – вживання далекого від формальної суворості висловлювання "шкода людині", а також необхідна целеорієнтація робота на розпливчасту "користь". Тут не зайве буде помітити, що розповіді Азімова якраз і присвячені темі протиріч, що неминуче виникають між різницею у сприйнятті людиною і роботою тих самих явищ, а також труднощів їх взаєморозуміння при формально подібній постановці завдань. З цієї точки зору твори Азімова є одними з кращих у жанрі світової фантастики, але, на жаль, саме тому в них немає місця такому викладу Законов, яке на чільне місце поставив сам автор. Якими мають бути закони робототехніки, щоб із них логічно витікали поведінкові патерни азимівських роботів, ми залишимо за межами цієї статті, оскільки це не входить до сфери її завдань. Гадаю, фанати творчості Азімова встигли запропонувати чимало дотепних формулювань (сумніваюсь, втім, у їхній змістовній цінності з погляду справжніх принципів регламентації поведінки ШІ). Зараз йдеться про ту популярність, яку горезвісні "Три Закони робототехніки" набули поза межами розважальної літератури – абсолютно невиправдано, як ми зараз переконаємось. Отже, повернемося до них і спробуємо встановити ступінь їхньої формальної придатності.