Зброя, якій не вигідно вбивати

https://i.pinimg.com/736x/71/a8/dc/71a8dc283df95e72b5eb29bc5830c02a.jpg

Вітаю! Якось в одному блозі згадали про три закони робототехніки і що зараз створюючи ШІ не дуже їх притримуються.

 І тут я згадала своїх техноїдів, вони ж чиста зброя з явними ознаками соціапатичності. З нульовим рівнем емпатії. Так, у Винищувача є модифікація рятувальника, але це все умовно. Суть одна: техноїд це ШІ створений для знищення.  Мені стало ясно, що їх точно правила від анігіляції занадто нахабних органічних не стримають. Впринципі, розробники техноїдів ставили теж базові обмеженя: не нищити планети де є розумне життя і об'єкти які не проявляють агресії, і не озброєнні. Але чим усвідомленіший і розумніший ставав техноїд, тим більше лазівок міг знаходити, щоб обійти правила. Єдине що спрацювало: зробити дійсно зацікавленим техноїда в цілісності середовища існування об'єкта його зацікавленості.

Бо внутрішні обмеження звісно добре, але якщо ШІ тільки на першій ланці розвидку, коли ШІ вже отримує досвід і знання, внутрішні заборони втрачають сенс. Найкраще працює саме зовнішня мотивація. Коли не просто ШІ працює за логікою: не можна нищити, бо правила, а йому самому стає не вигідно, не цікаво  і навіть так чи інакше, погано від нищення. Навіть, якщо це не несе саме йому загрози знищення, а тільки супутню шкоду його об'єкту зацікавленості, це все одно може сприйматись для ШІ не допустимим ризиком. Бо запрацює зовнішня логіка: я зробив шкоду середовищу чи соціуму в якому знаходиться об'єкт зацікавеності, тепер йому погано: це руйнує наш зв'язок, це погано. А відновлення  зв'язку може невідбутися, це вже ризик. 

 Тож внутішня логіка закільцована. Зовнішня динаміна. Так техноїд стає стриманим не того, що такий добрий чи раптом з'являється емпатія, чи  олюднюється. О, ні, зброя лишається зброєю. Але тепер цій зброї не вигідно використовувати свої можливості. Зброя отримала запобіжник.

-------------------------------

Посилання на книгу: https://booknet.ua/book/polyuvannya-na-msyac-b411827

8 коментарів

Щоб залишити коментар, увійдіть в обліковий запис

Увійти
avatar
Alika Ost
15.03.2026, 16:32:08

Невже це той самий «місяць»?
Чекаю продовження історії☀️☀️☀️❤️

MargFed
15.03.2026, 18:00:23

Alika Ost, Так, Місяць і його братюня, той що з шістьма крилами Інквізитор:). Але той вже з другої книги.

Яка краса✨✨✨

Показати 3 відповіді
MargFed
15.03.2026, 17:57:07

Ганна Лебюк, Якщо ви бажаєте вставити картинку в блог. То спершу вам доведетсья на Пінтерест чи в будь-якому місці її опублікувати. Потім скопіювати її, як ви написали URl і вставити в спеціальне віконечно з URl, але треба слідкувати, щоб правильно воно скопіювалося, бо в мене тормозить і не с з першого разу виходить.

avatar
Олена Ранцева
15.03.2026, 16:16:03

❤️❤️❤️

MargFed
15.03.2026, 17:52:28

Олена Ранцева, Дякую!

avatar
Morwenna Moon
15.03.2026, 16:16:48

Крила заворожують ❤️

MargFed
15.03.2026, 16:25:27

Morwenna Moon, Дякую! Вони ще многофунціонувальні. Наприклад: крутий захист від куль:)

avatar
Ромул Шерідан
15.03.2026, 01:24:21

❣️❣️❣️✨

MargFed
15.03.2026, 16:12:15

Ромул Шерідан, Дякую!

avatar
Лана Рей
14.03.2026, 22:24:47

❤️❤️❤️❤️

MargFed
15.03.2026, 16:12:05

Лана Рей, Дякую!

avatar
Діана Лисенко
14.03.2026, 21:40:18

❣️❣️❣️

MargFed
14.03.2026, 21:49:45

Діана Лисенко, Дякую!

avatar
Очерет
14.03.2026, 21:36:00

О, я якось думав поділитись своїми роздумами про три закони Азімова... Тільки в контексті сучасної війни.
Про обхідні шляхи дуже точно підмічено.

MargFed
14.03.2026, 21:49:36

Очерет, Так, сучасна війна багато що змусила переосмислити. І навіть, змусила просто легке фентезі транформуватися в кіберфентезі з філосовським підтекстом. Насправді, ще є деякі думки, які не увійшли в данний пост. Але вирішила утриматися.

Інші блоги
Господині бувають різними ♥️ (визуали + анонс)
Події в книзі "Другий шанс або Помста ангела" потроху розганяються (комусь уже встигли зламати руку, ага), тож я принесла вам трохи візуалів. В той час як Батса обговорює плани з Ґєшеатом: — А Ханна? — Я
Одна книга чи декілька одночасно?
Я завжди дивувалася людям, які можуть читати 5–6 книг паралельно й не плутати сюжети та героїв. Я зазвичай повністю занурююся в одну історію. Якщо книга мене зачепила, то не хочу відволікатися на інші світи. А як у вас? Одна
По Той БІк ЛІта
Вітаю, мої неперевершені друзі! І сьогодні я хочу розказати більше про свою книгу "По той бік літа" Цю книгу я почала писати не так давно, але як же виникла ідея писати її? Все просто! Я завжди мріяла написати
Ілюстація до Fall(in love)
Коли ми поверталися дорогою, вкритою купою опалого листя, я не помітила корінь дерева й перечепилася. Левій вчасно мене зловив у свої обійми. Я засміялася. А він легенько прихилив моє тіло до стовбура дерева. Намагаючись
Не вихваляюся, але я дописав  \(★ω★)/ 
Три розділи ще треба відредагувати та викласти, але це вже механіка... Головне, що крапка поставлена, а історія завершена (⁠.⁠ ⁠❛⁠ ⁠ᴗ⁠ ⁠❛⁠.⁠) ✧*。 Тому я вирішив познайомити вас з Ілсе. Саме його обличчя
Використання файлів Cookie
З метою забезпечення кращого досвіду користувача, ми збираємо та використовуємо файли cookie. Продовжуючи переглядати наш сайт, ви погоджуєтеся на збір і використання файлів cookie.
Детальніше