План майбутнього

(Кусок з «Золотого Віку людства»).

Нарешті батько привіз від знайомого якийсь старий громіздкий апарат для фізичного читання пам’яті і Дая почала переглядати флешки Анатоля.

В папці "Опуси" було багато текстів різної тематики. В основному на тему релігії, політики чи роздуми про деякі наукові проблеми. Багато опусів було на тему штучного інтелекту.

Її увагу привернув опус з назвою "Цивілізація - нова форма життя. Перехід від біо-соціальних форм життя до н.т. Цивілізації".

"Ага, футурологія Анатоля",- здогадалась Дая.- "Цікаво, як він уявляв собі майбутнє? І що з його передбачень справдилось, а що ні? Чи може це не передбачення, а плани?"
Вона почала читати.

"З тим, що я зараз скажу, люди не лише не погоджуються, але й не сприймають цього. Хоча саме це станеться з неминучістю. В кращому разі, звичайно.

Люди звиклись з думкою, що вони - царі природи, що прогресивний розвиток людської  цивілізації триватиме вічно і необмежено. Вони розуміють, звичайно ж, що якісь катаклізми, природні чи соціальні можуть відкинути людство назад в розвитку чи навіть знищити його. Але не сприймають того, що непереборні обмеження закладені в самих можливостях людини і в законах розвитку.

Ілюзія можливості необмеженого розвитку людства викликана успіхами цивілізації. Адже можливості цивілізації набагато більші за можливості окремої людини. Крім того цивілізація може демонструвати надзвичайно швидкий розвиток порівняно з біологічною еволюцією. І швидкість цього розвитку може прискорюватись.

На початкових етапах розвитку цивілізації люди грають в ній вирішальну роль. Власне кажучи цивілізація і виникає як цивілізація людей. І людям здається, що завжди так і буде. 

Але з появою штучного інтелекту ситуація міняється: цивілізація може вже обходитись і без людей. Людський інтелект не може конкурувати з штучним.

Люди це розуміють, але їм здається, що хоча штучний інтелект і значно сильніший за людський, та все ж він завжди буде лише на службі в людей.
 
Для таких уявлень є певні підстави. Адже і в людини її інтелект не є керівником, а лише слугою її інстинктів, бажань, ідеологій, переконань. Та й в людських суспільствах влада належить не найбільш інтелектуальним людям.

Так може й справді наскільки б не був потужним штучний інтелект він завжди буде лише слугою людей, виконавцем їхніх бажань і їхньої волі? 

Бо що таке інтелект? Це здатність розв’язувати задачі. А от хто ці задачі ставить - це вже не інтелект, це щось зовнішнє до інтелекту. 

Звичайно, і інтелект може ставити собі проміжні задачі, необхідні для розв’язання зовнішніх. Та все ж інтелект - лише механізм розв’язання задач. В нього нема своїх потреб, бажань, інстинктів, волі.
Але ж задачі, поставлені йому, можуть бути дуже різні. В тому числі і такі широкі, стратегічні задачі як забезпечення безпеки і живучості Цивілізації, її розвиток і поширення. 
А підзадачами такої надзадачі будуть і розвиток самого інтелекту і технологій, пізнання світу і побудова його моделей.

При такій широкій постановці задачі для штучного інтелекту н.т. Цивілізація може успішно розвиватись і поширюватись без людей. Така задача є аналогом інстинктів у біо-організмів.

Є ще ілюзія, що базовим інстинктом, основною задачею для штучного інтелекту можна покласти служіння людям, вирішення їхніх задач, виконання їхніх завдань. Така цивілізація дійсно залишиться залежною від людей, цивілізацією людей.
 
Але в цьому і її слабкість. Бо залежність від людей сповільнить, а то й обмежить її розвиток. Адже люди будуть більше перейматись збереженням своєї влади в цивілізації, а не розвитком цивілізації. 
Залишиться проблема хто і як визначає волю людей. Корпорації? Уряди? Референдуми? 
А при загибелі людей загине і така цивілізація, адже не стане сенсу і стимулів для її існування.

Протилежним підходом є задати базовим інстинктом Цивілізації, фундаментальною задачею для штучного інтелекту  забезпечення безпеки, розвитку і поширення Цивілізації. 
Такий підхід забезпечить максимально швидкий розвиток  і експансію Цивілізації. 
Але дуже швидко люди в ній виявляться зайвими, адже не зможуть ні в чому конкурувати з штучним інтелектом.

Між цими двома підходами і буде боротьба. Чи люди мають передати естафету розвитку життя і розуму Цивілізації і змиритись з тим, що їхня історична місія виконана, чи намагатись залишитись біля керма цивілізації, незважаючи на те, що інтелектуально вони вже не можуть конкурувати з штучним інтелектом.

Можна передбачити, що домінуючою буде друга думка. Люди будуть чіплятись за владу, за своє керівне становище у цивілізації. 
Такий підхід несе у собі великі загрози. Люди стануть гальмом у розвитку цивілізації, а якщо є можливість швидшого розвитку, то таке гальмо рано чи пізно, в той чи інший спосіб буде відкинуто. І швидше всього з поганими наслідками для людей.

Так яку ж стратегію слід вибрати людям щодо свого місця в цивілізації? Обидві. Потрібно сформувати дві цивілізації:

1.Самостійну технологічну Цивілізацію, в ідеологію якої, в її базові інстинкти поклавши самозбереження, розвиток, експансію. 
Але добавити принцип поваги до інших форм життя  і розуму. 
Ця Цивілізація не матиме такого обмежуючого фактору як людина, зможе  вільно і швидко розвиватись і поширюватись, але не становитиме загрози для інших форм життя, оскільки вибиратиме для своєї експансії не зайняті іншими ніші.
 
З формуванням такої Цивілізації історична місія людства буде виконаною. Але це не значить, що людей має не стати. Бактерії, що породили багатоклітинні організми нікуди ж не зникли. І мавпи, породивши людей, не зобов’язані зникнути. Так і люди, породивши більш високу форму життя - Цивілізацію, можливості розвитку якої значно переважають можливості розвитку людства, так і люди не зобов’язані зникнути. 
Вони і залишаться людьми, але розвиток життя і розуму вже визначатиметься не ними.