Большасць людзей стануць на свеце непатрэбнымі? Пра што ў Давосе папярэджваў Юваль Ной Харары
03.02.2020 / 18:45
Сярод запрошаных на Сусветны эканамічны форум у Давосе быў вядомы гісторык Юваль Ной Харары. Ён гаварыў пра пяць галоўных праблем чалавецтва ў наступным дзесяцігоддзі, а таксама пра магчымыя разумныя адказы на гэтыя выклікі.
Вось поўная версія выступу Юваля Ноя Харары на Сусветным эканамічным форуме ў Давосе.
У трэцім дзесяцігоддзі ХХІ стагоддзя чалавецтва сутыкнулася з такім мноствам праблем і пытанняў, што цяпер на іх складана сфакусавацца. Я хачу звярнуць увагу на праблемы, якія пагражаюць выжыванню нашага віду. Гэта ядзерная вайна, экалагічны калапс і тэхналагічны прарыў. Ядзерная вайна і экалагічны калапс — ужо знаёмыя нам пагрозы, таму дазвольце растлумачыць, у чым заключаецца менш вядомая нам пагроза тэхналагічнага прарыву. Мы столькі чуем пра карысць тэхналогій будучыні, і гэта, вядома, так, але яны таксама могуць разбалансаваць чалавечае грамадства і змяніць сам сэнс чалавечага жыцця рознымі спосабамі — ад стварэння сусветнага бескарыснага класа да ўзнікнення каланіялізму даных і лічбавай дыктатуры.
1. Бескарысны клас
Спачатку мы можам сутыкнуцца з ўзрушэннямі на сацыяльным і эканамічным узроўнях. Аўтаматызацыя хутка знішчыць мільёны працоўных месцаў, і хоць новыя працоўныя месцы, безумоўна, будуць створаныя, невядома, ці змогуць людзі набыць неабходныя веды і навыкі своечасова.
Напрыклад, вы 50-гадовы кіроўца грузавіка, які страціў працу з-за сістэмы беспілотнага кіравання. Ёсць варыянты новай працы: ствараць праграмнае забеспячэнне, напрыклад, або вучыць інжынераў ёзе. Але як 50-гадовы кіроўца грузавіка створыць сябе нанова ў якасці распрацоўшчыка софту або настаўніка ёгі? І людзям спатрэбіцца рабіць гэта не аднаразова, а зноў і зноў на працягу ўсяго жыцця, паколькі аўтаматызаваная рэвалюцыя — гэта не разавая падзея, пасля якой рынак працы ўляжацца і вернецца да балансу.
Хутчэй за ўсё, нас чакае каскад ўсё большых зменаў, калі ўлічыць, што штучны інтэлект яшчэ і блізка не раскрыў свой патэнцыял. Працоўныя месцы будуць знікаць — з'явяцца новыя, але затым і гэтая праца зменіцца і знікне.
Калі раней людзі змагаліся з эксплуатацыяй, то ў ХХІ стагоддзі будуць па-сапраўднаму змагацца з непатрэбнасцю. І значна горш быць непатрэбным, чым эксплуатаваным. Пераможаныя ў гэтай барацьбе папоўняць шэрагі бескарыснага класа.
Гэтыя людзі будуць бескарысныя, вядома, не ў вачах сям'і і сяброў, а з пункту гледжання эканамічнай і палітычнай сістэмы. Бескарысны клас будзе аддзелены ўзрастаючай прорвай ад усё больш магутнай эліты.
2. Няроўнасць і калоніі даных
Рэвалюцыя штучнага інтэлекту (ШІ) можа стаць прычынай беспрэцэдэнтнай няроўнасці не толькі паміж класамі, але і паміж краінамі. У ХІХ стагоддзі некалькі краін, такія як Вялікабрытанія і Японія, індустрыялізаваліся першымі, што дазволіла ім заваёўваць і эксплуатаваць іншыя краіны. Калі мы будзем неасцярожныя, гэта ж чакае нас у ХХІ стагоддзі дзякуючы ШІ.
Чалавецтва ўжо пасярод гонкі ўзбраенняў у вобласці ШІ, у якой займаюць вядучыя пазіцыі ЗША і Кітай, а большасць краін пляцецца далёка ззаду.
Калі мы не зробім заходы, каб размеркаваць карысць і магутнасць ШІ паміж намі, ён, хутчэй за ўсё, прынясе шалёнае багацце некалькім тэхналагічным цэнтрам, у той час як іншыя краіны збанкрутуюцца і ператворацца ў эксплуатаваныя калоніі даных.
Размова не пра сцэнар, які сышоў са старонак навуковай фантастыкі, дзе робаты бунтуюць супраць людзей. Размова ідзе пра значна больш прымітыўны ШІ, якога ўсё ж дастаткова, каб парушыць сусветную раўнавагу.
Проста падумайце, што адбудзецца з эканомікай краін, якія развіваюцца, калі ў Каліфорніі танней будзе вырабляць тканіны або аўтамабілі, чым у Мексіцы. І што адбудзецца з палітыкай вашай краіны, калі праз 20 гадоў нехта ў Сан-Францыска ці Пекіне будзе ведаць аб усёй медыцынскай і асабістай гісторыі кожнага палітыка, суддзі і журналіста, уключаючы ўсе любоўныя прыгоды, псіхалагічныя слабасці і карупцыйныя дзеянні. Ці застаецца такая краіна незалежнай альбо яна ператворыцца ў калонію даных? Калі ў вас досыць даных, вам ужо не трэба адпраўляць кудысьці салдат, каб кантраляваць краіну.
3. Лічбавая дыктатура
Наступная пагроза, з якой мы можам сутыкнуцца, — гэта росквіт лічбавых дыктатур, якія нястомна будуць сачыць за кожным. Гэтая пагроза можа быць выкладзеная ў выглядзе простай формулы, на мой погляд, якая вызначае жыццё ў ХХІ стагоддзі: Б*В*Д = МХЧ. У ёй «Б» азначае біялагічныя веды, «В» — вылічальную магутнасць, «Д» — даныя. Вынікам множання будзе «МХЧ» — магчымасць хакнуць чалавецтва.
Калі ў вас дастаткова ведаў па біялогіі, вылічальнай магутнасці і даных, вы зможаце хакнуць маё цела, мозг і ўсё маё жыццё, вы будзеце ведаць мяне нават лепш, чым я ведаю сябе. Вы зможаце ведаць мой тып асобы, мае палітычныя погляды, сэксуальныя перавагі, слабасці маёй псіхікі, найглыбейшыя страхі і надзеі.
Сістэма, якая разумее нас больш, чым мы самі, зможа прадбачыць нашы пачуцці, рашэнні і прымаць рашэнні без нас. Мноства тыранаў і ўрадаў мінулага марылі пра гэта, але ім не хапала вышэйзгаданых ведаў, магутнасцяў і даных, каб хакнуць мільёны людзей. Гэта было не пад сілу ні Гестапа, ні КДБ. Але хутка некаторыя карпарацыі і ўрады змогуць сістэматычна хакаць чалавецтва.
Пара прызвычаіцца да думкі, што больш мы не загадкавыя душы, а жывёлы, якіх можна хакнуць. Уменне хакаць людзей, вядома, можа быць выкарыстана на карысць, напрыклад, у ахове здароўя. Але калі гэтая сіла патрапіць у рукі Сталіна ХХІ стагоддзя — а ў свеце дастаткова тых, хто хоча прымерыць гэтую ролю, — вынікам стане найгоршы таталітарны рэжым у гісторыі чалавецтва.
Толькі ўявіце сабе Паўночную Карэю праз 20 гадоў, у якой усе будуць вымушаныя насіць біяметрычны бранзалет, які пастаянна сочыць за ціскам, пульсам, мазгавой дзейнасцю. Калі, слухаючы выступ вялікага лідара, вы злуяцеся, але пры гэтым ўсміхаецеся і пляскаеце ў ладкі — улада будзе ведаць пра гэта і можа адправіць вас у падабенства ГУЛАГа ўжо на наступную раніцу.
Калі такія рэжымы татальнага сачэння будуць існаваць, не думайце, што нехта застанецца ў бяспецы. Улада СССР у сталінскі перыяд сачыла за камуністычнай элітай больш, чым за кім-небудзь. Будучыя рэжымы татальнага кантролю будуць падобныя: чым вышэйшае ваша становішча ў іерархіі, тым больш за вамі сочаць. Ці вы хочаце, каб ваш гендырэктар ці прэзідэнт ведалі, што вы на самай справе думаеце пра іх? Таму ўсё чалавецтва, уключаючы эліту, зацікаўленае ў прадухіленні ўзнікнення такіх лічбавых дыктатур.
Нават калі нам удасца прадухіліць узнікненне лічбавых дыктатур, магчымасць хакнуць людзей можа змяніць само паняцце чалавечай свабоды. Чым больш мы спадзяёмся на ШІ ў прыняцці рашэнняў, тым больш улада ссоўваецца да алгарытмаў.
Гэта адбываецца ўжо зараз: сёння мільярды даведаюцца пра навіны з Facebook, вераць у сапраўднасць інфармацыі, якую прынёс алгарытм Google. Цяпер Netflix вырашае, што вы пагледзіце, а алгарытмы Amazon і Alibaba/Aliexpress — што купіце. У недалёкай будучыні падобныя алгарытмы змогуць выбраць за вас працу або партнёра, падказаць, ці дадуць вам крэдыт і ці падыме цэнтральны банк працэнтную стаўку. І калі вы спытаеце, чаму вам не далі крэдыт ці чаму банк не падняў працэнтную стаўку, адказ будзе адзін і той жа: «Камп'ютар сказаў не». Бо абмежаванаму чалавечаму мозгу не хапае ведаў, вылічальнай магутнасці і даных, людзі проста не змогуць зразумець рашэння камп'ютара.
Таму нават, здавалася б, у свабодных краінах людзі страцяць кантроль над уласнымі жыццямі і перастануць разумець дзяржаўную палітыку. Нават сёння фінансавую сістэму разумее каля 1% людзей. Праз некалькі дзесяцігоддзяў гэты працэнт будзе раўняцца нулю.
4. Філасофскі крызіс
Мы, людзі, звыклі думаць пра жыццё як пра драму прыняцця рашэнняў. У што ператворыцца значэнне чалавечага жыцця, калі большасць рашэнняў будуць прымаць алгарытмы. У нас нават няма філасофскіх мадэляў для разумення такога існавання!
Звычайная спрэчка паміж філосафамі і палітыкамі раней выглядала так: філосафы дзеляцца мноствам фантастычных ідэй, а палітыкі ў адказ цярпліва тлумачаць, што для таго, каб ажыццявіць гэтыя ідэі ў жыццё, ім не хапае сродкаў. Цяпер мы апынуліся ў супрацьлеглай сітуацыі, мы на парозе філасофскага банкруцтва. Рэвалюцыі-блізняты — інфа- і біятэхналогій — падарылі палітыкам і бізнэсменам магчымасць стварыць пекла ці рай, а філосафам цяжка канцэптуалізаваць тое, як новы рай або пекла будзе выглядаць, і гэта вельмі небяспечная сітуацыя.
Калі нам не ўдасца асэнсаваць ідэю новага раю своечасова, нас лёгка змогуць увесці ў зман наіўнымі ўтопіямі. А калі не атрымаецца канцэптуалізаваць новае пекла, мы можам апынуцца замкнутыя ў ім без усялякай магчымасці выйсці.
5. Разумная задума
У будучыя дзесяцігоддзі тэхналогіі могуць не толькі змяніць эканоміку, палітыку і філасофію, але і біялогію. ШІ і біятэхналогіі дадуць нам богападобныя магчымасці, мы нават зможам ствараць абсалютна новыя формы жыцця. Пасля 4 млрд гадоў фарміравання арганічнага жыцця шляхам натуральнага адбору мы апынуліся на парозе новай эры, у якой неарганічнае жыццё сфарміраванае разумнай задумай. Наша разумная задума стане новай рухаючай сілай эвалюцыі.
Таму карыстаючыся новымі богападобнымі сіламі будавання, мы можам зрабіць памылкі сусветнага ўзроўню. Магчыма, ўрады і карпарацыі будуць выкарыстоўваць тэхналогіі для ўзмацнення неабходных ім чалавечых навыкаў, такіх як розум і дысцыпліна, у той жа час грэбуючы такімі іншымі чалавечымі навыкамі, як спачуванне, мастацкая адчувальнасць і духоўнасць. Вынікам можа стаць раса вельмі разумных і вельмі дысцыплінаваных людзей, якім пры гэтым будзе не хапаць спагады, умення ствараць і духоўнай глыбіні.
Вядома, гэта не прароцтва, а проста тое, што можа адбыцца. Выкарыстанне тэхналогій ні ў якім разе не наканаванае. У ХХ стагоддзі людзі выкарыстоўвалі тэхналогіі індустрыяльнай рэвалюцыі, каб пабудаваць вельмі розныя грамадствы: фашысцкую дыктатуру, камуністычны рэжым, ліберальную дэмакратыю — тое ж самае адбудзецца ў ХХІ стагоддзі. ШІ і біятэхналогіі, безумоўна, зменяць свет, але мы можам выкарыстоўваць іх, каб ствараць вельмі розныя грамадствы.
Сусветнае супрацоўніцтва
Калі вы баіцеся чаго-небудзь з таго, пра што я распавёў, вы можаце нешта зрабіць, але для чагосьці па-сапраўднаму эфектыўнага нам трэба сусветнае супрацоўніцтва.
Усе тры экзістэнцыяльныя праблемы, з якімі мы сутыкнуліся, — гэта сусветныя праблемы, якія патрабуюць сусветнага рашэння. Калі любы лідар кажа: «Мая краіна перш за ўсё», — мы павінны нагадваць гэтаму лідару, што краіна не зможа самастойна прадухіліць ядзерную вайну ці спыніць экалагічны калапс. І няма краіны, якая можа рэгуляваць дзейнасць ШІ і біяінжынерыі самастойна. Любая краіна можа сказаць: «Гэй, мы не хочам распрацоўваць робатаў-забойцаў або займацца геннай інжынерыяй немаўлятаў, мы добрыя! Але не нашы ворагі, ім нельга давяраць, магчыма, яны будуць гэта рабіць, таму мы зробім гэта першымі». Калі мы дазволім такой гонцы ўзбраенняў ісці ў галінах накшталт ШІ і біяінжынерыі, ужо не важна, хто ў ёй пераможа, таму што прайграе чалавецтва.
На жаль, якраз тады, калі сусветнае супрацоўніцтва патрэбна больш, чым калі-небудзь, некаторыя з самых магутных краін і сусветных лідараў зараз спецыяльна гэтаму процідзейнічаюць. Лідары накшталт прэзідэнта ЗША Дональда Трампа кажуць нам, што паміж нацыяналізмам і глабалізмам ёсць неад'емная супярэчнасць, таму трэба выбраць нацыяналізм, але гэта небяспечная памылка! Няма ніякай супярэчнасці паміж нацыяналізмам і глабалізмам, таму што нацыяналізм — гэта не пра тое, каб ненавідзець замежнікаў. Нацыяналізм — гэта пра любоў да сваіх суграмадзян, і ў ХХІ стагоддзі, каб абараніць бяспеку сваіх суграмадзян, неабходна супрацоўнічаць з замежнікамі.
Добры нацыяналіст ХХІ стагоддзя павінен быць і глабалістам. Глабалізм — гэта не стварэнне глабальнага ўрада, адмова ад усіх народных традыцый або адкрыццё межаў для бясконцых мігрантаў. Глабалізм — гэта падпарадкаванне некаторым глабальным правілам. Правілам, якія не адмаўляюць унікальнасць кожнага народа, а толькі рэгулююць адносіны паміж імі.
І добрая мадэль — гэта чэмпіянат свету па футболе. Гэта спаборніцтва паміж краінамі, падчас якога людзі заўзеюць за сваю нацыянальную каманду, але ў той жа час гэта і надзвычайны прыклад сусветнай гармоніі. Францыя не можа гуляць у матчы з Харватыяй, калі гэтыя краіны не пагодзяцца з аднымі і тымі ж правіламі гульні. Гэта глабалізм у дзеянні, калі вам падабаецца чэмпіянат свету па футболе, вы ўжо глабаліст.
Спадзяюся, што краіны могуць прыйсці да агульных правілаў не толькі ў футболе, але і ў тым, як прадухіліць экалагічны калапс, урэгуляваць небяспечныя тэхналогіі і паменшыць сусветную няроўнасць. Важна пераканацца ў тым, што ШІ прыносіць карысць работнікам тэкстыльнай прамысловасці ў Мексіцы, а не толькі амерыканскім распрацоўшчыкам праграмнага забеспячэння. Вядома, гэта значна складаней, чым футбол, але зусім не немагчыма, таму што немагчымага мы ўжо дасягнулі. Мы ўжо выбраліся з небяспечных джунгляў, у якіх жылі ўсю нашу гісторыю.
Закон «джунгляў»
Тысячы гадоў людзі жылі па законе «джунгляў», знаходзячыся ў стане паўсюднай вайны. Закон «джунгляў» абвяшчаў, што існуе вялікая імавернасць таго, што паміж дзвюма любымі суседнімі краінамі ў наступным годзе пачнецца вайна. Мір азначаў толькі часовую адсутнасць вайны. Калі мір быў, напрыклад, паміж Афінамі і Спартай або Францыяй і Германіяй — гэта значыла, што зараз яны не ваююць, але ў наступным годзе могуць пачаць.
Тысячы гадоў людзі думалі, што гэта непазбежна, але за апошнія некалькі дзесяцігоддзяў чалавецтва змагло зрабіць немагчымае — парушыць закон і збегчы з «джунгляў». Мы стварылі ліберальны сусветны парадак, заснаваны на правілах, які, нягледзячы на мноства недахопаў, дазволіў увайсці ў самую квітнеючую і мірную эпоху ў чалавечай гісторыі. Змянілася само разуменне слова «мір», зараз гэта не часовая адсутнасць вайны, а яе малаверагоднасць.
Цяпер у свеце ёсць мноства краін, якія амаль немагчыма ўявіць ваюючымі адна супраць адной у наступным годзе. Напрыклад, Францыя і Нямеччына. У некаторых абласцях свету, вядома, ідзе вайна, але гэта не павінна скажаць сусветную карціну. Зараз у час баявых дзеянняў гіне менш, чым ад суіцыду, а порах уяўляе меншую небяспеку, чым цукар. Большасць краін, з некаторымі выключэннямі, напрыклад Расеяй, нават не мараць пра заваёву і анексіі суседзяў, таму большасць краін можа дазволіць сабе марнаваць толькі 2% ВУП на абарону і накіроўваць значна большую частку на адукацыю і ахову здароўя.
Гэта не «джунглі». На жаль, мы настолькі звыклі да гэтай цудоўнай сытуацыі, што прымаем яе як належнае, а значыць мы сталі надзвычай бестурботнымі. Замест таго, каб рабіць усё, што ў нашых сілах, каб узмацніць крохкі сусветны парадак, краіны грэбуюць ім і нават спецыяльна яму процідзейнічаюць.
Сусветны парадак цяпер падобны да дома, у якім усе жывуць, але ніхто яго не рамантуе. Ён можа пратрымацца яшчэ некалькі гадоў, але калі мы працягнем у тым жа духу, ён зруйнуецца і мы вернемся ў «джунглі».
Мы забыліся, што гэта такое, але паверце мне як гісторыку, вы не хочаце вяртацца туды. Там значна горш, чым вы думаеце. Так, наш від эвалюцыянаваў у гэтых «джунглях» — і нават квітнеў тысячы гадоў, але, вярнуўшыся туды з новымі тэхналогіямі ХХІ стагоддзя, мы, хутчэй за ўсё, знішчым сябе. Вядома, нават калі мы знікнем, гэта не стане канцом свету. Нешта нас перажыве, напрыклад пацукі, якія ў свой час змогуць аднавіць цывілізацыю. Можа, пацукі тады змогуць навучыцца на нашых памылках, але я больш ускладаю надзеі на сусветных лідараў, а не на пацукоў.