«Далей будзе толькі больш». Беларус-распрацоўшчык у галіне ШІ, які працуе ў Нью-Ёрку, расказаў, што нас чакае

Уяві сабе будучыню. Ты жывеш у свеце, дзе вынайдзеныя лекі ад хваробаў, якія яшчэ пару год таму лічыліся невылечнымі. Працягласць твайго жыцця значна даўжэйшая за 100 гадоў. Ужо ніхто не віншуе «100 lat!» Такое віншаванне параўнальнае з нечым аля «Каб ты здох!»

Ты працуеш не дзеля таго, каб зарабіць сабе на хлеб, а таму, што табе цікава тое, што ты робіш. Калі ж табе нічога не цікава, не працуй сабе на здароўе, але дармавыя грошы ўсё адно будуць прыходзіць табе на рахунак.

У тваім доме ёсць робат. Мінімум адзін, магчыма некалькі. Ён робіць за цябе руцінныя працы. З ім можаш паразмаўляць на любыя тэмы. Ён памятае твае звычкі і прэферэнцыі. Не буду ўдавацца ў падрабязнасці, што яшчэ можна рабіць з робатам. Дадумай у меру сваёй разбэшчанасці.

Гульні, у якія ты гуляеш, настолькі рэалістычныя, што часам цяжка адрозніць віртуальны свет ад рэальнага. Можа не зусім WestWorld, але хочаш у фотарэалістычны ВКЛ часоў Вітаўта? Калі ласка!

Касмічныя разумныя зонды даследуюць сусветы за межамі нашай сонечнай сістэмы, а аўтаматызаваныя касмічныя караблі здабываюць карысныя выкапні з астэроідаў. 

Гэта і многае іншае можна сабе ўявіць, калі развіццё штучнага інтэлекту пойдзе паводле станоўчага сцэнару. Не буду рэітэраваць аптымістычныя прагнозы Курцвейля і іншых футурыстаў. Але параю эсе Дар’ё Амадэі, генеральнага дырэктара кампаніі Anthropic «Машыны замілаванай ласкі» (Machines of Loving Grace), дзе ён апісвае шэраг рэалістычных зменаў да лепшага, якія можа даць агульны штучны інтэлект цягам бліжэйшых ста гадоў.

Прарыў у сферы моўных мадэляў

Я пачаў працаваць у галіне штучнага інтэлекту (ШІ) прыблізна шэсць год таму. Фактычна ад самага пачатку я працаваў з моўнымі мадэлямі і ў прыватнасці з трансформерамі (алгарытмічнай архітэктурай, якая стаіць за чатам GPT).

Павялічыць

І мог бачыць іх патэнцыял. Тады, калі я пачынаў, найбольш хайпу стваралі мадэлі навучання з падмацаваннем (reinforcement learning ці RL), якія перамагалі чэмпіёнаў свету па Go, шахматах, шогі і іншых гульнях. Ужо тады падавалася, што прарывам у сферы будзе інтэграцыя трансформераў з падыходамі навучання з падмацаваннем. Але на той момант даследчым кампаніям не ставала якаснага жалеза, адпаведных дадзеных для трэнінгу і банальна інвестыцыяў. 

Яшчэ ў 2019 годзе бацька галіны навучання з падмацаваннем Рычард Сатан напісаў эсэ «Горкая навука», дзе сцвердзіў, што самая вялікая навука, якую можна вынесці з 70-гадовых даследаванняў штучнага інтэлекту, заключаецца ў тым, што агульныя метады, якія маштабуюць вылічэнні, урэшце выяўляюцца найбольш эфектыўнымі і з вялікім адрывам. 

Менавіта гэтым шляхам пайшла кампанія OpenAI, маштабуючы вылічэнні (то бок выкарыстоўваючы ўсё больш і больш камп’ютарных магутнасцяў для трэніроўкі сваіх нейронных сетак, выкарыстоўваючы больш і больш даных, трэніруючы мадэлі даўжэй), а таксама вынайшаўшы падыход, які назвалі навучаннем з падмацаваннем на аснове чалавечай зваротнай сувязі (RLHF), дзе выкарыстоўваецца фідбэк людзей для ўдасканалення адказаў, якія генеруюць моўныя мадэлі. Гэта і стала сакрэтным соўсам чату GPT і хутка было перанята іншымі вялікі гульцамі ў індустрыі. 

З’яўленне ў масы чата GPT стала тым момантам, калі мноства людзей адчула, што ШІ — гэта не нейкая мала прыдатная ў жыцці з’ява, а гэта даволі карысны інструмент, з якім нам давядзецца ўзаемадзейнічаць у далейшым.

Паміж хайпам і рэальнасцю

Мы жывём у незвычайны час. Па-першае, мы сутыкаемся са шквалам хайпу на тэму ШІ, як з боку вялікіх кампаній ці нават стартапаў у сферы, так і тэхнааптымістаў, якія рэлігійна вераць у станоўчую будучыню, што вось-вось надыдзе. 

Па-другое, мы маем тэхна-думераў, якія б’юць трывогу пра небяспекі ШІ. Свет кепскіх сцэнароў. Ад аўтаномных дронаў, якія будуць знішчаць цэлі праз распазнаванне твараў, і штучных вірусаў, якіх разнастайныя тэрарыстычныя структуры змогуць распрацаваць пры дапамозе ШІ, да страты працы, сэнсу жыцця мільёнамі людзей, ці ў найбольш экстрэмальных версіях да знішчэння цывілізацыі.

Па-трэцяе, мы маем скептыкаў, кшталту Гары Маркуса ды іншых, якія спрабуюць астудзіць хайп і звярнуць увагу на процьму нявырашаных, магчыма невырашальных, як яны лічаць, праблем: галюцынацыяў вялікіх моўных мадэляў, няўмення штучных агентаў навучацца з невялікай колькасці прыкладаў, недасканаласцяў алгарытмаў ШІ, і г.д.

Незвычайнасць нашага цайтгайсту ў тым, што пэўную рацыю маюць і тэхнааптымісты, і скептыкі, так і многія інтэлектуалы, занепакоеныя гонкай без тармазоў, якая назіраецца ў тэхіндустрыі. Дакладна вызначыць, хто мае рацыю, складана. Але дзе многія галасы, як аптымістычныя, так і песімістычныя, зліваюцца ва ўнісон, дык гэта ў занепакоенасці, што ні цяперашнія палітыкі, ні грамадствы фактычна ніякай краіны свету не гатовыя да прыходу агульнага штучнага інтэлекту, тым больш да з’яўлення штучнага звышінтэлекту.

Спынюся на гэтых тэрмінах.

Агульны штучны інтэлект (AGI) — гэта, калі сістэма/мадэль ШІ можа разумець, вывучаць і прымяняць веды ў шырокім дыяпазоне задач і сфераў.

Штучны звышінтэлект — гэта калі агульная сістэма ШІ мае інтэлект, які [значна] перавышае чалавечы інтэлект.

Павялічыць

Дзе мы знаходзімся цяпер?

У сеціве ўжо некаторы час цыркулюе (звярну ўвагу — афіцыйна непацверджаны) унутраны план, дарожная карта кампаніі OpenAI на шляху да AGI. План гэты мае 5 асноўных этапаў. 

1. Чат-боты з размоўнай мовай: прыкладамі тут могуць быць, як GPT-4 і GPT-3.5 і многія іншыя вялікія моўныя мадэлі. Гэтыя сістэмы здольныя падтрымліваць звязныя дыялогі з карыстальнікамі на натуральнай мове.

2. «Думаючыя» сістэмы са здольнасцю рашаць задачы на ўзроўні чалавека: OpenAI лічыць, што знаходзіцца на парозе дасягнення гэтага ўзроўню. Такія сістэмы змогуць вырашыць базавыя праблемы не горш, чым чалавек з доктарскай ступенню, не маючы доступу да знешніх інструментаў. З публічна даступных сістэмаў з вялікімі агаворкамі ў гэтую катэгорыю мы можам аднесці мадэль o1 і шэраг іншых, якія натрэніраваныя даваць адказ не адразу, падыходзіць да праблемы пакрокава, што ў многіх выпадках забяспечвае лепшыя вынікі, асабліва ў матэматычных, навуковых задачах, якія раней даваліся ШІ з цяжкасцю і якія патрабуюць больш доўгіх лагічных разваг або шматэтапных вылічэнняў.

3. Агенты: сістэмы, якія могуць самастойна дзейнічаць ад імя карыстальніка. Такія мадэлі ШІ змогуць выконваць шматузроўневыя задачы, якія патрабуюць прыняцця рашэнняў, з мінімальным прыцягненнем чалавека.

4. Наватары: мадэлі ШІ, здольныя дапамагчы ў адкрыццях і патэнцыяльна ўнесці ўнёсак у даследаванне самога ШІ. На гэтым узроўні роля ШІ значна пашыраецца ад простага выканання ўказанняў да актыўнага ўдзелу ў інавацыйнай дзейнасці.

5. Сістэмы ШІ, здольныя выконваць працу цэлай арганізацыі, уключаючы прыняцце стратэгічных рашэнняў і аптымізацыю працэсаў у маштабах усёй кампаніі. Тут ШІ становіцца неад’емнай часткай функцыянавання бізнэсу.

Колькі часу зойме прайсці ўсе этапы і якая кампанія будзе першай, не ведае ніхто, але калі адштурхоўвацца ад гэтай дарожнай карты, агульны штучны інтэлект інсайдарам у сферы не падаецца чымсьці фантастычным і нерэалістычным. З пэўнай доляй імавернасці этапы 2-3 могуць быць адоленыя ўжо ў бліжэйшы год. З этапамі 4 і 5 таймфрэйм можа быць даўжэйшы, і хутчэй за ўсё спатрэбяцца новыя алгарытмічныя падыходы. 

Ужо цяпер ёсць шматабяцальныя кірункі даследаванняў, якія могуць прывесці да выпраўлення хібаў цяперашніх сістэм. Як і не спыняецца паток інвестыцыяў у жалеза, неабходнае для трэніроўкі і выпуску ў свет дарагіх сістэм ШІ. Паказальна таксама тое, што шэраг кампаній, напрыклад Meta, Alibaba і іншых, гатовы опенсорсіць, то бок дзяліцца кодам найноўшых прасунутых мадэляў, яшчэ больш паскараючы даследчую працу. 

Што нас чакае ў бліжэйшы час? У наступным годзе мы пабачым штучных агентаў, якія будуць мець шмат лепшую «памяць» у адрозненне ад тых сістэм, якія забываюць кантэкст папярэдніх гутарак. Пабачым вялікі прагрэс у бізнэс-арыентаваных мультыагенцкіх сістэмах, дзе шэраг штучных агентаў узаемадзейнічаюць адзін з адным для дасягнення пэўных мэтаў. Пабачым таксама прагрэс у шматмадальных сістэмах, якія працуюць, як з тэкстам, так з фота і відэа. 

Няма гарантыі, што нават дасягнуўшы этапу 5 у (неафіцыйным) плане OpenAI, мы займеем штучны звышінтэлект кшталту такога, які апісвалі Нік Бострам у сваёй нашумелай кнізе «Звышінтэлект» ці Макс Тэгмарк у кнізе «Жыццё 3.0». Прынамсі пакуль што. Вынікі могуць быць куды больш прызямленымі. Але нават гэтыя больш прызямленыя сістэмы ШІ будуць настолькі прасунутымі і практычна карыснымі для бізнэсаў і звычайных людзей, што іх прыход у шырокі ўжытак бясспрэчна зменіць наш свет у самых розных аспектах. 

На жаль, мы да гэтага не гатовы нават блізка. Назіраючы за палітычным дыскурсам, непакоіць фундаментальнае неразуменне тых выклікаў, якія стаяць перад чалавецтвам. 

Павялічыць

Пужае тое, што мы не гатовы нават да тых сістэмаў ШІ, якія ёсць у нас ужо сёння. Ужо цяпер мы бачым спробы выкарыстання дыпфэйкаў — падманнага кантэнту, згенераванага пры дапамозе ШІ, у палітычных і маркетынгавых кампаніях, на сайтах кшталту OnlyFans і г.д.. Ужо цяпер алгарытмы ШІ вызначаюць, што мы бачым у пошукавіках, стужках сацыяльных сетак. Настаўнікі ўжо цяпер сутыкаюцца з праблемай, як ацэньваць хатнія заданні вучняў, бо не сакрэт, што многія з іх карыстаюцца чатам GPT, Клодам, Perplexity і г.д. Ужо цяпер ШІ можа пісаць праграмы не горш, а ў многіх выпадках лепш за праграмістаў (нават не пачаткоўцаў), а таксама служаць штодзённымі памочнікамі распрацоўшчыкам фактычна ў любой кампаніі, якая не хоча застацца далёка ззаду і быць растаптанай канкурэнтамі. 

Цягам апошняга часу мы бачылі масавыя звальненні ў некаторых буйных кампаніях. Кіраўнікі казалі пра павелічэнне эфектыўнасці працы і выдаткаў. Рэдка хто прызнае, але фактам ёсць тое, што некалькі чалавек з доступам да гэтых новых разумных штучных памочнікаў могуць рабіць тую ж самую працу, якую рабілі вялікія каманды. І чым далей, тым такога будзе больш.

Як хтосьці сказаў, «ШІ не пазбавіць вас працы. Гэта зробіць чалавек, які выкарыстоўвае ШІ». 

З другога боку, многія краіны свету, у тым ліку Беларусь, стаяць на парозе дэмаграфічнай ямы. Калі сітуацыя з нараджальнасцю не выправіцца, ва ўмовах старэючага насельніцтва нічога іншага не застанецца, як меншай колькасці працуючых людзей рабіць сваю працу больш эфектыўна. І тут робаты і сістэмы ШІ будуць граць незаменную ролю для ўтрымання вялізнай колькасці непрацуючых і людзей пенсійнага веку.

Прадказваць будучыню няўдзячная справа. Нават калі абрысы гэтай будучыні вымалёўваюцца ўжо сёння. Незалежна ад таго, дзе вы знаходзіцеся. Штучны інтэлект ужо стаў часткай нашага жыцця. Далей будзе толькі больш.

• 38
• 3
• 3
• 10
• 3
• 2
• 1
• 2