ES abaronić hramadzian ad štučnaha intelektu zakonam: nijakich «sacyjalnych rejtynhaŭ», raspaznavańnie tvaraŭ tolki pa rašeńni suda

Kali dakumient prymuć, to va ŭsich krainach Jeŭrasajuza ŭviaduć biesprecedentnyja abmiežavańni, u tym liku na sistemy raspaznańnia tvaraŭ u hramadskich miescach, prahnazavańnie pravaparušeńniaŭ i sacyjalny rejtynh na asnovie ŠI. «Mieduza» bolš padrabiazna raspaviadaje pra hety zakonaprajekt.

Jeŭrapiejski sajuz vyrašyŭ urehulavać štučny intelekt jašče dva hady tamu, u krasaviku 2021 hoda. Marhrete Viestahier, vice-staršynia Jeŭrakamisii, tady tłumačyła heta nieabchodnaściu «daviarać ŠI» i «prakłaści šlach da etyčnaha ŭžyvańnia technałohij va ŭsim śviecie», u toj čas jak «na kartu pastaŭlenyja biaśpieka i pravy hramadzian».

ES pry hetym nie źbiraŭsia całkam zabaraniać raźvićcio štučnaha intelektu — i, naadvarot, padkreślivaŭ, što ŠI vałodaje «vielizarnym patencyjałam u achovie zdaroŭja, transparcie, enierhietycy, sielskaj haspadarcy, turyźmie i kibierbiaśpiecy».

Spačatku krainy Jeŭrasajuza pavolna abmiarkoŭvali varyjanty zakonaprajekta, pravodzili daśledavańni (naprykład, ab etyčnaści vykarystańnia ŠI i zachavańni pravoŭ čałavieka) i viali dyskusii sa śpiecyjalistami. Ale zatym — na fonie imklivaha raźvićcia technałohij i honki karparacyj u halinie hienieratyŭnaha štučnaha intelektu — jeŭračynoŭnikam pryjšłosia paśpiašacca i ŭ apošni momant dadać u dakumient najvažniejšyja papraŭki.

Voś što za niekalki dzion da hałasavańnia skazała ahienctvu AP adna ź inicyjataraŭ zakonaprajekta, rumynskaja deputatka Jeŭraparłamienta Drahaš Tudaraš:

Kali jašče [dva hady tamu] chtości sumniavaŭsia, ci treba nam naohuł [niejkaje rehulavańnie štučnaha intelektu], to ciapier, ja dumaju, [nijakich] sumnievaŭ bolš niama.

11 maja dva kamitety, jakija adkazvajuć za rehulavańnie ŠI, — pa ŭnutranym rynku i abaronie pravoŭ spažyŭcoŭ, a taksama pa hramadzianskich svabodach — uchvalili AI Act. Prajekt padtrymali 84 jeŭradeputaty, siem vystupili suprać, 12 ustrymalisia. Choć novyja standarty jašče dalokija ad ustupleńnia ŭ siłu, hałasavańnie aznačaje vielizarny krok napierad dla zakanadaŭcaŭ — asabliva ŭ biahučaj viersii dakumienta.

Dla palicyi i sudoŭ vykarystańnie ŠI abmiažujuć. A niekatoryja servisy zabaroniać zusim

Katehoryi ryzyki

Jeŭradeputaty prapanujuć padzialać usie sistemy, zasnavanyja na štučnym intelekcie, na čatyry katehoryi pa ryzycy: minimalnaja (ci ŭvohule jaje adsutnaść), abmiežavanaja, vysokaja i nieprymalnaja.

ŠI-sistemy z «minimalnaj» ryzykaj — pad hetuju katehoryju pavinna padychodzić bolšaść instrumientaŭ, naprykład hulni abo spam-filtry, — buduć pracavać biez abmiežavańniaŭ. Kali sistema atrymaje status «abmiežavanaj» ryzyki (vierahodna, čat-bot ChatGPT abo fotahienieratar Midjourney), to jaho stvaralniki pavinny pierš za ŭsio vykonvać patrabavańni ab «prazrystaści»: miarkujecca, što karystalnik pavinien viedać, što pierad im — umoŭna — dypfiejk abo stvorany niejrasietkavy tekst.

«Vysokuju» stupień ryzyki ES bačyć u bolš śpiecyjalizavanych II-sistemach. Jeŭračynoŭniki pryvodziać u prykład pravasudździe (naprykład, kali ŠI aceńvaje dokazy bakoŭ), achovu zdaroŭja (miedycynskija prybory), transpartnuju śfieru (bieśpiłotnyja aŭtamabili), adukacyju (majucca na ŭvazie situacyi, kali ŠI vyznačaje, chto zasłuhoŭvaje pastupić, a chto nie), pracaŭładkavańnie (da prykładu, aŭtamatyčnaje sartavańnie reziume), dziaržpasłuhi i kantrol nad mihracyjaj (u tym liku acenka sapraŭdnaści dakumientaŭ). Usie takija servisy, jak miarkujecca, nie trapiać da kančatkovaha karystalnika, pakul nie projduć samuju pilnuju acenku — i nie buduć harantavać, što dajuć vielmi dakładny i biaśpiečny dla čałavieka vynik.

Sistemy, jakija ŭ ES paličać «nieprymalnymi», prosta zabaroniać praz pahrozy biaśpieki. Pad hetuju katehoryju padychodziać ŠI-servisy dla vystaŭleńnia «sacyjalnaha rejtynhu» na asnovie dobranadziejnaści hramadzian (tak, jak u Kitai), a taksama dla manipulacyj (u prykład pryvodziacca cacki z hałasavym asistentam, jakija pravakujuć dziaciej na «niebiaśpiečnyja pavodziny»).

Raspaznavańnie tvaraŭ

«Vysokuju» stupień ryzyki ŭ ES atrymajuć sistemy «dystancyjnaj bijamietryčnaj identyfikacyi» — heta aznačaje, što ich stvaralnikam pradjaviać samyja strohija patrabavańni.

Pad tatalnaj zabaronaj apyniecca padzieł z dapamohaj ŠI-bijamietryi pa połu, rasie, etničnaj prynaležnaści, hramadzianstvie, relihii i palityčnych pohladach. Zbor bijamietryčnych danych z sacsietak i z kamier nazirańnia dla stvareńnia baz, pa jakich potym možna było raspaznavać tvary, taksama budzie nielehalny.

Choć raspaznavańnie tvaraŭ na vulicach u bolšaści vypadkaŭ zabaronienaje, ES usio ž taki dapuskaje niekalki vyklučeńniaŭ. Naprykład, kali treba znajści achviaru złačynstva (dapuścim, źnikłaje dzicia), praduchilić terakt ci adšukać padazravanaha ŭ «surjoznym kryminalnym złačynstvie». U hetych vypadkach palicyi spatrebicca dazvoł suda — a jašče pryjdziecca pakazać kankretnyja časavyja terminy i hieahrafiju pošuku, a taksama bazy piersanalnych danych.

Sistemy raspaznańnia emocyj — takija servisy identyfikujuć mimiku, vyličajučy, naprykład, rasčaravany čałaviek ci raźjušany, — taksama padpaduć pad značnyja abmiežavańni. Ich nielha budzie vykarystoŭvać pravaachoŭnym orhanam, pamiežnikam, pracadaŭcam i adukacyjnym ustanovam.

Prahnazavańnie złačynstvaŭ

Dla palicejskich u krainach ES chočuć zabaranić zasnavanyja na štučnym intelekcie sistemy predyktyŭnaj analityki — instrumienty, z dapamohaj jakich na asnovie statystyki i jaje analizu vyznačajuć, chto, dzie i kali ździejśnić złačynstva. Z dapamohaj hetaha palicejskija, naprykład, vyjaŭlajuć ašukanskija schiemy, znachodziać suviazi pamiž złačyncami i vyznačajuć, u jakim mienavita miescy ryzyka pravaparušeńnia vyšejšaja.

Adny krytyki predyktyŭnych sistem nie bačać, kab tyja prynosili palicejskim istotnuju karyść, a inšyja adznačajuć, što ałharytmy nieprazrystyja navat dla samich palicejskich — i mohuć «navučycca» praduziataści da toj ci inšaj častki žycharoŭ.

U ciapierašniaj viersii zakonaprajekta kampanijam u ES za parušeńni pahražajuć bujnyja administracyjnyja štrafy — až da 40 miljonaŭ jeŭra abo 7% ad ahulnaha hadavoha abarotu za papiaredni finansavy hod (u zaležnaści ad taho, što bolš).

Novyja abmiežavańni pakul nie ŭstupili ŭ siłu. Voś što dla hetaha pavinna adbycca:

u zakonaprajekt ab štučnym intelekcie jašče mohuć unieści papraŭki. Voś jakija etapy pavinien prajści dakumient, kab ustupić u siłu:

• červień 2023 hoda: hałasavańnie ŭ Jeŭraparłamiencie;
• lipień 2023-ha: trochbakovyja pieramovy ŭ Radzie Jeŭrasajuza (tam ciapier staršyniuje Šviecyja, ź lipienia — Ispanija) z udziełam jeŭradeputataŭ, Jeŭrakamisii i krain-dziaržaŭ ES;
• da kanca 2023-ha: pryniaćcie vynikovaj viersii zakonaprajekta.

Trochbakovyja pieramovy ryzykujuć zaciahnucca. Sara Čander z Asacyjacyi jeŭrapiejskich ličbavych pravoŭ u razmovie z vydańniem The Verge vykazała zdahadku, što niekatoryja krainy-členy ES vystupiać suprać zabarony na bijamietryju i sistemu predyktyŭnaj analityki ŭ palicyi — i buduć śćviardžać, što heta nibyta nieabchodna dla baraćby sa złačynnaściu.

Jość papiarednija daty, namiečanyja ES, ale jany mohuć mianiacca: da prykładu, pieršapačatkova profilnyja kamitety Jeŭrasajuza pavinny byli ŭchvalić zakonaprajekt nie ŭ mai, a ŭ lutym-sakaviku. Jak miarkujecca, zakon raźličvajuć pryniać nie paźniej za maj 2024 hoda, kali namiečanyja nastupnyja vybary ŭ Jeŭraparłamient.

• 15
• 0
• 0
• 1
• 0
• 0
• 1
• 0