Technologijoms ir dirbtiniam protui (DI) sparčiai žengiant į priekį, valstybės privalo imtis veiksmų, padėsiančių reguliuoti įmonių kuriamus algoritmus ir dirbtinį protą, įsitikinęs profesorius Simonas Čestermanas (Chesterman), Singapūro nacionalinio universiteto prorektorius ir žinomas tarptautinės teisės žinovas.
Nuo kokių aplinkybių priklausys DI reguliavimas? Kokie galimi sprendimai siekiant surasti pusiausvyrą tarp piliečių saugumo ir naujovių plėtros?
Į šiuos ir kitus klausimus po Vilniuje vykusios konferencijos „Technologiniai pokyčiai ir tarptautinė teisė“ atsakė žinomas tarptautinės teisės ekspertas S. Čestermanas.
– Kaip manote, kokias grėsmes žmonijai gali kelti DI? Kas turėtų imtis priemonių, padėsiančių išvengti šių grėsmių?
– Dalis žmonių nerimauja dėl egzistencinių grėsmių, pavyzdžiui, kad DI gali sukilti ir mus visus išžudyti.
Manau, kad ši iš mokslinės fantastikos kilusi grėsmė peraugo į tikrų žmonių rūpestį.
Tačiau kol kas nematome jokių įrodymų, kad šiandien egzistuojantis DI eitų tokia linkme.
Mano manymu, jeigu kiltų ketinimų sukurti nevaldomą DI, tada reikėtų nuo to susilaikyti. Tačiau šiuo metu dar nesame tokioje padėtyje.
Vis dėlto yra daug trumpalaikių problemų, kurias turėtume spręsti jau dabar, pavyzdžiui, diskriminacija ir šališkumas.
Priimdamas sprendimus, DI remiasi duomenų rinkiniais, kuriuose yra žmogui būdingo šališkumo ir gali trūkti aiškumo, todėl manau, kad organizacijos ir vyriausybės teikdami patarimus turėtų labai apdairiai naudoti algoritmus, jeigu nėra pasirengusios už tuos patarimus atsakyti.
Kai algoritmai priklauso privačioms bendrovėms, negalime žinoti, kas į juos įtraukiama ir kokios žinios iš jų išeina. Dėl šių priežasčių manau, kad turime atsargiai pasitikėti sistemomis, kurių nesuprantame.
Visa tai susiję su didesne grėsme – dažniau naudojantis DI, gali pakisti mūsų mąstymas.
Turbūt visi žinome, kokius pokyčius socialiniai tinklai sukelia jaunajai kartai, todėl DI taip pat gali pakeisti mūsų mąstymą ir požiūrį į pasaulį.
Jei pasikliautume dirbtiniu protu labai paprastoms žinioms gauti, tuomet gera analogija būtų išmanieji telefonai, dėl kurių mums nebereikia įsiminti daugybės telefono numerių, o tai labai patogu.
Bet kas, jei vietoj telefono numerių pradėtume pasikliauti technologijomis formuodami savo nuomonę?
Tuomet turėtume labai didelę problemą, nes nebe mes patys formuotume savo nuomonę, o kažkas kitas jai darytų įtaką.
Taigi ką turėtume daryti? Pirma, turėtume išmokti geriau suprasti DI algoritmus.
Reikia atsargiau naudoti sistemas, su kuriomis nesame susipažinę ir nežinome, kokie būtų naudojimosi ja padariniai.
Turėtume aiškiau apibrėžti atsakomybę už DI padarytas klaidas, pavyzdžiui, jei automobilis be vairuotojo padaro avariją arba algoritmas priima rasistinį sprendimą, už tai turėtų atsakyti koks nors asmuo arba įmonė.
– Savo konferencijos pranešime minėjote, kad bijodamos šių grėsmių valstybės gali imtis per griežto technologijų vystymo reguliavimo. Kaip manote, ar įmanoma pasiekti subalansuotą reguliavimo lygį, kad žmonės būtų apsaugoti nuo pavojų, o technologijos vis dar galėtų tobulėti?
– Taip, bet tai yra sudėtinga. Reguliavimas priklauso nuo to, kokį pavojų šalis gali prisiimti. Pavyzdžiui, Europos Sąjunga reguliuoja daug daugiau nei kitos šalys, nes įžvelgia riziką, kurios nenori prisiimti.
Tuo tarpu Singapūras girdi Europos požiūrį ir sako: „Na, tai suvaržytų naujoves ir tada jos vyktų kitur.“
Europiečiai atsako maždaug taip: „Kai kuriose srityse, pavyzdžiui, biometrinio žmonių stebėjimo, mes nenorime naujovių.
Nenorime, kad veido atpažinimo technologijos būtų visur.“ Taigi apibendrinant galima pasakyti, kad viskas priklauso nuo to, kokį pavojų mato kiekviena šalis ir iš dalies nuo jos dydžio.
Tokia didelė šalis ar šalių grupė kaip ES vis tiek yra svarbi rinka, net jei ji griežtai reguliuojama.
Todėl jei tai reiškia, kad „Meta“ ir „Google“ turi verstis per galvą, kad galėtų veikti ES, jos vis tiek tai darys. Jeigu panašiai pasielgtų maža šalis, minėtos įmonės galėtų nuspręsti, kad ten apskritai neverta užsiimti verslu.
Yra ir kitokių dilemų nei per menkas ar per griežtas reguliavimas. Pavyzdžiui, ar žiūrėti į DI apibendrintai, kaip ES, kuri vertina visą dirbtinį protą kaip vieną sritį?
Ar kaip Singapūras ir kitos šalys, kurios į tai žiūri kaip į daug skirtingų sričių? Nustatyti konkrečias problemas, kurias norima spręsti, o ne reguliuoti technologijas kaip visumą? Aš manau, kad dauguma šalių pasirinks pastarąjį variantą.
– Ar galite paminėti teigiamų pavyzdžių, kai valstybėms pavyksta subalansuoti DI reguliavimą?
– Tai priklauso nuo to, kokių tikslų siekiame. Manau, kad ES yra svarbus valstybių grupės pavyzdys. Ji teikia pirmenybę teisėms, o ne nevaldomai technologijų pažangai.
Todėl tikrai įdomu stebėti, kur tai nuves. Singapūras ėmėsi labai praktiško požiūrio – jo tikslas buvo sukurti tam tikras priemones, pavyzdžiui, „AI verify“, kurios stiprina įmonių savireguliaciją.
Daugelis bendrovių teigia, kad turi konkrečias su DI susijusias gaires ir standartus, todėl Singapūras sako: „Gerai, štai priemonė, su kuria galite įvertinti, ar pakankamai gerai laikotės savo standartų.“
Be to, turime reguliavimo „smėlio dėžes“ – kai kurios vyriausybės sukuria tam tikrą virtualią aplinką, pavyzdžiui, finansų sektoriuje, kurioje galima paleisti savo gaminių programas patiriant minimalų pavojų, nes šios programos negali „pabėgti“ iš smėlio dėžės.
Yra ir kietasis reguliavimas, taikomas konkrečiuose sektoriuose, pavyzdžiui, medicinos, finansų ar transporto. Todėl manau, kad Singapūras daro įdomius dalykus.
Kitas gan įdomus atvejis yra Kinija. Ji į dirbtinį protą žiūri per nacionalinio saugumo prizmę ir vykdo įdomią socialinę politiką, kuri gali sudominti paauglių tėvus.
Tai – laiko, kurį vaikai žaidžia vaizdo žaidimus, automatinis ribojimas ir reikalavimas, kad dideli DI kalbos modeliai niekada nemeluotų.
Taigi nemanau, kad kuri nors šalis yra atradusi tobulą DI politiką, bet tai natūralu ankstyvuoju technologijų evoliucijos laiku – visame pasaulyje vyksta įvairūs bandymai.
Manau, kad vienas dalykas, kurį greitai visi suvoksime – nieko nedaryti nėra išeitis.
– Ar matote kokių nors iššūkių dabartiniame pasaulyje, kuriuos DI galėtų padėti įveikti?
– Taip, DI labai gerai pritaiko išteklius ar darbo eigą, bando rasti veiksmingiausius būdus, kaip apdoroti didžiulius duomenų kiekius.
Yra dalykų, kuriuos DI gali atlikti, o žmonės – ne, pavyzdžiui, vaistų atradimas: antibiotikai iš tikrųjų pradėti plačiai vartoti tik apie 1940-uosius, mes juos atradome natūraliai.
Dabar, pasitelkus DI, galima pasikliauti ne tik tuo, kad dirvožemis natūraliai sukurs naujus antibiotikus, bet tai galima daryti ir virtualiai.
Turime galimybę atlikti bandymus su visais įmanomais molekulių deriniais, todėl tokiose srityse kaip ši DI turi didžiules galimybes.
Be to, klimato ir orų modeliavimas yra neįtikėtinai sudėtingas procesas, kuriame DI gali atlikti svarbų vaidmenį. Didžiuliai duomenų kiekiai – tai sritis, kurioje jis tikrai galėtų būti labai svarbus.
– Kalbant apie tarptautinę teisę, ar manote, kad galbūt ateityje atsiras tarptautinė organizacija, panaši į Jungtines Tautas, kuri padės kurti DI įstatymus ir taisykles visoms šalims?
– Manau, kad tai būtų labai sudėtinga, nes dabar visa galia yra bendrovių rankose. Bendrovės uždirba pinigus ir nebūtinai nori būti reguliuojamos.
Tuo tarpu valstybės taip pat turi galios, bet jos atsargiai vertina savo perteklinio ar nepakankamo reguliavimo riziką.
Tarptautiniu lygmeniu įtakos beveik nėra, išskyrus galią, kurią valstybės noriai suteikia tarptautinėms organizacijoms.
Galima įsivaizduoti scenarijų, pagal kurį visos valstybės sutinka suteikti galią tarptautinei organizacijai, bet kodėl jos turėtų tai daryti?
Pavyzdžiui, jei pažvelgtumėte į dabartinę įtampą tarp JAV ir Kinijos, kodėl JAV norėtų būti valdoma taip pat kaip Kinija ir atvirkščiai?
Tai įmanoma, bet mažai tikėtina. Tokie scenarijai įmanomi tik dviem aplinkybėmis: jei kas nors yra labai neprieštaringa ir savaime suvokiama, pavyzdžiui, pašto siuntų standartai, arba labai pavojinga, pavyzdžiui, branduolinės bombos.
Konferenciją „Technologiniai pokyčiai ir tarptautinė teisė“ rengė Europos tarptautinės teisės asociacija (European Society of International Law – ESIL), VU ir VU Teisės fakultetas.
ESIL konferencijos kasmet vyksta vis kitame Europos mieste. Lietuvoje šis renginys vyko pirmą kartą.
