Sparčiai besivystančių skaitmeninių ir susijusių technologijų – AI, didelių kalbų modelių ir kitų – vertinimo sistema

• Įvadas 
• fonas 
• Analitinės sistemos kūrimas 
• Naudojant analitinę sistemą 
• Matmenys, į kuriuos reikia atsižvelgti vertinant naują technologiją 
• Kelias į priekį 
• Padėka

Sparčiai atsirandančios technologijos kelia sudėtingų problemų, susijusių su jų valdymu ir galimu reguliavimu. Politika ir viešos diskusijos dėl dirbtinio intelekto (AI) ir jo naudojimo iškėlė į šias problemas didelį dėmesį. Nors UNESCO, EBPO ir kiti paskelbė plačius dirbtinio intelekto principus ir vyksta diskusijos dėl pasaulinio ar jurisdikcinio technologijos reguliavimo, egzistuoja ontologinis atotrūkis tarp aukšto lygio principų kūrimo ir jų įtraukimo į reguliavimą, politiką, valdymo ir priežiūros metodus. Čia ypatingą vaidmenį galėtų atlikti nevyriausybinė mokslo bendruomenė. 

Nemažai akademikų ir politikos ekspertų pasiūlė, kad Tarptautinė mokslo taryba (ISC), turinti pliuralistinę socialinių ir gamtos mokslų narystę, sukurtų ir tvarkytų anotuotą rizikos, naudos pagrindą / kontrolinį sąrašą, grėsmės ir galimybės, susijusios su sparčiai besikeičiančiomis skaitmeninėmis technologijomis, įskaitant, bet tuo neapsiribojant, dirbtinį intelektą. Kontrolinio sąrašo tikslas – informuoti visas suinteresuotąsias šalis, įskaitant vyriausybes, prekybos derybininkus, reguliavimo institucijas, pilietinę visuomenę ir pramonę, apie galimus ateities scenarijus ir nustatyti, kaip jos galėtų apsvarstyti galimybes, naudą, riziką ir kitus klausimus. 

Rezultatai veiktų ne kaip vertinimo įstaiga, o kaip prisitaikanti ir besivystanti analitinė sistema, kuri galėtų paremti bet kokius vertinimo ir reguliavimo procesus, kuriuos galėtų sukurti suinteresuotosios šalys, įskaitant vyriausybes ir daugiašalę sistemą. Bet kokia analitinė sistema idealiu atveju turėtų būti sukurta nepriklausomai nuo vyriausybės ir pramonės pretenzijų, atsižvelgiant į jų suprantamus interesus. Ji taip pat turi būti maksimaliai pliuralistinė savo perspektyvomis, taip apimdama visus technologijos aspektus ir jos pasekmes. 

Šiame diskusijų dokumente pateikiami pradinės sistemos, skirtos informuoti apie daugybę pasaulinių ir nacionalinių diskusijų, susijusių su AI, metmenys. 

Spartus technologijos su AI sudėtingumu ir padariniais atsiradimas skatina daugybę tvirtinimų apie didelę naudą. Tačiau tai taip pat kelia baimę dėl didelių rizikų – nuo ​​individualaus iki geostrateginio lygio. Didžioji diskusijų dalis dažniausiai vyksta kraštutiniuose požiūrių spektro kraštuose, todėl reikia pragmatiškesnio požiūrio. Dirbtinio intelekto technologija ir toliau vystysis, o istorija rodo, kad beveik kiekviena technologija yra naudinga ir žalinga. Todėl kyla klausimas: kaip galime pasiekti naudingų šios technologijos rezultatų, tuo pačiu sumažinant žalingų pasekmių riziką, kai kurios iš jų gali būti egzistencinio dydžio? 

Ateitis visada neaiški, tačiau yra pakankamai patikimų ir ekspertų nuomonės apie AI ir generatyvųjį AI, kad būtų skatinamas santykinai atsargus požiūris. Be to, reikalingas sisteminis požiūris, nes dirbtinis intelektas yra technologijų klasė, kurią plačiai naudoja ir taiko įvairių tipų vartotojai. Tai reiškia, kad svarstant AI poveikį asmenims, socialiniam gyvenimui, pilietiniam, visuomeniniam gyvenimui ir pasauliniam kontekstui, reikia atsižvelgti į visą kontekstą. 

Skirtingai nuo daugelio ankstesnių technologijų, skaitmeninės ir susijusios technologijos turi labai trumpą laikotarpį nuo kūrimo iki išleidimo, daugiausia dėl gamybos įmonių ar agentūrų interesų. AI greitai plinta; kai kurios savybės gali išryškėti tik po išleidimo, o technologija gali turėti ir piktavališką, ir geranorišką pritaikymą. Svarbių verčių matmenys turės įtakos tam, kaip bus suvokiamas bet koks naudojimas. Be to, galimi geostrateginiai interesai. 

Iki šiol virtualios technologijos reguliavimas iš esmės buvo vertinamas per „principų“ ir savanoriško laikymosi objektyvą. Tačiau pastaruoju metu diskusijos pakrypo į nacionalinio ir daugiašalio valdymo klausimus, įskaitant reguliavimo ir kitų politikos priemonių naudojimą. Teiginiai už arba prieš AI dažnai yra hiperboliški ir, atsižvelgiant į technologijos pobūdį, sunkiai įvertinami. Sukurti veiksmingą pasaulinę ar nacionalinę technologijų reguliavimo sistemą bus sudėtinga, o grandinėje reikės kelių sluoksnių, pagrįstų rizika pagrįstų sprendimų priėmimo – nuo ​​išradėjo iki gamintojo, naudotojo, vyriausybės ir daugiašalės sistemos. 

Nors UNESCO, EBPO ir Europos Komisija, be kita ko, paskelbė aukšto lygio principus ir vyksta įvairios aukšto lygio diskusijos dėl galimo reguliavimo klausimų, tarp tokių principų ir valdymo ar reguliavimo sistemos yra didelis ontologinis atotrūkis. Kokia yra svarstymų taksonomija, į kurią reguliavimo institucijai gali tekti atsižvelgti? Siaurai sutelktas kadravimas būtų neprotingas, atsižvelgiant į platų šių technologijų poveikį. Šis potencialas sulaukė daug teigiamų ir neigiamų komentarų.

ISC yra pagrindinė pasaulinė NVO, integruojanti gamtos ir socialinius mokslus. Jos pasaulinis ir disciplininis aprėptis reiškia, kad ji yra tinkama teikti nepriklausomus ir pasauliniu mastu svarbius patarimus, kurie padėtų priimti sudėtingus būsimus sprendimus, ypač dėl to, kad šiuo metu daugiausiai nuomonės šioje arenoje yra pramonės atstovai arba didžiausios technologinės jėgos. Po plačių diskusijų pastaraisiais mėnesiais, įskaitant nevyriausybinio vertinimo proceso svarstymą, ISC padarė išvadą, kad jos naudingiausias indėlis būtų sukurti ir išlaikyti adaptyvią analitinę sistemą, kuri galėtų būti naudojama kaip pagrindas diskusijoms ir priimant sprendimus. visos suinteresuotosios šalys, įskaitant bet kokį oficialų vertinimo procesą, kuris atsiranda. 

Ši sistema būtų visa apimantis kontrolinis sąrašas, kurį galėtų naudoti ir vyriausybinės, ir nevyriausybinės institucijos. Sistema identifikuoja ir tiria technologijos, pvz., AI ir jos darinių, potencialą per platų objektyvą, apimantį žmonių ir visuomenės gerovę, taip pat išorinius veiksnius, tokius kaip ekonomika, politika, aplinka ir saugumas. Kai kurie kontrolinio sąrašo aspektai gali būti svarbesni už kitus, atsižvelgiant į kontekstą, bet geresni sprendimai yra labiau tikėtini, jei atsižvelgiama į visas sritis. Tai yra neatskiriama kontrolinio sąrašo metodo vertė. 

Siūloma sistema yra paimta iš ankstesnio darbo ir mąstymo, įskaitant Tarptautinio vyriausybės mokslo patarimų tinklo (INGSA) skaitmeninės gerovės ataskaitą.¹ ir EBPO AI klasifikavimo sistemą² pateikti AI galimų galimybių, rizikos ir poveikio visumą. Šių ankstesnių produktų paskirtis buvo labiau apribota, atsižvelgiant į jų laiką ir kontekstą, todėl reikalinga visa apimanti sistema, kurioje būtų pateikiamos visos trumpalaikės ir ilgalaikės problemos. 

Nors ši analitinė sistema buvo sukurta atsižvelgiant į AI, ji gali būti taikoma bet kuriai greitai atsirandančiai technologijai. Problemos yra plačiai sugrupuotos į šias kategorijas, kad būtų galima toliau nagrinėti: 

• Gerovė (įskaitant asmenų ar savęs, visuomenės ir socialinio gyvenimo bei pilietinio gyvenimo) 
• Prekyba ir ekonomika 
• aplinkos 
• Geostrateginis ir geopolitinis 
• Technologinės (sistemos charakteristikos, dizainas ir naudojimas) 

Pateikiamas kiekvienos iš aukščiau paminėtų kategorijų svarstymų sąrašas kartu su atitinkamomis galimybėmis ir pasekmėmis. Kai kurie yra svarbūs konkretiems AI atvejams ar programoms, o kiti yra bendri ir agnostiški platformai ar naudojimui. Nė vienas čia įtrauktas aspektas neturėtų būti laikomas prioritetu, todėl turėtų būti išnagrinėti visi. 

Ši sistema gali būti naudojama šiais būdais, bet neapsiribojant: 

• Užpildyti atotrūkį tarp principų ir vertinimo sukuriant patvirtintą bendrą taksonomiją, apimančią įvairius aspektus, kuriuos atitinkamos suinteresuotosios šalys galėtų panaudoti kaip pagrindą informuoti ir formuoti tolesnį mąstymą, įskaitant bet kokią vertinimo sistemą, kurią gali sukurti valdžios institucijos. 

• Informuoti poveikio vertinimus. ES AI įstatyme reikalaujama, kad organizacijos, teikiančios dirbtinio intelekto priemones arba taikančios dirbtinį intelektą savo procesuose, atliktų poveikio vertinimą, kad nustatytų savo iniciatyvų riziką ir taikytų tinkamą rizikos valdymo metodą. Čia pateikta sistema galėtų būti naudojama kaip pagrindas. 

• Tobulinti etikos principus, reikalingus dirbtinio intelekto naudojimui vadovauti ir valdyti. Sistema gali tai padaryti suteikdama lankstų pagrindą, kuriuo remiantis gali būti kuriamos patikimos sistemos, ir užtikrinant teisėtą, etišką, patikimą ir atsakingą technologijos naudojimą. Šiuos principus būtų galima išbandyti atsižvelgiant į visą šioje sistemoje pateiktą poveikį. 
• Palengvinti esamų priemonių (ty reguliavimo, teisėkūros, politikos) įvertinimą ir nustatyti visas spragas, kurias reikia toliau apsvarstyti. 

• Sistema yra agnostinė technologijai ir jos naudojimui. Todėl jis gali būti naudojamas gana skirtingose ​​srityse, tokiose kaip sintetinė biologija. 

Toliau pateiktoje lentelėje parodytas ankstyvas analitinės sistemos matmenų formavimas. Priklausomai nuo technologijos ir jos naudojimo, kai kurie komponentai bus aktualesni už kitus. Pateikiami pavyzdžiai, siekiant parodyti, kodėl kiekvienas domenas gali būti svarbus; atsižvelgiant į kontekstą, sistemą reikėtų išplėsti atsižvelgiant į kontekstą. Taip pat svarbu atskirti platformos plėtrą ir bendrąsias problemas, kurios gali iškilti naudojant konkrečias programas.  

Raktas į deskriptorių šaltiniai

Paprastas tekstas:
Gluckman, P. ir Allen, K. 2018 m. Gerovės supratimas sparčių skaitmeninių ir susijusių transformacijų kontekste. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Paryškintas tekstas:
EBPO. 2022 m. EBPO AI sistemų klasifikavimo sistema. EBPO skaitmeninės ekonomikos dokumentai, Nr. 323, EBPO leidykla, Paryžius. https://oecd.ai/en/classification 

Kursyvus tekstas:
Nauji aprašai (iš kelių šaltinių) 

Atsižvelgdamas į atsakymą į šį diskusijų dokumentą, ISC sudarytų ekspertų darbo grupę, kuri toliau plėtotų arba iš dalies pakeistų pirmiau minėtą analitinę sistemą, pagal kurią suinteresuotosios šalys galėtų visapusiškai išnagrinėti bet kokius reikšmingus platformų arba naudojimo aspektų pokyčius. Darbo grupė būtų discipliniškai, geografiškai ir demografiškai įvairi, jos kompetencija apimtų nuo technologijų vertinimo iki viešosios politikos, nuo žmogaus raidos iki sociologijos ir ateities bei technologijų studijų. 

Norėdami dalyvauti šiame diskusijų dokumente, apsilankykite taryba.science/publications/framework-digital-technologies 

Rengiant šį dokumentą, kurį parengė Sir Peter Gluckman, ISC prezidentė ir Hema Sridhar, buvusi Gynybos ministerijos vyriausioji mokslininkė, o dabar vyresnioji mokslo darbuotoja Oklando universitete (Naujoji Zelandija). 

Ypač dėkojame Lordui Martinui Reesui, buvusiam Karališkosios draugijos prezidentui ir Kembridžo universiteto Egzistencinių rizikų tyrimo centro įkūrėjui; Profesorius Shivaji Sondhi, Oksfordo universiteto fizikos profesorius; profesorius K Vijay Raghavan, buvęs Indijos vyriausybės pagrindinis mokslinis patarėjas; Amandeep Singh Gill, JT Generalinio Sekretoriaus pasiuntinys technologijų klausimais; Dr. Seán Óh Éigeartaigh, Kembridžo universiteto Egzistencinių rizikų tyrimo centro vykdomasis direktorius; Amanda-June Brawner, vyresnioji politikos patarėja ir Ianas Wigginsas, Karališkosios draugijos JK tarptautinių reikalų direktorius; Dr. Jerome'as Duberry'as, dr. Marie-Laure Salles, Ženevos studijų instituto direktorius; Chor Pharn Lee, Strateginės ateities centras, Ministro Pirmininko biuras, Singapūras; Barendas Monsas ir dr. Simonas Hodsonas, Duomenų komitetas (CoDATA); Prof Yuko Harayama, Japonija; Profesorius Rémi Quirion, INGSA prezidentas; Dr. Claire Craig, Oksfordo universitetas ir buvęs Vyriausybės mokslo biuro numatymo vadovas; ir prof. Yoshua Bengio, JT Generalinio Sekretoriaus mokslinė patariamoji taryba ir Monrealio universiteto. Iš esmės buvo pritarta kontrolinio sąrašo metodui ir buvo pabrėžtas bet kokių ISC veiksmų savalaikiškumas.