En ramme til evaluering af hurtigt udviklende digitale og relaterede teknologier: AI, store sprogmodeller og mere

• Introduktion 
• Baggrund 
• Udvikling af en analytisk ramme 
• Brug af den analytiske ramme 
• Dimensioner at overveje, når man vurderer en ny teknologi 
• En vej frem 
• Anerkendelser

Hurtigt fremvoksende teknologier præsenterer udfordrende problemer, når det kommer til deres styring og potentielle regulering. De politiske og offentlige debatter om kunstig intelligens (AI) og brugen heraf har bragt disse spørgsmål i akut fokus. Mens brede principper for kunstig intelligens er blevet bekendtgjort af UNESCO, OECD og andre, og der er begyndende diskussioner om global eller jurisdiktionel regulering af teknologien, er der en ontologisk kløft mellem udviklingen af ​​principper på højt niveau og deres inkorporering i lovgivning, politik, styrings- og forvaltningstilgange. Det er her, det ikke-statslige videnskabelige samfund kunne spille en særlig rolle. 

Det er blevet foreslået af en række akademikere og politiske eksperter, at International Science Council (ISC) – med sit pluralistiske medlemskab fra samfunds- og naturvidenskaberne – etablerer en proces til at producere og vedligeholde en kommenteret ramme/tjekliste over risici, fordele, trusler og muligheder forbundet med hurtigt bevægende digitale teknologier, herunder – men ikke begrænset til – AI. Formålet med tjeklisten ville være at informere alle interessenter – herunder regeringer, handelsforhandlere, regulatorer, civilsamfundet og industrien – om potentielle fremtidige scenarier, og den ville danne ramme om, hvordan de kan overveje mulighederne, fordelene, risici og andre spørgsmål. 

Outputtene ville ikke fungere som et vurderingsorgan, men som en adaptiv og udviklende analytisk ramme, der kunne understøtte enhver vurdering og reguleringsprocesser, der måtte udvikles af interessenter, herunder regeringer og det multilaterale system. Enhver analytisk ramme bør ideelt set udvikles uafhængigt af regerings- og industrikrav, givet deres forståelige interesser. Det skal også være maksimalt pluralistisk i sine perspektiver og således omfatte alle aspekter af teknologien og dens implikationer. 

Dette diskussionsoplæg giver skitseringen af ​​en indledende ramme til at informere om de mange globale og nationale diskussioner, der finder sted relateret til kunstig intelligens. 

Den hurtige fremkomst af en teknologi med kompleksiteten og implikationerne af AI driver mange påstande om store fordele. Det vækker dog også frygt for betydelige risici, fra individuelt til geostrategisk niveau. Meget af diskussionen har en tendens til at foregå i de yderste ender af spektret af synspunkter, og en mere pragmatisk tilgang er nødvendig. AI-teknologi vil fortsætte med at udvikle sig, og historien viser, at stort set enhver teknologi har både gavnlige og skadelige anvendelser. Spørgsmålet er derfor: hvordan kan vi opnå gavnlige resultater fra denne teknologi, samtidig med at vi reducerer risikoen for skadelige konsekvenser, hvoraf nogle kunne være eksistentielle i omfang? 

Fremtiden er altid usikker, men der er tilstrækkeligt med troværdige og ekspertstemmer vedrørende AI og generativ AI til at tilskynde til en relativt forsigtig tilgang. Derudover er der behov for en systemtilgang, fordi AI er en klasse af teknologier med bred anvendelse og anvendelse af flere typer brugere. Det betyder, at den fulde kontekst skal tages i betragtning, når man overvejer implikationerne af AI for individer, det sociale liv, det civile liv, det samfundsmæssige liv og i den globale kontekst. 

I modsætning til de fleste tidligere teknologier har digitale og relaterede teknologier en meget kort periode fra udvikling til udgivelse, i høj grad drevet af produktionsselskabernes eller bureauernes interesser. AI er hurtigt udbredt; nogle egenskaber bliver muligvis først synlige efter udgivelsen, og teknologien kan have både ondsindede og velvillige anvendelser. Vigtige værdier dimensioner vil påvirke, hvordan enhver brug opfattes. Endvidere kan der være geostrategiske interesser på spil. 

Til dato er reguleringen af ​​en virtuel teknologi i vid udstrækning blevet set gennem linsen af ​​"principper" og frivillig overholdelse. På det seneste har diskussionen imidlertid drejet sig om spørgsmål om national og multilateral styring, herunder brugen af ​​lovgivningsmæssige og andre politiske værktøjer. Påstandene for eller imod AI er ofte hyperbolske og – i betragtning af teknologiens karakter – svære at vurdere. Etablering af et effektivt globalt eller nationalt teknologireguleringssystem vil være udfordrende, og der vil være behov for flere lag af risikoinformeret beslutningstagning langs kæden, fra opfinder til producent, til bruger, til regering og til det multilaterale system. 

Mens principper på højt niveau er blevet bekendtgjort af blandt andet UNESCO, OECD og Europa-Kommissionen, og der er forskellige diskussioner på højt niveau i gang om spørgsmål om potentiel regulering, er der en stor ontologisk kløft mellem sådanne principper og en styrings- eller reguleringsramme. Hvad er taksonomien af ​​overvejelser, som en regulator måske skal overveje? En snævert fokuseret indramning ville være uklogt i betragtning af de brede implikationer af disse teknologier. Dette potentiale har været genstand for mange kommentarer, både positive og negative.

ISC er den primære globale NGO, der integrerer natur- og samfundsvidenskab. Dens globale og disciplinære rækkevidde betyder, at den er godt placeret til at generere uafhængig og globalt relevant rådgivning for at informere om de komplekse valg forude, især da de nuværende stemmer på denne arena i vid udstrækning er fra industrien eller fra de store teknologiske magter. Efter omfattende diskussion i de seneste måneder, herunder overvejelser om en ikke-statslig vurderingsproces, konkluderede ISC, at dens mest nyttige bidrag ville være at producere og vedligeholde en adaptiv analytisk ramme, der kan bruges som grundlag for diskurs og beslutningstagning af alle interessenter, herunder under enhver formel vurderingsproces, der dukker op. 

Denne ramme vil tage form af en overordnet tjekliste, der kan bruges af både statslige og ikke-statslige institutioner. Rammen identificerer og udforsker potentialet i en teknologi som AI og dens derivater gennem en bred linse, der omfatter menneskelig og samfundsmæssig velvære, såvel som eksterne faktorer, såsom økonomi, politik, miljø og sikkerhed. Nogle aspekter af tjeklisten kan være mere relevante end andre, afhængigt af konteksten, men bedre beslutninger er mere sandsynlige, hvis alle domæner tages i betragtning. Dette er den iboende værdi af en tjeklistetilgang. 

Den foreslåede ramme er afledt af tidligere arbejde og tænkning, herunder International Network for Governmental Science Advice's (INGSA) digitale velværerapport¹ og OECD AI Classification Framework² at præsentere helheden af ​​de potentielle muligheder, risici og virkninger af AI. Disse tidligere produkter var mere begrænsede i deres hensigt i betragtning af deres tid og kontekst, der er behov for en overordnet ramme, der præsenterer hele spektret af problemstillinger både på kort og længere sigt. 

Selvom den er udviklet med henblik på AI, kunne denne analytiske ramme anvendes på enhver hurtigt fremkommende teknologi. Problemstillingerne er groft grupperet i følgende kategorier til yderligere undersøgelse: 

• Velvære (inklusive individers eller selv, samfund og sociale liv og samfundsliv) 
• Handel og økonomi 
• Miljø 
• Geo-strategisk og geo-politisk 
• Teknologisk (systemegenskaber, design og brug) 

En liste over overvejelser for hver af ovenstående kategorier er inkluderet sammen med deres respektive muligheder og konsekvenser. Nogle er relevante for specifikke tilfælde eller applikationer af AI, mens andre er generiske og agnostiske med hensyn til platform eller brug. Ingen enkelt betragtning, der er inkluderet her, bør behandles som en prioritet, og som sådan bør alle undersøges. 

Denne ramme kan bruges på, men ikke begrænset til, følgende måder: 

• At bygge bro mellem principper og vurdering ved at etablere en valideret fælles taksonomi af rækken af ​​overvejelser, der kunne bruges af relevante interessenter som grundlag for at informere og forme videre tænkning, herunder enhver vurderingsramme, der måtte blive udviklet af myndigheder. 

• At informere konsekvensvurderinger. EU AI-loven kræver, at organisationer, der leverer AI-værktøjer eller anvender AI i deres processer, skal foretage en konsekvensanalyse for at identificere risikoen ved deres initiativer og anvende en passende risikostyringstilgang. Den her præsenterede ramme kunne bruges som grundlag for dette. 

• At forbedre de etiske principper, der er nødvendige for at guide og styre brugen af ​​AI. Rammerne kan gøre dette ved at give et fleksibelt grundlag, hvorpå troværdige systemer kan udvikles og sikre lovlig, etisk, robust og ansvarlig brug af teknologien. Disse principper kunne testes i forhold til hele rækken af ​​virkninger, der præsenteres i denne ramme. 
• At lette en statusopgørelse over eksisterende foranstaltninger (dvs. lovgivningsmæssige, lovgivningsmæssige, politiske) og identificere eventuelle huller, der skal overvejes yderligere. 

• Rammen er agnostisk over for teknologien og dens anvendelse. Det kunne derfor bruges på ganske forskellige områder såsom syntetisk biologi. 

Følgende tabel er en tidlig udformning af dimensionerne af en analytisk ramme. Afhængigt af teknologien og dens anvendelse vil nogle komponenter være mere relevante end andre. Eksemplerne er givet for at illustrere, hvorfor hvert domæne kan have betydning; i kontekst ville rammen kræve kontekstuelt relevant udvidelse. Det er også vigtigt at skelne mellem platformudvikling og de generiske problemer, der kan dukke op under specifikke applikationer.  

Nøglen til kilder til deskriptorerne

Simpel tekst:
Gluckman, P. og Allen, K. 2018. Forståelse af velvære i sammenhæng med hurtige digitale og tilhørende transformationer. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Fed skrift:
OECD. 2022. OECD-ramme for klassificering af AI-systemer. OECD Digital Economy Papers, nr. 323, OECD Publishing, Paris. https://oecd.ai/en/classification 

Kursiv tekst:
Nye deskriptorer (fra flere kilder) 

Afhængigt af svaret på dette diskussionsoplæg vil ISC danne en ekspertarbejdsgruppe for at videreudvikle eller ændre ovenstående analytiske ramme, hvorved interessenter kan se på enhver væsentlig udvikling, enten af ​​platforme eller brugsdimensioner. Arbejdsgruppen vil være disciplinært, geografisk og demografisk forskelligartet med ekspertise, der spænder fra teknologivurdering til offentlig politik, fra menneskelig udvikling til sociologi og fremtids- og teknologistudier. 

For at engagere dig i dette debatoplæg, besøg venligst Council.science/publications/framework-digital-technologies 

Mange personer er blevet konsulteret i forbindelse med udviklingen af ​​dette dokument, som blev udarbejdet af Sir Peter Gluckman, præsident, ISC og Hema Sridhar, tidligere chefforsker, Forsvarsministeriet, og nu seniorforsker, University of Auckland, New Zealand. 

Vi takker især Lord Martin Rees, tidligere præsident for Royal Society og medstifter af Center for the Study of Existential Risks, University of Cambridge; professor Shivaji Sondhi, professor i fysik, University of Oxford; Professor K Vijay Raghavan, tidligere hovedvidenskabelig rådgiver for Indiens regering; Amandeep Singh Gill, FN's generalsekretærs udsending om teknologi; Dr. Seán Óh Éigeartaigh, administrerende direktør, Center for Studiet af Eksistentielle Risici, University of Cambridge; Amanda-June Brawner, seniorpolitisk rådgiver og Ian Wiggins, direktør for internationale anliggender, Royal Society UK; Dr. Jerome Duberry, Dr. Marie-Laure Salles, direktør, Geneva Graduate Institute; Chor Pharn Lee, Center for Strategic Futures, premierministerens kontor, Singapore; Barend Mons og Dr. Simon Hodson, Dataudvalget (CoDATA); Prof Yuko Harayama, Japan; professor Rémi Quirion, præsident, INGSA; Dr. Claire Craig, University of Oxford og tidligere leder af fremsyn, Government Office of Science; og prof Yoshua Bengio, FN's generalsekretærs videnskabelige rådgivende udvalg og ved Université de Montréal. Tjeklistetilgangen blev generelt godkendt, og rettidigheden af ​​enhver handling fra ISC blev understreget.