Magt og algoritmer: Rune Nyrup uddanner fremtidens AI-specialister i etik
Kunstig intelligens kan påvirke vores virkelighed, hvis vi ikke forstår, hvordan den virker. Rune Nyrup forsker i at skabe større gennemsigtighed – og underviser de studerende i magten bag teknologien.
Bliver vi manipuleret med, når vi bruger kunstig intelligens?
”Der vil altid være en risiko for, at teknologien bliver brugt helt bevidst til at manipulere.”
Sådan konkluderer Rune Nyrup, der er lektor på Center for Videnskabsstudier, Institut for Matematik på Aarhus Universitet.
Han underviser blandt andet i etik for datalogi, og nævner at risikoen gælder uanset, om du bliver anbefalet en rute af Google Maps, en reel på Instagram eller får et svar fra ChatGPT.
”Der er et ulige magtforhold mellem dig og dem, der kontrollerer teknologien,” forklarer han:
”Dem, der designer systemerne, vælger at fremhæve det, de helst vil have dig til at fokusere på. Og det er problematisk, uanset hvad intentionen er.”
Netop fordi der ligger så stor en magt i at kunne fodre algoritmerne bag mange af de apps og hjemmesider, vi bruger i vores hverdag, er det vigtigt at forstå maskineriet bag.
”Vores forskningsgruppe kigger på, hvordan vi gør komplekse computersystemer forståelige, så vi undgår politisk og etisk manipulation,” siger han.
Rune Nyrup underviser på bachelorkurser i videnskabsteori og etik inden for datalogi, it-produktudvikling og datavidenskab på Aarhus Universitet.
På kandidatuddannelsen underviser han i videnskabsteori og AI-etikkurser i naturvidenskabsstudier. Hans kandidatkurser er tilgængelige som valgfag for alle kandidatstuderende på NAT og TECH på AU.
Han vejleder også projekter inden for videnskabsteori og AI-etik, for eksempel bachelorprojekter, specialer eller enkeltstående valgfag.
Målet er mere demokratiske algoritmer
Når du onlineshopper eller er på sociale medier, får du ofte anbefalet lignende produkter eller opslag:
”Vi tror, du synes om” eller ”måske du kan lide”.
Nogle platforme giver dig mulighed for at få anbefalingen forklaret. Måske vil det lyde, at det er fordi folk, som ligner dig, har købt det samme. Men der er også en dybere forklaring, fortæller Rune Nyrup.
Algoritmen er designet til at præsenterer dig for det, der giver størst sandsynlighed for mersalg, eller for at du bliver ved med at scrolle.
Typisk er det få, pengefyldte virksomheder, der sidder på den mest avancerede teknologi og dermed dem, der beslutter, hvad du præsenteres for.
”Jeg håber, vi gennem vores forskning kan finde måder at tænke på, så vi spreder magten mere ud og dermed gør den mere demokratisk,” siger han.
En måde at ”demokratisere” den kunstige intelligens mere på, er ved at lave forklaringsmodeller, som er mere kontrolleret af brugere – snarere end dem der sidder og udvikler systemerne bag.
En anden måde er digital dannelse og oplysning, uddyber Rune Nyrup.
”Det kræver, at man som borger får en mere kritisk bevidsthed og forståelse for, at de forklaringer du får, ikke nødvendigvis er hele sandheden,” siger han.
Systemer er altid biased
Det store mål med forskningen er, at systemerne bag kunstig intelligens bliver mere gennemsigtigt og fordelt på flere hænder.
For selv i de tilfælde, hvor vi ikke tror, at teknologien misbruges, kan brugen af kunstig intelligens nemlig være problematisk, tilføjer Rune Nyrup.
Måske stoler du på, at offentlige institutioner ikke vil misbruge kunstig intelligens?
Måske regner du med, at private virksomheder er underlagt tilstrækkeligt med regler, så de ikke udnytter teknologierne?
”Systemer træffer altid etiske, værdimæssige og politiske beslutninger på baggrund af, hvad nogle ingeniører programmerer dem til,” siger Rune Nyrup.
I ekstreme tilfælde har vi Elon Musks AI-ChatBot Grok, som pludselig begyndte at udbrede konspirationsteorier om folkemord på hvide i Sydafrika.
Et mere subtilt eksempel er Google’s billedmodel, Gemini, som man havde programmeret til at genere mere etnisk diversitet. Umiddelbart kunne det lyde fint. Men det resulterede i billeder med etnisk diversitet blandt tyske soldater fra 1943, hvilket forvrænger historien.
”Bag systemerne er der nogen, der træffer værdidomme omkring, hvad der er korrekt diversitet f.eks,” understreger han.
Skelne mellem manipulation og gavn
Forskningsgruppen med Rune Nyrup i spidsen håber derfor at gøre det nemmere at gennemskue, hvordan de komplekse computersystemer fungerer.
Målet er at formulere principielle etiske kriterier, som kan bruges til at skelne de manipulerende forklaringer fra de gavnlige.
For at gøre det, må de undersøge nogle grundlæggende spørgsmål både indenfor videnskabsteori og politisk filosofi.
”Vi undersøger f.eks., hvad vil sig at give en god forklaring, hvad der tæller som en demokratisk, legitim magtfordeling, og hvordan de spiller sammen i relation til kunstig intelligens,” siger han.