I en fersk kommentar i Nature Machine Intelligence, tar jeg og mine forskerkollegaer Harald Borgebund og Mark Coeckelbergh til ordet for at det trengs mer samarbeid blant forskere på tvers av fagområder slik at vi unngår at forskere feilinformere om hva demokrati her.
Kunstig intelligens (artificial intelligence, AI) anvendes på stadig flere områder – også i politiske sammenhenger. Men AI kan ha politiske konsekvenser også når det anvendes i andre sammenhenger av næringslivet og sivilsamfunnet. AI-systemer avgjør for eksempel hvilken informasjon vi får fra verden rundt oss. Algoritmer sorterer og presenterer oss for saker fra for eksempel venner, firmaer og politiske partier. AI brukes også til å vurdere lånesøknader, til å handle på børsen, til å gjøre biler og andre systemer mer selvstendige, og alle slike anvendelser har en betydning for samfunnets fordeling av goder og byrder, samt individene som behandles direkte. Dette er politikk.
Derfor er det absolutt både naturlig og bra at AI-forskere fatter interesse for hvordan AI kan relateres til demokrati. Innenfor AI er det stadig mer vanlig at begrepene «demokratisk» og «demokratisering» brukes. Men dette er ikke helt uproblematisk, hevder Harald Borgebund, Mark Coeckelbergh og jeg i vår felles kommentar i Nature Machine Intelligence.
Det er nemlig ikke alltid slik at de som bruker begrepene har satt seg tilstrekkelig inn i hva demokrati og demokratisering faktisk er.
Vi peker på tre anvendelser av demokratibegrepet innenfor AI-forskingen som kan være problematisk.
Først er bruken av «demokratisk» som en beskrivelse av AI-systemer som tilsynelatende gjenskaper eller forbedrer demokratiske prosesser. Et eksempler på dette er systemet «Democratic AI», her brukt i artikkelen «Human-centred mechanism design with Democratic AI» i Tidsskriftet Nature human behaviour, som handler om å bruke algoritmer for å komme frem til det mest populære utfallet – uten eksplisitt dialog eller stemmegivning.
Det andre omhandler demokratisk styring og kontroll av AI-systemer. Andre igjen tar for eksempel til orde for forskjellige varianter av «deltakende AI» eller demokratisk styring av AI – som i denne artikkelen i ACM Digital Library. Den sikter blant annet til at algoritmer kan være demokratisk styrte, om individer har mulighet til å legge inn sine preferanser eller «objektive funksjoner» i et slikt system.
Det tredje er omtale av demokratisering av AI. Svært mange forskjellige meninger blandes sammen i dette begrepet, men hovedpoenget er at AI gjøres mer tilgjengelig, gjennom for eksempel åpen kildekode eller andre tiltak som bygging av kompetanse eller økt tilgang til nødvendig teknologi.
Alt dette høres jo tilsynelatende bra ut, så hva er egentlig problemet? Hovedpoenget til Borgebund, Coeckelbergh og meg selv, er at demokrati er langt mer enn popularitet og åpenhet.
I vår kommentarartikkel i Nature Machine Intelligence presenterer vi tre forskjellige demokratimodeller som viser hvorfor det er viktig å ta demokratiforskningen fra politisk teori på alvor, også innenfor AI-feltet.
For det første handler ikke demokrati bare om individers stemmegivning, men også om betydningen av politisk ledelse. Dette tydeliggjøres for eksempel i Joseph Schumpeters teori om demokrati som en prosess der borgerne velger hvem som skal lede.
Et annen viktig aspekt ved demokrati er betydningen av grupper og organisasjoner. Politikkutvikling er et uhyre komplisert fenomen, og Robert Dahls arbeid med demokratibetydning er viktig for å forstå hvorfor demokrati er mer enn en ren teknisk aggregering av individuelle preferanser og stemmer.
Til sist peker vi på hvordan demokrati også handler om dialog og det å komme sammen for å diskutere felles utfordringer, noe som gjerne mangler innenfor AI-systemer. Her er Jürgen Habermas’ teori om deliberativt demokrati sentral for å forstå hva som skjer når mennesker samles til reelle samtaler med et felles mål om å løse utfordringene man står ovenfor. I slike møter foregår det prosesser der man utvikler seg, lærer om andre og endrer gjerne sine preferanser, sier Habermas. Dette er for mange helt avgjørende for et velfungerende demokrati.
Med disse teoriene som bakgrunn argumenterer Borgebund, Coeckelbergh og jeg for at mange eksisterende anvendelser av demokratibegrepet i AI-forskningen bygger på en svært smal og fattig forståelse av demokrati. Dette kan medføre en rekke utfordringer.
For eksempel vil det gjøre det vanskeligere for forskere fra forskjellige tradisjoner å snakke meningsfullt sammen, dersom det utvikler seg egne begrepsforståelser blant AI-forskere. Kanskje enda viktigere er imidlertid effekten AI-forskernes bruk av demokratibegrepet kan ha på befolkningen og samfunnsutviklingen. Svært mye finansiering og forsking vies i disse dager til forskjellige AI-prosjekter. Med all den oppmerksomheten dette feltet får kan vi ende opp med at forskere uten særlig kompetanse på demokratiske former påvirker befolkningens grunnleggende forståelse av demokrati.
Dersom demokrati blir ensbetydende mer flertallsstyre og populisme mister vi mange av fordelene med tradisjonelt demokrati. Det kan i tillegg bidra til at flere får en viss avsmak for demokrati som system.
Løsningen, hevder hevder jeg og mine kollegaer, er mer tverrfaglig samarbeid innen dette feltet. Det kan for eksempel foregår ved at AI-forskere til en viss grad setter seg inn i demokratiteori. Men ideelt sett handler det om at eksperter fra forskjellige fagområder kommer sammen i forskningsprosjekter og -miljøer som gir grunnlag for å kombinere spisskompetanse fra to felter som er avgjørende for å løse de store samfunnsutfordringene vi står ovenfor.
Henrik Skaug Sætra er leder av satsningsområdet Det digitale samfunn ved Høgskolen i Østfold, der hensikten er å bidra til ansvarlig digitalisering og en grunnleggende tverrfaglig tilnærming til mulighetene og utfordringene som følger av økt bruk av digital teknologi.