Bruken av teknologiske løsninger som innebærer bruk av kunstig intelligens (KI) øker raskt. Sammen med en rekke samarbeidspartnere skal Høgskolen i Østfold i løpet av de neste tre årene utvikle et prosessverktøy som skal sikre at digitale løsninger som tilbys både til barn, voksne og eldre brukere er etisk forsvarlige.
- Bruk av kunstig intelligens får større og større innvirkning på livene våre så vi er nødt til å å sikre at bruken er etisk forsvarlig for det samfunnet vi ønsker å leve i.
Det sier førsteamanuensis ved Høgskolen i Østfold, Leonora Onarheim Bergsjø.
Hun er leder for Norsk råd for digital etikk (NORDE), et tverrfaglig og tverrsektorielt råd og forsker på temaer som digital etikk, big data, algoritmer og kunstig intelligens.
Forskningsprosjektet ENACT (Ethical risks assessmeNt of Artificial intelligenCe in pracTice) som nå får 12 millioner kroner i støtte fra Norges forskningsråd (NFR), er basert på NORDE-arbeidet. Mange av deltakerne i NORDE deltar også i ENACT-prosjektet som skal startes opp høsten 2023.
Helt nytt i Norge
Prosjektgruppen består av Sintef Digital (prosjekteier), Høgskolen i Østfold ved Fakultet for lærerutdanninger og språk, Norwegian Open AI Lab ved NTNU, Institutt for Informatikk ved UiO og Senter for e-helse ved UiA, samt University College London og Imperial College London. I tillegg er forskernettverket Norwegian Artificial Intelligence Research Consortium (NORA) og innovasjonsnettverket Cluster for Applied AI/Smart Innovation Norway sentrale i prosjektet, sammen med Norsk råd for digital etikk (NORDE).
«Målet med prosjektet er både å designe en metode for etisk testing og å utvikle treningsprogrammer slik at metoden kan læres av alle de som utvikler teknologi for det norske markedet.»
Leonora Onarheim Bergsjø, førsteamanuensis ved Høgskolen i Østfold
Sammen med Sintef har Bergsjø som leder av NORDE, arbeidet med søknaden om midler innenfor kategorien «Samarbeidsprosjekt innenfor digital sikkerhet og kunstig intelligens, robotikk og autonomi med tilhørende systemer». Gleden var derfor stor da det positive svaret fra Forskningsrådet ble kjent.
- Det er en utrolig stor glede å få støtte til prosjektet for vi er et stort team av mennesker som brenner for å gjøre noe vi synes er utrolig viktig, nemlig å sikre at vi har etisk forsvarlige løsninger for barn, gamle og syke, arbeidsledige, arbeidstakere – kort sagt, alle. Det er så mange grupper som berøres av kunstig intelligens-basert teknologi. Det å få penger til å gjøre noe som ikke finnes i Norge i dag det er rett og slett kjempegøy, sier HiØ-forskeren.
Sårbare grupper diskrimineres
Bergsjø sier mange undersøkelser har vist at ulike grupper ikke kommer likt ut når vi bruker kunstig intelligens, og at det kan føre til diskriminering, særlig av mennesker i sårbare livssituasjoner. Det finnes per nå mange retningslinjer og sjekklister også i europeisk kontekst, men disse er lite anvendbare for de som utvikler teknologi, ifølge HiØ-forskeren.
"Diskriminering skjer når verktøyene ikke er testet godt nok før de tas i bruk. Vi trenger digitale verktøy som fremmer likeverd og mangfold."
Leonora Onarheim Bergsjø
- Det er flotte ord, men teknologi-utviklerne rapporterer at det er vanskelig å omsette retningslinjene i praksis når de sitter og skal ta kodevalg. Retningslinjene er ikke konkrete nok til å brukes når et produkt skal utvikles, forklarer hun.
Og fortsetter:
- For eksempel kan det stå at det skal være rettferdig, men hva er rettferdig? Skal alle få likt, de som trenger mest få mest, eller hva oppfattes som rettferdig i akkurat den konteksten eller det samfunnet verktøyet skal brukes i?
Samtidig som bruk av kunstig intelligens-basert teknologi brer om seg har altså behovet for etisk trening og profesjonsetikk for teknologer vokst frem. Her vil ENACT-prosjektet spille en viktig rolle.
- Det er selve prosessen for å sikre det etiske som vi skal forske frem, hvilke metoder virksomheter kan bruke for å teste og forbedre løsningene. Med dette arbeidet skal vi bidra til å bygge opp profesjonsetikken innenfor teknologi-fagene, sier NORDE-lederen.
Ifølge Bergsjø finnes det mange eksempler på at teknologiske løsninger diskriminerer ulike grupper. Et aktuelt eksempel er ansettelsesprosesser, der bruk av kunstig intelligens i verktøy for rekruttering har vist seg å diskriminere kvinner og mennesker med nedsatt funksjonsevne.
- Diskriminering skjer når verktøyene ikke er testet godt nok før de tas i bruk, understreker Bergsjø, og utdyper:
- Ta for eksempel programmer for analyse av ansiktsuttrykk og følelser. Når slike programmer i hovedsak er testet på mennesker med samme kjønn, etnisitet og bakgrunn, kan analysen bli feil for mennesker som er opplært til å oppføre seg annerledes i en samtale, eller som har syndromer eller skader som gjør at de har mindre eller annerledes mimikk. Det kan ramme hardt om første intervjurunde gjennomføres av en robot, slik stadig flere internasjonale selskaper gjør. Vi trenger digitale verktøy som fremmer likeverd og mangfold.
Må styrke profesjonsetikken
Forskerne som er involvert i ENACT-prosjektet skal samarbeide med norske virksomheter for å lage et prosessverktøy som på en effektiv måte skal kunne teste om digitale løsninger er etisk forsvarlige.
- Det er en tanke om at vi bør teste løsningene bedre før de slippes på markedet ved å utvikle et prosessverktøy for etisk evaluering av nye produkter. Skolene, for eksempel, er i ferd med å innføre digital læringsanalyse som er basert på kunstig intelligens og hvor det er viktig at barna ikke blir diskriminert på forskjellige måter, påpeker Bergsjø og legger til:
- Både i helsesektoren, NAV og i bank og finans ser du det mer og mer brukt, dette er områder med enorme betydninger for folk liv. Kunstig intelligens får rett og slett større og større innvirkning på livene våre på så mange områder så vi er nødt til å gå disse rundene for å sikre at det er etisk forsvarlig på en måte som støtter det samfunnet vi vil ha.
Verktøyet vil også kunne brukes for å teste at teknologiske løsninger som er utviklet i andre land enn Norge er tilpasset det markedet det skal brukes i.
- Veldig mye av teknologien vi kjøper er utviklet for andre markeder slik at noe som kan oppleves som helt rettferdig og fint i USA eller Kina kan oppleves som veldig usolidarisk i Norge. Når man skal bruke kunstig intelligens så er det kjempeviktig at den er testet ut på norske forhold, forklarer forskeren.
Inngår i høgskolens satsingsområde
Høgskolen i Østfold med Bergsjø i spissen vil være tungt inne i samtlige faser av ENACT-prosjektet. HiØ spiller en avgjørende rolle sammen med prosjekteier Sintef.
- Jeg vil være med i alle faser og kommer til å både være med og utvikle den etiske metoden, teste den sammen med virksomheter og til slutt evaluere, forklarer hun.
I tillegg skal det utvikles et kurs som det er tenkt at HiØ skal være eier av.
- Det vil være en metode som andre virksomheter, både private og offentlige, vil kunne få tilgang til og kunne implementere i sine bedrifter. Det er et tilbud som per nå ikke finnes, det er ingen som tilbyr det, forteller forskeren.
Prosjektet er i tråd med Høgskolens satsingsområde Det digitale samfunn og vil inngå her.
- Dette er strålende nyheter for Høgskolen, og helt i tråd med det vi ønsker å oppnå gjennom satsningen på Det Digitale Samfunn (DDS). Etiske utfordringer knyttet til ny teknologi - her kunstig intelligens - er mange og viktige, og dette er noe av kjernen i vår tilnærming til forskning på digitaliseringsprosesser.
Det sier førsteamanuensis ved Institutt for informasjonsteknologi og kommunikasjons Henrik Skaug Sætra og leder for DDS.
Og legger til:
- Men, vi skal jo ikke bare kritisere og peke på utfordring, vi skal bidra til mer ansvarlig utvikling og bruk av ny teknologi, og det er jo nettopp det som her gjøres. I tett samarbeid med akademiske partnere, virkemiddelapparatet og næringslivet vil vi her bidra til å gjøre dette forståelig og relevant for de som utvikler og bruker kunstig intelligens.
Skal testes ut på store samfunnsaktører
Metoden Bergsjø og samarbeidspartnerne nå skal utvikle skal testes ut sammen med et bredt spekter av norske virksomheter fra sektorene skole, helse og velferd, finans og transport. Aktørene som skal ta del i prosjektet er NAV, DNB, Posten, Medsensio og Hypatia Learning.
- Både store, mellomstore og små virksomheter fra hele landet er med, forteller HiØ-forskeren.
Forskerne som er involvert i prosjektet er fra mange fagområder, fra teknologi til etikk, skal jobbe tett sammen gjennom hele prosjektperioden.
- Vi jobber tverrfaglig og alle deltar derfor hele veien, understreker Bergsjø.
Strategisk viktig for høgskolen
Prorektor for forskning og formidling ved HiØ, Kristi Cecilie Grønvold Bache sier prosjekter som ENACT er viktige for høgskolen.
- Dette viser at vi har kompetanse og kan få til mye! Dette er veldig oppmuntrende i forhold til hvordan vi tenker rundt forskning fremover: vi som jobber strategisk med forskning og støtter opp med rådgivning og bistand for eksternfinansiering må bidra til å bygge sterke miljøer på de gode kreftene vi har. Vi må ha tett dialog og skreddersy utlysninger, program, fremgangsmåte og kompetanseheving slik at denne typen tildelinger kan øke, bygges videre og føre til enda større og flere tildelinger fremover, sier hun.
Og tilføyer:
- Det er en langsiktig satsing, og vi er helt avhengige av denne typen oppmuntrende og gledelige seiere på veien.
Grønvold Bache sier forskningsledelsen og administrasjonen umiddelbart skal i gang med å legge en plan for hvordan de på best mulig måte skal støtte opp om, lære, og planlegge videre for neste fase i prosjektet.
- Jeg er så utrolig stolt av Leonora, og imponert over hennes evne til over tid å bygge opp både nettverk og faglig innhold som gjør at de ender med 7 i evaluering (høyeste mulige karakter red.anm.) og tilslag fra NFR, sier prorektoren for forskning.