Etikk og KI
Etikk handler om hvordan vi skal handle, og hvordan vi vurderer om et valg eller en handling er god eller dårlig. Slike spørsmål blir særlig viktige med ny teknologi.
Kunstig intelligens (KI) er kraftig teknologi som kan påvirke samfunnet og enkeltmenneskers liv. Påvirkningen er særlig stor når den brukes i utdanning, helse eller i situasjoner der noen skal beslutte noe viktig om en person, for eksempel om de får en jobb, banklån eller forsikring.
Når du skal utvikle eller ta i bruk KI, må du ta en rekke valg. Hvilke data skal modellen trenes på? Hvem er representert i datasettene, og hvem er ikke? Hvilke verdier ligger til grunn hos dem som utvikler systemet? Hvem får fordelene av teknologien, og hvem får ulempene? Og hvem bestemmer alt dette?
Dette er noen etiske spørsmål du må ta stilling til når du skal bruke eller utvikle KI. Oppsummert må du vite hva du velger, hvorfor du velger det og hvem som tar eventuelle konsekvenser, og så må du ta ansvaret for dette i etterkant.
Krav til ansvarlig KI
I Europa har man lenge jobbet for at produkter som selges på det europeiske markedet både virker godt og ikke truer sikkerhet og helse. På bakgrunn av den raske teknologiutviklingen på det digitale området, særlig innen KI, besluttet EU kommisjonen i 2018 å nedsette en komite som skulle komme med et forslag til etiske prinsipper for utvikling og bruk av KI i EU. Komiteen ble bedt om blant annet å vurdere betydningen KI ville få for europeiske innbyggeres rettigheter, inkludert personvern og beskyttelse mot diskriminering. I 2019 kom anbefalingene fra komiteen: «Ethics guidelines for trustworthy AI»: Ethics guidelines for trustworthy AI | Shaping Europe’s digital future.
Disse retningslinjer er referert til i norsk digitaliseringsstrategi og i Nasjonal strategi for kunstig intelligens
Disse retningslinjene er sentrale for hvordan både Norge og Europa jobber med å sikre trygg og ansvarlig KI, da de er grunnlaget for KI-forordningen. Les mer om KI-loven her
Retningslinjer for KI
KI-baserte løsninger skal respektere menneskets selvbestemmelse og kontroll
Utvikling og bruk av kunstig intelligens skal bidra til et demokratisk og rettferdig samfunn ved å styrke og fremme enkeltmenneskets grunnleggende friheter og rettigheter. Den enkelte skal ha rett til ikke å være underlagt en automatisert behandling hvis beslutningen systemet fatter berører dem i vesentlig grad. Mennesker skal være inne i beslutningsprosessene for å kvalitetssikre og gi tilbakemelding i alle ledd i prosessen («human-in-the-loop»).
KI-baserte systemer skal være sikre og teknisk robuste
Kunstig intelligens skal være bygget på systemer med teknisk robuste løsninger som forebygger risiko og som bidrar til at systemene fungerer slik de er tiltenkt. Risikoen for uintenderte og uventede skader skal minimeres. Teknisk robusthet er også viktig for systemenes nøyaktighet, pålitelighet og etterprøvbarhet.
KI skal ta hensyn til personvernet
Kunstig intelligens som bygger på personopplysninger, eller som retter seg mot personer, skal følge personvernforordningen.
KI-baserte systemer må være gjennomsiktige
Beslutninger tatt av systemer basert på kunstig intelligens, skal være sporbare, forklarbare og gjennomsiktige. Det betyr at man som enkeltperson eller juridisk person skal ha mulighet til å få innsikt i hvorfor en beslutning som gjelder dem ble som den ble. Sporbarhet muliggjør både revisjon og forklaring. Gjennomsiktighet oppnås blant annet ved å gi informasjon om behandlingen til den registrerte. Gjennomsiktighet handler også om at datasystemer ikke skal utgis for å være mennesker – mennesker skal ha rett til å få vite om de samhandler med et KI-system.
KI-systemer skal legge til rette for inkludering, mangfold og likebehandling
Ved utvikling og bruk av kunstig intelligens, er det særlig viktig å være oppmerksom på at KI bidrar til inkludering og likestilling, og at diskriminering unngås. Datasett som brukes til å trene opp KI-systemer kan inneholde historiske skjevheter, være ufullstendige eller uriktige. Identifiserbare og diskriminerende skjevhet bør fjernes i innsamlingsfasen hvis det er mulig. Utvalgsskjevhet («bias») kan motvirkes ved å innføre kontrollprosesser som analysere og korrigerer systemets beslutninger i lys av formålet.
KI skal være nyttig for samfunn og miljø
Kunstig intelligens skal utvikles med hensyn til samfunnet og miljøet, og skal ikke ha negativ innvirkning på institusjoner, demokratiet og samfunnet som helhet.
Ansvarlighet
Kravet om ansvarlighet utfyller de andre kravene og innebærer at det skal innføres mekanismer som sikrer ansvarlighet for løsninger basert på KI og deres resultater, både før og etter implementering av løsningene. Alle KI-systemer skal ivareta muligheten for revisjon.
Sentrale dokumenter om KI og etikk
Det finnes mange viktige og sentrale dokumenter om KI og etikk som det kan være nyttig å kjenne til. Den europeiske anbefalingen ligger som en grunnmur under alt vi gjør på KI i Norge, men de andre anbefalingene viser hvordan man tenker rundt dette fra en mer global synsvinkel. Felles for alle er at det må være en tanke bak utvikling og bruk av KI. Etisk praksis handler i all hovedsak om å et klart bilde på hvilke dilemma man står overfor, hvilke valg man må ta og hvilke konsekvenser disse beslutningene får. I tillegg må disse beslutningene formidles til de som blir berørt av dem. Etisk praksis handler altså om gode og åpne prossser for å ta valg.
Noen etiske retningslinjer fra internasjonale aktører:
OECD AI sine retningslinjer for kunstig inelligens
Disse er et ikke bindende, men innflytelsesrikt rammeverkene for ansvarlig KI, vedtatt av medlemslandene og brukes som referanse for KI-regelverk globalt. De kombinerer verdibaserte prinsipper med anbefalinger for hvordan myndigheter kan legge til rette for forskning, styring og internasjonalt samarbeid.
De verdibaserte prinsippene er:
Inkluderende vekst og bærekraftig utvikling
Menneskerettigheter og demokratiske verdier
Transparens og forklarbarhet
Robusthet og sikkerhet
Ansvarlighet
UNESCOs globale rammeverk for etisk kunstig intelligens
UNESCO er FNs organisasjon for utdanning, vitenskap, kultur og kommunikasjon. UNESCO har utviklet verdens første globale rammeverk for etisk kunstig intelligens, vedtatt av nær alle medlemsstater. Anbefalingen bygger på menneskerettigheter og fastsetter fire kjerneverdier:
Menneskerettigheter og menneskeverd
Fredelige, rettferdige og sammenkoblede samfunn
Mangfold og inkludering
Blomstrende miljø og økosystemer
FNs arbeid med KI og etikk
FNs arbeid med kunstig intelligens og etikk har som mål å sikre at KI utvikles og brukes til fordel for hele menneskeheten. Global koordinering av KI-utvikling og bruk er nødvendig for å håndtere risikoer, sikre likeverd og oppnå rettferdig fordeling av både fordeler og ulemper. Det er viktig å unngå økende ulikhet («digital divide»), der KI-gevinster kun tilfaller noen få nasjoner og store selskaper. Kapasitetsutvikling og støtte til små og mellomstore bedrifter fremheves som avgjørende for inklusiv KI-utvikling.
Les mer på FNs nettsider