Etiske vurderinger

Utvikling og bruk av KI skal organiseres på en måte som sikrer tydelige ansvarsforhold. Det skal legges til rette for internkontroll og eksternt tilsyn i alle faser av utviklingen. Dette innebærer at innsyn i algoritmer, datagrunnlag og design/utviklingsprosedyrer må ivaretas i hele utviklings- og livssyklusen til et KI-system. Alle prosjekter skal være fundert på forholdsmessige risiko- og konsekvensanalyser. Slike analyser omfatter forhold som pasientsikkerhet, etikk, informasjonssikkerhet og personvern. 

Bruk av KI i klinisk virksomhet skal være i tråd med faglig forsvarlighet. Arbeidsprosesser som involverer KI skal dokumenteres. Virksomheter som tar i bruk KI må sørge for at de ansatte kan bruke systemene på forsvarlig måte. Dette omfatter blant annet ansvar for opplæring, etablering av rutiner for forsvarlig bruk og løpende overvåkning og kvalitetssikring av bruken av KI. I tillegg må det enkelte helsepersonell være bevisst sitt selvstendige ansvar for forsvarlig yrkesutøvelse, jf. helsepersonelloven § 4. Forsvarlighetsplikten kan tilsi varsomhet med vektlegging av anbefalinger fra KIsystemer, særlig i en tidlig implementeringsfase. 

KI-systemer skal leve opp til høye standarder for nøyaktighet og stabilitet over tid. Dette er avgjørende for å unngå at systemene fører til utilsiktede feil og ulemper for pasienter og helsepersonell. Pålitelighet innebærer også at arbeidsprosesser der KI tas i bruk må tilpasses slik at konsekvensene av nedetid eller feil på systemene minimeres. Innføring av KI skal ha som mål å øke kvaliteten på tjenestene til det beste for pasientene. 

Utvikling og bruk av KI skal skje på en åpen og gjennomsiktig måte. Gjennomsiktighet innebærer blant annet åpenhet om innholdet i treningsdata og hvor datagrunnlaget kommer fra, åpenhet om systemets logikk, og åpenhet om at KI benyttes og til hvilke formål. Ved utvikling av KI skal tolkbare algoritmer og systemer etterstrebes så langt det er gjennomførbart ut fra teknologiens og vitenskapens stand til enhver tid («state of the art»). Tolkbarhet innebærer at det så langt som mulig bør gis en begrunnelse for systemets konklusjoner og anbefalinger. Som et minimum må begrunnelsen være forståelig for helsepersonell og andre som skal bruke systemet. 

Innføring av KI i klinisk virksomhet skal ikke gå på bekostning av pasienters rett til selvbestemmelse og medvirkning. KI skal heller ikke gå ut over helsepersonells profesjonelle autonomi. Pasienten har rett til meningsfull informasjon om egen helsetilstand og helsehjelpens innhold. 

Arbeidsprosesser som involverer bruk av KI skal legge til rette for menneskelig kontroll. Informasjon eller anbefalinger fra KI-systemer som gir støtte til beslutninger skal normalt være gjenstand for en reell faglig vurdering fra kvalifisert helsepersonell før beslutninger treffes. Systemene må utformes med brukergrensesnitt som gjør det mulig for brukere å føre kontroll med systemene når de er i bruk. KI-systemer må kunne overstyres av brukere ved behov. 

Ved utvikling og bruk av KI skal det legges vekt på å motvirke marginalisering av sårbare grupper i samfunnet, herunder ulike minoritetsgrupper. Risiko for at kvaliteten på helsehjelp ved bruk av KI kan variere ut fra gruppetilhørighet, bør vurderes. Vurderingen bør dokumenteres og følges opp med forebyggende tiltak. 

Ved bruk av maskinlæring til trening av algoritmer, bør et mangfoldig datagrunnlag etterstrebes. Det må tas hensyn til befolkningssammensetningen i områder der et KI-system skal tas i bruk. Samtidig må det tas hensyn til at et datasett som samsvarer med representasjonen av ulike grupper i en befolkning ikke alltid er tilstrekkelig for å oppnå KI-systemer som fungerer godt for de ulike gruppene. Minoriteter i en befolkning vil som regel være minoriteter i datasett som brukes til trening av algoritmer. Derfor bør det vurderes tiltak for å sikre kvaliteten på KI-baserte tjenester til minoritetsgrupper. Dersom KI-systemer har ulik nøyaktighet for ulike grupper, bør dette dokumenteres og opplyses om i dokumentasjonen som medfølger systemet, samt i brukermanualen. 

Helse Nord har et særlig ansvar for den samiske befolkningen i Nord-Norge. Utvikling og bruk av KI i Helse Nord skal ta hensyn til særlige forhold som gjør seg gjeldende for den samiske befolkningen. 

Oppbevaring og bruk av store datamengder, og trening av algoritmer, innebærer til dels betydelig energiforbruk som kan ha innvirkning på klimaet på planeten og fremtidige generasjoners velferd. Konsekvensene for klimaet og fremtidige generasjoner skal tillegges vekt ved avgjørelser om prioritering av KI-prosjekter i Helse Nord og ved gjennomføringen av prosjektene. Dette innebærer for eksempel at utslippsnøytrale energikilder og andre klimavennlige løsninger bør velges der slike løsninger er tilgjengelig. 

​