Åpenhetsplikt: når må du fortelle at det er KI?

Fire situasjoner med åpenhetsplikt

1. Systemer som samhandler med mennesker. Brukeren skal forstå at hen snakker med et KI-system, med mindre det er åpenbart.
2. Syntetisk innhold. Generert eller manipulert lyd, bilde, video og tekst skal merkes maskinlesbart.
3. Deepfakes. Innhold som fremstår ekte skal opplyses som kunstig generert.
4. Følelses- og biometrisk kategorisering. De berørte skal informeres om at systemet brukes.

Hvordan det løses i praksis

• Chatbot: en kort setning i første melding og i grensesnittet — «Du chatter med en KI-assistent. Svar kan inneholde feil. Be om å bli satt over til en saksbehandler når som helst.»
• Publisert innhold: en synlig merking der innholdet vises, ikke gjemt i en personvernerklæring.
• Interne dokumenter fra KI: en fotnote om at utkastet er KI-generert og kvalitetssikret av navngitt person.

Åpenhet er ikke ansvarsfraskrivelse

En merking fjerner ikke ansvaret for innholdet. Publiserer virksomheten et KI-generert svar som er feil, er det virksomhetens feil. Åpenhetsplikten kommer i tillegg til — ikke istedenfor — kvalitetssikring.

Sjekkliste

• Er alle innbyggerrettede chatboter merket i selve grensesnittet?
• Finnes det en fast formulering alle avdelinger bruker?
• Er det avklart hvordan brukeren nås av et menneske?
• Logges samtalene, og hvor lenge lagres de?
• Er informasjonen gitt på samme språk som tjenesten?

Åpenhetsplikten er billig å oppfylle og synlig for alle. Den er ofte det første en tilsynsmyndighet ser etter.