Jurainfo logo
LUK
Juridiske nyheder Kurser Find juridisk specialist Jobbørs Domme
Om Jurainfo Podcasts Juridiske links Privatlivspolitik Kontakt
Ansøg om en profil Bliv kursusudbyder Bliv jobannoncør
Artikel

Anvendelse af kunstig intelligens i et dataretligt lys

Bird & Bird
28/11/2023
Anvendelse af kunstig intelligens i et dataretligt lys
Bird & Bird logo
Kunstig intelligens (AI) er i konstant udvikling, og det kan være en udfordring at følge med i, hvad der er muligt, tilladt, og hvor grænserne går. Mens vi venter på klare retningslinjer fra EU-Kommissionen, har Datatilsynet udarbejdet en vejledning specifikt rettet mod offentlige myndigheders brug af kunstig intelligens. Vejledningen fokuserer især på at sikre overholdelse af databeskyttelsesreglerne i hele processen fra udvikling til brug af en AI-løsning, uden at bremse udviklingshastigheden, men samtidig sikre sikker behandling af borgernes personoplysninger.

I forbindelse med brug af AI som støtte i sagsbehandlingen er det afgørende at overholde centrale principper som dataminimering og formålsbegrænsning. Disse principper er afgørende for en demokratisk og hensigtsmæssig teknologisk udvikling og har til formål at skabe tillid til myndigheder gennem respekt for rettigheder og beskyttelse af data. 


Vejen til at bruge AI som beslutningsstøtte kræver særlig opmærksomhed for at undgå såkaldt "automation bias," hvor systemets vurdering vægtes højere end menneskers. Et klart lovgrundlag er nødvendigt, hvis myndigheder ønsker at træffe automatiske beslutninger, og det er afgørende, at mennesker har autoritet til at tilsidesætte systemets anbefalinger.

Databeskyttelse i AI-løsningens livscyklus

AI skal være i besiddelse af data for at kunne resonere sig frem til den mest korrekte løsning. Hvis det er en offentlig myndighed, som skal anvende AI, vil den tilgængelige data og formålet med AI typisk basere sig på oplysninger fra borgere. For at skabe et overblik over, hvornår og hvordan beskyttelse af personoplysninger skal tænkes ind, kan man tale om, at AI har en livscyklus, som overordnet består af 3 faser. Faserne vil i det følgende blive beskrevet med fokus på, hvordan borgernes informationer beskyttes gennem hele processen – fra start til slut.


Afgrænsnings- og designfasen

Denne fase fokuserer på at identificere formålet med AI-løsningen og bestemme, hvilke typer personoplysninger der skal anvendes og i hvilket omfang. Det er afgørende at overveje, hvordan en løsning med brug af alene de oplysninger, der er nødvendige kan udvikles.


I denne fase skal offentlige myndigheder besvare to grundlæggende spørgsmål:

• Hvilket formål skal løsningen tjene?

• Hvilke personoplysninger vil blive behandlet?


Der skal foreligge et udtrykkeligt angivet og legitimt formål. Derudover skal man som offentlig myndighed altid være opmærksom på de øvrige krav, der følger af databeskyttelsesreglerne – herunder kravet om at sikre proportionalitet igennem hele løsningen.


Udviklings- og træningsfasen

Under udviklingen benyttes typisk allerede eksisterende træningsdata. I denne fase træffes beslutninger, og AI-modellen vurderes og justeres for b.la. at sikre dens statistiske rigtighed og generaliserbarhed.


Behandling af personoplysninger til udvikling og træning af løsningen anses som et separat formål ifølge Datatilsynet, adskilt fra de formål, der følger i driftsfasen.


Som en del af fasen afklares det, hvilke lovregler mv. der forpligter eller bemyndiger den konkrete myndighed, hvorfor fokus i første omgang er mindre på databeskyttelse. Derefter skal det vurderes, om lovgrundlaget er tilstrækkeligt klart og præcist til at danne grundlag for udviklingen af AI-løsningen.


Driftsfasen 

I den sidste fase tages den udviklede AI-løsning i brug, baseret på sammenhænge og mønstre fra træningsdata. Det er afgørende at sikre løbende monitorering for at opretholde retvisende output. 


Uanset om AI-løsningen støtter en eksisterende myndighedsopgave eller en ny, medfører anvendelsen typisk risici for borgernes informationer. Når AI-løsningen går i drift, skal myndigheden have et behandlingsgrundlag for håndtering af personoplysninger. Dette grundlag kan findes i databeskyttelsesforordningens artikel 6, stk. 1. 


Offentlige myndigheder behandler typisk personoplysninger for at overholde en retlig forpligtelse, eller med henblik på at udføre en opgave i samfundets interesse eller som led i sin offentlige myndighedsudøvelse. Behandlingen skal i disse tilfælde have et supplerende retsgrundlag i EU-retten eller dansk ret. 


Sikring af borgernes data og overholdelse af databeskyttelsesreglerne er afgørende for en ansvarlig og effektiv anvendelse af kunstig intelligens. Hold dig opdateret på nyheder om regulering af AI hos Bird & Bird. 


Find vejledningen her: Offentlige myndigheders brug af kunstig intelligens: Inden I går i gang (datatilsynet.dk) 

Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice her →
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Fagligt indhold, der kunne være relevante for dig
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Jurainfo logo
EXCLUSIVE
VIDEO
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Det kræver et markedsføringssamtykke fra dine kunder, hvis du ønsker at udsende nyhedsmail, sms'er eller på anden måde kontakte dem med gode tilbud. Advokat, Torsten Hylleberg, kommer her nærmere ind på hvad du skal være opmærksom på i forbindelse med indhentelse af markedsføringssamtykker.
Tredjelandsoverførsler og den nye aftale med USA
Jurainfo Exclusive logo
PODCAST
Tredjelandsoverførsler og den nye aftale med USA
Vi sætter fokus på overførsel af personoplysninger til usikre tredjelande, herunder overførsler til USA baseret på den nye aftale mellem EU og USA.
4 år med GDPR
Jurainfo Exclusive logo
PODCAST
4 år med GDPR
Hvordan ligger landet 4 år efter ikrafttrædelsen af Databeskyttelsesforordningen?
Artikler, der kunne være relevante for dig
Privat organisation indstilles til bøde på mindst 15 millioner kroner
Privat organisation indstilles til bøde på mindst 15 millioner kroner
01/02/2024
Persondata
Det bør alle gøre lige nu – manglende GDPR-kontrol førte til politianmeldelse og forventet bøde på mindst 1.500.000 kr.
Det bør alle gøre lige nu – manglende GDPR-kontrol førte til politianmeldelse og forventet bøde på mindst 1.500.000 kr.
08/02/2024
Persondata, Kontraktret, Compliance
Et vink med en vognstang om, at der skal føres tilsyn med databehandlere
Et vink med en vognstang om, at der skal føres tilsyn med databehandlere
12/02/2024
Persondata, Compliance
Hvornår har I sidst ført tilsyn med jeres databehandlere?
Hvornår har I sidst ført tilsyn med jeres databehandlere?
20/02/2024
Persondata
Implementeringen af NIS2-direktivet bliver forsinket
Implementeringen af NIS2-direktivet bliver forsinket
20/02/2024
Compliance, EU-ret, Persondata
AI-forordningen er endelig på plads – hvad nu?
AI-forordningen er endelig på plads – hvad nu?
19/02/2024
Persondata, EU-ret
Jurainfo logo

Jurainfo.dk er landets største juridiske nyhedsside. Her finder du juridiske nyheder, kurser samt ledige juridiske stillinger. Vi hjælper dagligt danske virksomheder med at tilegne sig juridisk viden samt at sætte virksomheder i forbindelse med den rigtige juridiske rådgiver, når de har brug for råd og vejledning.

Jurainfo.dk ApS
CVR-nr. 38375563
Vandtårnsvej 62B, DK-2860 Søborg
(+45) 71 99 01 11
kontakt@jurainfo.dk
Ønsker du hjælp til at finde en specialist?
2024 © Jurainfo.dk - Juridiske nyheder og arrangementer samlet ét sted