Jurainfo logo
LUK
Juridiske nyheder Kurser Find juridisk specialist Jobbørs Domme
Om Jurainfo Podcasts Juridiske links Privatlivspolitik Kontakt
Ansøg om en profil Bliv kursusudbyder Bliv jobannoncør
Artikel

Politisk aftale om AI-forordningen

Bird & Bird
28/12/2023
Politisk aftale om AI-forordningen
Bird & Bird logo
Efter et forhandlingsmaraton, udløst af et massivt politisk pres for at indføre verdens første generelt gældende regulering af AI inden valget til Europa-Parlamentet næste sommer, nåede EU's institutioner forrige weekend frem til en politisk aftale om AI-forordningen.

Det forslag, som der nu er en politisk bindende aftale om, blev fremsat i april 2021. Når man genlæser forslaget i dag, handler det primært om produktsikkerhed og risikoklassificering. Siden fremsættelsen er forslaget blevet udsat for både forsøg på skrinlægning, kritik (efter hype'n omkring ChatGPT's lancering) for forældelse før vedtagelse, og til sidst et torpedoforsøg fra tre store medlemsstater. Selvom der er indgået en politisk aftale, vil de tekniske møder sandsynligvis fortsætte ind i januar, hvorefter den endelige tekst formelt skal vedtages af Europa-Parlamentet og Rådet. Ikrafttrædelse sker sandsynligvis i andet kvartal af 2024.

Beskyttelsen af individet

Antallet af egentlige forbud, der skal beskytte individuelle frihedsrettigheder, er udvidet og omfatter nu:

  • Biometrisk kategorisering på grundlag af følsomme forhold (politiske, religiøse, etniske m.v.),
  • generel og udifferentieret indsamling af ansigtsbilleder til brug for ansigtsgenkendelse,
  • følelsesgenkendelse på arbejdspladser og uddannelsessteder,
  • social scoring på grundlag af personlige karakteristika eller adfærd, 
  • de forhold, der har været forbudt siden de tidligste forslag (AI til brug for manipulering af den menneskelige frie vilje eller menneskelig sårbarhed, såsom social situation eller alder), og
  • en klageadgang, og en ret til at modtage forklaring på beslutninger baseret på AI-systemer med høj risiko.


De store AI-modeller

Aftalen omfatter forpligtelser for AI-systemer til generelle formål (General Purpose AI, forkortet ”GPAI”), såsom at indlevere teknisk dokumentation, respektere IP-rettigheder i forbindelse med træning og give transparens vedrørende træningsdatasættene. Udbydere af GPAI-systemer med "systemiske" risici, dvs. de modeller, der er trænet på enorme datasæt (ChatGPT, Google Bard og lign.), og som danner fundament for anden AI-anvendelse, skal overholde mere omfattende forpligtelser, herunder til at gennemføre vurderinger og evalueringer af de risici, de udgør, og afbøde disse risici, rapportere alvorlige hændelser til Europa-Kommissionen og gennemføre red team tests m.v. Udbydere af AI-systemer, der anses for at være højrisikosystemer, skal overholde en omfattende række af produktsikkerhedsforpligtelser vedrørende risikostyring, datakvalitet og sikkerhed. 

Listen over højrisikosystemer omfatter dem, der bruges til formål, som kan have betydelige konsekvenser for grundlæggende rettigheder, sundhed, sikkerhed, demokrati/retssikkerhed, retshåndhævelse, uddannelse, forsikring og bankvirksomhed og påvirkning af vælgeradfærd. Brugere af disse systemer vil også skulle overholde et antal udvidede forpligtelser, herunder pligten til at gennemføre konsekvensanalyser i forhold til frihedsrettighederne og til at implementere og opretholde et menneskeligt tilsyn med brugen af AI-systemet.

Sanktioner

Bødeniveauet, som har ændret sig undervejs i forhandlingerne, endte i sidste ende på 7% af global årlig omsætning i det foregående år eller 35 million euro. Derudover kan systemer, der ikke lever op til reglerne (efter en overgangsperiode), blive udelukket fra EU-markedet.

Praktik

Med den compliance-opgave, der forestår, bør alle virksomheder allerede nu kortlægge sin brug af AI og vurdere, om de AI-systemer, som de anvender, er i gang med at implementere, udvikler, eller som indgår i produkter eller services, vil blive reguleret som forbudte systemer, højrisikosystemer eller AI-systemer til generelle formål. De bør også se på, hvordan de lovgivningsmæssige konsekvenser bør håndteres i deres supply chain, i salgskanalen og i deres kontrakter. 


Hvor 2023 i relation til AI var et politik- og debatår, bliver 2024 et implementeringsår.

Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice her →
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Fagligt indhold, der kunne være relevante for dig
4 år med GDPR
Jurainfo Exclusive logo
PODCAST
4 år med GDPR
Hvordan ligger landet 4 år efter ikrafttrædelsen af Databeskyttelsesforordningen?
Tredjelandsoverførsler og den nye aftale med USA
Jurainfo Exclusive logo
PODCAST
Tredjelandsoverførsler og den nye aftale med USA
Vi sætter fokus på overførsel af personoplysninger til usikre tredjelande, herunder overførsler til USA baseret på den nye aftale mellem EU og USA.
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Jurainfo logo
EXCLUSIVE
VIDEO
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Det kræver et markedsføringssamtykke fra dine kunder, hvis du ønsker at udsende nyhedsmail, sms'er eller på anden måde kontakte dem med gode tilbud. Advokat, Torsten Hylleberg, kommer her nærmere ind på hvad du skal være opmærksom på i forbindelse med indhentelse af markedsføringssamtykker.
Artikler, der kunne være relevante for dig
EDPB har vedtaget en vejledning om interesseafvejningsreglen
EDPB har vedtaget en vejledning om interesseafvejningsreglen
21/10/2024
Persondata
Ret til indsigt i oplysninger på utilsigtet modtager
Ret til indsigt i oplysninger på utilsigtet modtager
11/11/2024
Persondata
Meta giver brugerne flere valgmuligheder
Meta giver brugerne flere valgmuligheder
18/11/2024
Persondata
Kommune får kritik for deres sikkerhedsprocedurer
Kommune får kritik for deres sikkerhedsprocedurer
19/11/2024
Persondata, Compliance
Datatilsynet anmelder Lyngby-Taarbæk Kommune til politiet
Datatilsynet anmelder Lyngby-Taarbæk Kommune til politiet
29/11/2024
Persondata
Status på Datatilsynets spørgsmål til Rigspolitiet om brug af ansigtsgenkendelse
Status på Datatilsynets spørgsmål til Rigspolitiet om brug af ansigtsgenkendelse
06/12/2024
Persondata
Jurainfo logo

Jurainfo.dk er landets største juridiske nyhedsside. Her finder du juridiske nyheder, kurser samt ledige juridiske stillinger. Vi hjælper dagligt danske virksomheder med at tilegne sig juridisk viden samt at sætte virksomheder i forbindelse med den rigtige juridiske rådgiver, når de har brug for råd og vejledning.

Jurainfo.dk ApS
CVR-nr. 38375563
Vandtårnsvej 62B, DK-2860 Søborg
(+45) 71 99 01 11
kontakt@jurainfo.dk
Ønsker du at udgive materiale?
2024 © Jurainfo.dk - Juridiske nyheder og arrangementer samlet ét sted