Jurainfo logo
LUK
Juridiske nyheder Kurser Find juridisk specialist Jobbørs Domme
Om Jurainfo Podcasts Juridiske links Privatlivspolitik Kontakt
Ansøg om en profil Bliv kursusudbyder Bliv jobannoncør
Artikel

Politisk aftale om AI-forordningen

Bird & Bird
28/12/2023
Politisk aftale om AI-forordningen
Bird & Bird logo
Efter et forhandlingsmaraton, udløst af et massivt politisk pres for at indføre verdens første generelt gældende regulering af AI inden valget til Europa-Parlamentet næste sommer, nåede EU's institutioner forrige weekend frem til en politisk aftale om AI-forordningen.

Det forslag, som der nu er en politisk bindende aftale om, blev fremsat i april 2021. Når man genlæser forslaget i dag, handler det primært om produktsikkerhed og risikoklassificering. Siden fremsættelsen er forslaget blevet udsat for både forsøg på skrinlægning, kritik (efter hype'n omkring ChatGPT's lancering) for forældelse før vedtagelse, og til sidst et torpedoforsøg fra tre store medlemsstater. Selvom der er indgået en politisk aftale, vil de tekniske møder sandsynligvis fortsætte ind i januar, hvorefter den endelige tekst formelt skal vedtages af Europa-Parlamentet og Rådet. Ikrafttrædelse sker sandsynligvis i andet kvartal af 2024.

Beskyttelsen af individet

Antallet af egentlige forbud, der skal beskytte individuelle frihedsrettigheder, er udvidet og omfatter nu:

  • Biometrisk kategorisering på grundlag af følsomme forhold (politiske, religiøse, etniske m.v.),
  • generel og udifferentieret indsamling af ansigtsbilleder til brug for ansigtsgenkendelse,
  • følelsesgenkendelse på arbejdspladser og uddannelsessteder,
  • social scoring på grundlag af personlige karakteristika eller adfærd, 
  • de forhold, der har været forbudt siden de tidligste forslag (AI til brug for manipulering af den menneskelige frie vilje eller menneskelig sårbarhed, såsom social situation eller alder), og
  • en klageadgang, og en ret til at modtage forklaring på beslutninger baseret på AI-systemer med høj risiko.


De store AI-modeller

Aftalen omfatter forpligtelser for AI-systemer til generelle formål (General Purpose AI, forkortet ”GPAI”), såsom at indlevere teknisk dokumentation, respektere IP-rettigheder i forbindelse med træning og give transparens vedrørende træningsdatasættene. Udbydere af GPAI-systemer med "systemiske" risici, dvs. de modeller, der er trænet på enorme datasæt (ChatGPT, Google Bard og lign.), og som danner fundament for anden AI-anvendelse, skal overholde mere omfattende forpligtelser, herunder til at gennemføre vurderinger og evalueringer af de risici, de udgør, og afbøde disse risici, rapportere alvorlige hændelser til Europa-Kommissionen og gennemføre red team tests m.v. Udbydere af AI-systemer, der anses for at være højrisikosystemer, skal overholde en omfattende række af produktsikkerhedsforpligtelser vedrørende risikostyring, datakvalitet og sikkerhed. 

Listen over højrisikosystemer omfatter dem, der bruges til formål, som kan have betydelige konsekvenser for grundlæggende rettigheder, sundhed, sikkerhed, demokrati/retssikkerhed, retshåndhævelse, uddannelse, forsikring og bankvirksomhed og påvirkning af vælgeradfærd. Brugere af disse systemer vil også skulle overholde et antal udvidede forpligtelser, herunder pligten til at gennemføre konsekvensanalyser i forhold til frihedsrettighederne og til at implementere og opretholde et menneskeligt tilsyn med brugen af AI-systemet.

Sanktioner

Bødeniveauet, som har ændret sig undervejs i forhandlingerne, endte i sidste ende på 7% af global årlig omsætning i det foregående år eller 35 million euro. Derudover kan systemer, der ikke lever op til reglerne (efter en overgangsperiode), blive udelukket fra EU-markedet.

Praktik

Med den compliance-opgave, der forestår, bør alle virksomheder allerede nu kortlægge sin brug af AI og vurdere, om de AI-systemer, som de anvender, er i gang med at implementere, udvikler, eller som indgår i produkter eller services, vil blive reguleret som forbudte systemer, højrisikosystemer eller AI-systemer til generelle formål. De bør også se på, hvordan de lovgivningsmæssige konsekvenser bør håndteres i deres supply chain, i salgskanalen og i deres kontrakter. 


Hvor 2023 i relation til AI var et politik- og debatår, bliver 2024 et implementeringsår.

Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice her →
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Fagligt indhold, der kunne være relevante for dig
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Jurainfo logo
EXCLUSIVE
VIDEO
Hvornår må du udsende nyhedsbreve og tilbud til dine kunder?
Det kræver et markedsføringssamtykke fra dine kunder, hvis du ønsker at udsende nyhedsmail, sms'er eller på anden måde kontakte dem med gode tilbud. Advokat, Torsten Hylleberg, kommer her nærmere ind på hvad du skal være opmærksom på i forbindelse med indhentelse af markedsføringssamtykker.
Tredjelandsoverførsler og den nye aftale med USA
Jurainfo Exclusive logo
PODCAST
Tredjelandsoverførsler og den nye aftale med USA
Vi sætter fokus på overførsel af personoplysninger til usikre tredjelande, herunder overførsler til USA baseret på den nye aftale mellem EU og USA.
4 år med GDPR
Jurainfo Exclusive logo
PODCAST
4 år med GDPR
Hvordan ligger landet 4 år efter ikrafttrædelsen af Databeskyttelsesforordningen?
Artikler, der kunne være relevante for dig
Chromebook-sagens relevans – herunder når du udleverer en computer eller mobiltelefon som arbejdsredskab
Chromebook-sagens relevans – herunder når du udleverer en computer eller mobiltelefon som arbejdsredskab
08/03/2024
Persondata, IT- og telekommunikation
Datatilsynet og Digitaliseringsstyrelsen etablerer AI-sandkasse
Datatilsynet og Digitaliseringsstyrelsen etablerer AI-sandkasse
11/03/2024
Persondata, IT- og telekommunikation, Compliance
AI Act vedtaget af Europa-Parlamentet
AI Act vedtaget af Europa-Parlamentet
22/03/2024
Persondata, EU-ret
Træning af kunstig intelligens
Træning af kunstig intelligens
03/04/2024
Persondata, Immaterialret
Ansvaret for cybersikkerhed ligger hos ledelsen
Ansvaret for cybersikkerhed ligger hos ledelsen
08/04/2024
Persondata, Compliance, Øvrige
VIRK23 er på gaden
VIRK23 er på gaden
16/04/2024
Kontraktret, IT- og telekommunikation, Persondata
Jurainfo logo

Jurainfo.dk er landets største juridiske nyhedsside. Her finder du juridiske nyheder, kurser samt ledige juridiske stillinger. Vi hjælper dagligt danske virksomheder med at tilegne sig juridisk viden samt at sætte virksomheder i forbindelse med den rigtige juridiske rådgiver, når de har brug for råd og vejledning.

Jurainfo.dk ApS
CVR-nr. 38375563
Vandtårnsvej 62B, DK-2860 Søborg
(+45) 71 99 01 11
kontakt@jurainfo.dk
Ønsker du hjælp til at finde en specialist?
2024 © Jurainfo.dk - Juridiske nyheder og arrangementer samlet ét sted