Europa-Parlamentet og Rådet vedtog den 13. juni 2024 AI-forordningen eller EU AI Act. AI-forordningen er et af de første omfattende regelsæt, der regulerer udvikling, udbud og anvendelse af kunstig intelligens og skal sikre, at AI-systemer anvendes på en sikker, gennemsigtig og ansvarlig måde.
AI-forordningen trådte i kraft den 1. august 2024. Forordningen implementeres trinvist: Reglerne om forbudte AI-praksisser fandt anvendelse fra den 2. februar 2025, mens gennemsigtighedskravene i artikel 50 - herunder kravene om markering af AI-genereret indhold - fandt anvendelse fra den 2. august 2026.
Da AI-forordningen er en forordning, gælder den direkte i alle EU-medlemsstater, herunder Danmark, uden behov for national implementeringslovgivning.
Opsummering: AI-forordningen og status
- EU's AI-forordning blev vedtaget den 13. juni 2024.
- Forordningen er direkte gældende i alle EU-medlemsstater, herunder Danmark.
- Gennemsigtighedskravet i forordningens artikel 50 finder anvendelse fra 2. august 2026.
Artikel 50 – krav om gennemsigtighed og markering af AI-genereret indhold
AI-forordningens artikel 50 indeholder flere gennemsigtighedsforpligtelser, som fordeler sig på henholdsvis udbydere og idriftsættere. Det er vigtigt at forstå sondringen, da forpligtelserne er forskellige.
Artikel 50(1) (udbydere af AI-systemer til direkte interaktion):
Udbydere (providers) skal sikre, at AI-systemer, der er tilsigtet at interagere direkte med fysiske personer (eksempelvis chatbots og AI-agenter), udformes således, at brugeren oplyses om, at de interagerer med et AI-system medmindre dette er indlysende ud fra omstændighederne.
Artikel 50(2) (udbyderes tekniske mærkningsforpligtelse):
Udbydere af AI-systemer, der genererer syntetisk lyd-, billed-, video- eller tekstindhold, skal sikre, at output fra AI-systemet er mærket i et maskinlæsbart format (metadata og vandmærker), så det kan identificeres som kunstigt genereret eller manipuleret. Denne forpligtelse påhviler udbyderen og ikke idriftsætteren.
Artikel 50(4) (idriftsætteres forpligtelser):
Idriftsættere (deployers) – det vil sige virksomheder, der anvender AI-systemer – har selvstændige mærkningsforpligtelser i to situationer:
Situation 1 (deepfakes):
AI-systemer, der genererer eller manipulerer billed-, lyd- eller videoindhold, der udgør en deepfake.
Situation 2 (tekst til offentlig interesse):
AI-systemer, der genererer eller manipulerer tekst, der offentliggøres med det formål at informere offentligheden om spørgsmål af offentlig interesse. For AI-genereret tekst til offentlig interesse gælder mærkningspligten ikke, når (i) der er menneskelig gennemgang eller redaktionel kontrol, og (ii) en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen.
Hvad er en deepfake?
AI-forordningens artikel 3, nr. 60, definerer en deepfake som: “et ved hjælp af AI genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer, genstande, steder, enheder eller begivenheder, og som fejlagtigt vil fremstå ægte eller sandfærdigt.”
Definitionen er bred og omfatter både fuldt AI-genereret indhold (skabt autonomt af AI uden menneskelig forfatter) og AI-manipuleret indhold (menneskeskabt materiale ændret med AI, eksempelvis face-swap, stemmekloning eller farvetoning). Ifølge vejledningen vil uvæsentlige indholdsmæssige eller tekniske ændringer ofte have begrænset betydning for en persons vurdering af indholdets autenticitet og vil derfor ikke nødvendigvis medføre, at det resulterende indhold bliver en deepfake.
Klart urealistisk indhold falder uden for deepfake-definitionen. Det gælder for eksempel AI-genererede fantasy-scener, tegneserier eller indhold, der åbenlyst strider mod naturlovene (som en flyvende elefant eller mus, der taler).
Konkrete krav til mærkningens udformning
Vejledningen og code of practice præciserer, hvordan mærkningen konkret skal udformes.
Mærkningen skal være synlig ved første eksponering. For video og broadcasting skal mærkningen fremgå i starten og løbende. Kontrasten skal være mindst 4,5:1, og mærkningen skal være letlæselig og let at se.
Mærkningen skal klart identificere, at indholdet er AI-genereret eller AI-manipuleret, for eksempel via tekst eller symbol. EU har offentliggjort standardiserede AI-ikoner, som kan anvendes i forskellige situationer.
Konsekvenser ved overtrædelse
Overtrædelse af gennemsigtighedskravene i artikel 50 kan medføre væsentlige sanktioner. AI-forordningen fastlægger et sanktionssystem, hvor overtrædelse af artikel 50 kan medføre administrative bøder på op til 15 mio. EUR eller op til 3 % af virksomhedens samlede globale årlige omsætning, alt efter hvilket beløb der er højest.
Det er de nationale tilsynsmyndigheder, der er ansvarlige for håndhævelsen. I Danmark er det Digitaliseringsstyrelsen.
Ud over de direkte bøder bør virksomheder være opmærksomme på, at manglende overholdelse kan have negative konsekvenser for virksomhedens omdømme og forbrugertillid. I en tid, hvor gennemsigtighed og ansvarlighed i forbindelse med AI er genstand for betydelig offentlig opmærksomhed, kan manglende markering af AI-genereret indhold påføre virksomheden væsentlig skade på sit omdømme.
Takeaways for erhvervsvirksomheder
- Kortlæg brugen af AI i markedsføring og kommunikation. I bør snarest muligt gennemgå og kortlægge, i hvilket omfang I anvender AI-systemer til at generere eller manipulere markedsføringsmateriale, reklamer og anden kommerciel kommunikation.
- Etabler interne retningslinjer og processer for mærkning. Udarbejd klare interne politikker for, hvornår og hvordan I skal markere AI-genereret indhold. Integrer mærkningskravene i eksisterende workflows for indholdsproduktion og godkendelsesprocedurer.
- Stil krav til leverandører og samarbejdspartnere. Sikr, at reklamebureauer, indholdsskabere og andre eksterne samarbejdspartnere er bekendt med og overholder kravene om markering af AI-genereret indhold. Overvej at inkludere specifikke complianceforpligtelser i samarbejdsaftaler. Det gælder særligt for udbydere af Ai-systemer til direkte interaktion med mennesker.
- Følg den regulatoriske udvikling tæt. AI-forordningen er ny, og der vil løbende også komme praksis og vejledninger fra Digitaliseringsstyrelsen i tillæg til vejledningen og code of conduct fra EU. Vejledningen giver blandt andet flere eksempler på AI-indhold, der allligevel ikke skal mærkes. Hold dig opdateret, og tilpas virksomhedens tilgang i takt med, at den regulatoriske praksis udvikler sig.
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Denne artikel er udgivet efter aftale med Kromann Reumert. Den er oprindeligt udgivet her.
Skal din artikel også udgives via Jurainfo og udsendes direkte, via e-mail, til personer og virksomheder som specifikt efterspørger viden og kompetencer inden for dit område? Ansøg om en profil her.
