De mange og let tilgængelige generative AI-systemer, såsom ChatGPT, Copilot og GitHub, giver mulighed for, at selv ikke-IT-kyndige kan skrive eller få skrevet kode og dermed helt eller delvist erstatte softwareudviklere. Samtidig kan softwareudviklere, der anvender generative AI-systemer til at generere kode, i betydelig grad spare tid og forbedre kodekvaliteten.
At anvende generative AI-systemer til kodeskrivning er dog ikke uden juridiske faldgruber.
Vi ser i denne artikel på hvilke juridiske krav, virksomheder m.fl., der anvender generative AI-systemer til at generere kode, skal være opmærksomme på.
Transparenskrav - hvad siger AI Act om AI-genereret kode?
I artikel 50, stk. 2 i forordningen om kunstig intelligens (AI Act) er der indført transparensforpligtelser for AI-systemer, der anvendes til at generere syntetisk lyd-, billed-, video- eller tekstindhold. Bestemmelsen medfører, at materiale af denne art i udgangspunktet skal markeres som værende AI-genereret i et maskinlæsbart format.
Det relevante spørgsmål i denne sammenhæng er, om ”kode” er omfattet af begrebet ”tekstindhold” i artikel 50, stk. 2?
Kommissionen har i sine retningslinjer for general-purpose AI models (”GPAI-models”) besvaret dette spørgsmål bekræftende, dvs. at den anser ”kode” for at udgøre ”tekst”.
At kode i forordningens forstand udgør ”tekst” medfører, at AI-genereret kode skal markeres i et maskinlæsbart format som værende AI-genereret.
Hvornår en digital markering anses for at være tilstrækkelig ”maskinlæsbar” i henhold til AI Act artikel 50, stk. 2 fremgår ikke af forordningen og må derfor afklares i praksis. Det må dog umiddelbart være tilstrækkeligt, hvis markeringen fremgår af kodens metadata eller et digitalt vandmærke (på engelsk ”watermark”), da disse foranstaltninger muliggør, at softwareapplikationer ville kunne identificere AI-genereret kode.
Maskinlæsbarhed, ansvar herfor og bearbejdelse af AI-genereret kode
Det er udbyderne, dvs. oftest udviklerne af generative AI-systemer, der skal sikre, at AI-genereret kode markeres som AI-genereret i et maskinlæsbart format. Idriftsætteren, dvs. brugeren af AI-systemet, er således ikke ansvarlig under AI Act, hvis AI-systemet mangler denne markering.
Et andet centralt spørgsmål er, hvorvidt menneskeligt videreudviklet AI-genereret kode fortsat anses for at være ”syntetisk tekstindhold” i artikel 50, stk. 2’s forstand. Det må antages, at AI-genereret kode, der efterfølgende bearbejdes af et menneske, ikke underlægges kravet om at skulle markeres som at være AI-genereret – afhængig dog af graden af menneskelig bearbejdning. Hvor meget menneskelig bearbejdning, der skal til, er dog endnu et uafklaret spørgsmål, der må fastlægges i praksis.
Hvad sker der som det næste?
Transparensforpligtelserne i artikel 50, stk. 2 finder anvendelse fra den 2. august 2026. Udbydere af generative AI-systemer, der genererer syntetisk indhold, herunder kode, skal inden denne dato have integreret tekniske funktioner i AI-systemet, der medfører, at det genererede indhold markeres som værende AI-genereret.
Kommissionen vil udarbejde retningslinjer herfor, som må forventes offentliggjort inden bestemmelsen finder anvendelse. Vi følger udviklingen tæt og udgiver en nyhed herom, når retningslinjerne foreligger.
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte mig.
Skal din artikel også udgives via Jurainfo og udsendes direkte, via e-mail, til personer og virksomheder som specifikt efterspørger viden og kompetencer inden for dit område? Ansøg om en profil her.
