Systemer med kunstig intelligens er i hurtig udvikling, og har både økonomiske og samfundsmæssige fordele. Systemerne udløser dog også en række problemstillinger, som skal håndteres for at undgå en uheldig udvikling. Det er baggrunden for, at EU-Kommissionen nu foreslår at regulere området.
Virksomheder kan anvende systemer med kunstig intelligens i en række situationer, og ofte kan systemerne effektivisere den normale arbejdsgang betydeligt. Eksempler kan omfatte screening af CV’er i forbindelse med rekruttering, men også i forhold til medarbejdere områder som kompetenceudvikling eller workforce planning.
Ifølge det nye udspil, vil alle virksomheder der bruger høj-risiko systemer med kunstig intelligens skulle opfylde en række krav for at undgå at blive pålagt høje bøder.
Jo højere risiko, des højere krav
Indledningsvist vil virksomheder først og fremmest skulle kunne inddele de systemer, der bliver brugt, i fire forskellige risikoniveauer:
Systemer, der allerede nu er identificeret som en ”høj risiko” er eksempelvis systemer relateret til beskæftigelse, administration af arbejdskraft og adgang til selvstændig erhvervsvirksomhed, samt uddannelse og erhvervsuddannelse.
Virksomheder der bruger kunstig intelligens fra udbydere i EU eller tredjelande, der falder under kategorien ”høj risiko”, vil herefter skulle udarbejde teknisk dokumentation, opfylde informationsforpligtelser og opfylde en række andre krav, før et høj-risiko system bliver anvendt.
IUNO mener
Virksomheder bør allerede nu være opmærksomme på hvilke risici systemer med kunstig intelligens resulterer i, ved behandling af personoplysninger under databeskyttelsesreglerne. Det er eksempelvis tilfældet, når systemerne bliver brugt til automatiserede afgørelser.
IUNO mener, at virksomheder vil skulle afsætte ekstra fokus på at analysere de systemer, der er i brug i lyset af det nye udspil. Det skyldes, at de kommende regler vil medføre endnu strengere krav, med høje bødestraffe på 4 – 6 % af virksomhedens globale omsætning ved manglende overholdelse.
[Forslag til forordning om fastsættelse af harmoniserede regler om kunstig intelligens (retsakten om kunstig intelligens) og ændring af visse EU-retsakter af den 21. april 2021]
Jurainfo.dk er landets største juridiske nyhedsside. Her finder du juridiske nyheder, kurser samt ledige juridiske stillinger. Vi hjælper dagligt danske virksomheder med at tilegne sig juridisk viden samt at sætte virksomheder i forbindelse med den rigtige juridiske rådgiver, når de har brug for råd og vejledning.
