Systemer med kunstig intelligens er i hurtig udvikling, og har både økonomiske og samfundsmæssige fordele. Systemerne udløser dog også en række problemstillinger, som skal håndteres for at undgå en uheldig udvikling. Det er baggrunden for, at EU-Kommissionen nu foreslår at regulere området.
Virksomheder kan anvende systemer med kunstig intelligens i en række situationer, og ofte kan systemerne effektivisere den normale arbejdsgang betydeligt. Eksempler kan omfatte screening af CV’er i forbindelse med rekruttering, men også i forhold til medarbejdere områder som kompetenceudvikling eller workforce planning.
Ifølge det nye udspil, vil alle virksomheder der bruger høj-risiko systemer med kunstig intelligens skulle opfylde en række krav for at undgå at blive pålagt høje bøder.
Jo højere risiko, des højere krav
Indledningsvist vil virksomheder først og fremmest skulle kunne inddele de systemer, der bliver brugt, i fire forskellige risikoniveauer:
- Uacceptabel risiko, hvorefter systemet er forbudt da det er imod EU’s værdier
- Høj risiko, hvorefter systemet har en negativ virkning for grundlæggende rettigheder
- Begrænset risiko, hvorefter systemet efter omstændighederne kan pålægges ekstra krav
- Minimal risiko, hvorefter der ikke gælder yderligere forpligtelser (langt de fleste systemer)
Systemer, der allerede nu er identificeret som en ”høj risiko” er eksempelvis systemer relateret til beskæftigelse, administration af arbejdskraft og adgang til selvstændig erhvervsvirksomhed, samt uddannelse og erhvervsuddannelse.
Virksomheder der bruger kunstig intelligens fra udbydere i EU eller tredjelande, der falder under kategorien ”høj risiko”, vil herefter skulle udarbejde teknisk dokumentation, opfylde informationsforpligtelser og opfylde en række andre krav, før et høj-risiko system bliver anvendt.
IUNO mener
Virksomheder bør allerede nu være opmærksomme på hvilke risici systemer med kunstig intelligens resulterer i, ved behandling af personoplysninger under databeskyttelsesreglerne. Det er eksempelvis tilfældet, når systemerne bliver brugt til automatiserede afgørelser.
IUNO mener, at virksomheder vil skulle afsætte ekstra fokus på at analysere de systemer, der er i brug i lyset af det nye udspil. Det skyldes, at de kommende regler vil medføre endnu strengere krav, med høje bødestraffe på 4 – 6 % af virksomhedens globale omsætning ved manglende overholdelse.
[Forslag til forordning om fastsættelse af harmoniserede regler om kunstig intelligens (retsakten om kunstig intelligens) og ændring af visse EU-retsakter af den 21. april 2021]
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice
her →
Skal din artikel også udgives via Jurainfo og udsendes direkte, via e-mail, til personer og virksomheder som specifikt efterspørger viden og kompetencer inden for dit område? Ansøg om en profil her.
