Kunstig intelligens på arbejdspladsen – nye regler fra EU trådt i kraft

AI har skabt et hav af muligheder verden over, men det skaber også udfordringer og risici for dem, der bruger det. Med de nye EU-regler har man derfor forsøgt at beskytte borgernes rettigheder. Vi har tidligere skrevet om arbejdet med de nye regler her.

Jo højere risiko, jo strengere krav

Reglerne træder i kraft løbende indtil august 2027 og får betydning for hele virksomheden – også HR-afdelingen. Jo større risiko, der er ved et AI-system, jo flere krav er der til den virksomhed, der bruger systemet.

• AI-systemer med ”høj risiko”: For eksempel systemer, der bruges til at rekruttere eller udvælge ansøgere eller tage beslutninger om ansættelsesforhold, såsom at forfremme eller opsige medarbejdere. Virksomheder, der bruger systemerne, skal sørge for, at systemet bliver brugt efter brugsanvisningen, at personer med de rette uddannelser og kompetencer fører tilsyn med det, og at medarbejderne bliver oplyst om, at systemet bliver brugt på dem.
• AI-systemer med begrænset risiko: Dette er langt de fleste AI-systemer, der bliver brugt i dag, for eksempel personlige assistenter, chatbots, og reklamer med AI. Her skal virksomhederne der bruger systemerne, ikke overholde nye krav og regler, men blot sørge for at anvende systemet i overensstemmelse med eksisterende lovgivning, såsom GDPR.
• AI-systemer med minimal risiko: Dette er for eksempel store generative AI-modeller som chatGPT, der kan bruges til generelle formål, såsom at løse forskellige opgaver og skabe nyt indhold. Her skal virksomheder der bruger systemerne heller ikke overholde nye krav eller regler.

Nogle AI-systemer bliver også helt forbudte, for eksempel systemer, der kan klassificere en medarbejders personlighedstræk over en periode. Forbuddet gælder allerede fra februar 2025.

IUNO mener

Virksomheder skal være opmærksomme på, hvilke af deres systemer der bruger AI, og om nogle af dem bliver forbudte eller falder ind under det høje risikoniveau. De fleste AI-systemer, der bruges til HR-formål, vil falde ind under det høje risikoniveau, og virksomheder skal derfor overholde de nye regler fra august 2026 eller 2027 afhængigt af, hvilket system det er.

IUNO anbefaler, at virksomheder grundigt sætter sig ind i de nye regler, som har høje bødestraffe på op til 7 % af virksomhedens samlede globale årlige omsætning. Udover de nye regler skal AI-systemer også stadig overholde de almindelige regler om for eksempel forskelsbehandling og databeskyttelse. De samme regler vil gælde ved anvendelse af AI-systemer som ved manuel personaleadministration.

[Forordning (EU) 2024/1689 af 13. juni 2024 om kunstig intelligens]