Digitaliseringsstyrelsen har netop udgivet nye vejledninger om forbudte former for AI-praksis. Vejledningerne fokuserer på de områder, som Digitaliseringsstyrelsen fører tilsyn med – blandt andet AI, der udleder følelser på arbejdspladser, udnytter sårbarheder eller bruger manipulerende teknikker.
AI-forordningen gælder for en række definerede AI-løsninger og forskellige aktører og berørte personer. AI-løsninger omfatter AI-modeller til almen brug og AI-systemer. En AI-model kan være en underliggende algoritme. Et AI-system vil have en større brugerflade og udføre en funktion med AI-modellen integreret. Det kan for eksempel være en chatbot.
De nye vejledninger dækker fem typer AI-praksis, som er forbudt:
- Skadelig manipulation og vildledning
- Følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner
- Udnyttelse af sårbare personer og grupper
- Social bedømmelse
- Ikke-målrettet indsamling af ansigtsbilleder
Digitaliseringsstyrelsen fører tilsyn med netop disse områder.
IUNO mener
Selvom forbuddet mod ulovlige AI-praksisser har været gældende siden 2. februar 2025, er vejledningerne en god hjælp for virksomheder, som stadig er ved at sætte sig ind i reglerne. Særligt vejledningen om AI, der forsøger at aflæse følelser på arbejdspladsen, er relevant fra et HR-perspektiv. Flere virksomheder bruger nye teknologier – især i rekrutteringen – men det kan blive dyrt, hvis det er et ulovligt system.
IUNO anbefaler, at virksomheder er opmærksomme på, at systemer, der kan analysere ansigtsudtryk eller stemmeføring under en jobsamtale, som udgangspunkt er forbudte. Det samme gælder systemer, der forsøger at vurdere en medarbejders humør gennem stemmeanalyse i kundedialoger.
Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice
her →
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte os.
Denne artikel er udgivet efter aftale med IUNO. Den er oprindeligt udgivet her.
Skal din artikel også udgives via Jurainfo og udsendes direkte, via e-mail, til personer og virksomheder som specifikt efterspørger viden og kompetencer inden for dit område? Ansøg om en profil her.
