Samtidig er reglerne for anvendelsen af kunstig intelligens nu for alvor relevante. Hovedparten af AI-forordningens regler fandt anvendelse allerede fra 2. august 2026. Reglerne er risikobaserede, og kravene afhænger derfor blandt andet af, hvordan et AI-system anvendes. For offentlige ordregivere betyder det, at AI også bør tænkes ind, når der købes nye IT-løsninger.
AI bør tænkes ind fra begyndelsen
Når en ordregiver skal købe en AI-baseret løsning, bør det afklares, hvad løsningen skal anvendes til, hvilke data den skal behandle, og hvilken rolle AI-systemet får i opgaveløsningen. Det er blandt andet relevant at fastlægge, om løsningen er omfattet af reglerne om højrisiko-AI.
Det er samtidig vigtigt at skelne mellem leverandørens og ordregivers roller. Leverandøren vil ofte være udbyder af AI-systemet, mens ordregiver typisk vil være idriftsætter. Udbyderen har blandt andet forpligtelser vedrørende risikostyring, teknisk dokumentation og overensstemmelsesvurdering, mens idriftsætteren har egne forpligtelser, herunder korrekt anvendelse, menneskeligt tilsyn, overvågning og opbevaring af logfiler.
Ordregiver kan dog efter omstændighederne selv blive udbyder, eksempelvis hvis et system udvikles og tages i brug under ordregivers eget navn, eller hvis der foretages væsentlige ændringer af et højrisikosystem.
Kravene skal afspejles i udbudsmaterialet
Når de relevante forhold er identificeret, bør de afspejles i udbudsmaterialet. Det kan eksempelvis ske gennem tekniske specifikationer, kontraktvilkår eller kvalitetskriterier.
Kravene skal tilpasses det konkrete indkøb og udformes under hensyn til de udbudsretlige principper om blandt andet ligebehandling, gennemsigtighed og proportionalitet. Det bør derfor undgås blot at kopiere generelle krav fra AI-forordningen ind i udbudsmaterialet.
Også krav om AI-færdigheder og visse gennemsigtighedsforpligtelser kan være relevante, afhængigt af den konkrete løsning og anvendelse.
Hvad sker der, når AI-løsningen ændrer sig?
AI-løsninger er ikke nødvendigvis statiske. Leverandøren kan løbende ændre modeller, tilføje funktionalitet eller integrere nye AI-teknologier.
Det bør kontrakten tage højde for. For højrisiko-AI er det navnlig relevant at sondre mellem almindelige opdateringer og væsentlige ændringer. Væsentlige ændringer kan medføre krav om en ny overensstemmelsesvurdering, mens ændringer, der var forudset og beskrevet i den oprindelige tekniske dokumentation, ikke nødvendigvis har samme betydning.
En ændring kan samtidig få betydning efter udbudsreglerne. Hvis en senere opdatering eller funktionalitetsudvidelse udgør en grundlæggende ændring af kontrakten, kan det efter udbudslovens § 178 være nødvendigt at gennemføre et nyt udbud.
AI er derfor også et udbudsspørgsmål
AI-forordningen fastsætter ikke i sig selv en pligt til at udbyde en AI-løsning. Reglerne kan imidlertid få væsentlig betydning for både tilrettelæggelsen af udbuddet og den efterfølgende kontrakt.
Ordregiver bør derfor ikke alene spørge, om leverandøren overholder AI-forordningen. Der bør også tages stilling til ordregivers egen rolle og egne forpligtelser, og til hvordan relevante AI-krav omsættes til klare og proportionale krav i udbudsmaterialet og kontrakten.
Ved at tænke AI ind allerede i udbudsfasen kan ordregiver skabe klare rammer for ansvar, dokumentation, kontrol og ændringer – og samtidig mindske risikoen for, at kontrakten ikke kan følge med den teknologiske og regulatoriske udvikling.
Har du spørgsmål til dette indlæg, er du mere end velkommen til at kontakte mig.
Gå ikke glip af vigtig juridisk viden - Tilmeld dig vores gratis nyhedsservice
her →
Denne artikel er udgivet efter aftale med NP Advokater. Den er oprindeligt udgivet her.
Skal din artikel også udgives via Jurainfo og udsendes direkte, via e-mail, til personer og virksomheder som specifikt efterspørger viden og kompetencer inden for dit område? Ansøg om en profil her.
