Hvordan påvirker EU's AI-regler arbejdet for danske data- og AI-teams?

EU's nye AI-regler stiller skærpede krav til, hvordan data- og AI-teams arbejder med kunstig intelligens. Det er nødvendigt at kunne dokumentere formål, risici, datakvalitet og menneskeligt tilsyn for de systemer, der udvikles. Dette betyder, at teams skal være i stand til at fremvise en omfattende modeldokumentation, som inkluderer logging, performance og ændringer, hvilket øger arbejdsbyrden for datafolkene.

Ikke alle AI-modeller klassificeres som højrisiko, men det er vigtigt, at teams tidligt vurderer, hvilken kategori deres modeller falder ind under. Dette tidlige klassifikationsarbejde er essentielt for at sikre, at de relevante krav overholdes. For modeller, der anvender persondata eller påvirker borgeres og medarbejderes rettigheder, skal der tages særligt hensyn til GDPR-reglerne i kombination med AI Act-vurderingen.

I praksis vil data- og AI-teams opleve, at deres opgaver nu omfatter mere governance, test og monitorering af modellerne. Dette kan betyde, at der skal afsættes flere ressourcer til disse områder, hvilket kan påvirke tidsplaner og projektforløb. Det er derfor vigtigt at forberede sig på at integrere disse krav i den daglige drift og projektledelse.

Samtidig kan det også åbne op for nye muligheder for specialisering inden for AI-governance, hvilket kan være en fordel for teams, der ønsker at styrke deres kompetencer og position på markedet. At navigere i de nye regler vil kræve både tid og investering, men det kan også føre til bedre og mere ansvarlige AI-løsninger.

Kilder: Digital Strategy - EU Guidelines on AI High-Risk Systems ↗ · Datatilsynet - Regler og vejledning om kunstig intelligens ↗