AI Ethicist

En AI ethicist arbejder med de AI-systemer, virksomheden allerede har eller er ved at bygge. Første opgave er næsten altid et register: hvilke modeller og AI-værktøjer bruger vi egentlig, og hvor. Derefter klassificeres hvert system efter risiko, sådan som EU's AI-forordning lægger op til. En kundechatbot vejer anderledes end en model, der screener jobansøgninger eller vurderer kreditværdighed.

Resten af arbejdet er at gøre den vurdering til noget konkret. Det betyder krav til udviklerne, dokumentation til ledelsen og svar til tilsynet.

Typiske opgaver

• Risikoklassificere AI-systemer: forbudt, høj risiko, begrænset eller minimal risiko.
• Lave konsekvensanalyser — DPIA efter databeskyttelsesforordningen og vurdering af grundlæggende rettigheder.
• Teste modeller for skævhed på køn, alder, herkomst, postnummer eller sprog.
• Gennemgå træningsdata: hjemmel, samtykke, repræsentativitet og hvor data kommer fra.
• Skrive model cards og teknisk dokumentation, som en tilsynsmyndighed kan læse.
• Designe menneskeligt tilsyn: hvem kan sige nej til modellens forslag, og hvordan.
• Red-teame sprogmodeller for hallucinationer, jailbreaks og skadeligt output.
• Vurdere AI-leverandører før indkøb og læse deres dokumentation kritisk.
• Undervise kolleger i ansvarlig AI-brug og holde AI-politikken levende.

En almindelig arbejdsdag
Formiddagen går ofte med møder. Et udviklingsteam vil have grønt lys til en ny model. Du spørger ind til datagrundlaget, fejlraten og hvad der sker, når modellen tager fejl. Ofte ender det ikke i et nej, men i tre betingelser og en ny test.

Eftermiddagen er skrivebordsarbejde. Du opdaterer AI-registeret, færdiggør en risikovurdering og forbereder et punkt til styregruppen. En del af tiden går også med at læse: nye vejledninger fra Digitaliseringsstyrelsen, afgørelser fra Datatilsynet og opdateringer fra leverandørerne.

Vær forberedt på, at meget af faget er skriftligt og politisk. Du skal kunne forklare det samme til en dataloger, en jurist og en direktør. Og du skal kunne holde fast, når et projekt har travlt og din indvending koster tid.

Hvor sidder de?

• Banker, realkredit og pension — kreditmodeller, hvidvaskovervågning og kundesegmentering.
• Offentlige myndigheder og kommuner — sagsbehandling, kontrol og borgerrettede chatbots.
• Sundhed og life science — billeddiagnostik, triage og forskningsdata.
• Rekruttering og HR-tech — CV-screening, som forordningen regner for høj risiko.
• Konsulent- og advokathuse — rådgivning og revision af andres AI.
• Techvirksomheder og produktteams — indbygget sikkerhed og evaluering af egne modeller.

Hvis du skal hyre en
Bed om konkrete eksempler på systemer, personen har vurderet, og hvad vurderingen ændrede. En god AI ethicist kan læse en model-evaluering, ikke kun en politik. Spørg også, hvornår de sidst sagde nej — og hvad de foreslog i stedet. Vær opmærksom på, at det mange steder er en delrolle, ikke et fuldtidsjob. Ofte ligger opgaven hos en DPO, en compliance-ansvarlig eller en erfaren ML-ingeniør.

Hvilken lovgivning dækker denne rolle?
AI ethicist er ikke et autoriseret erhverv, og titlen er ikke beskyttet. Men rollen findes først og fremmest på grund af EU's AI-forordning, der stiller krav om risikostyring, datakvalitet, dokumentation, logning og menneskeligt tilsyn. Forordningen indfases i etaper, og forbuddet mod visse AI-anvendelser samt kravet om AI-kompetence i artikel 4 gælder allerede. Digitaliseringsstyrelsen er nationalt koordinerende tilsynsmyndighed i Danmark, mens Datatilsynet fører tilsyn med de dele, der handler om persondata. Dertil kommer databeskyttelsesforordningen, hvor artikel 22 om automatiske afgørelser ofte er det, en sag i praksis afgøres på.

Der findes ingen dansk uddannelse, der hedder AI ethicist. Faget samles typisk af to dele: en faglig grunduddannelse og en specialisering i AI-regulering eller AI-sikkerhed.

De almindelige uddannelsesveje

• Datalogi, software eller data science (bachelor 3 år + kandidat 2 år). Giver forståelse for modeller, evaluering og data. Kræver typisk Matematik A.
• Jura, cand.jur. (3 + 2 år). Stærk vej, fordi AI-forordningen og databeskyttelsesforordningen fylder mest i hverdagen.
• Filosofi (3 + 2 år). Giver sproget til at skelne mellem retfærdighed, ansvar og skade — men bør kombineres med noget teknisk.
• Teknoantropologi på Aalborg Universitet (3 + 2 år). Uddannelsen er bygget netop til teknologi og samfund.
• Cognitive Science på Aarhus Universitet eller uddannelser på IT-Universitetet, hvor teknik, adfærd og organisation kombineres.

Adgangskravene er en gymnasial eksamen, typisk Dansk A og Engelsk B, og Matematik A eller B afhængigt af uddannelsen. De præcise krav står hos uddannelsesstedet.

Alternative veje ind i faget
De fleste, der har titlen i dag, er skiftet fra noget andet. Almindelige spor:

• Fra DPO eller GDPR-compliance: du kan reglerne, og lærer det tekniske ovenpå.
• Fra informationssikkerhed og risikostyring: du kender ISO-verdenen og revisionssproget.
• Fra ML-ingeniør eller data scientist: du kan modellerne, og lærer regelsiden ovenpå.
• Fra UX-research, antropologi eller journalistik: du er god til at finde skaden, før den sker.

Efteruddannelse betyder mere end en bestemt kandidatgrad. De mest udbredte er IAPP's certificering AIGP i AI-governance, IAPP's CIPP/E i europæisk databeskyttelse, samt kurser i ledelsessystemet ISO/IEC 42001 for kunstig intelligens. NIST AI Risk Management Framework bruges også som gratis, anerkendt struktur at lære sig.

Vær realistisk om jobmarkedet
Rene AI ethicist-stillinger er få i Danmark. Søger du job, skal du også søge på AI governance, responsible AI, AI compliance og DPO med AI-ansvar. Erfaring vejer tungere end titlen: dokumenterede risikovurderinger, en publiceret analyse eller deltagelse i standardarbejde tæller mere end endnu et kursusbevis. Regelmæssigt opdateret viden er et krav, fordi vejledningerne fra Digitaliseringsstyrelsen og EU's AI-kontor stadig kommer løbende.

Værktøjskassen er delt i tre: kode, dokumentation og styring.

Til at kigge modellerne efter i sømmene

• Python med pandas og scikit-learn til at regne på fejlrater fordelt på grupper.
• Fairlearn fra Microsoft, AI Fairness 360 fra IBM eller Aequitas til bias-målinger.
• SHAP og LIME til at forklare, hvad en model lægger vægt på.
• Giskard, garak eller PyRIT til red-teaming af sprogmodeller.
• Promptfoo, Ragas eller LM Evaluation Harness til systematisk evaluering af LLM-svar.

Til dokumentation og rammeværk

• Model cards og datasheets som fast format for hvert system.
• NIST AI Risk Management Framework som struktur for risikoarbejdet.
• ISO/IEC 42001 som ledelsessystem, hvis virksomheden vil kunne revideres.
• EU-Kommissionens ALTAI-tjekliste for pålidelig AI som udgangspunkt for vurderinger.
• Vejledninger fra Digitaliseringsstyrelsen og Datatilsynet som primær kilde i Danmark.

Til styring i hverdagen

• Et AI-register, ofte startet i Excel eller SharePoint og senere flyttet til en GRC-platform som OneTrust, ServiceNow eller Credo AI.
• Jira og Confluence, fordi kravene skal ind i udviklernes eget flow.
• Guardrails og evalueringsfunktioner i den platform, virksomheden bruger — for eksempel Azure AI Foundry, Amazon Bedrock eller Google Vertex AI.
• MLflow eller Weights & Biases, når du skal se, hvilken modelversion der faktisk kørte.

Vær ærlig om, at en stor del af arbejdet foregår i dokumenter, regneark og møder. Værktøjerne hjælper, men beslutningerne træffes stadig af mennesker.