Af Anja Piening
Fra fremtidsscenarie til regeringsgrundlag
Kunstig intelligens er rykket fra fremtidsscenarie til regeringsgrundlag. Det er i sig selv bemærkelsesværdigt – og det siger noget om, hvor hurtigt udviklingen bevæger sig.
Firkløverregeringen lægger op til, at AI skal bruges langt mere offensivt i den offentlige sektor. Der tales om digitale assistenter, en AI-accelerationsfond, bedre offentlige data, tidssvarende regler, digital infrastruktur og en generel hjemmel, der kan udgøre det databeskyttelsesretlige grundlag for offentlige myndigheders anvendelse af AI-løsninger.
Det er store ord. Og potentielt store muligheder.
For ja, AI kan frigøre tid. AI kan skabe bedre overblik. AI kan understøtte sagsbehandling, analyse, visitation, dokumenthåndtering og borgerkommunikation. AI kan hjælpe den offentlige sektor med at bruge sine ressourcer klogere – og det er der behov for.
AI er også et retssikkerhedsprojekt
Men hvis vi skal være ærlige, er AI i den offentlige sektor ikke bare et effektiviseringsprojekt. Det er også et retssikkerhedsprojekt.
Når AI møder den offentlige forvaltning, møder teknologien nemlig noget helt særligt. Den møder myndighedsudøvelse, borgerrettigheder, databeskyttelse, lighedsgrundsætningen, begrundelseskrav, proportionalitet, aktindsigt, habilitet, journalisering og ansvar. Det er ikke småting. Og det er ikke noget, man kan løse med en generel disclaimer nederst på skærmen.
Derfor bliver det afgørende, at offentlige myndigheder ikke lader sig forføre af den hurtige løsning. For den hurtige løsning kan meget let blive den dyre løsning, hvis ingen har styr på, hvilke data modellen bruger, hvem der har ansvaret for outputtet, hvordan fejl opdages, hvordan beslutningsgrundlaget kan forklares, og om løsningen reelt kan dokumenteres og efterprøves.
AI må ikke blive en sort boks med et offentligt logo.
Når en myndighed anvender AI, er spørgsmålet derfor ikke kun, om teknologien virker. Spørgsmålet er også, om den må bruges, til hvad den må bruges, på hvilket datagrundlag, med hvilken menneskelig kontrol, med hvilken dokumentation, med hvilken kontraktuel ansvarsfordeling – og med hvilken plan, hvis løsningen fejler.
Det er her, juraen bliver praktisk. Ikke som en bremseklods, men som den ramme, der gør det muligt at bruge teknologien ansvarligt.
Et nyt marked for leverandørerne
For leverandørerne er dette også en ny virkelighed. Det vil ikke være nok at sælge en smart løsning med et flot interface og en lovende præsentation. Offentlige kunder vil – og bør – stille langt skarpere krav til dokumentation, datasikkerhed, transparens, bias-håndtering, auditmuligheder, datalokation, exit, videreudvikling og løbende compliance.
Det offentlige AI-marked bliver ikke et friløb. Det bliver et tillidsmarked.
De leverandører, der kan kombinere teknologisk modenhed med juridisk forståelse, kommer til at stå stærkt. De leverandører, der behandler compliance som en irriterende bilagsøvelse, får det svært. For i den offentlige sektor er tillid ikke et markedsføringsord. Det er en forudsætning for, at teknologien overhovedet kan anvendes.
Hvad kendetegner de myndigheder, der lykkes?
Det samme gælder myndighederne. De offentlige organisationer, der lykkes med AI, bliver ikke nødvendigvis dem, der køber mest teknologi. Det bliver dem, der køber rigtigt. Dem, der forstår deres egne processer, får lavet ordentlige risikovurderinger, inddrager jurister, fagpersoner, it-specialister, brugere og ledelse fra starten – og tør stille krav, også til det, de endnu ikke selv helt forstår.
Det kræver mod at arbejde med AI. Men i den offentlige sektor kræver det også disciplin.
Fart er godt – styring er nødvendigt
Regeringsgrundlaget peger i retning af mere fart. Det er godt. Danmark har brug for at komme op i tempo, hvis vi skal udnytte de teknologiske muligheder og samtidig sikre en offentlig sektor, der kan følge med borgernes og samfundets behov.
Men fart uden styring er ikke innovation. Det er risiko på hjul.
Derfor bør de offentlige AI-projekter begynde et andet sted end i fascinationen af teknologien. De bør begynde med formålet, ansvaret, datagrundlaget, risikovurderingen, kontrakten og den menneskelige kontrol. Først derefter giver det mening at tale om løsning, leverandør og implementering.
Klar til at arbejde ansvarligt med AI?
Hos NP advokater hjælper vi offentlige myndigheder og private leverandører med at skabe juridisk holdbare rammer for AI, digitalisering, databeskyttelse, udbud og kontrakter.
Kontakt os
Skal I i gang med AI i den offentlige sektor – som myndighed eller leverandør?
Lad os tage en uforpligtende dialog om mulighederne, risiciene og de juridiske rammer.
For AI bør ikke begynde med teknologien alene.
Det bør begynde med ansvaret.
