AI-forordningen er EU's fælles regelsæt for kunstig intelligens. Formålet er at sikre, at AI bliver udviklet og anvendt på en måde, der beskytter borgeres rettigheder, sikkerhed og tillid, samtidig med at innovation og nye virksomheder kan vokse. Forordningen omtales ofte som AI Act og regnes som den første brede, samlede lovgivning om AI fra en stor international lovgiver.
Hvordan AI-forordningen fungerer
Kernen i AI-forordningen er en risikobaseret tilgang. Det betyder, at reglerne bliver skærpet, jo større risiko et AI-system vurderes at udgøre. Nogle anvendelser anses som uacceptable og kan blive forbudt, hvis de truer grundlæggende rettigheder eller bruges til skadelig overvågning og manipulation. Andre systemer klassificeres som højrisiko, for eksempel hvis de indgår i kritisk infrastruktur, uddannelse, ansættelse, sundhed eller retshåndhævelse.
For højrisiko-systemer stiller forordningen krav om blandt andet dokumentation, risikostyring, menneskeligt tilsyn og gennemsigtighed. Udviklere og udbydere skal kunne forklare, hvordan systemet fungerer, og hvordan fejl og bias håndteres. Der er også regler for generelle AI-modeller, som kan bruges til mange forskellige formål, herunder krav til information, test og ansvar.
Hvad betyder den i praksis
I praksis påvirker AI-forordningen både teknologivirksomheder, offentlige myndigheder og almindelige brugere. En virksomhed, der bruger AI til at sortere jobansøgninger, kan blive mødt af strengere krav end en virksomhed, der bruger en chatbot til kundeservice. En kommune eller myndighed, der vil anvende AI til at vurdere borgere, skal være særligt opmærksom på retssikkerhed, diskrimination og gennemsigtighed.
Forordningen er vigtig, fordi AI i stigende grad bruges i beslutninger, som påvirker menneskers hverdag, fra arbejde og uddannelse til sundhed og offentlig kontrol. Derfor spiller AI-forordningen en central rolle i aktuelle debatter om teknologi, konkurrenceevne, privatliv og demokratiske rettigheder i Europa.