AI-sikkerhed handler om at gøre systemer med kunstig intelligens sikre, robuste og til at stole på. Begrebet bruges ofte på to måder. Det kan både betyde at beskytte AI-systemer mod angreb, fejl og misbrug, og at sikre at selve AI'en opfører sig forudsigeligt og ikke forårsager skade. I praksis overlapper de to betydninger ofte, fordi et usikkert system også kan blive farligt i brug.
Hvad dækker AI-sikkerhed over?
AI-sikkerhed omfatter hele kæden omkring et AI-system, fra data og modeller til software, servere og menneskerne bag. Hvis en model trænes på forkerte eller manipulerede data, kan den give skæve eller direkte farlige svar. Hvis uvedkommende får adgang til systemet, kan de stjæle følsomme oplysninger, påvirke resultaterne eller bruge værktøjet til svindel og misinformation.
Samtidig handler AI-sikkerhed også om adfærd. Et system skal kunne håndtere uventede situationer uden at bryde sammen eller træffe skadelige beslutninger. Det gælder for eksempel chatbots, der ikke bør rådgive om ulovlige handlinger, eller AI i sundhedsvæsenet, der skal fungere stabilt og under menneskelig kontrol. Derfor arbejder man med test, overvågning, adgangskontrol, datasikring og klare grænser for, hvad systemet må.
Hvorfor er det blevet så vigtigt?
Jo mere AI bruges i hverdagen, desto større bliver konsekvenserne af fejl. Virksomheder anvender AI til kundeservice, analyse og automatisering, mens myndigheder og medier bruger teknologien til sortering, vurdering og formidling. Hvis systemerne er usikre, kan det føre til datalæk, diskrimination, fejlinformation eller tab af tillid.
Debatten om AI-sikkerhed er derfor tæt knyttet til regulering, etik og ansvar. Politikere, forskere og virksomheder diskuterer, hvordan man udvikler AI, der både er nyttig og sikker. Det gør begrebet centralt i aktuelle nyheder om teknologi, cybersikkerhed og demokratisk kontrol.