OpenAI sagsøgt efter masseskyderi i Canada

Syv familier til dræbte og sårede i masseskyderiet på Tumbler Ridge Secondary School i British Columbia har nu sagsøgt OpenAI og direktør Sam Altman ved en domstol i Californien. Sagerne markerer en ny fase i opgøret om ansvar for generativ AI: ikke kun hvad en model svarer, men hvad et selskab gør, når det selv opdager faresignaler. ^[1]

Placeringen af Tumbler Ridge Secondary School i Tumbler Ridge, British Columbia, Canada

Ifølge sagerne undlod OpenAI at reagere tilstrækkeligt på den 18-årige gerningsmands brug af ChatGPT, selv om interne sikkerhedssystemer måneder før angrebet skulle have markeret samtaler med henvisninger til skydevåben og vold. Otte mennesker blev dræbt den 10. februar, heriblandt seks børn. Det gør angrebet til et af de dødeligste i Canadas historie. ^[2]

Vil du læse artikler uden reklamer?

Tilmeld dig gratis og få uendelig adgang til alle artikler.

Sagens kerne er ikke kun indholdet, men passiviteten

Det nye i denne sag er, at familierne ikke kun angriber produktets design i abstrakt forstand. De går efter en mere konkret påstand: at OpenAI havde viden om bekymrende adfærd, men ikke advarede myndighederne. ^[3]

Sam Altman skrev i sidste uge i et åbent brev, at han var "dybt ked af", at virksomheden ikke kontaktede politiet. Den formulering kan få betydning. En undskyldning er ikke det samme som juridisk ansvar, men den flytter sagen væk fra den sædvanlige tech-forsvarslinje om manglende kendskab. ^[4]

OpenAI siger på sin side, at selskabet har nultolerance over for brug af dets værktøjer til vold, og at sikkerhedsforanstaltningerne siden er blevet skærpet. Tirsdag offentliggjorde virksomheden desuden et blogindlæg om, hvordan den håndterer brugere, der udviser potentiel farlig adfærd.

Hvorfor sagen er anlagt i Californien

Stedet for retssagen i Californien, USA (staten)

Søgsmålet er indleveret i Californien af et fælles amerikansk og canadisk advokathold. Det erstatter en tidligere canadisk sag anlagt af familien til den 12-årige overlevende Maya Gebala, som nu frivilligt trækkes tilbage. Hun er fortsat indlagt efter at være blevet ramt af tre skud, i hovedet, halsen og kinden. ^[1]

Strategien er tydelig: Familierne vil føre sagen dér, hvor OpenAI hører hjemme, og hvor amerikanske produktansvars- og erstatningsregler kan være mere operationelle mod et Silicon Valley-selskab. Advokaten Jay Edelson siger, at han forventer at anlægge mere end to dusin sager på vegne af ofre og lokalsamfundet, og at han vil kræve nævningesager i hver enkelt.

Det er et signal om offensiv proces. En nævningesag øger risikoen for OpenAI, fordi sagen let kan komme til at handle om moralsk svigt lige så meget som teknisk kausalitet.

Hvilke juridiske spor familierne sandsynligvis vil forfølge

De fulde klageskrifter er ikke offentligt gennemgået i detaljer endnu, men mønstret fra nyere AI-sager peger på flere sandsynlige hovedteorier.

Uagtsomhed og pligt til at handle

Det mest oplagte spor er uagtsomhed: at OpenAI havde en pligt til at reagere på tydelige faresignaler og undlod det. Her bliver det centralt, om virksomheden faktisk identificerede chats som tilstrækkeligt alvorlige, og hvilke interne procedurer der fandtes for eskalering.

Produktansvar og utilstrækkelige sikkerhedsdesign

Et andet spor er produktansvar. I andre amerikanske sager mod OpenAI har sagsøgere allerede forsøgt at gøre gældende, at ChatGPT var designet med utilstrækkelige sikkerhedsbarrierer, advarsler og beskyttelse af sårbare brugere, især mindreårige. Hvis familierne kan argumentere for, at modellen eller sikkerhedsarkitekturen gjorde voldelig planlægning lettere, bliver sagen bredere end det konkrete manglende varsel. ^[5]

Vildledning eller brud på egne sikkerhedsløfter

En tredje mulighed er, at sagsøgerne vil holde OpenAI op på egne offentlige udsagn om sikkerhed, misbrugsforebyggelse og håndtering af farlige brugere. Hvis selskabet har markedsført sine systemer som robuste mod voldeligt misbrug, kan det åbne for påstande om, at praksis ikke matchede løfterne.

Bevisbyrden bliver stadig hård

Selv med et åbent undskyldningsbrev står familierne over for en vanskelig opgave. De skal ikke kun vise, at ChatGPT indgik i gerningsmandens digitale forløb. De skal også sandsynliggøre, at OpenAI's undladelse eller produktdesign havde en reel forbindelse til skaden.

Det er netop her, AI-sager ofte knækker. Amerikanske domstole kræver normalt mere end en løs kæde mellem et generelt teknologisk værktøj og en brugers forbrydelse. Sagsøgerne vil derfor sandsynligvis forsøge at bygge sagen op omkring forudsigelighed: Hvis en bruger gentagne gange udviser voldsrelateret adfærd, og selskabet registrerer det, hvornår opstår der så en egentlig pligt til at gøre mere? ^[6]

Det spørgsmål rækker langt ud over Tumbler Ridge.

Pres på OpenAI's sikkerhedsmodel

Sagen kommer samtidig med, at OpenAI i forvejen er under pres i andre voldsrelaterede sager i USA. Det gør den canadiske tragedie til mere end en enkeltstående retstvist. Den kan blive endnu en test af, om domstole og myndigheder vil begynde at se generativ AI som et produkt med særlige pligter til overvågning, eskalering og adgangskontrol. ^[7]

Hvis sagsøgerne får medvind, kan konsekvensen blive krav om mere aggressiv risikologning, stærkere mønstergenkendelse af eskalerende trusler, skarpere alders- og identitetskontrol og tydeligere procedurer for kontakt til myndigheder. Den udvikling er allerede i gang politisk, men en stor erstatningssag kan gøre den dyr og akut.

Bundlinjen

Sagen mod OpenAI handler ikke kun om, hvorvidt ChatGPT blev brugt før et skyderi. Den handler om noget mere belastende for branchen: om et AI-selskab kan blive mødt med ansvar, når det selv ser røde flag og ikke handler.

Hvis retten lader familiernes sager gå videre, bliver det sværere for AI-virksomheder at beskrive sig selv som neutrale værktøjsleverandører. Så bliver standarden i stedet, at man også skal kunne forklare, hvad man gjorde, da man opdagede faren.

Familier til ofre for canadisk masseskyderi sagsøger OpenAI i Californien