Distillation bruges i AI-sammenhæng om at udtrække en models viden og adfærd ved systematisk at sende store mængder forespørgsler til den. Målet er ikke at kopiere den underliggende kode direkte, men at lære en anden model at efterligne svar, stil, beslutninger eller funktioner. Begrebet må ikke forveksles med kemisk destillation, hvor væsker adskilles ved opvarmning og kondensering.
Hvad betyder distillation i AI?
I teknisk litteratur kan distillation også betyde, at en mindre model trænes på output fra en større model. I den mere kritiske debat bruges ordet ofte om masseudtræk gennem automatiserede prompts, hvor hensigten er at efterligne en kommerciel AI-tjeneste. Det kan for eksempel ske ved, at et system sender tusindvis af spørgsmål om oversættelse, kodning eller opsummering og derefter bruger svarene til at træne sin egen model.
Hvorfor er det kontroversielt?
Distillation ligger i krydsfeltet mellem innovation, konkurrence og immaterielle rettigheder. Tilhængere ser det som en måde at bygge mere effektive modeller på, mens kritikere mener, at det kan udnytte store investeringer i data, træning og sikkerhedsarbejde uden tilladelse. Spørgsmålet handler også om, hvorvidt et modelsvar i sig selv kan bruges frit, eller om systematisk indsamling bliver en form for omgåelse af beskyttelse.