Modelkapacitet beskriver, hvor meget en AI-model samlet set kan rumme og udføre. Begrebet dækker både modellens evne til at håndtere information, lære mønstre, løse opgaver og understøtte forskellige funktioner. I praksis handler det om, hvor stor og avanceret modellen er, men også om hvor godt dens ressourcer bliver brugt.
Hvad dækker modelkapacitet over?
Når man taler om modelkapacitet, ser man typisk på, hvor kompleks en model er, og hvor mange typer opgaver den kan klare tilfredsstillende. En model med høj kapacitet kan ofte genkende mere indviklede sammenhænge i data, forstå nuancer i sprog eller arbejde på tværs af flere formater som tekst, billeder og lyd. En model med lavere kapacitet kan være hurtigere og billigere at bruge, men vil ofte have sværere ved komplicerede eller varierede opgaver.
Hvorfor er det vigtigt?
I virksomheder og offentlige institutioner bruges begrebet til at vurdere, om en model matcher behovet. En kundeservicechatbot kræver for eksempel en anden modelkapacitet end et system, der analyserer juridiske dokumenter eller hjælper læger med at opsummere journaler. For lav kapacitet kan give upræcise svar, mens for høj kapacitet kan gøre løsningen dyrere og tungere end nødvendigt.