Small Language Model

SLM står for Small Language Model (Lille Sprogmodel) og er en mere kompakt og specialiseret udgave af de store LLM-modeller.
Hvor LLM’er som GPT-4 er massivt store og trænet på enorme, brede datasæt for at opnå generel viden og kompleks ræsonnering, er SLM’er betydeligt mindre, typisk med millioner til få milliarder parametre, og er designet til at løse specifikke, målrettede opgaver.
Dette fokus på effektivitet og specialisering er SLM’ens største fordel. Fordi de kræver færre beregningsressourcer, kan SLM’er køre lynhurtigt og er ideelle til implementering lokalt på enheder som smartphones eller tablets, hvilket muliggør funktioner som hurtig opsummering eller indbygget oversættelse uden brug af eksterne cloud-tjenester. Denne lokale drift giver også øget datasikkerhed.
SLM’er er derfor foretrukket i situationer, hvor lav pris, høj effektivitet og beskyttelse af private eller følsomme data er afgørende.