Automatisk prompt-optimering (APO) har hidtil behandlet hele prompten som én blok, hvilket kan forbedre én adfærd, mens andre forringes. Nu præsenterer forskere SAPO, en segment-baseret metode, der opdeler prompts i roller, kontekst, opgaver og output-format, og derefter målrettet forbedrer de svage dele baseret på top-5 og bund-5 eksempler. Metoden bruger én LLM med statiske meta-prompts og strukturerede outputs til segmentering, svaghedsanalyse og kandidatgenerering. På tværs af SQuADv2, TweetEval, XSUM, CommonGen og GSM8K med GPT-3.5-Turbo og GPT-4o-mini opnår SAPO den bedste gennemsnitlige score mod Zero-shot og stærke APO-baselines som APE, OPRO, EvoPrompt, GEPA og StraGO. Læs det fulde paper på arXiv.
For beslutningstagere, der bygger eller køber AI-løsninger, betyder det noget, fordi prompt-optimering er en central omkostning i at få modeller til at levere på tværs af opgaver. Hidtil har man skullet vælge mellem at optimere for ét mål og risikere at forringe andre. SAPO's segment-tilgang giver mulighed for mere præcis kontrol — man kan forbedre eksempelvis output-formatet uden at røre ved rollerne. Det kan reducere tiden og kompleksiteten i prompt-tuning, især i komplekse systemer med mange samspil.
Metoden er stadig på forskningsstadiet, men den peger på en retning, hvor prompt-optimering bliver mere systematisk og mindre afhængig af manuelt håndværk. For virksomheder, der bruger LLM'er i produktion, kan det betyde lavere driftsomkostninger og mere robuste resultater. For udviklere af AI-værktøjer kan det åbne for nye automatiserede optimeringsfunktioner.
