Reasoning-model

Reasoning-model er en sprogmodel, der er trænet til at lave skjulte mellemregninger før den svarer. Den bruger mere regnetid under inferens, så den typisk er langsommere og dyrere end 'hurtige' chat-modeller, men den klarer svære opgaver bedre: lange beregninger, komplicerede planer og komplekst kodearbejde.

Sådan virker en reasoning-model i praksis

En almindelig sprogmodel gætter på næste ord ud fra mønstre i træningsdata. En reasoning-model gør det også, men den er trænet til at holde styr på flere tænketråde internt og arbejder dem igennem, før den afleverer ét samlet svar. Tænk på forskellen mellem at give et hurtigt svar i telefonen og at skrive noter, lave et regneark og kontrollere tallene, før du ringer tilbage. Modellen bruger mere inferens og flere beregninger for at simulere disse mellemregninger.

Det betyder konkret, at modellen ofte vil tage længere tid om et svar og bruge flere regnekræfter. Det er synligt i svartid og pris per kald. Derfor vil de fleste produkter tilbyde en 'thinking'-tilstand, som for eksempel OpenAIs o1, eller DeepSeek R1, der fra 2024 til 2025 gjorde typen kendt. I praksis vælges reasoning-tilstand, når opgaven kræver flere skridt, kontrol af tal eller logisk ræsonnement.

Hvorfor en reasoning-model betyder noget for din beslutning

Du vil støde på valget i næsten alle AI-produkter: hurtig chat eller tænkende tilstand. Som leder skal du bruge en tommelfingerregel: vælg reasoning ved opgaver med flere afhængige trin, krav om nøjagtighed i tal eller når følgefejl er dyre. Drop den til korte tekstopgaver, simple svar eller masseproduktion af marketingtekst, hvor hastighed og pris tæller mere.

Vel at mærke: reasoning forbedrer ikke magisk kvaliteten i alle situationer. Den hjælper, når modellen ellers ville springe over mellemlinjerne og lave en forkert slutning. Den er ikke en garanti mod hallucinationer og kan stadig lave logiske fejl, især hvis data er uklare.

Eksempel: Reasoning-model hos en dansk IT-ansvarlig

IT-ansvarlig i en mellemstor rådgivervirksomhed står mandag morgen midt i en månedsrapport, tre dage før bestyrelsesmødet. Firmaets budgetarkiv består af en 120-siders PDF med gamle notater, to regneark fra 2019, og en e-mailkæde på 18 beskeder. Han tester en ny rapportgenerator: i 'hurtig' tilstand får han en to-siders opsummering på 20 sekunder, men den indeholder et forkert tal og en manglende afhængighed mellem to omkostningsposter. I 'tænkende' tilstand tager samme forespørgsel 90 sekunder; modellen laver tydelige mellemregninger, refererer til regnearkets specifikke celler og finder sammenhængen mellem de to poster, men det kræver tre ekstra API-kald og en kort tilpasning af prompten.

Resultatet: rapporten er mere præcis, men projektet brugte en eftermiddag på test og tre ekstra tusinde i driftsomkostninger den første måned. Modstand kom fra økonomichefen, der var bekymret for prisen. Løsningen blev at bruge reasoning kun til de sektioner i rapporten, hvor tal og afhængigheder var afgørende, og almindelig chat til resten. Den daglige drift blev ikke langsommere, men der var en læringskurve og en konkret udgift at tage højde for.

Reasoning-model er ikke det samme som en hurtig chatmodel eller 'chain-of-thought'

En reasoning-model er ikke bare en langsommere chatmodel. Chatmodeller fokuserer på flydende tekst og hurtig respons; reasoning-modeller prioriterer interne mellemregninger. 'Chain-of-thought' er en teknik, hvor modellen eksplicit skriver sine mellemregninger i output; reasoning-modellen kan gøre disse mellemregninger internt uden at vise dem. De to koncepter overlapper, men er ikke identiske: reasoning-handler om, hvordan modellen bruger sin kapacitet under inferens; chain-of-thought handler om hvordan mellemregninger kommunikeres.

Sådan vurderer du, om I skal bruge reasoning-model

1. Kort opgaven: har den flere logiske trin, talkontrol eller krav om forklaringer? Ja betyder grønt lys.
2. Mål konsekvenserne af fejl: hvis en forkert beslutning koster tid eller omdømme, skal du prioritere tænkende modeller.
3. Test med to scenarier: kør samme opgave i hurtig og reasoning-tilstand på et sæt eksempler og sammenlign nøjagtighed, tid og pris.
4. Bland tilstande: brug reasoning til kritiske dele og hurtig til rutineopgaver.
5. Beregn pris: medregn merpris pr. kald og ekstra udviklingstid til promptdesign.

Hvad du skal være opmærksom på

En reasoning-model er langsommere og dyrere, og den gør ikke alt korrekt. Inferens-omkostninger kan stige markant ved volumen. Den hjælper ofte ved matematik, kode og planlægning, men kan stadig hallucinere fakta, hvis kildematerialet er uklart. Overvej også teknisk integration: længere svartider kræver fejlhåndtering og timeout-indstillinger. Til sidst: hold øje med leverandørens beskrivelser af 'thinking' eller 'reasoning', funktionernes præcision og pris varierer, og en test på egne data er uundgåelig.

En lille tanke: det er som at lade en erfaren kollega sætte sig med en lommeregner i stedet for at få et hurtigt gæt. Ofte værd at betale for. Men ikke altid.

Når medarbejderne selv skal kunne bruge reasoning-model og ikke bare kende ordet, sker det hurtigst på en AI-workshop. Er I i tvivl om, hvad reasoning-model betyder for jeres eget ansvar, så tag det med i AI-rådgivningen.