Orkestrering

Orkestrering er styringslaget, der bestemmer hvilken agent, model eller værktøj der gør hvad, i hvilken rækkefølge, og hvad der skal ske, hvis noget går galt. Orkestratoren fordeler opgaver til underliggende agenter, samler deres svar og sørger for timeout, retry og fejlrapportering, så brugerens flow ikke stopper.

Sådan virker orkestrering i praksis

Orkestrering svarer til en planlægningscentral: den modtager en opgave fra en bruger eller et system, opdeler den i mindre job, sender dem videre til de rette agenter og samler resultaterne til et endeligt svar. I stedet for at have én chatbot, der prøver at klare alt, har du flere specialiserede agenter, en til kundedata, en til produktinfo, en til betaling, og orkestratoren bestemmer rækkefølgen og hvem der må spørge hvilke systemer.

Orkestratoren styrer også fejl: hvis en agent ikke svarer, kan den prøve igen, bruge en backupmodel eller returnere et delvist svar med en forklaring. Tænk på det som en lufthavnskontrol, der sender fly til rigtige baner i stedet for en dirigent, der vifter alt igang på én gang. Den forskel gør, at systemet enten fungerer i praksis, eller bliver en klodset samling af værktøjer.

Hvorfor orkestrering bestemmer om jeres AI hænger sammen

Når I går fra én chatbot til flere agenter og flere interne systemer, bliver orkestreringen beslutningspunktet for brugeroplevelsen. Det er orkestratoren, der sikrer, at kundens spørgsmål ikke sendes rundt i ring, at følsomme data kun bruges af de rette agenter, og at timeout ikke efterlades til tilfældet.

Det er også her omkostninger og kompleksitet samler sig. En leverandør tager ofte betaling for orkestreringslogik, fordi den kræver både integration til jeres systemer og beslutninger om fallback, overvågning og rettighedsstyring. I skal derfor spørge: hvem ejer orkestreringen, hvor kører den, og hvad sker der, når et eksternt system er nede.

Eksempel: Orkestrering for ordremodtageren i en webshop

En ordremodtager på et mindre lager får to dage før Black Friday et nyt chatflow koblet på webbutikkens chat. Flowet består af tre agenter: en til ordrehistorik, en til lagerstatus og en til forsendelse. Orkestratoren skal først validere kundens telefonnummer hos ordrehistorik-agenten, derefter tjekke lagerstatus og til sidst beregne levering.

På den første dag oplevede ordremodtageren, at lageragenten tidvis gav timeout, så orkestratoren blev ændret til at prøve lageragenten tre gange med kort pause, og hvis stadig ingen respons, hente en senest opdateret lagerfil fra en SFTP-kopi. Implementeringen tog to dage ekstra og krævede en konfigurationsændring i overvågningen, men sidste del af flowet gav nu altid et svar, også hvis det var en faglig note om mulig forsinkelse. Udfordringen var ikke at skrive én agent, men at få dem til at samarbejde uden at skabe ekstra manuelt arbejde for ordremodtageren.

Orkestrering er ikke det samme som en chatbot eller en enkelt agent

En chatbot er ofte slutpunktet, den grænseflade kunden taler med. En agent er en specialist, der løser en bestemt opgave. Orkestrering er laget over dem, der fordeler opgaver, vælger hvilken agent der skal arbejde, håndterer fejl og samler output. Orkestrering kan omfatte retry, timeout, parallelkørsel og prioritering, funktioner en enkelt chatbot normalt ikke har indbygget.

Derfor er ord som agent-orkestrering, orchestrator eller AI orchestration nyttige: de beskriver styringen, ikke selve ekspertisen i en agent.

Sådan kommer du i gang med orkestrering

1. Kortlæg hvilke agenter og systemer I vil have til at samarbejde, og hvilke data hver enkelt må bruge. Gør det i et regneark, ikke i hovedet.
2. Beslut hvor orkestreringen skal køre, og hvem ejer rettigheder og logfiler. Sikker adgang er vigtigere end smart routing.
3. Start med to flows: et simpelt kundehenvendelsesflow og et internt opslag, få dem til at køre stabilt, før I kobler flere agenter på.
4. Definer fallback-regler: hvad sker der ved timeout, hvilke fejl meldes til bruger, og hvem får besked internt.

Når I bygger, gør det synligt: lav logning og dashboards, så I kan se hvilke agenter der flasher fejl. Det gør fejlsøgning langt lettere, og ja, lidt snedighed hjælper ... men hold det dokumenteret.

Når medarbejderne selv skal kunne bruge orkestrering og ikke bare kende ordet, sker det hurtigst på en AI-workshop.