Fra en enkelt prompt til en samlet AI-løsning
Vellum er relevant, når en AI-opgave kræver mere end at sende en instruktion til en sprogmodel og få et svar tilbage. Det kan eksempelvis være en proces, der først skal hente oplysninger, derefter bearbejde dem og til sidst levere et struktureret resultat til et andet system.
Platformen samler arbejdet med at udvikle, teste og sætte AI-løsninger i drift. Derfor beskrives Vellum både som en AI-udviklingsplatform og en AI-agentplatform. Agentdelen er én anvendelse; platformen understøtter også chatbots, dataudtræk og workflows med en fast rækkefølge af trin.
Vellum er altså ikke en sprogmodel i sig selv. Det er et værktøj til at bygge løsninger omkring sprogmodeller og styre, hvordan modellerne indgår i en større proces.
Sådan fungerer Vellum Workflows
Et centralt element i platformen er Vellum Workflows. Her bygges en AI-proces som en graf: et netværk af forbundne trin, der kaldes noder.
En node kan eksempelvis behandle et input eller kalde en sprogmodel. Forbindelserne mellem noderne bestemmer, hvordan processen fortsætter, og hvilke oplysninger næste trin modtager. Et workflow kan dermed indeholde både en fast rækkefølge og forgreninger, hvor forskellige betingelser fører til forskellige handlinger.
Vellum håndterer også processens tilstand, ofte kaldet state. Det er de oplysninger og mellemresultater, som workflowet skal holde styr på undervejs.
Workflows kan bygges visuelt og defineres i kode via et SDK, et udviklingsværktøj til at arbejde med platformen programmatisk. Den visuelle tilgang gør det lettere at overskue forløbet og finde fejl. Kodebaseret udvikling giver tekniske teams mulighed for at arbejde direkte med workflowets logik.
Prompts, workflows og deployments
Tre begreber går igen i Vellum:
- Prompts er de instruktioner og den kontekst, en sprogmodel får til en opgave.
- Workflows forbinder prompts, værktøjer og anden logik i en samlet proces.
- Deployments gør en bestemt version af løsningen tilgængelig for brug i en applikation eller et andet system.
Forskellen er praktisk: En god prompt kan løse ét trin, men den styrer ikke nødvendigvis hele processen. Workflowet binder trinnene sammen, mens deployment gør løsningen klar til at blive brugt uden for udviklingsmiljøet.
AI-agenter og værktøjskald
Et almindeligt workflow kan følge en på forhånd fastlagt rute. En AI-agent kan derimod vælge mellem tilgængelige værktøjer undervejs for at løse sin opgave.
Det sker gennem tool calling, eller værktøjskald, hvor modellen beder et tilknyttet værktøj om at udføre en handling eller hente oplysninger. Resultatet kan derefter indgå i modellens videre arbejde.
Vellums Agent Node håndterer blandt andet værktøjskald, beskrivelser af værktøjernes input og logikken for gentagne kald. Det understøtter forløb, hvor agenten skal bruge et værktøj, vurdere resultatet og eventuelt fortsætte med endnu et kald.
Det betyder ikke, at agenten automatisk kan tilgå alle virksomhedens systemer. Teamet skal stadig definere, hvilke værktøjer den har adgang til, og hvordan de skal bruges.
Et eksempel fra marketingproduktion
Et marketingteam kunne bruge Vellum til at opbygge et workflow, der laver udkast til produkttekster på baggrund af produktdata.
Processen kunne bestå af fire trin:
- Modtag produktdata som input.
- Udtræk og strukturér de relevante egenskaber.
- Generér et tekstudkast ud fra data og teamets skriveinstruktioner.
- Kontrollér udkastet efter udvalgte kriterier, før det sendes videre til redaktionel gennemgang.
Fordelen ved at opdele opgaven er, at teamet kan undersøge, hvor fejl opstår. Skyldes en forkert produktbeskrivelse manglende input, et mislykket dataudtræk eller instruktionen til modellen? Det er lettere at finde årsagen, når processen ikke ligger gemt i én lang prompt.
Samme princip kan bruges til interne assistenter, chatbots og andre processer, hvor AI skal behandle information i flere trin.
Hvornår giver Vellum mening?
Vellum er især relevant, når et team skal vedligeholde en AI-løsning over tid. Platformen understøtter eksperimenter, evaluering, versionering og overvågning, så arbejdet ikke stopper ved den første fungerende prototype.
Det gør det muligt at teste ændringer i prompts og workflows og følge løsningens output i drift. Platformen lægger samtidig op til samarbejde mellem tekniske og ikke-tekniske medarbejdere, selv om integrationer og kompleks logik stadig kan kræve udviklerkompetencer.
Til en enkel, lejlighedsvis skriveopgave vil Vellum ofte være mere omfattende end nødvendigt. Værdien bliver tydeligere, når flere trin, værktøjskald og systematisk kvalitetssikring skal hænge sammen.
Platformen fjerner heller ikke behovet for faglig kontrol. Et velorganiseret workflow kan stadig producere forkerte svar. Kvaliteten afhænger derfor også af input, instruktioner, testkriterier og den menneskelige gennemgang, opgaven kræver.