Når din chatbot skal svare i stedet for at gætte

Det er svært at åbne LinkedIn uden at læse om generative AI-chatbots, der skal revolutionere kundeservice, sagsbehandling og borgerservice.

Men hvis vi skal være helt ærlige: Hvor ofte har du prøvet at henvende dig til en chatbot, hvor dialogen endte med at blive direkte håbløs, fordi maskinen ikke havde styr på helt basale fakta?

Der er et underliggende problem, som afholder finanssektoren og det offentlige fra for alvor at trykke på AI-knappen: Sprogmodeller gætter! De forstår ikke regler; de forudser blot det næste ord baseret på sandsynlighed.

Det fører til “hallucinationer”. Og i en verden med benhård compliance, jura og personfølsomme data, må et svar aldrig være et kvalificeret gætteværk. Det skal være korrekt og forklarbart.

Kunder og borgere er med rette tøvende over for en dialog, hvor organisationen reelt må starte med at sige: “Du kan faktisk ikke stole på svaret.”

Cambridge-paradokset

Forestil dig, at du spørger en standard AI-chatbot: “Jeg er 20 år og studerer i Cambridge. Må jeg købe alkohol?”

Svaret vil i langt de fleste tilfælde være et “Ja”, hvilket er fuldstændig korrekt, hvis den studerende befinder sig i Cambridge i England, hvor aldersgrænsen er 18 år.

 

Men hvad nu, hvis den studerende går på Harvard, som ligger i Cambridge, Massachusetts i USA? Så er aldersgrænsen 21 år, og svaret er pludselig forkert. Standard-AI’en træffer en forhastet beslutning baseret på den mest sandsynlige fortolkning af ordet “Cambridge”. Den gætter sig frem.

Løsningen: Sund fornuft møder benhårde regler

Som ledere skal vi stoppe med at lade maskinen gætte på de juridiske eller forretningsmæssige konklusioner. Vi skal i stedet kombinere det bedste fra to verdener: Den generative AI (det sproglige) og den regelbaserede logik (det forretningsmæssige).

Når vi bygger en intelligent og compliant kunderejse, skal processen skilles ad:

1. AI’en bruges udelukkende til dialogen: Sprogmodellen bruges til at forstå, hvad brugeren skriver, og foreslå en fortolkning. Den spørger f.eks.: “Du skriver Cambridge. Jeg antager, du mener Storbritannien?”
2. Brugeren låser præmissen fast: Hvis den studerende retter det til USA, fanges fejlen med det samme.
3. Regelsystemet leverer svaret: Når fakta er låst, kobles sprogmodellen helt fra konklusionen. Systemet slår i stedet op i organisationens digitale regelsæt. Svaret findes i en hård regeltabel, ikke i et sandsynlighedsbaseret neuralt netværk.

Compliance er ikke et gætteværk

Når vi bygger digitale assistenter på denne måde, opnår vi det, markedet og lovgivningen reelt efterspørger: Ingen hallucinationer, kun ren logik.

Systemet kan altid forklare hvorfor et svar er givet, og pege direkte på den specifikke virksomhedsregel eller lovparagraf, der har udløst konklusionen. Der er ingen uigennemskuelige “sorte bokse”.

Hvis jeres AI-strategi skal have en reel, bæredygtig fremtid i en reguleret sektor, så brug generativ AI til det, den er genial til: At forstå, hvad mennesket spørger om. Men brug jeres egne, digitale regler til at styre logikken, den regelbaserede AI.

AI handler ikke om at erstatte det faglige skøn, men om at give
vores medarbejdere og kunder det korrekte svar hver eneste gang.

Hvordan ser I mulighederne for at kombinere jeres faglige regler med AI hos jer? Hvor i jeres kunderejse ville det skabe størst værdi at få en 100% sikker, digital assistent?