Waar gaat AI de mist in, en hoe ga je daarmee om?

Waarom verzint AI soms dingen?

Een taalmodel voorspelt welke tekst waarschijnlijk klopt, het zoekt geen feiten op. Weet het iets niet, dan schrijft het vaak toch een overtuigend antwoord. Dat heet hallucineren.

Zo vang je het op: laat AI werken met jouw eigen gegevens in plaats van zijn algemene kennis, laat het bronnen of het dossier noemen waar het antwoord vandaan komt, en laat een mens controleren voordat er iets naar een klant gaat.

Kan AI rekenen?

Niet betrouwbaar. Een taalmodel kan een optelling of btw-berekening net verkeerd doen, terwijl het antwoord heel zeker klinkt.

Zo vang je het op: laat bedragen, uren en marges altijd door gewone, geteste software berekenen. AI mag een getal uit een bericht halen, maar het rekenwerk doet de code.

Weet AI wat er in mijn bedrijf speelt?

Nee. Een losse chatbot kent alleen wat je erin plakt, plus algemene kennis tot een bepaalde datum. Het weet niet welke orders er vandaag openstaan of welke klant gisteren belde.

Zo vang je het op: koppel AI aan je eigen systeem, zodat het antwoorden haalt uit je actuele gegevens in plaats van uit het geheugen.

Waarom geeft AI niet altijd hetzelfde antwoord?

Stel je twee keer dezelfde vraag, dan kan het antwoord net anders zijn. Voor een tekstvoorstel is dat geen probleem, voor een beslissing wel.

Zo vang je het op: gebruik vaste regels voor alles wat altijd hetzelfde moet uitpakken, en gebruik AI voor lezen, samenvatten en voorstellen.

Is het veilig om klantgegevens in een chatbot te zetten?

Niet zomaar. De Autoriteit Persoonsgegevens heeft meldingen van datalekken ontvangen doordat medewerkers persoonsgegevens van klanten en patiënten in AI-chatbots invoerden. Veel aanbieders slaan ingevoerde gegevens op.

Zo vang je het op: maak duidelijke afspraken over wat wel en niet in een chatbot mag, en gebruik voor klantgegevens een AI-oplossing waarbij je weet waar de gegevens heen gaan.

Wat kost AI eigenlijk?

AI wordt meestal per gebruik afgerekend. Bij een paar vragen per dag is dat weinig, maar een systeem dat elk binnenkomend bericht laat lezen kan ongemerkt oplopen.

Zo vang je het op: houd het gebruik bij, stel een maandbudget in en stuur alleen de tekst naar het model die echt nodig is.

Wat betekent dit voor jou?

De rode draad: laat AI lezen, samenvatten en voorstellen, laat software rekenen en regels bewaken, en laat een mens beslissen. Zo haal je de tijdwinst binnen zonder de risico's.