AI-hallucinaties zijn momenten waarop AI compleet onjuiste informatie presenteert alsof het de waarheid is.
Stel je voor: je hebt net een groot evenement afgerond en je wilt snel een overzicht van de deelnemer feedback. Je besluit daarvoor AI het zware werk te laten doen.
Alles lijkt soepel te verlopen – totdat je in de samenvatting leest over "uitstekende breakout-sessies."
Één probleem: er waren helemaal geen breakout-sessies.
Dit is precies waar het mis kan gaan met AI. Jouw slimme assistent is net iets té creatief met de feiten geworden. In het domein van Generatieve AI noemen we dit hallucinatie.
AI-hallucinaties zijn momenten waarop AI compleet onjuiste informatie presenteert alsof het de waarheid is. De valkuil van AI is dat het deze onjuistheden ook nog eens ontzettend overtuigend aan je weten te presenteren.
AI-modellen, zoals ChatGPT’s taalmodel, zijn ontworpen om het volgende woord in een reeks te voorspellen op basis van wat ze eerder hebben geleerd. Maar als ze de informatie niet hebben, vullen ze die leemte soms in met "plausibel klinkende onzin."
Een goed en toepasselijk voorbeeld hiervan werd in januari 2023 gedocumenteerd door Big Data Wire. ChatGPT schreef toen met veel overtuiging een positieve review over het desastreus verlopen Fyre Festival.
Het is verleidelijk om te denken dat hallucinaties alleen gaan over 'verkeerde feiten', maar er zijn eigenlijk twee soorten fouten die je kunt tegenkomen: feitelijke fouten en instructiefouten.
Feitelijke fouten ontstaan wanneer AI informatie verwart of simpelweg verkeerde gegevens verstrekt. Stel dat je vraagt wie de eerste mens op de maan was, en de AI antwoordt met "Yuri Gagarin". Hoewel dit misschien logisch klinkt, is het juiste antwoord Neil Armstrong. Soms verzint de AI ook volledig nieuwe informatie. Vraag je bijvoorbeeld om een samenvatting van een fictief wetenschappelijk artikel, dan krijg je een overtuigend, maar volledig verzonnen verhaal.
Instructie fouten ontstaan wanneer de AI je opdracht niet correct uitvoert. Bijvoorbeeld: je vraagt om een Engelse vraag naar het Spaans te vertalen, maar de AI geeft je het antwoord in het Engels. Deze fouten zijn vaak subtieler: de AI volgt de instructie wel en werkt met de juiste gegevens, maar voegt zelf onder de motorkap additionele instructies toe aan de opdracht die niet in je oorspronkelijke input stond. Over het algemeen helpen die additionele onzichtbare instructies de output te verbeteren; soms zien we helaas het tegendeel.
Een andere reden waarom AI hallucineert, is dat het slechts getraind is tot een bepaald moment in de tijd. Vraag je bijvoorbeeld naar de nieuwste technologische ontwikkelingen die plaatsvonden na de trainingsperiode, dan kan de AI simpelweg iets verzinnen omdat die informatie ontbreekt.Terug naar het Fyre Festival-voorbeeld. Een half jaar later, na enkele model-updates, gaf dezelfde prompt een andere uitkomst. Dit keer gaf het model aan dat het geen positieve review kon bedenken voor dit festival. Dit toont aan dat de AI inmiddels beter is geworden in het voorkomen van hallucinaties.
Nu je weet wat AI-hallucinaties zijn en waarom ze gebeuren, is de vraag: hoe voorkom je dat AI dingen verzint? Hier zijn enkele praktische tips om AI betrouwbaarder in te zetten.
Vakkennis is essentieel bij het werken met AI. Hoe meer je weet over een onderwerp, hoe beter je in staat bent de output van de AI te controleren. AI kan zeer overtuigend klinken, ook als het fout zit. Alleen door jouw eigen expertise kun je feitelijke fouten herkennen en de juistheid waarborgen. Zonder voldoende vakkennis loop je het risico om misleid te worden door ogenschijnlijk correcte, maar foutieve antwoorden. Daarom is het cruciaal om zelf goed geïnformeerd te zijn over de onderwerpen waarvoor je AI inzet.
Je krijgt uit AI wat je erin stopt. Vage vragen geven AI de ruimte om creatief te worden – en dat wil je niet altijd. In plaats van te vragen: “Wat zijn de trends in de eventbranche?” kun je specifieker zijn: “Welke nieuwe technologieën worden in 2024 gebruikt voor klantinteractie op evenementen?” Hoe gerichter je vraag, hoe minder kans de AI krijgt om te gaan improviseren.
Als een antwoord te mooi klinkt om waar te zijn, dan is dat meestal ook zo. AI’s zijn getraind om de gebruiker tevreden te stellen, zelfs als dat betekent dat ze een beetje moeten fantaseren. Als iets precies klinkt zoals je wilde horen, wees dan op je hoede. AI wil je graag tevreden stellen – soms zelfs ten koste van de waarheid.
AI klinkt vaak overtuigend, zelfs als het volledig mis is. Daarom is het essentieel om belangrijke feiten altijd te controleren. Namen, data, locaties – als de AI een bron noemt of iets specifieks vermeldt, neem dan de tijd om die informatie te verifiëren. Dit kost misschien wat extra tijd, maar het voorkomt gênante fouten en houdt je klanten tevreden.
Wanneer je AI vraagt om een complexe taak met meerdere onderdelen uit te voeren, neemt de kans op fouten toe. AI heeft namelijk moeite om consistent te blijven over meerdere onderdelen. Één fout kan ervoor zorgen dat de hele output ontspoort. Splits daarom complexe taken op in kleinere, beheersbare stappen en controleer de output na elke stap. Zo kun je fouten vroeg opsporen en voortbouwen op correcte resultaten.
Een van de handige dingen van AI is dat het lange teksten kan samenvatten. Maar wees voorzichtig – samenvattingen zijn ook plekken waar AI's vaak hallucineren. Ze hebben de neiging om extra details toe te voegen die niet in de originele tekst stonden. Controleer de samenvatting altijd aan de hand van het originele document om er zeker van te zijn dat de informatie klopt, vooral als je van plan bent de samenvatting extern te delen.
Wanneer je met actuele feiten werkt, is het essentieel om een AI-model te gebruiken dat toegang heeft tot het internet. Recent heeft ChatGPT een eigen zoekmachine-functionaliteit uitgerold, ChatGPT Search, waarmee het internet wordt geraadpleegd om je te voorzien van een antwoord. Perplexity neemt dit nog een stap verder, door op een toegankelijke manier de bronnen te presenteren die het heeft geraadpleegd voor het gepresenteerde antwoord.
AI kan je als eventprofessional enorm helpen om tijd te besparen en meer gedaan te krijgen, maar je moet het verstandig inzetten. Het is een beetje zoals rijden met cruise control. Het geeft je rust, laat je ontspannen, maar je moet niet in slaap vallen achter het stuur. AI kan fouten maken, net zoals een auto op cruise control niet vanzelf de bochten neemt.
Blijf daarom alert, stel duidelijke vragen, en controleer de cruciale details.
Onze beste tips, trucs en ideeën om voorop te blijven in een wereld van Generatieve AI en evenementen.
