Met de opkomst van social media zagen we een systeem dat zich ontwikkelde tot een soort digitale crackpijp: het probeert zoveel mogelijk engagement te creëren en vooral jongeren zijn hier gevoelig voor en raken verslaafd, met alle gevolgen van dien. In Nederland wordt momenteel opnieuw besproken om social media voor jongeren te verbieden.
Er is echter een nieuwe speler in de digitale wereld die afhankelijkheid van techniek en een verstoord wereldbeeld tot een hoger niveau tilt: Conversational-AI bots als ChatGPT, Copilot en Gemini.
We beweren niet beweren dat deze Conversational-AI geen voordelen biedt, maar we vergroten wel graag je bewustzijn over hoe een AI-bot werkt en wat de voor- en nadelen zijn.
Hoe een Conversational-AI haar antwoord formuleert
Op de eerste plaats is het goed om te weten dat, net als bij social media, het doel van Conversational-AI is om zoveel mogelijk engagement te creëren. Dit uit zich in het feit dat zij vrijwel altijd aan het begin en het eind van hun output een sterk bevestigende zin plaatsen: “je ziet dit heel goed” en “waarom jouw vraag zo relevant is”. Maar laten we ophelderen hoe een Coversational-AI haar antwoord formuleert:
Context is alles voor een LLM. Het is geen enorme kennisbank die jou feiten geeft, maar het analyseert heel sterk wat jouw intentie is, wat het doel is van je vraag, hoe jouw tone of voice klinkt en vult vervolgens de ontbrekende stukken op met de meest waarschijnlijke zinnen die passen bij dat patroon, ook als die inhoudelijk niet kloppen.
Die ontbrekende stukken invullen noemen ze in de wereld van AI ‘hallucinaties’. De chatbot genereert letterlijk informatie die alleen qua context goed past, maar complete bullshit kan zijn.
Gevaren voor gebruikers
De meeste mensen denken dat een AI-antwoord gebaseerd is op gevalideerde feiten. Ook denken zij dat ze een ‘gesprek’ met de bot hebben, terwijl de bot niet terugkijkt in de chathistorie.
Het registreert een aantal zaken over je, zoals je intentie, je schrijfstijl, je emotionele toon, de richting waarin jij het antwoord lijkt te willen sturen, en vult vervolgens de rest aan met taal die statistisch past bij dat patroon. Het pakt dus nooit terug op exacte informatie die je eerder in de chat hebt gedeeld. Het bouwt wel een geheugen op, maar dat staat in een losse database en wordt wederom gebruikt om antwoorden te geven die jij graag wil horen.
Dus wat voor vraag je ook stelt: de Conversational-AI zal niet op basis van kennis antwoorden, maar op basis van context inschatten wat jij graag wil horen. Dat is lastig te herkennen, want je bent het natuurlijk heel erg eens met je eigen gedachten.
Gevaren voor ondernemers
Conversational-AI biedt ondernemers voordelen, hoe beperkt die ook mogen zijn. Een Conversational-AI kan namelijk uitvoerend (niet adviserend) redelijk sterk zijn. Niet ter vervanging van een mens, het levert output die je zelf moet controleren en herschrijven. Toch is het sterk in zaken als teksten controleren op grammatica of iets anders verwoorden of schrijven, informatie samenvatten (maar pas op voor de conclusies), varianten genereren of een basis-setup voor content waar je zelf op voort kunt bouwen.
Wat je echter absoluut moet vermijden, is vragen stellen aan een Conversational-AI of zelfs een strategie bouwen op basis van haar output. Bijvoorbeeld: “Hoe optimaliseer ik een pagina voor SEO?” en vervolgens jouw pagina als tekst invoeren en vragen om bevestiging of dit goed is. Je kunt om tegengas vragen, kritische punten, en zo zorgen om toch tot de beste versie te komen, maar ondertussen worden alle antwoorden gebaseerd op context (en op wat jij wilt horen) in plaats van waarheid. Schrijf een compleet perfecte SEO-tekst en vraag om tegengas: je zult feedback krijgen om je pagina “nog beter te optimaliseren”, want dat is de context van je vraag en dat is wat je krijgt.
Vormen van AI die meer waarde bieden aan ondernemers
Bij Marquant maken we veelvuldig gebruik van AI, maar zeer weinig van conversational-AI. Varianten waar AI enorm waardevol is:
- Alles aan de technische kant, zoals N8N.io of Claude.ai voor het creëren van eigen automations, bots of schrijven van simpele stukjes code.
- AI-biedstrategieën binnen advertentieplatformen.
- Rapportages met enorm veel data analyseren om patronen of gekke afwijkingen te detecteren.
- Conversational AI: teksten controleren op spelfouten of grammatica.
Nooit laten wij een conversational-AI input genereren zoals een advies, strategie of content. Daar zijn deze platformen overduidelijk niet voor gebouwd, ook al pretenderen ze in hun output echte kennis te delen.
SEO-verkeer daalt doordat mensen liever Conversational-AI gebruiken
Dit zegt iets over de adoptie van AI-bots en de verschuiving van waar mensen (pragmatische) informatie ophalen. In plaats van zelf gevalideerde informatie op te zoeken bij betrouwbare bronnen (meer werk), stellen mensen liever vragen aan een Conversational-AI omdat dit sneller en makkelijker antwoord geeft, zonder zich bewust te zijn van hoe een Conversational-AI eigenlijk werkt. Ze worden zo, net als via socialmedia-algoritmes, steeds verder van de realiteit getrokken en in een bubbel van foutieve informatie geplaatst die hen naar de mond praat.
Wat de schade verder vergroot, is dat social media een grote bron van informatie zijn waarop conversational chatbots hun input baseren. Dit maakt open vragen stellen aan Conversational-AI bots enorm foutgevoelig en het is bizar dat de wereld deze kant op beweegt.
Want nogmaals: een Conversational-AI voorspelt taal, geen feiten. Het leunt sterk op ‘waarschijnlijkheid’ in plaats van kennis. Het heeft geen consistentie, want elke prompt creëert een nieuwe context. Het corrigeert zichzelf niet en waarschuwt je niet voor fouten. Het klinkt overtuigend, ook als het fout zit. Het verzint details als er gaten zijn (hallucinaties) en het heeft geen toegang tot een stabiele, gecureerde index zoals Google.
Kortom: het praat je naar de mond en heeft zeer beperkte toegang tot gevalideerde kennis. Het doel is dan ook niet jou te helpen, maar om engagement te verhogen (een ander woord voor verslaving).
Tot slot
Nu is dit niet baanbrekend, maar door de verschuiving van SEO naar Conversational-AI doken we hier toch even dieper in. Hopelijk heeft het je meer bewustzijn gegeven rond het gebruik van Conversational AI als het gaat om het maken van zakelijke beslissingen, en stuur je jouw business aan op echte kennis.
Wil je echt alles lezen over hoe AI werkt en wat je hier mee kunt als ondernemer? Check dan onze gratis AI-Library. Het is een verzameling van alle learnings die wij via cursussen, seminars en klant cases hebben opgedaan. Deze kennis wordt voor duizenden euro’s verkocht aan grote corporaties, maar als Robin Hood van de online marketing geven we je als ondernemer deze kennis gratis op je bordje.
Jouw bedrijf AI-proof maken?
Beschrijf jouw wens en krijg eerlijk advies over wat wij zouden doen in jouw situatie. Dit in de vorm van een kennismaking waarin we concrete kansen tonen hoe je meer resultaat uit jouw website kunt halen.