AI Chatbots

In een recente snackable learning sessie (door Vincent Verbergt) werd de huidige stand van zaken rond AI chatbots besproken. Het ging over geavanceerde AI-modellen zoals GPT en andere technologieën die momenteel het landschap domineren. Tijdens de sessie werd het belang van een nuchtere, pragmatische benadering bij de integratie van AI binnen Lemon benadrukt.

Battle of the Bots: GPT versus Kapa.ai

Een van de meest opvallende onderdelen van de presentatie was de vergelijking tussen twee AI-systemen: GPT en Kapa.ai. Beide systemen kregen dezelfde programmeervraag: “How to define an endpoint?”. Waar GPT worstelde met onjuiste of hallucinante antwoorden, wist Kapa.ai de juiste informatie te geven, inclusief de bronvermelding. Dit verschil komt voort uit de manier waarop beide modellen werken. Kapa.ai gebruikt een techniek genaamd Retrieval Augmented Generation (RAG), waarbij het model zijn antwoorden baseert op actuele en betrouwbare bronnen, terwijl GPT vertrouwt op een vooraf getrainde dataset zonder up-to-date kennis.

Wat is Retrieval Augmented Generation (RAG)?

RAG is een AI-techniek waarbij een model specifieke informatie opvraagt uit een externe databron voordat het een antwoord genereert. In plaats van een groot taalmodel zoals GPT alleen te laten vertrouwen op zijn vooraf getrainde kennis, zoekt het systeem naar de meest relevante stukken informatie in bijvoorbeeld een database of documentatiebron. Dit maakt het mogelijk om nauwkeurigere en contextspecifiekere antwoorden te geven, zoals werd gedemonstreerd tijdens de sessie. Dit is een belangrijke ontwikkeling voor bedrijven die AI willen inzetten voor domeinspecifieke toepassingen, zoals technische support of interne kennisbanken.

Waarom is dit relevant voor jou?

Hoewel AI-modellen zoals GPT indrukwekkende prestaties kunnen leveren, zijn ze niet altijd betrouwbaar. Dit komt door het feit dat ze vaak “hallucineren” en foutieve informatie kunnen genereren. Een goed ontwikkelde RAG-oplossing kan deze problemen omzeilen door specifieke bronnen te gebruiken, wat leidt tot betrouwbaardere en meer controleerbare resultaten. Dit betekent dat we bij Lemon niet zomaar op de AI-hype springen, maar wel zorgvuldig onderzoeken hoe we deze technologie op een verantwoorde manier kunnen inzetten.

De toekomst van AI binnen Lemon

Tijdens de sessie werd ook inzicht gegeven in hoe AI binnen Lemon kan worden toegepast in onze dagelijkse workflow. Enkele veelbelovende use cases werden genoemd, zoals het genereren van feature files op basis van foto’s of het inzetten van AI voor geavanceerde zoekopdrachten binnen onze knowledge bases. Dit zijn echter geen eenvoudige implementaties. De technologie moet eerst verder evolueren, met name op het gebied van betrouwbaarheid en voorspelbaarheid.

De praktische benadering van Lemon

Het is duidelijk dat Lemon de ontwikkelingen op het gebied van AI nauwgezet volgt. We blijven experimenteren en testen met AI in specifieke, gecontroleerde omgevingen, zodat we klaar zijn om de technologie te integreren zodra deze volwassen genoeg is. We zien de enorme potentie van AI, maar willen er zeker van zijn dat de implementatie in onze workflows leidt tot waardevolle en betrouwbare oplossingen voor onze klanten.

‍