Blog post
Wanneer AI een partner wordt in plaats van een ‘black box’.
Posted by
on
oktober 26, 2026
Inleiding
Human + AI.
Kunstmatige intelligentie speelt een steeds grotere rol bij beslissingen, documenten, analyses en werkprocessen. Voor organisaties ligt het voordeel voor de hand: AI kan informatie snel verwerken, mensen helpen hun weg te vinden in grote hoeveelheden informatie en de tijd die wordt besteed aan repetitief kenniswerk verminderen.
Tegelijkertijd kunnen organisaties de verantwoordelijkheid niet zomaar aan een machine overdragen. In sectoren waar beslissingen moeten worden toegelicht, gecontroleerd of verdedigd, moeten mensen nog steeds begrijpen waar een antwoord vandaan komt en waarom ze erop kunnen vertrouwen.
Dit zorgt voor een interessante spanning. We willen dat AI meer werk overneemt, maar we hebben ook mensen nodig die verantwoordelijk blijven voor het resultaat. De vraag is daarom niet langer alleen hoe krachtig AI kan worden, maar hoe de relatie tussen mensen en AI moet worden vormgegeven.
Verantwoordingsplicht
De verantwoordingskloof.
Een machine kan een antwoord genereren, maar kan uiteindelijk niet verantwoordelijk worden gehouden voor dat antwoord.
Dat is van belang in omgevingen waar transparantie en traceerbaarheid essentieel zijn. Een jurist, overheidsmedewerker of financieel specialist kan AI gebruiken ter ondersteuning van een analyse, maar de verantwoordelijkheid voor de beslissing ligt nog steeds bij de persoon of organisatie die het systeem gebruikt.
Generatieve AI maakt die verhouding ingewikkelder. De gebruiker kan een antwoord krijgen dat duidelijk en goed onderbouwd klinkt, terwijl hij of zij slechts beperkt inzicht heeft in hoe het systeem de beschikbare informatie heeft geïnterpreteerd. Als er iets belangrijks over het hoofd is gezien of als een conclusie is gebaseerd op onvolledige context, wordt er nog steeds van de menselijke gebruiker verwacht dat hij of zij dit opmerkt.
Een oplossing is om alles handmatig te controleren. Als echter elke zin, bron en conclusie afzonderlijk moet worden gecontroleerd, gaat een groot deel van de efficiëntie – die AI in de eerste plaats zo aantrekkelijk maakte – verloren.
Een bruikbaar AI-systeem zou het daarom gemakkelijker moeten maken om de verantwoordingsplicht te handhaven, in plaats van simpelweg meer controlewerk naar de gebruiker te verschuiven.
Menselijke verantwoordelijkheid
AI kan helpen bij analyses en besluitvorming, maar de verantwoordelijkheid ligt nog steeds bij mensen. Vooral in gereguleerde omgevingen of omgevingen met grote gevolgen moeten gebruikers begrijpen waar informatie vandaan komt en kunnen uitleggen waarom een besluit is genomen.
Herinneren is niet hetzelfde als begrijpen
RAG kan AI helpen bij het vinden van relevante informatie, maar het vinden van fragmenten is niet hetzelfde als het volledige plaatje begrijpen. Achter een vloeiend en overtuigend antwoord kunnen nog steeds belangrijke tegenstrijdigheden, hiaten of uitzonderingen schuilgaan.
Verificatiemoeheid
AI kan tijd besparen bij het opstellen van samenvattingen of analyses, maar het werk verdwijnt niet altijd. Als elke output nog steeds grondig moet worden gecontroleerd, verschuift de controlewerkzaamheid gewoon naar iemand anders en kan dit al snel een extra bron van werk worden.
Een betrouwbare AI-partner
Het is niet de bedoeling om mensen uit het proces te halen. Een beter model combineert menselijk inzicht en verantwoordelijkheid met de snelheid en toegankelijkheid van AI, ondersteund door gestructureerde kennis die kan worden gecontroleerd, hergebruikt en vertrouwd.
Ontdek onze diensten.
Artificial Intelligence.
Met onze AI-oplossingen richten we ons op meetbare resultaten door systemen te ontwikkelen die werkzaamheden automatiseren, de besluitvorming ondersteunen en naadloos aansluiten op bestaande werkprocessen.
Business Analyse.
Door aannames bloot te leggen, prioriteiten te verduidelijken en belanghebbenden op één lijn te brengen, zorgen onze bedrijfsanalisten ervoor dat de juiste problemen worden opgelost en dat beslissingen weloverwogen worden genomen.
Maatwerk Software.
Wij ontwerpen en ontwikkelen software op maat die aansluit bij de processen, gegevens en doelstellingen van uw organisatie, en leveren via een gestructureerde aanpak snel schaalbare oplossingen.
Semantiek & Gegevens
Wij helpen organisaties om gegevens begrijpelijker te maken, beter te koppelen en effectiever te gebruiken door een gemeenschappelijke interpretatie te creëren tussen systemen, teams en technologieën.
Opvragen
Wanneer het ophalen van informatie lijkt op begrijpen.
Retrieval-Augmented Generation, oftewel RAG, wordt vaak gebruikt om generatieve AI betrouwbaarder te maken. In plaats van volledig te vertrouwen op wat een model al weet, haalt het systeem informatie op uit geselecteerde documenten en maakt het gebruik van die bronnen bij het genereren van een antwoord.
Dit kan uiterst nuttig zijn, met name wanneer een organisatie wil dat AI met haar eigen interne kennis werkt. Maar het ophalen van informatie roept een andere vraag op: heeft het systeem de volledige informatie begrepen, of heeft het slechts een aantal relevante fragmenten gevonden?
Dat zijn twee verschillende dingen.
Stel je voor dat je een AI-systeem vraagt om honderden of zelfs duizenden documenten te analyseren. Ergens in die documenten kunnen twee beleidsregels elkaar tegenspreken. Een ouder document kan nog steeds verouderde informatie bevatten, terwijl een uitzondering op een algemene regel misschien helemaal in een ander bestand verborgen zit.
Een opzoeksysteem kan sommige van die stukjes vinden en andere over het hoofd zien. Het uiteindelijke antwoord kan nog steeds coherent klinken, omdat generatieve modellen erg goed zijn in het omzetten van fragmenten in vloeiende taal. Die vloeiendheid kan vertrouwen wekken dat de onderliggende informatie niet noodzakelijkerwijs rechtvaardigt.
Het probleem is daarom niet dat het opzoeken van informatie ineffectief is. Het is dat een overtuigende synthese soms de onzekerheid, tegenstrijdigheden en hiaten kan verbergen die er nog steeds onder schuilgaan.
Verborgen werkbelasting
AI kan werk verplaatsen in plaats van het overbodig te maken.
Er is nog een ander neveneffect dat gemakkelijk over het hoofd wordt gezien: verificatiemoeheid.
Stel dat iemand AI gebruikt om een uitgebreide analyse op te stellen en deze vervolgens naar een collega stuurt ter beoordeling. Het opstellen van het document heeft misschien tien minuten geduurd, maar de beoordelaar moet nu nagaan of de bronnen kloppen, of er belangrijke informatie ontbreekt en of de conclusies daadwerkelijk voortvloeien uit het beschikbare bewijsmateriaal.
Het werk is niet per se verdwenen. Een deel ervan is simpelweg verschoven van de persoon die het document opstelt naar de persoon die verantwoordelijk is voor het controleren ervan.
Op kleine schaal is dat misschien nog wel te overzien. Op organisatieniveau kunnen duizenden door AI gegenereerde samenvattingen, aanbevelingen en analyses echter een geheel nieuwe verificatiewerkbelasting veroorzaken.
Dat is een probleem als de invoering van AI alleen wordt afgemeten aan hoe snel inhoud kan worden geproduceerd. Het genereren van meer informatie is niet automatisch efficiënter als iemand anders steeds meer tijd moet besteden aan het aantonen dat de informatie betrouwbaar is.
Gestructureerde kennis
Het redeneren explicieter maken.
Een mogelijke oplossing is om belangrijke organisatorische redeneringen los te koppelen van het generatieve model zelf.
Sommige kennis hoeft niet uitsluitend in tekstvorm te bestaan. Relaties, regels, definities, beslissingen en logische afhankelijkheden kunnen ook worden weergegeven in gestructureerde vormen die door mensen en systemen kunnen worden ingezien. Hierdoor ontstaat wat kan worden omschreven als een symbolische laag.
Laten we een eenvoudig voorbeeld bekijken. In plaats van een AI-systeem herhaaldelijk te vragen om te bepalen welk beleid van toepassing is op een bepaalde situatie, zou een organisatie de relatie tussen het beleid, het toepassingsgebied ervan, relevante uitzonderingen en de controles die daarvan afhankelijk zijn, expliciet kunnen definiëren. Zodra die relaties zijn beoordeeld en gevalideerd, worden ze herbruikbare kennis.
De AI hoeft niet telkens wanneer iemand een vraag stelt dezelfde redenering uit een verzameling documenten te reconstrueren. Het kan werken met kennis die al structuur en context heeft.
Voor de mensen die deze systemen gebruiken, is het voordeel praktisch. In plaats van meerdere documenten te moeten doorzoeken om te begrijpen welke vereisten van toepassing zijn, hebben zij toegang tot informatie met duidelijkere verbanden tussen beleidsregels, beslissingen en operationele controles. Dit kan tijd besparen, onnodige interpretaties verminderen en een stevigere basis bieden voor weloverwogen beslissingen.
In omgevingen waar veiligheid, naleving en operationele risico’s van belang zijn, is toegang tot informatie slechts een deel van de uitdaging. Mensen moeten ook begrijpen hoe die informatie zich verhoudt tot
Herbruikbare kennis
Eenmaal geverifieerd, vele malen hergebruikt.
Dit onderscheid wordt vooral belangrijk wanneer dezelfde organisatorische kennis herhaaldelijk wordt gebruikt. Als een redeneringsstap elke keer opnieuw door AI moet worden gecreëerd, moeten mensen deze mogelijk ook elke keer opnieuw controleren. Dat is niet bepaald schaalbaar.
Een gestructureerde kennislaag biedt een andere mogelijkheid. Belangrijke relaties kunnen worden gecontroleerd wanneer ze worden aangemaakt of gewijzigd, en vervolgens worden hergebruikt in verschillende vragen en workflows.
De verificatie-inspanning wordt onderdeel van het onderhouden van de kennis van de organisatie, in plaats van iets dat na elk door AI gegenereerd antwoord moet gebeuren.
Het maakt het ook gemakkelijker om meningsverschillen te signaleren. Wanneer twee regels met elkaar in conflict zijn of informatie onvolledig is, hoeft het systeem die onzekerheid niet per se te verbergen achter een gepolijst antwoord. Het kan het conflict blootleggen en een mens laten beslissen wat er moet gebeuren.
Dat is een veel nuttigere rol voor AI in situaties waarin oordeelsvermogen van belang is.
Ethische AI
Waarden en verantwoordelijkheden zichtbaar maken.
Bij betrouwbare AI gaat het niet alleen om het genereren van nauwkeurige en traceerbare antwoorden. Een systeem kan zich aan duidelijk omschreven regels houden en toch beslissingen ondersteunen die ethische vragen oproepen over rechtvaardigheid, privacy of aanvaardbaar risico.
Deze vragen vloeien vaak voort uit keuzes die organisaties al hebben gemaakt. Welk beleid heeft voorrang? Wanneer is een uitzondering gerechtvaardigd? Wiens belangen worden hierdoor geraakt?
Gestructureerde kennis kan helpen om deze aannames en beslissingen zichtbaarder te maken. Door regels, relaties en verantwoordelijkheden expliciet te definiëren, kunnen organisaties niet alleen beter begrijpen hoe beslissingen tot stand komen, maar ook welke waarden deze beïnvloeden.
Transparantie alleen is echter geen garantie voor ethische uitkomsten. Menselijk toezicht blijft essentieel, met name wanneer beslissingen gepaard gaan met tegenstrijdige belangen, onzekerheid of mogelijke gevolgen voor anderen.
Bij ethische AI gaat het daarom niet om het toestaan dat machines namens ons morele oordelen vellen. Het gaat om het ontwerpen van systemen die weloverwogen menselijke beslissingen ondersteunen, belangrijke aannames gemakkelijker ter discussie stellen en de verantwoordelijkheid houden waar die hoort: bij mensen.
Mens en machine
Een betere taakverdeling.
Het doel van betrouwbare AI mag niet zijn om mensen uit het proces te verwijderen.
Er zijn dingen die machines buitengewoon goed kunnen. Ze kunnen grote hoeveelheden informatie verwerken, snel relevant materiaal identificeren en complexe kennis toegankelijker maken.
Mensen brengen iets anders in. Ze begrijpen de context, vellen oordelen, lossen onduidelijkheden op en blijven verantwoordelijk voor de gevolgen van een beslissing.
De uitdaging is om systemen te ontwerpen waarin beide partijen kunnen doen waar ze het beste in zijn.
Een gestructureerde kennislaag kan helpen om die rollen met elkaar te verbinden.
De organisatie beheert expliciete en verifieerbare kennis, AI maakt die kennis snel toegankelijk, en mensen blijven verantwoordelijk voor het valideren van de regels en het nemen van beslissingen die een oordeel vereisen.
In dat model betekent menselijk toezicht niet dat elke door AI geproduceerde zin handmatig moet worden gecontroleerd. Het betekent dat er inzicht is in de informatie en redeneringen die ertoe doen.
Vertrouwen
From black box to trusted partner.
Vertrouwen in AI ontstaat niet louter doordat modellen steeds krachtiger worden.
In veel professionele omgevingen ontstaat vertrouwen doordat men begrijpt waarop een systeem is gebaseerd, kan zien hoe belangrijke conclusies worden onderbouwd en weet op welke punten menselijk oordeel nog steeds in het proces moet worden ingebracht.
Een manier om dit te bereiken is door AI duidelijke, gestructureerde en gevalideerde kennis te geven om mee te werken, in plaats van erop te vertrouwen dat het alles vanaf nul interpreteert. Dit kan ervoor zorgen dat door AI gegenereerde antwoorden gemakkelijker te begrijpen, te beoordelen en in de praktijk toe te passen zijn.
AI kan dan zorgen voor snelheid, schaalbaarheid en toegankelijkheid zonder de uiteindelijke autoriteit te worden. Dat is wellicht hoe een betrouwbare AI-partner er uiteindelijk uitziet: niet een systeem dat mensen uit het proces haalt, maar een systeem dat het voor mensen gemakkelijker maakt om er op een zinvolle manier deel van uit te blijven maken.
Wilt u deze aanpak verder verkennen? Als u wilt begrijpen hoe gestructureerde kennis en menselijk toezicht kunnen bijdragen aan betrouwbaardere AI, neem dan gerust contact met mij op voor een diepgaander gesprek.
Over Raoul.
Sinds 2012 ontwerpt en bouwt Raoul AI-systemen, van het eerste idee tot producten die dagelijks worden gebruikt. Hij werkt samen met organisaties als geheel, van de raad van bestuur tot de ontwikkelaars: betrouwbare AI vereist een degelijke architectuur en mensen die ermee weten om te gaan.
Hij ontwerpt AI-strategieën die daadwerkelijk werken en die mensen en AI helpen samen te werken in
zinvolle ecosystemen. Dankzij zijn neurosymbolische aanpak is AI bruikbaar op gebieden waar
hallucinaties niet getolereerd kunnen worden, zoals in het bestuur.
Bij Gorilla IT zijn we ervan overtuigd dat effectieve AI een combinatie is van intelligente technologie, heldere redeneringen en menselijke expertise.
Benieuwd hoe deze aanpak voor uw organisatie zou kunnen werken? Laten we samen de mogelijkheden verkennen.
