Artificiële intelligentie is in recordtempo uitgegroeid tot het favoriete toverwoord in de directiekamers van het Nederlandse midden- en kleinbedrijf. Van geautomatiseerde klantenservice tot slimme voorraadplanning in webshops: de belofte van tijdwinst en lagere kosten klinkt onweerstaanbaar. Toch tekent zich een zorgwekkende trend af op de werkvloer. Uit recent onderzoek blijkt dat maar liefst een kwart van de leidinggevenden niet kan uitleggen hoe hun geïmplementeerde AI-systemen tot bepaalde resultaten of beslissingen komen.

Dat is een riskante constatering, zeker wanneer je bedenkt waar deze technologie inmiddels voor wordt ingezet.

Financiële processen op de automatische piloot

Waar AI voorheen vooral werd gebruikt voor simpele tekstvoorstellen of brainstormsessies, geven ondernemers de teugels nu steeds vaker uit handen bij bedrijfskritische taken. Een aanzienlijke meerderheid van de bedrijven vertrouwt inmiddels op algoritmes voor de financiële administratie, zoals het goedkeuren van declaraties, het categoriseren van uitgaven en zelfs het uitvoeren van automatische betalingen.

Het gemak hiervan is evident, maar de blinde vlek groeit mee. Als een ondernemer of financieel manager niet kan herleiden waarom een systeem een specifieke transactie blokkeert, goedkeurt of anders indeelt, verandert efficiëntie al snel in een operationeel risico. Zonder inhoudelijk inzicht ontstaat er een zogeheten ‘black box’ in het hart van de onderneming.

Aansprakelijkheid en de Europese wetgeving

In de praktijk kan deze onwetendheid ondernemers duur komen te staan. De fiscus en toezichthouders nemen geen genoegen met het excuus dat "het algoritme het zo berekend heeft". Met de komst van strengere Europese kaders, zoals de Europese AI Act en de bestaande AVG-wetgeving, rust de eindverantwoordelijkheid voor databeheer en geautomatiseerde besluitvorming te allen tijde bij het bestuur van het bedrijf.

Wanneer een systeem hallucinaties vertoont, data verkeerd interpreteert of ongemerkt betalingen verkeerd verwerkt, zijn de financiële en juridische gevolgen volledig voor rekening van de ondernemer. Het gebrek aan verklaarbaarheid ("explainability") maakt audits en kwaliteitscontroles vrijwel onmogelijk.

Behandel AI als een stagiair, niet als de directeur

Binnen sectoren als e-commerce, telecom en digitale dienstverlening is automatisering een absolute noodzaak om concurrerend te blijven. De marges zijn krap en het volume ligt hoog. Juist daarom is een nuchtere aanpak vereist:

1. Houd altijd een mens in de lus (human-in-the-loop): Laat AI routinewerk voorbereiden, maar houd menselijke goedkeuring verplicht bij significante financiële posten en contracten.

2. Eis transparantie van softwareleveranciers: Gebruik tools die inzichtelijk maken op basis van welke databronnen en parameters een conclusie tot stand komt.

3. Behoud basiskennis in eigen huis: Zorg dat het team de onderliggende bedrijfslogica begrijpt, zodat afwijkingen direct opvallen.

AI is een fantastische hefboom voor productiviteit, mits je zelf aan het stuur blijft zitten. Wie zijn financiële kernprocessen uitbesteedt aan technologie die hij zelf niet begrijpt, automatiseert niet zijn succes, maar zijn kwetsbaarheid.