In de snelkookpan van de tech-industrie is snelheid vaak de heilige graal, maar soms vliegen bedrijven daarmee gierend uit de bocht. Voor Nederlandse ondernemers die hun bedrijfsvoering steeds meer op AI baseren, is stabiliteit en ethisch besef bij hun leveranciers cruciaal. Het rommelt echter flink in de top van OpenAI, de maker van ChatGPT. Caitlin Kalinowski, tot voor kort het hoofd van de robotica-afdeling, heeft haar biezen gepakt. De reden? Een controversiële samenwerking met het Amerikaanse ministerie van Defensie (het Pentagon) die volgens haar veel te overhaast is gesloten.

Snelheid boven zorgvuldigheid

Kalinowski, die eind 2024 overkwam van Meta, uitte op platform X (voorheen Twitter) scherpe kritiek op de gang van zaken. Haar vertrek draait niet om een simpel meningsverschil, maar om fundamentele principes. Volgens de topvrouw zijn er contracten getekend zonder dat de noodzakelijke veiligheidsmechanismen, ofwel 'guardrails', waren gedefinieerd.

Haar grootste zorg ligt bij twee specifieke punten: surveillance van burgers zonder rechterlijk toezicht en de ontwikkeling van autonome wapensystemen die zonder menselijke tussenkomst kunnen beslissen over leven en dood. Voor een bedrijf dat zegt te streven naar veilige AI voor de mensheid, zijn dit zware beschuldigingen. Kalinowski stelt dat de aankondiging van de deal erdoorheen is gedrukt voordat de ethische kaders vastlagen. Het is een klassiek voorbeeld van commerciële en politieke druk die het wint van interne governance.

De rode lijnen van AI-ontwikkeling

OpenAI reageerde door te stellen dat ze wel degelijk rode lijnen hebben: geen binnenlandse spionage en geen autonome wapens. CEO Sam Altman heeft zelfs toegezegd de deal aan te passen om spionage expliciet te verbieden. Toch voelt dit als mosterd na de maaltijd. Het feit dat een concurrent als Anthropic een vergelijkbare deal met het Pentagon weigerde juist vanwege het ontbreken van garanties, zet de keuze van OpenAI in een schril contrast.

Waar Anthropic kiest voor de rem, kiest OpenAI voor expansie, zelfs als dat betekent dat ze in bed duiken met defensiepartijen. Dit roept vragen op over de cultuur binnen het bedrijf. Als de mensen die verantwoordelijk zijn voor de techniek (zoals Kalinowski) het vertrouwen verliezen in de leiding, is dat vaak een voorbode van grotere problemen.

Impact op de Europese markt en regelgeving

Voor ons in Europa is deze ontwikkeling extra relevant. Wij opereren onder de strikte regels van de AVG en de aankomende AI Act. Europese bedrijven eisen transparantie en ethische waarborgen. Als een Amerikaanse techreus zijn technologie steeds nauwer verweeft met militaire belangen, kan dat botsen met de Europese waarden en regelgeving.

Het risico bestaat dat technologie die oorspronkelijk voor brede, civiele toepassingen is ontwikkeld, een 'dual-use' karakter krijgt dat voor Europese afnemers juridisch complex wordt. Mogen wij straks nog wel blind varen op de API's van een bedrijf dat primair de Amerikaanse nationale veiligheid dient?

Ondernemersles: Ethiek is geen bijzaak

Wat kunnen wij hier als ondernemers in de e-commerce en telecom van leren? Of je nu een webshop runt of klantcontact automatiseert: je technologiepartners zijn het fundament van je bedrijf. Dit incident laat zien dat zelfs bij de grootste spelers interne controlemechanismen kunnen falen onder druk van grote contracten.

Automatisering en robotica bieden enorme kansen voor efficiëntie in onze sector, van logistieke centra tot slimme chatbots. Maar blind vertrouwen in de leverancier is naïef. Het vertrek van Kalinowski is een signaal dat we kritisch moeten blijven kijken naar de partijen waarmee we in zee gaan. Innovatie zonder ethisch kompas is uiteindelijk een onhoudbaar bedrijfsmodel.