🇬🇧English version: scroll down

In de luchtvaart is veiligheid het resultaat van de juiste samenwerking tussen mens en machine. Vliegtuigen hebben automatische piloten en copiloten, maar de eindverantwoordelijkheid ligt altijd bij de gezagvoerder. Die zit voorin de cockpit, overziet het geheel en grijpt in wanneer nodig. Deze metafoor is uiterst relevant in het tijdperk waarin kunstmatige intelligentie (AI) steeds vaker onze digitale processen overneemt.

Van microservices naar autonome AI-agents

Zoals ik eerder beschreef in mijn blog over AI-agents als managers van microservices, gaan we van centraal beheerde software naar decentrale, zelfstandige intelligentie. AI-agents zijn digitale entiteiten die zelfstandig beslissingen nemen, taken uitvoeren en zelfs met elkaar communiceren – vergelijkbaar met digitale medewerkers die zonder menselijke tussenkomst opereren.

Deze agents zijn niet meer ‘domme’ softwaremodules die wachten op een opdracht. Ze interpreteren, overleggen, zoeken hulp of antwoorden, leren bij en maken keuzes op basis van context, data en doelen. Hiermee nemen ze steeds meer over van traditionele backoffice- en middleware-systemen. Het centrale besturingssysteem wordt vervangen door een zwerm aan agents die autonoom en adaptief samenwerken.

Maar wie zit er dan nog in de cockpit?

De onzichtbare hand van AI

Deze ontwikkeling roept fundamentele vragen op over eigenaarschap, toezicht en verantwoordelijkheid. We maken digitale systemen steeds slimmer, maar geven tegelijk de controle steeds meer uit handen. Het gevaar bestaat dat we de rol van gezagvoerder verliezen – dat we niet meer snappen wát het systeem doet, laat staan waarom.

Een goed voorbeeld is de toename van zogeheten “digitale blackouts”: grootschalige IT-storingen, niet zelden veroorzaakt door een combinatie van menselijke fouten en onbegrijpelijke interacties tussen autonome systemen. Denk aan recente incidenten in luchtvaart, spoorwegen, defensie, banken en overheden. Deze digitale uitval leidt tot reële maatschappelijke schade.

Zoals ik eerder stelde in “AI – De Nieuwe Olie van een Nieuwe Wereldorde”: AI is niet zomaar technologie – het is een strategisch machtsmiddel. Daarmee wordt grip op deze technologie een voorwaarde voor nationale veiligheid en publieke stabiliteit.

Digitale luchtwaardigheid: black box én edge box

In de luchtvaart is elk vliegtuig verplicht uitgerust met een ‘black box’ – een apparaat dat registreert wat er gebeurt tijdens de vlucht. Niet om de piloot te controleren, maar om reconstructie mogelijk te maken bij incidenten. Wat gebeurde er precies? Wie deed wat, wanneer en waarom?

Voor AI-agents zouden we iets soortgelijks moeten hebben: een digitale black box. Niet alleen voor logging of compliance, maar voor real-time toezicht en traceerbaarheid. Een cockpit waarin de menselijke gezagvoerder – of toezichthoudende AI – nog steeds overzicht heeft.

Daarom heeft DigiCorp Labs de DGMV ICT Black Box ontwikkeld: een digitale loggingmodule waarin elke agent registreert wat hij doet én waarom. Beslissingen worden voorzien van metadata, gehashed en in een gedistribueerd logboek bewaard. Zo ontstaat een vertrouwde digitale omgeving waarin menselijke én kunstmatige intelligentie veilig kunnen samenwerken.

Maar reconstructie achteraf is niet genoeg. Wat als je hele digitale systeem stilvalt? Heb je dan ‘escape-slides’ of een alternatief om nog enigszins in leven te blijven? Daarvoor is er de DGMV Edge Box: een draagbaar, zelfstandig mini-datacenter dat bij een totale uitval uit de kast kan worden gehaald om de essentiële processen van een organisatie tijdelijk voort te zetten. Denk aan financiën, belastingzaken, communicatie met aandeelhouders, klanten of medewerkers.

De Edge Box draait op batterijen, kan gevoed worden met zonnepanelen of een generator, heeft aansluitingen voor 4G, 5G of zelfs Starlink, en functioneert als noodplatform in een wereld waar verder alles plat ligt. Als hij goed geconfigureerd en ‘stand-by’ staat, fungeert hij als digitale reddingsboot die je bedrijf – minimaal – in de lucht houdt en beschermt tegen een stille, digitale dood.

Controle behouden, overleven mogelijk maken

We staan op een kruispunt. Enerzijds willen we profiteren van de kracht en schaal van AI. Anderzijds moeten we zorgen voor digitale veerkracht, transparantie en bestuurbaarheid. Dat vraagt niet om minder technologie, maar om betere architectuur – zoals ik betoogde in “De databloem” en “Digitaal versus digitaliseren”.

De cockpitmetafoor herinnert ons eraan dat autonomie geen vrijblijvendheid is. Net als in de luchtvaart moet er altijd iemand zijn die het stuur kan overnemen. AI mag dan co-piloot zijn, maar het is aan ons om te zorgen dat de vlucht veilig verloopt.

Hebben we voldoende gedaan om te voorkomen dat we bij een digitale crash niet alleen de oorzaak, maar ook ons bedrijf verliezen?

Met een Black Box kun je tenminste reconstrueren. Met een Edge Box kun je – misschien – overleven.

———————-  Translated by ChatGPT  ——————

AI in the Cockpit – Who’s in Control?

In aviation, safety depends on the right interaction between human and machine. Planes have autopilots and copilots, but the ultimate responsibility always lies with the captain. Sitting in the cockpit, the captain maintains situational awareness and takes control when needed. This metaphor is highly relevant in today’s world, where artificial intelligence (AI) increasingly governs our digital processes.

From microservices to autonomous AI agents

As I described in my earlier blog on AI agents managing microservices, we are shifting from centrally managed software to decentralized, intelligent agents. These AI agents are digital entities that operate independently, make decisions, perform tasks, and even collaborate with other agents—much like digital coworkers functioning without human intervention.

These agents are no longer ‘dumb’ software modules awaiting instruction. They interpret, negotiate, ask for help or answers, learn continuously, and act based on context, data, and objectives. In doing so, they are gradually replacing traditional back-office and middleware systems. Central control systems are being replaced by swarms of autonomous, adaptive agents.

But if they’re flying the plane—who’s in the cockpit?

The invisible hand of AI

This evolution raises critical questions about ownership, supervision, and accountability. We are making our digital systems smarter while simultaneously relinquishing direct control. The risk is that we may lose oversight—or worse, understanding—of what the system is doing, or why.

We’ve seen a rise in digital blackouts: large-scale IT failures, often caused by a mix of human error and unforeseen interactions between autonomous systems. Think of recent incidents in aviation, railways, banks, and government. These digital outages lead to very real societal and economic damage.

As I argued in my blog on “AI – The New Oil of a New World Order”, AI is more than just technology—it is a strategic power factor. This makes control over AI a prerequisite for national security and public resilience.

Digital airworthiness: black box and edge box

In aviation, every aircraft must be equipped with a black box—not to police the pilot, but to enable reconstruction after an incident. What happened, who did what, when, and why?

For AI agents, we need something similar: a digital black box. Not just for logging or compliance, but for real-time supervision and traceability. A cockpit in which the human captain—or supervisory AI—can still maintain oversight.

This is why DigiCorp Labs developed the DGMV Black Box: a digital archiving module in which every agent logs what it does—and why. Each decision is captured with metadata, hashed, and stored in a distributed ledger. This creates a trusted digital environment where human and artificial intelligence can work safely together.

But reconstruction alone is not enough. What if your entire digital system crashes? Do you have escape-slides or an alternative to stay airborn? That’s where the DGMV Edge Box comes in: a portable, autonomous mini data center that can be deployed in the event of total system failure to keep essential business processes running. Think of finance, taxes, and communication with shareholders, customers, or employees.

The Edge Box runs on batteries, can be powered by solar panels or a generator, connects via 4G, 5G, or even Starlink and acts as a digital lifeboat in a world where everything else has gone dark. If preconfigured and on standby, it enables your organization to survive and function—minimally, but critically—rather than drown in a silent digital collapse.

Maintaining control and ensuring survival

We stand at a crossroads. On one hand, we want the benefits and scale of AI. On the other, we must ensure digital resilience, transparency, and governance. This doesn’t mean less technology—it means better architecture, as I discussed in “The Data Flower” and “Digital versus Digitizing”.

The cockpit metaphor reminds us that autonomy is not the same as abdication. Like in aviation, someone must always be ready to take the controls. AI may be your co-pilot, but it’s still up to us to ensure the flight is safe.

Have you done enough to ensure that in case of a digital crash, you not only know what went wrong—but still have a business to return to?

With a Black Box, you can reconstruct. With an Edge Box, you might just survive.