{"id":85850,"date":"2025-07-07T16:16:09","date_gmt":"2025-07-07T16:16:09","guid":{"rendered":"https:\/\/hanstimmerman.me\/?p=85850"},"modified":"2025-09-08T09:47:00","modified_gmt":"2025-09-08T09:47:00","slug":"ai-in-de-cockpit-wie-heeft-de-controle","status":"publish","type":"post","link":"https:\/\/hanstimmerman.me\/en\/ai-in-de-cockpit-wie-heeft-de-controle\/","title":{"rendered":"AI in de Cockpit \u2013 Wie Heeft de Controle?"},"content":{"rendered":"
\ud83c\uddec\ud83c\udde7English version: scroll down<\/span><\/h5>\n

In de luchtvaart is veiligheid het resultaat van de juiste samenwerking tussen mens en machine. Vliegtuigen hebben automatische piloten en copiloten, maar de eindverantwoordelijkheid ligt altijd bij de gezagvoerder. Die zit voorin de cockpit, overziet het geheel en grijpt in wanneer nodig. Deze metafoor is uiterst relevant in het tijdperk waarin kunstmatige intelligentie (AI) steeds vaker onze digitale processen overneemt.<\/span><\/p>\n

Van microservices naar autonome AI-agents<\/span><\/h3>\n

Zoals ik eerder beschreef in mijn blog over AI-agents als managers van microservices<\/a>, gaan we van centraal beheerde software naar decentrale, zelfstandige intelligentie. AI-agents zijn digitale entiteiten die zelfstandig beslissingen nemen, taken uitvoeren en zelfs met elkaar communiceren \u2013 vergelijkbaar met digitale medewerkers die zonder menselijke tussenkomst opereren.<\/span><\/p>\n

Deze agents zijn niet meer \u2018domme\u2019 softwaremodules die wachten op een opdracht. Ze interpreteren, overleggen, zoeken hulp of antwoorden, leren bij en maken keuzes op basis van context, data en doelen. Hiermee nemen ze steeds meer over van traditionele backoffice- en middleware-systemen. Het centrale besturingssysteem wordt vervangen door een zwerm aan agents die autonoom en adaptief samenwerken.<\/span><\/p>\n

Maar wie zit er dan nog in de cockpit?<\/span><\/em><\/p>\n

De onzichtbare hand van AI<\/span><\/h3>\n

Deze ontwikkeling roept fundamentele vragen op over eigenaarschap, toezicht en verantwoordelijkheid. We maken digitale systemen steeds slimmer, maar geven tegelijk de controle steeds meer uit handen. Het gevaar bestaat dat we de rol van gezagvoerder verliezen \u2013 dat we niet meer snappen w\u00e1t het systeem doet, laat staan waarom.<\/span><\/p>\n

Een goed voorbeeld is de toename van zogeheten \u201cdigitale blackouts\u201d<\/strong>: grootschalige IT-storingen, niet zelden veroorzaakt door een combinatie van menselijke fouten en onbegrijpelijke interacties tussen autonome systemen. Denk aan recente incidenten in luchtvaart, spoorwegen, defensie, banken en overheden. Deze digitale uitval leidt tot re\u00eble maatschappelijke schade.<\/span><\/p>\n

Zoals ik eerder stelde in \u201cAI \u2013 De Nieuwe Olie van een Nieuwe Wereldorde\u201d<\/a>: AI is niet zomaar technologie \u2013 het is een strategisch machtsmiddel. Daarmee wordt grip op deze technologie een voorwaarde voor nationale veiligheid en publieke stabiliteit.<\/span><\/p>\n

Digitale luchtwaardigheid: black box \u00e9n edge box<\/span><\/h3>\n

In de luchtvaart is elk vliegtuig verplicht uitgerust met een \u2018black box\u2019 \u2013 een apparaat dat registreert wat er gebeurt tijdens de vlucht. Niet om de piloot te controleren, maar om reconstructie mogelijk te maken bij incidenten. Wat gebeurde er precies? Wie deed wat, wanneer en waarom?<\/span><\/p>\n

Voor AI-agents zouden we iets soortgelijks moeten hebben: een digitale black box<\/strong>. Niet alleen voor logging of compliance, maar voor real-time toezicht en traceerbaarheid<\/strong>. Een cockpit waarin de menselijke gezagvoerder \u2013 of toezichthoudende AI \u2013 nog steeds overzicht heeft.<\/span><\/p>\n

Daarom heeft DigiCorp Labs<\/a> de DGMV ICT Black Box<\/strong> ontwikkeld: een digitale loggingmodule waarin elke agent registreert wat hij doet \u00e9n waarom. Beslissingen worden voorzien van metadata, gehashed en in een gedistribueerd logboek bewaard. Zo ontstaat een vertrouwde digitale omgeving waarin menselijke \u00e9n kunstmatige intelligentie veilig kunnen samenwerken.<\/span><\/p>\n

Maar reconstructie achteraf is niet genoeg. Wat als je hele digitale systeem stilvalt? Heb je dan ‘escape-slides’ of een alternatief om nog enigszins in leven te blijven? Daarvoor is er de DGMV Edge Box<\/strong>: een draagbaar, zelfstandig mini-datacenter dat bij een totale uitval uit de kast kan worden gehaald om de essenti\u00eble processen van een organisatie tijdelijk voort te zetten. Denk aan financi\u00ebn, belastingzaken, communicatie met aandeelhouders, klanten of medewerkers.<\/span><\/p>\n

De Edge Box draait op batterijen, kan gevoed worden met zonnepanelen of een generator, heeft aansluitingen voor 4G, 5G of zelfs Starlink, en functioneert als noodplatform in een wereld waar verder alles plat ligt. Als hij goed geconfigureerd en ‘stand-by’ staat, fungeert hij als digitale reddingsboot<\/strong> die je bedrijf \u2013 minimaal \u2013 in de lucht houdt en beschermt tegen een stille, digitale dood.<\/span><\/p>\n

Controle behouden, overleven mogelijk maken<\/span><\/h3>\n

We staan op een kruispunt. Enerzijds willen we profiteren van de kracht en schaal van AI. Anderzijds moeten we zorgen voor digitale veerkracht, transparantie en bestuurbaarheid<\/strong>. Dat vraagt niet om minder technologie, maar om betere architectuur<\/strong> \u2013 zoals ik betoogde in \u201cDe databloem\u201d<\/a> en \u201cDigitaal versus digitaliseren\u201d<\/a>.<\/span><\/p>\n

De cockpitmetafoor herinnert ons eraan dat autonomie geen vrijblijvendheid is. Net als in de luchtvaart moet er altijd iemand zijn die het stuur kan overnemen<\/strong>. AI mag dan co-piloot zijn, maar het is aan ons om te zorgen dat de vlucht veilig verloopt.<\/span><\/p>\n

Hebben we voldoende gedaan om te voorkomen dat we bij een digitale crash, niet alleen de oorzaak,maar ook ons bedrijf verliezen? <\/span>Met een Black Box kun je tenminste reconstrueren. Met een Edge Box kun je – misschien – overleven.\u00a0<\/span><\/h5>\n

Photo: pexels-ramazphotos-32509745<\/span><\/p>\n

———————– \u00a0translated by ChatGPT \u00a0—————–<\/p>\n

AI in the Cockpit \u2013 Who\u2019s in Control?<\/strong><\/span><\/h2>\n

In aviation, safety depends on the right interaction between human and machine. Planes have autopilots and copilots, but the ultimate responsibility always lies with the captain. Sitting in the cockpit, the captain maintains situational awareness and takes control when needed. This metaphor is highly relevant in today\u2019s world, where artificial intelligence (AI) increasingly governs our digital processes.<\/span><\/p>\n

From microservices to autonomous AI agents<\/span><\/h3>\n

As I described in my earlier blog on AI agents managing microservices<\/a>, we are shifting from centrally managed software to decentralized, intelligent agents. These AI agents are digital entities that operate independently, make decisions, perform tasks, and even collaborate with other agents\u2014much like digital coworkers functioning without human intervention.<\/span><\/p>\n

These agents are no longer \u2018dumb\u2019 software modules awaiting instruction. They interpret, negotiate, ask for help or answers, learn continuously, and act based on context, data, and objectives. In doing so, they are gradually replacing traditional back-office and middleware systems. Central control systems are being replaced by swarms of autonomous, adaptive agents.<\/span><\/p>\n

But if they\u2019re flying the plane\u2014who\u2019s in the cockpit?<\/span><\/p>\n

The invisible hand of AI<\/span><\/h3>\n

This evolution raises critical questions about ownership, supervision, and accountability. We are making our digital systems smarter while simultaneously relinquishing direct control. The risk is that we may lose oversight\u2014or worse, understanding\u2014of what the system is doing, or why.<\/span><\/p>\n

We\u2019ve seen a rise in digital blackouts<\/strong>: large-scale IT failures, often caused by a mix of human error and unforeseen interactions between autonomous systems. Think of recent incidents in aviation, railways, banks, and government. These digital outages lead to very real societal and economic damage.<\/span><\/p>\n

As I argued in my blog on \u201cAI \u2013 The New Oil of a New World Order\u201d<\/a>, AI is more than just technology\u2014it is a strategic power factor. This makes control over AI a prerequisite for national security and public resilience.<\/span><\/p>\n

Digital airworthiness: black box and edge box<\/span><\/h3>\n

In aviation, every aircraft must be equipped with a black box\u2014not to police the pilot, but to enable reconstruction after an incident. What happened, who did what, when, and why?<\/span><\/p>\n

For AI agents, we need something similar: a digital black box<\/strong>. Not just for logging or compliance, but for real-time supervision and traceability<\/strong>. A cockpit in which the human captain\u2014or supervisory AI\u2014can still maintain oversight.<\/span><\/p>\n

This is why DigiCorp Labs<\/a> developed the DGMV Black Box<\/strong>: a digital archiving module in which every agent logs what it does\u2014and why. Each decision is captured with metadata, hashed, and stored in a distributed ledger. This creates a trusted digital environment where human and artificial intelligence can work safely together.<\/span><\/p>\n

But reconstruction alone is not enough. What if your entire digital system crashes? Do you have escape-slides or an alternative to stay airborn? That\u2019s where the DGMV Edge Box <\/strong>comes in: a portable, autonomous mini data center that can be deployed in the event of total system failure to keep essential business processes running. Think of finance, taxes, and communication with shareholders, customers, or employees.<\/span><\/p>\n

The Edge Box runs on batteries, can be powered by solar panels or a generator, connects via 4G, 5G, or even Starlink and acts as a digital lifeboat<\/strong> in a world where everything else has gone dark. If preconfigured and on standby, it enables your organization to survive and function\u2014minimally, but critically\u2014rather than drown in a silent digital collapse.<\/span><\/p>\n

Maintaining control and ensuring survival<\/span><\/h3>\n

We stand at a crossroads. On one hand, we want the benefits and scale of AI. On the other, we must ensure digital resilience, transparency, and governance<\/strong>. This doesn\u2019t mean less technology\u2014it means better architecture<\/strong>, as I discussed in \u201cThe Data Flower\u201d<\/a> and \u201cDigital versus Digitizing\u201d<\/a>.<\/span><\/p>\n

The cockpit metaphor reminds us that autonomy is not the same as abdication. Like in aviation, someone must always be ready to take the controls<\/strong>. AI may be your co-pilot, but it\u2019s still up to us to ensure the flight is safe.<\/span><\/p>\n

\n

Have you done enough to ensure that in case of a digital crash, you not only know what went wrong\u2014but still have a business to return to?<\/strong><\/span><\/p>\n

With a Black Box, you can reconstruct. With an Edge Box, you might just survive.<\/span><\/p>\n<\/blockquote>","protected":false},"excerpt":{"rendered":"

The cockpit metaphor reminds us that autonomy is not the same as abdication. Like in aviation, someone must always be ready to take the controls. AI may be your co-pilot, but it\u2019s still up to us to ensure the flight is safe.<\/p>\n

Have you done enough to ensure that in case of a digital crash, you not only know what went wrong\u2014but still have a business to return to?<\/p>\n

With a Black Box, you can reconstruct. With an Edge Box, you might just survive.<\/p>","protected":false},"author":3,"featured_media":85856,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[293,520,232,75,80],"tags":[473,522,600,601,602,603,604,605,606,607,608,609,610,611,339,612,443],"class_list":["post-85850","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artificial-intelligence","category-digitale-soevereiniteit","category-digicorp-labs","category-innovation","category-trusted-it","tag-blackbox","tag-aiagents","tag-digitalresilience","tag-edgebox","tag-digitalcontinuity","tag-aiarchitecture","tag-digitalgovernance","tag-aicrisismanagement","tag-autonomoussystems","tag-failover","tag-backupinfrastructure","tag-responsibleai","tag-digitalfailsafe","tag-noodvoorziening","tag-cybersecurity","tag-digitaleweerbaarheid","tag-digicorplabs"],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/hanstimmerman.me\/wp-content\/uploads\/2025\/07\/pexels-ramazphotos-32509745-scaled-e1751904824547.jpg?fit=2560%2C1200&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/posts\/85850","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/comments?post=85850"}],"version-history":[{"count":15,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/posts\/85850\/revisions"}],"predecessor-version":[{"id":86115,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/posts\/85850\/revisions\/86115"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/media\/85856"}],"wp:attachment":[{"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/media?parent=85850"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/categories?post=85850"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hanstimmerman.me\/en\/wp-json\/wp\/v2\/tags?post=85850"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}