De complexiteit van techniek is onoverkomelijk, schrijft columnist Maxim Februari in NRC. Daardoor wordt deze automatisch onbeheersbaar, kijk maar naar Volkswagen. Maar waarom zet hij de techniek zo machteloos neer als een onneembare veste?
Columnist Maxim Februari weet vaak verschijnselen te duiden die ons een gevoel van onbehagen geven, maar waarvan we niet altijd precies kunnen formuleren waar dat aan ligt. Dan biedt Februari’s pen ons de helpende hand.
In zijn gisteren in NRC gepubliceerde column gaat het over twee onderwerpen die ogenschijnlijk weinig met elkaar te maken hebben: de sjoemelsoftware van Volkswagen en het pleidooi van een adviescommissie om het leger autonome wapens te laten gebruiken. Februari legt tussen beide het verband van complexiteit: zowel de software van moderne auto’s als die van de autonome wapens is dusdanig ingewikkeld dat we geen zicht meer hebben op wat er precies gebeurt of wie aansprakelijk is als het mis gaat. Het idee dat regelgeving wel in die leemte voorziet noemt Februari een illusie: regelgeving verschaft veeleer de ruimte voor die ondoorgrondelijke technologische complexiteit, zo schrijft hij overtuigend.
Geen grip op vernuft
Maar hoe zit het met die technologische complexiteit? Februari beschrijft die als onoverkomelijk: we moeten ons er maar bij neerleggen dat we geen grip meer hebben op wat ons technische vernuft voortbrengt. Ik zie dat anders.
Neem de sjoemelsoftware. Het antwoord daarop moet zijn dat naar de mate waarin software bepalend is voor zaken als veiligheid, milieu of essentiële infrastructuur, het belang toeneemt om die software onafhankelijk te laten controleren. Zoals in de loop der tijden een systeem is opgezet om de financiële gegevens van bedrijven te controleren via accountants, zal iets soortgelijks ontstaan op het gebied van software. Uiteraard heeft dat de nodige haken en ogen, maar het gaat er komen. De complexiteit waar Februari tegen ageert zal plaats gaan maken voor transparantie.
Dan de autonome wapens. Februari schrijft terecht dat de adviescommissie een illusie creëert door te beweren dat de dienstdoende commandant zicht moet hebben op wat die autonome wapens zullen aanrichten. Vergeet het maar. Het enige wat de commandant bepaalt is het doel, verder beslist het autonome wapen zelf, dat is de essentie van zo’n wapen. Dat verklaart ook waarom honderden wetenschappers zich eerder dit jaar tegen die autonome wapens hebben uitgesproken.
We willen geen techniek die op eigen houtje beslist over leven of dood. Hoe complex de techniek ook is, als die een bepaald doel dient dat ons niet aanstaat, dan is het aan ons om te besluiten er geen gebruik van te maken. Er is niets onoverkomelijks aan wat we met die autonome wapens doen, dat hoort het resultaat te zijn van een politiek-maatschappelijk debat.
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.