We worden steeds afhankelijker van complexe technologische systemen waarvan we de risico’s niet kennen, aldus ethicus Wendell Wallach. Hij beschrijft in het boek A Dangerous Master een zoektocht naar antwoorden op indringende vragen.
In mijn bureaula ligt een mapje met knipsels van artikelen uit Nederlandse kranten en weekbladen. ‘Beschouwingen over technologie’ staat er op de sticker. Dominant daarin is een apocalyptisch toekomstbeeld. Zich exponentieel ontwikkelende technologieën, waarbij informatietechnologie, kunstmatige intelligentie, nanotechnologie en synthetische biologie met elkaar versmelten, dreigen de mensheid op het tweede plan te zetten, zo is de overheersende teneur.
Wie zich door dit soort verhalen voelt aangesproken en/of wie op zoek is naar een weerwoord, kan terecht bij het boek A Dangerous Master. De auteur Wendell Wallach is docent aan het Interdisciplinary Center for Bioethics aan Yale University en medeauteur van Moral Machines: Teaching Robots Right from Wrong.
Open geformuleerd en niet verstikt onder de dikke saus van modieuze technologiekritiek
De kracht van het boek zit hem in de vragen die Wallach stelt, niet in het oordelen of veroordelen. De vragen gaan erover hoe de samenleving vorm gaat geven aan al die nieuwe technologische ontwikkelingen. Waar zijn er mogelijkheden om bij te sturen, wat zijn de risico’s en de voordelen, hoe daarin de rol van de mens te bevestigen of juist te herdefiniëren? Het zijn precies de onderwerpen die ook in de genoemde beschouwingen aan bod komen, maar dan open geformuleerd en niet verstikt onder de dikke saus van modieuze technologiekritiek.
Hype en realiteit
Neem Wallachs vraag over wat die nieuwe technologieën voor ons gaan betekenen. Een antwoord daarop is vrijwel niet te geven, zo schrijft hij. ‘Speculaties en hypes wekken de illusie van een onvermijdelijke voortgang. Maar bijvoorbeeld computers en robots die slimmer zijn dan de mens, zijn extreem moeilijk tot stand te brengen. Het onderscheiden van hype en realiteit is al een hele opgave. Dat maakt het lastig te beoordelen welke risico’s werkelijk onze aandacht behoeven.’
Oogkleppen
Hij borduurt daarop voort met de stelling dat onderzoekers en ingenieurs een grote verantwoordelijkheid hebben de samenleving duidelijk te maken wat de consequenties van nieuwe ontwikkelingen kunnen zijn, voor zover ze dat tenminste zelf kunnen overzien. Daarbij signaleert hij dat er nogal wat onderzoekers zijn die, los van aandacht voor de directe veiligheid, een dusdanige tunnelvisie hebben dat ze gewoonweg niet zijn geïnteresseerd in de bredere maatschappelijke impact.
Niet-voorziene risico’s
Omgekeerd staan burgers en overheid voor de vraag welke terreinen van technologische ontwikkeling daadwerkelijk zullen doorbreken en tegelijk relevante risico’s inhouden. ‘Hebben we voldoende intelligentie en middelen om serieuze risico’s te beperken? Hoe bereiden we ons voor op niet-voorziene risico’s?’
Beslismomenten
Kortom, het is ondoenlijk om op het moment dat de eerste intelligente robot in gebruik wordt genomen of het eerste nanodeeltje kunstmatig is gefabriceerd, een sluitend oordeel te vellen over de nieuwe technologie. Pas gaandeweg wordt duidelijk welke kant het op gaat, breken inzichten door over mogelijke veiligheidsrisico’s of maatschappelijke gevolgen.
Het spel is dan nog niet uit, benadrukt Wallach. Er doen zich altijd momenten (inflection points) voor waarop is bij te sturen, of bepaalde ontwikkelingen een halt zijn toe te roepen. ‘Maak bij die beslismomenten een nauwgezette selectie van menselijke waarden die moeten worden behouden of versterkt, en ontwikkel onderzoek en engineeringpraktijken die daarop aansluiten.’
Geen antwoord op de door hemzelf gestelde vragen
Het is een kernzin in het betoog van Wallach, maar wel een erg algemene – en dat is ook precies het grote manco van A Dangerous Master. Ondanks de vele tientallen pagina’s die hij besteedt aan vooral humane onderwerpen als klonen, genetische modificatie, baby’s naar wens en transhumanisme, maakt hij nergens concreet hoe hij op die gebieden de menselijke waarden definieert die moeten worden behouden of versterkt. Op zijn best inventariseert hij wat er zoal speelt, maar dat levert nog geen antwoord op de door hemzelf gestelde vragen.
Wallach is trouwens niet de enige auteur met dit gebrek aan antwoorden. Kennelijk valt het zwaar om algemene menselijke principes waaraan technologische ontwikkeling moet voldoen, te vertalen in concrete aanbevelingen. Als het wel lukt de goede vragen te stellen, maar nauwelijks de passende antwoorden, dan hebben we dus inderdaad te maken met een intellectueel en maatschappelijk tekort.
Autonome wapens
Over één ding is Wallach wel duidelijk: verbied autonome wapens. Hij ageert tegen het utilistische argument dat bijvoorbeeld directeur Ronald Arkin van het Mobile Robot Laboratory van het Georgia Institute of Technology hanteert: robotsoldaten zullen zich beter aan de Conventie van Genève houden dan soldaten van vlees en bloed. Dat kan zo zijn, stelt Wallach, maar het principe staat voorop dat het een mens moet zijn die beslist over leven en dood van een ander, en die kan daar ook op worden aangesproken. En Wallach vindt dat de mens op een veel breder terrein de laatste hand heeft.
Lakmoesproef
Het verbod op autonome wapens is dan de lakmoesproef in hoeverre samenlevingen dat uitgangspunt overeind willen houden. Met die autonome wapens maakt Wallach ook goed duidelijk wat hij met dat beslismoment bedoelt. Die wapens zijn er nu nog niet, maar in internationale gremia wordt er wel over gesproken, dus nu is er de kans om een internationaal verbod tot stand te brengen en is te voorkomen dat er een race van autonome wapens ontstaat.
Doodsknop
Wallach wijdt een kort hoofdstuk aan wat hij noemt engineering for responsibility. Zo kunnen ingenieurs ertoe bijdragen dat ontwerpen veilig zijn, en dat ze bepaalde maatschappelijke waarden in zich dragen. Maar ook dit punt blijft hangen in algemene termen. Het enige voorbeeld dat hij noemt is dat toekomstige nanomachines altijd moeten zijn uitgerust met een doodsknop: buiten de gecontroleerde omgeving vernietigen ze zichzelf.
Dystopisch
Wallach doet dus een beroep op zowel de ontwerpers van de technologie als de samenleving om te zorgen voor een techniekontwikkeling die menselijke waarden beschermt en versterkt. Maar dan komt er een zinnetje dat ook in de titel van het boek doorklinkt: ‘Zonder onze betrokkenheid neemt de ontplooiing van de techniek een onvermijdelijke koers.’ Alsof technologie een buiten ons staande macht is die we moeten zien te beheersen. Wallach begeeft zich daarmee in de buurt van de dystopische beschouwingen in mijn knipselmap, terwijl het meeste wat hij schrijft daar nu net zo mooi boven uitstijgt.(Frank Biesboer)
A DANGEROUS MASTER. HOW TO KEEP TECHNOLOGY FROM SLIPPING BEYOND OUR CONTROL | 328 Blz. | $ 28,99
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.