Het wordt steeds lastiger antwoord te geven op de vraag wat ons mensen onderscheidt van al het andere, stelt columnist Marcel Möring
Denkend over artificiële intelligentie herinnerde ik mij ineens Robert Nozick, de Amerikaanse filosoof die de academische wereld in het begin van de jaren tachtig schokte met zijn pragmatische gedachte-experimenten. Nozick dacht onder meer na over de vraag wanneer men van een persoon kon spreken. Was dat als er bewustzijn was? De meeste mensen antwoordden daarop intuïtief ‘ja’. Maar als ze vervolgens de vraag kregen voorgelegd of hersens op sterk water, volledig intact en volgens een EEG prima werkend, dan ook ‘een persoon’ waren, sloeg de aarzeling toe.
Het is een dilemma dat in de Voyagerreeks van Star Trek met regelmaat wordt uitgewerkt. Het probleem van ‘denkend leven’ is in Star Trek niet meer van intermenselijke aard. Er is een onuitgesproken vanzelfsprekendheid dat alle humanoids gelijkwaardig zijn. Zelfs de meest afwijkende levensvormen – hoornige types met chitinehuiden en rare uitsteeksels – vallen als vanzelf onder de verlichte directieven van de Federatie.
Het probleem van de identiteit, de ‘ander’, ontstaat wanneer de vraag rijst of we nog te maken hebben met een levensvorm. Dat thema wordt uitgewerkt in de Voyageraflevering ‘Warhead’ (19 mei 1999), waarin een noodsignaal wordt gepeild op een onbewoonde planeet. Een patrouille wordt naar beneden gestraald en ontdekt daar een sigaarvormig object dat zich in de rotsen heeft geboord. Men heeft geen idee wat het is en wil al terugkeren naar het schip, als de dokter – zelf een programma, dat zijn vorm ontleent aan holografische projectie – in staat blijkt met het object te communiceren. Hij pleit hartstochtelijk voor redding van de machine, aangezien het hier een levensvorm met bewustzijn betreft.
De hartstocht waarmee de dokter redding van die denkende machine bepleit, verbaast niemand. Hij bevindt zich immers zelf in het schemergebied van wat de Voyagerbemanning ‘leven’ noemt. Hij is een programma, een verzameling algoritmen en instructies, dat weliswaar zeer levensecht is, maar tegelijkertijd kan worden uit- en aangezet, geherprogrammeerd en desgewenst voorzien van een ander uiterlijk.
Men heeft de dokter echter opgenomen in de levensvormenclassificatie, omdat hij zelflerend is en dilemma’s kent. In een andere aflevering moet hij in een klassieke triage kiezen tussen de behandeling van twee levensgevaarlijk gewonde bemanningsleden, een keuze die hem in grote geestelijke problemen brengt omdat hij zich er van bewust is dat beide patiënten even ernstig gewond zijn en hij dus op irrationele gronden voor een van hen moet kiezen.
Twijfel. Kom daar eens om in deze heftige tijden
Als de denkende machine aan boord komt, blijkt het een bom te zijn en geen kleintje ook. Het is bovendien een zeer slimme bom, een die begint waar onze kruisraketten stoppen. Hij dwingt de Voyager koers te zetten naar zijn doel, een dichtbevolkte planeet. De situatie wordt pas opgelost als een van de bemanningsleden op de bom blijft inpraten en hem aan het twijfelen brengt. Daarmee is het apparaat nog meer een levensvorm met een bewustzijn geworden dan we al dachten, want als iets kenmerkend is voor wat wij, bij gebrek aan andere denkende levensvormen, ‘menselijkheid’ noemen is dat wel het innerlijke conflict van morele, ethische of emotionele aard.
Twijfel. Kom daar eens om in deze heftige tijden waarin bijna iedereen alles ontzettend zeker lijkt te weten en daaraan ook van alles en nog wat ontleent. Als je niet twijfelt, mag je snelwegen blokkeren met brandende strobalen en trekkers of met bezorgde grootouders en een strijkkwartet. Zonder twijfel kun je kunstwerken vernielen of vanachter een masker dit of dat eisen terwijl je vrienden het plaveisel opbreken en kantoren slopen. Twijfel zit de waarheid in de weg die jij alleen in pacht hebt, een waarheid waarover niet hoeft te worden gesproken en waarnaar alleen maar dient te worden gehandeld.
Omdat Star Trek een televisieserie is, moet elke aflevering eindigen met een oplossing. Over die luxe beschikken wij niet. In het gunstigste geval geraken we al voortmodderend tot een patstelling die een tijd blijft bestaan totdat er voldoende tijd overheen is gegaan om de scherpe randen van het dilemma af te slijten.
Maar ik dwaal af. AI, daar had ik het over.
Ik heb, na lang twijfelen, besloten een AI-geheelonthouder te worden. Ik wil het niet in mijn telefoon, zeker niet in mijn auto en ik hoop van ganser harte dat ik er ook in de gezondheidszorg van verschoond blijf. Pas als het mogelijk is om een artificiële intelligentie aan het twijfelen te brengen zal ik mijn besluit heroverwegen.
Tekst: Marcel Möring, schrijver van onder meer Eden (2017), Amen (2019) en Familiewandeling (2021).
Foto: Harry Cock
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.