Peter-Paul Verbeek

Columnist Peter-Paul Verbeek over het hedendaagse monster van Frankenstein, de digitale techniek, en waarom we die een goede plek moeten geven in onze samenleving.

2018 wordt het Frankensteinjaar. Precies tweehonderd jaar geleden verscheen de beroemde roman van Mary Shelley, over de geleerde doctor Victor Frankenstein die uit dode materie een levend wezen maakt dat vervolgens aan het moorden slaat en zijn schepper in het ongeluk stort.

‘Frankenstein’ staat vaak symbool voor techniek die niet meer is te beheersen. En daarom is het verhaal een voortdurende bron van inspiratie voor de ethiek van technologie. Tot voor kort gebeurde dat vooral in discussies over biotechnologie en ‘mensverbetering’. Als we gaan knutselen aan de mens, zoals Frankenstein deed met dode mensenlichamen, creëren we dan uiteindelijk geen monsters? Kunnen we de gevolgen van ons ingrijpen nog wel beheersen?

Als leven en dood maakbaarder worden, worden tegelijkertijd de grenzen van de maakbaarheid steeds duidelijker zichtbaar.

Frankenstein is in deze discussies vooral een waarschuwing voor de menselijke overmoed: als je voor God speelt, kun je zomaar je hand overspelen. Technologie lijkt de menselijke almacht te tonen, maar ontdekken we daardoor niet juist ook de grenzen van onze macht? Een interessante paradox, waar menig conservatief kerkgenootschap een les uit kan leren: als leven en dood maakbaarder worden, worden tegelijkertijd de grenzen van de maakbaarheid steeds duidelijker zichtbaar, en daarmee ook het wonder en de menselijke verantwoordelijkheid.

De hedendaagse variant van Frankenstein is digitaal. Techniek komt tegenwoordig niet alleen tot leven via vlees en bloed, maar ook via algoritmes en robots. Computers kunnen sommige vormen van kanker al beter herkennen dan pathologen. Nieuwssites worden niet alleen gevuld door journalisten, maar ook door algoritmes.

Als we willen voorkomen dat algoritmes en robots ontsporen, moeten we ze niet vrezen, maar een goede plek geven in de samenleving.

Rond de angst dat techniek de mens verdringt, heeft het verhaal van Mary Shelley ons veel te vertellen. Want het is uiteindelijk de angst van Victor Frankenstein die zijn creatie tot monster maakt. Hij raakt in paniek als hij zijn schepsel ziet, vlucht weg en laat het aan zijn lot over. ­Vervolgens wil het monster maar één ding en dat is onderdeel worden van de mensenwereld. Juist de voortdurende afwijzingen zetten hem aan tot geweld. Vrij vertaald: als we willen voorkomen dat algoritmes en robots ontsporen, dan moeten we ze niet vrezen, maar een goede plek geven in de samenleving.

Het Europese Parlement heeft in 2017 een belangrijke stap in deze richting gezet door electronic personhood toe te kennen aan digitale systemen. Door kunstmatige intelligentie als elektronische personen te benaderen, kunnen we er rechten en verantwoordelijkheden aan toekennen. Dat lijkt misschien de omgekeerde wereld, maar alleen door techniek actief op te nemen in de samenleving ­kunnen we er een goede plek aan geven.

In plaats van de algoritmes te vrezen, moeten we ze opvoeden. Letterlijk. De crux van kunstmatig intelligente systemen is namelijk dat ze kunnen leren. Ze ontwikkelen zich zelfstandig in interactie met hun omgeving en gaan dingen doen die hun ontwerpers er nooit zelf in hebben gestopt. Uiteindelijk is daardoor niet meer de ontwerper of de omgeving verantwoordelijk, maar het systeem zelf. En dus moet ethiek zich ook op die systemen zelf richten. We hebben niet alleen een ethiek van mensen, maar ook een ethiek van algoritmes nodig. Want wat er gebeurt als de techniek haar eigen ethiek maar uit moet vinden, wist Mary Shelley al tweehonderd jaar geleden.

Prof.dr.ir. Peter-Paul Verbeek is hoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente.

Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.