In Stephen Hawkings laatste boek gaat het over korte antwoorden op grote vragen. Maar in het hoofdstuk over AI blijkt het antwoord toch iets té kort, waardoor Hawking bang maakt zonder goede argumenten.
‘De antwoorden op de grote vragen’ (Engels: ‘Brief answers to the big questions’) verscheen deze week in het Nederlands. Het is een postuum werk, gebaseerd op de enorme hoeveelheid aantekeningen die Hawking bewaarde. Regelmatig vroegen beleidsmakers, journalisten en geinteresseerden de natuurkundige (die maart dit jaar overleed) over de grote vragen des levens.
‘Moeten we de ruimte koloniseren’, ‘Wat zit er in een zwart gat’ en ‘Is er een God’. Het zijn vragen die meer of minder tot Hawkings expertise behoren. Bovenal is hij tijdens zijn leven gaan gelden als de bekendste wetenschapper ter wereld, en daarmee werd hij voor velen een autoriteit op elk gebied.
Open brief tegen kwade AI
I
n een van de hoodstukken in het boek spreekt Hawking over kunstmatige intelligentie. Sinds 2015 hield de ontwikkeling van almaar slimmere computers hem bovenmatig bezig. Hij ondertekende in 2015 een open brief die waarschuwde voor de ontwikkeling van ‘kwaadaardige AI’, en in 2016 opende hij een centrum om de open vragen rond kunstmatige intelligentie te beantwoorden.
Hawking laat er geen twijfel over bestaan dat een computer net zo slim of zelfs veel slimmer kan worden dan de mens. En dat ziet hij als groot risico: superintelligente computers kunnen mensen op een gegeven moment als onnodig beschouwen en ons vervolgens uitroeien, omdat dat beter past bij de doelen van een AI. Een bekend, vaak besproken, beschreven en verfilmd fenomeen. Maar ook een angstbeeld dat in 40 jaar AI-ontwikkeling nog geen eens in de buurt van realistisch is.
Wikipedia in het hoofd
Hawking ziet dat AI ook heel veel goeds kan brengen. Het kan ons werk uit handen nemen, ons leven prettiger maken, logistiek stroomlijnen. Gek genoeg noemt Hawking in dit deel van het boek ook technieken als CRISPR-cas (een manier om heel precies en makkelijk DNA te manipuleren), quantumcomputers en brein-computerinterfaces. Daar die onderwerpen heel kort aan zonder enige dieper uitleg te geven. Maar hij verbindt er wel heel verstrekkende toekomstvoorspellingen aan: er komen implantaten, en dan heb je heel wikipedia tot je beschikking in je brein. Hoe dat precies gaat werken, en hoe dat anders is dan, zeg, het opzoeken van een wiki-pagina met de smartphone die we altijd bij ons hebben, blijft vaag.
In een boek dat (in het Engels) expliciet zegt korte antwoorden te geven is dat hem misschien vergeven. Maar wie Hawkings ideeën over AI sinds 2015 volgt, moet concluderen dat hij weinig nieuwe inzichten heeft verkregen. Drie jaar is in de snelgroeiende AI-wereld een lange tijd, en er zijn dingen duidelijk geworden die in 2015 nog vaag leken. Deep learning is in staat om te winnen met Go, maar een algemene intelligentie die de mens voorbijstreeft is nog heel ver weg. Zelfs zelfrijdende auto’s lopen (rijden?) tegen steeds meer problemen aan, omdat AI niet goed met de chaotische echte wereld om kan gaan.
Daarmee is de AI als overheersende macht nog ver weg. Het feit dat er geen fysische redenen zijn dat een AI niet niet zo slim kan worden als de mens, betekent niet dat het binnen afzienbare tijd gaat gebeuren. Hawking zelf spreekt van 'de komende 100 jaar', omdat dankzij Moore's Law de rekenkracht toe neemt. Maar juist dat functioneren in een chaotische wereld vereist meer dan alleen rekenkracht. Het vereist complex denkvermogen dat kunstmatige intelligentie nog lang niet heeft.
Wie bepaalt wat AI doet?
Ten slotte: Hawking lijkt in zijn AI-uiteenzetting niet helemaal te beseffen hoe de AI-wereld werkt. ‘We hebben allemaal de taak om te zorgen dat wij en komende generaties elke mogelijkheid hebben om de wetenschap te bestuderen. Dan kunnen we niet alleen discussiëren over hoe AI zou moeten werken, maar over hoe het gaat werken,’ schrijft Hawking aan het eind van het hoofdstuk. Wie de ‘we’ aan het begin van die zin is, laat hij in het midden.
De gemiddelde aardbewoner heeft geen invloed op de ontwikkeling van AI. Feit is dat een heel klein groepje machtige bedrijven en politici bepalen wat er op dit gebied zal gebeuren. Maar misschien is dat juist waar Hawking tegen ageert: hij wil dat iedere burger, machtig of onmachtig, betrokken is bij de ontwikkeling van AI. Alleen op die manier kunnen we ervoor zorgen dat de revolutie van slimme computers goed afloopt.
Beeld: Nasa HQ Photo
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.