Wezenlijke beslissingen mogen we nooit aan machines overlaten. Dat zegt de Britse hoogleraar Robotica prof.dr. Noel Sharkey in een interview met De Ingenieur. Sharkey was in Nederland om campagne te voeren tegen Killer Robots. ‘We maken voortdurend de fout dat we machines met kunstmatige intelligentie menselijke kwaliteiten toedichten.’
Sharkey doet in het interview enkele opmerkelijke uitspraken. Een bloemlezing:
‘We hebben de onbedwingbare neiging om apparaten menselijke eigenschappen toe te dichten, vooral als ze iets doen wat ons ter harte gaat. Zo is bekend dat soldaten die in Irak met de mijn opruimende robot Packbot werkten, het zielig vonden als de robot door een landmijn werd opgeblazen. Bij die vermenselijking hoort de redenering dat een robotsoldaat ethischer handelt, omdat hij geen angst kent. Hij heeft geen wraakgevoelens als zijn maat net is neergeschoten. Maar dat kun je ook van robotstofzuiger roombie zeggen. Die maalt er niet om als je weer eens bent vergeten je voeten te vegen. Om dan te zeggen dat een roombie meer empathie heeft dan degene die altijd de vloer schoonmaakt – je zou voor gek worden verklaard. Maar als we zoiets van een robot zeggen, krijgt het plotseling iets magisch.’
Autonome wapens
‘De ontwikkeling van die autonome wapens zet de deur open voor ontmenselijking van oorlogsvoering. Mensen moeten altijd verantwoordelijk blijven voor het al dan niet doden van iemand anders. Bij een autonoom wapen is dat niet meer het geval. Die kiest het doel en besluit zelf om tot vuren over te gaan. Het interessante is dat jullie regering ook zegt het niet te willen, dat er altijd menselijke controle moet zijn.’
Zelfrijdende auto
‘Veel ongelukken zijn ook niet statisch maar kennen een hoge hoog dynamiek. Zulke situaties zijn heel moeilijk, bijna onmogelijk in te schatten, dus hoe weet die zelfrijdende auto wat hij moet doen? Het eerste ongeluk van de Google-auto, die bij het invoegen geen ruimte gaf aan een bus, was extreem simpel. Maar wat moet je als bij een ongeluk er de keus is tussen een zwangere vrouw, een jong kind op een fiets of twee oudere dames in een auto?’
AlphaGo
‘Het verslaan van de wereldkampioen Go is weliswaar een heilige graal, maar het betekent niet dat AlphaGo denkt als een mens: het is nog steeds een machine die niet in staat is om na afloop met zijn tegenstander een kopje thee te drinken. Go is een gesloten spel met vaste regels. AlphaGo maakt duidelijk dat je machines allerhande soorten taken kunt laten uitvoeren, minstens zo goed als wij, maar dat het altijd strak ingekaderde taken zullen zijn.’
Superintelligentie
‘Een robot is bij uitstek het moderne gezicht van technologie. Alle zorgen en angsten die mensen hebben over technologie die zich steeds sneller ontwikkelt en op steeds meer vlakken in hun leven ingrijpt, projecteren ze op die robot. We zijn bang dat die op een gegeven moment slimmer is dan de mens en ons zal overheersen. Als wetenschapper kan ik niet zeggen dat het principieel onmogelijk is dat robots ooit superintelligent zullen worden, maar zelfs het begin ervan zie ik niet. Misschien ontdekken we ooit dat het onmogelijk is dat robots dezelfde intelligentie krijgen als mensen. Het zou kunnen dat er een fundamenteel principe is dat alleen levende hersencellen bewustzijn kunnen voortbrengen.’
Lees het hele interview in het mei-nummer van De Ingenieur dat komende dinsdag verschijnt.
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.