Blankesteijns Beeldbuis

Om te voorkomen dat een kunstmatig intelligente robot amok maakt, kunnen we hem voorzien van een stopknop, zou je denken. Maar zo eenvoudig is het niet. Óf de robot zal ons tegenhouden, óf hij drukt zelf op de knop.

Het is een van de schrikbeelden die horen bij kunstmatig intelligente robots: als de robot zich op wat voor manier dan ook tegen de mens keert (programmeerfout, onvoorziene omstandigheden), hoe breng je hem dan onder controle? Een voor de hand liggend idee is de dodemansknop: een grote rode knop waar je in een noodgeval snel een mep op geeft en die in één keer de robot uitschakelt. Probleem opgelost. Toch?

Nee, niet dus, legt AI-onderzoeker Rob Miles uit. Miles werkt in het 'Mixed Reality Lab' van de universiteit van Nottingham. Er is een logisch probleem. Óf het indrukken van de knop belet de robot zijn 'utiliteitsfunctie' (de wiskundige beschrijving van zijn doel) te optimaliseren en dan zal hij proberen het indrukken van die knop te beletten. Óf het indrukken van de knop zit wel in die functie verwerkt zodat de robot er geen bezwaar in ziet, maar dan zal hij het indrukken als een goed resultaat zien en de knop zelf proberen in te drukken.

Deze video verschijnt op het kanaal Computerphile van de universiteit van Nottingham waar aan de lopende band interessante video's over computerwetenschap verschijnen. Miles is een van de sterren van dit kanaal. Hij illustreert mogelijke problemen van de dodemansknop aan de hand van een alledaagse taak voor de robot: het halen van een kopje thee. Daarbij komt de robot aan alledaags obstakel tegen: de baby die een medewerker van het lab die dag heeft meegenomen. Animatiefragmenten zetten dit voorbeeld op een geestige manier kracht bij.

Miles legt uit in wat voor een wespennest je verzeild raakt als je probeert hieruit te komen, bijvoorbeeld door de knop ergens buiten bereik van de robot aan te brengen, of als je 'strafpunten' in de utiliteitsfunctie inbouwt wanneer de robot de knop zelf indrukt.

Deze video is deel twee van een tweeluik, vandaar het wat plotselinge begin. Het eerste deel is net wat minder interessant en spannend en Miles is minder in vorm, daarom hebben we hier de volgorde omgedraaid. 

Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.