Amerikaanse onderzoekers ontwerpen een kunstmatige brein dat samenwerkt met mensen. Tijdens het experiment was de AI beter in het maken van deals dan de menselijke deelnemers.
Kunstmatige intelligente algoritmes zijn vaak in het nieuws omdat ze mensen ergens in hebben verslagen, bijvoorbeeld bij poker (lees: ‘Computer wint nu ook met poker’) of Go (lees: ‘Monsterzege voor Go-spelende computer’). Dat computers ons steeds vaker voorbij streven is natuurlijk fascinerend, maar soms kan het nuttiger zijn om een AI met de mens te laten samenwerken.
Met deze insteek ontwikkelde assistent-professor Jacob Crandall van de Brigham Young University, in samenwerking met andere onderzoekers, een AI die succesvolle samenwerkingsverbanden kan aangaan met zowel mensen als andere AI’s. Het algoritme achter deze AI heet S# (spreek uit: S sharp).
Cheap talk
S# is bijzonder omdat het tot op zekere hoogte met mensen kan communiceren. Deze communicatie is echter wel beperkt: de computer kan alleen zogenoemde cheap talk bezigen. Dat zijn woorden die spelers met elkaar uitwisselen, maar die geen directe invloed hebben op het spel. Voorbeelden hiervan zijn ‘ik accepteer je voorstel’ en ‘dat is niet eerlijk’. Zinnetjes die een soort emotie over de deal aangeven. S# kan cheap talk begrijpen en 'spreken' via een chatbox. Tijdens het onderzoek hielp cheap talk zowel de mens als de AI bij het vormen van een relatie; dit bleek noodzakelijk voor een langdurige samenwerking. Mede dankzij cheap talk was S# beter in samenwerken, met een mens of een machine, dan mensen.
Trouw en eerlijk
Maar de computer was niet alleen beter in goedkope praatjes. S# had de neiging om zich vast te houden aan een bepaalde samenwerking, nadat deze succesvol was bereikt. S# was dus behoorlijk trouw. De menselijke deelnemers waren dat niet: die gingen constant andere deals aan op het moment dat iemand met een verleidelijker voorstel kwam.
Ten tweede was een groot deel van de menselijke deelnemers niet in staat om zich aan beloftes te houden; ze logen vaak. S# daarentegen baseerde zijn toezeggingen op zijn eigen toekomstige gedrag, en hield zich daar aan.
In theorie hadden de mensen bijna even goed kunnen zijn in samenwerken als S#; in de praktijk bleken trouw en eerlijkheid echter een te grote uitdaging voor de mens.
Sociaal
De onderzoekers publiceerden hun resultaten in het wetenschappelijke tijdschrift Nature Communications. ‘Het einddoel is dat we de wiskunde achter samenwerking met mensen begrijpen, evenals de eigenschappen die een AI moet hebben om sociale vaardigheden te ontwikkelen,’ zegt Crandall in een bericht van de universiteit. ‘Een AI moet op ons kunnen reageren en uit kunnen leggen wat hij aan het doen is. Hij moet in staat zijn om met mensen te interacteren.’
Een AI die zichzelf kan verantwoorden heeft allerlei voordelen. Het zorgt ervoor dat mensen in principe altijd het gedrag van een AI kunnen bevragen. 'Waarom deed je dat' wordt een vraag die kunstmatig intelligente algoritmen kunnen beantwoorden. Dat is belangrijk, omdat het technologie controleerbaar maakt. Als algoritmen in de verre toekomst bijvoorbeeld helpen bij de rechtspraak, is het belangrijk dat een mens na kan gaan hoe een computer tot een oordeel kwam.
Crandall hoopt daarnaast dat menselijke relaties van zijn onderzoek kunnen profiteren. Misschien kunnen wij nog wat leren van deze eerlijke, trouwe AI.
Bron openingsbeeld: pixabay
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.