Internetbedrijf Google gaat met een kunstmatig intelligent programma proberen om 'giftige' reacties onder (nieuws)berichten online te weren. Het algoritme leert aan de hand van gebruikersinformatie wat precies een giftig bericht is.

Het is een poging van de webgigant om het internet een stukje beter te maken. Commentaren onder webartikelen zijn voor veel websites en gebruikers een bron van frustratie en ellende: scheldpartijen, ongevraagde aanvallen en andere vuiligheid vliegen in het rond. In een tijd van fake news blijkt bovendien dat reacties onevenredig veel macht hebben: als één comment onder een artikel het geschrevene in twijfel trekt heeft dat al een meetbaar effect op mensen. Niet voor niets kozen verschillende grote publicaties al voor het afschaffen van commentaren.

 

Reactiecijfer

Maar er is een minder rigoureuze manier om met reacties om te gaan. Google doet dat, zoals we inmiddels van het bedrijf gewend zijn, met behulp van AI (artificial intelligence). Het leunen op kunstmatige intelligentie heeft Google tot nu toe geen windeieren gelegd. AI versloeg de mens al met het ingewikkelde spelletje Go (artikel: 'Computer verslaat mens met 4-1 bij GO') en dankzij kunstmatige intelligentie leren zelfrijdende auto's beter rijden.

Dit nieuwe programma, dat 'Perspective' heet, geeft elk comment een cijfer. Dat cijfer is gebaseerd op een enorme database van eerder door mensen beoordeelde reacties. Het algoritme kijkt in hoeverre een nieuw comment lijkt op een oudere tekst in die database en schat vervolgens in of – en in hoeverre – het een kwetsend, agressief, onjuist of gevaarlijk commentaar is.

De AI werkt is minder geavanceerd dan bijvoorbeeld Deepmind. Dat programma gebruikt deep learning, een techniek waarbij een computer een menselijk brein simuleert. Het algirmte krijgt begininformatie en verwerkt die via een ingewikkeld systeem met verschillende 'lagen' van abstractie. Aan het eind heeft het programma vaak iets onverwachts geleerd. Perspective is simpeler: het pakt een grote bak aan informatie en vergelijkt die met nieuw geplaatste reacties. Geen abstractielagen, maar rechttoe-rechtaan leren van veel data.

 

Open voor iedereen

Google begon meer dan een jaar geleden aan de ontwikkeling van Perspective, via zijn dochteronderneming Jigsaw. Nu stelt het bedrijf het beschikbaar voor iedereen die het wil gebruiken. Het is bovendien gratis. Dit is deels een soort filantropie van Google om het internet een betere plek te maken, en deels een manier om Perspective nog meer data te geven. Zo blijft het algoritme doorleren, totdat het nagenoeg perfect doorheeft of iemand een ergernisopwekkende trol is of een oprecht persoon die constructieve kritiek geeft.

Iedereen kan het algoritme nu uitproberen. Wat duidelijk wordt na een korte test is dat het vooral kijkt naar woordgebruik; scheldwoorden worden meteen opgemerkt als giftig. De vraag is echter of het programma ook context kan ontwaren. Afhankelijk van de toon van het artikel waar men een commentaar achterlaat, kan een bepaalde toon wel of niet gepast zijn. Bovendien kunnen trollen subtieler te werk gaan. Zeker in het geval van misinformatie is schelden niet nodig, en ligt het helemaal aan de inhoud van een reactie. Daar lijkt Perspective vooralsnog minder goed mee om te gaan.

Beeld: The People Speak!

 

Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.