AI maakt het leven gemakkelijker, maar ongemerkt gebruikt de techniek bergen energie. Om daar wat aan te doen, zetten onderzoekers van onder meer IBM de eerste stappen op weg naar een energiezuinig ontwerp van de benodigde elektronica. De truc: de benodigde berekeningen voortaan uitvoeren ín het computergeheugen.
Ongemerkt is het onze levens binnengeslopen: kunstmatige intelligentie. De techniek bepaalt wat er op de tijdlijn van onze sociale media verschijnt, zij berekent het tarief van het Uber-ritje en zij zorgt dat het spamfilter van ons e-mailprogramma steeds slimmer wordt. En wie wel eens zijn computer of smartphone bedient met zijn stem, maakt op de achtergrond ook gebruik van artificial intelligence (AI). Vooral de deep neural networks worden steeds beter in het nadoen van — voorheen enkel — menselijke vaardigheden, zoals beeld- en spraakherkenning.
Energie slurpen
Het probleem is alleen dat AI-toepassingen enorm veel energie slurpen tijdens het gebruik ervan. Dat geldt in de eerste plaats voor het trainen van een algoritme; bij bijvoorbeeld beeldherkenning krijgt een algoritme eerst tienduizenden gelabelde plaatjes gevoerd, zodat het neurale netwerk steeds beter ‘weet’ hoe een kat, auto of fiets eruitziet. ‘We weten dat het voldoende trainen van een neuraal netwerk voor beeldherkenning ongeveer evenveel energie kost als een huishouden in twee weken verbruikt’, aldus Manuel Le Gallo van IBM Research in Zürich, Zwitserland.
Maar ook wanneer we zo’n goed getraind algoritme vervolgens inzetten om automatisch beelden te labellen, wordt veel elektriciteit gebruikt. Het neurale netwerk gaat dan een nieuw, onbekend plaatje classificeren (‘Op dit beeld is een fiets te zien’), en ook dit kost behoorlijk wat stroom in het datacenter.
Het probleem is dat de platforms waarop dergelijke algoritmes draaien (vaak zijn dat GPU’s, speciale grafische kaarten die populair zijn om hun lompe rekenkracht), een fysieke scheiding hebben tussen het geheugen en de microprocessor (chip), schrijven onderzoekers van IBM Research en collega’s van universiteiten in Zwitserland en Groot-Brittannië in een artikel in vakblad Nature Communications, dat gisteren verscheen.
Gegevens heen en weer
‘Doordat het getrainde algoritme meestal ligt opgeslagen in het geheugen buiten de chip, leidt dit ertoe dat er voortdurend gegevens heen en weer moeten gaan tussen het geheugen en de verwerkingseenheid, de chip. Dit continue gesleep met data zorgt dat het geheel niet erg energie-efficiënt kan zijn’, schrijven ze. Het energiegebruik van de steeds populairdere AI-toepassingen dreigt dan ook de spuigaten uit te lopen.
De oplossing hiervoor is behoorlijk rigoureus. Om het uitvoeren van AI-algoritmes praktisch uitvoerbaar te houden, moet de opbouw van de gebruikte elektronica op de schop. Concreter: de bottleneck die zoveel energie kost moet eruit. Dat betekent concreet dat het opslaan van het algoritme en het rekenen — aan bijvoorbeeld een nieuw plaatje bij beeldherkenning — voortaan op één en dezelfde plek moeten gebeuren.
Analoog geheugen
Het toetsen van nieuwe data aan het getrainde neurale netwerk gebeurt voortaan dus ín het geheugen. IBM zoekt het voor de praktische invulling hiervan bij zogeheten phase change memory. Dit is een computergeheugen dat is opgebouwd uit honderdduizenden identieke geheugeneenheden die analoog werken. ‘Het materiaal van zo’n cel is hetzelfde als bij de bit op een dvd; alleen schrijf je hier met een elektrische puls in plaats van met laserlicht’, vertelt Le Gallo. Net als bij onze hersenen heeft dit type geheugen geen aparte eenheden voor dataopslag en het rekenen eraan.
Vliegtuigen, vogels en katten
De onderzoekers bij IBM bouwden een netwerk van 723.444 phase change memory-elementen en testten dit op het herkennen van beelden uit een veelgebruikte standaardreeks (CIFAR-10) met plaatjes van onder meer vliegtuigen, auto’s, vogels en katten. Hierop scoorde het nieuwe geheugen een nauwkeurigheid van 93,7 procent.
Gedurende een periode van een etmaal bleef deze nauwkeurigheid boven de 92,6 procent. ‘Voor zover wij weten is dit de hoogste nauwkeurigheid die ooit is bereikt op de CIFAR-10 dataset met behulp van een analoog geheugen. Voor het eerst is een analoog apparaat even goed gebleken als de berekeningen van een GPU’, zegt Evangelos Eleftheriou, eveneens van IBM Research.
Taal
Voordat dit type energiezuinig geheugen in de praktijk kan worden gebruikt voor AI-toepassingen, is er nog behoorlijk wat onderzoek nodig, geeft Le Gallo toe. ‘We hebben dit nu getest voor beeldherkenning en het indelen van plaatjes, maar de volgende stap is natural language processing, het verwerken en begrijpen van taal. Ook willen we, naast het phase change memory, ook de andere onderdelen op een chip integreren. Voordat het zover is, zijn we wel vijf jaar verder.’
Openingsbeeld Nieuwe chip van IBM, waarop het phase change memory zit. Illustratie IBM
Nieuwsbrief
Vond je dit een interessant artikel, abonneer je dan gratis op onze wekelijkse nieuwsbrief.