Stroomverbruik artificiële intelligentie drastisch te reduceren

Of het nu gaat om sensoren in de stad, de smartwatch rond onze pols of de slimme luidspreker in onze woonkamer: steeds meer toestellen rondom ons verzamelen data. Die toestellen worden ‘slim’ genoemd omdat ze patronen in de data herkennen en op basis daarvan beslissingen kunnen nemen. Daar zijn gigantisch veel berekeningen voor nodig en dat vraagt ontzettend veel energie. Mochten die berekeningen door het toestel of de sensor zelf uitgevoerd worden, dan zou de batterij in een mum van tijd plat zijn. Daarom sturen deze slimme toestellen onze data naar de cloud, zodat krachtige processoren in datacenters er berekeningen kunnen op loslaten. Vorig jaar hebben privacy-problemen met slimme luidsprekers echter duidelijk gemaakt dat aan zo’n heen-en-weertje ook risico’s verbonden zijn. Een bijkomend probleem is dat patroonherkenning die vanop afstand wordt uitgevoerd altijd met een zekere vertraging terugkomt, terwijl snelle beslissingen van levensbelang kunnen zijn – bijvoorbeeld in zelfrijdende auto’s. Er zijn dus nieuwe oplossingen nodig om deze berekeningen snel lokaal te kunnen uitvoeren. Daarvoor moet hardware op maat van sensoren ontwikkeld worden, waarvan het stroomverbruik drastisch wordt gereduceerd.

Imec bedacht een ontwerp dat, dankzij twee fundamentele veranderingen, de traditionele computerarchitectuur volledig op de schop gooit. Sinds de begindagen van het digitale computertijdperk is de rekenprocessor gescheiden van het geheugen. In de nieuwe architectuur vinden de berekeningen onmiddellijk plaats in het computergeheugen (SRAM) waar de gegevens opgeslagen zitten. Daarnaast worden die berekeningen niet meer uitgevoerd met de rekenprecisie van een digitale computer, maar met analoge technologie. De precisie van deze bewerkingen is lager, maar het eindresultaat (de patroonherkenning) blijft even accuraat en het energieverbruik is veel lager. Imec’s nieuwe architectuur resulteert in een uiterst energiezuinige chip, de Analoge Inferentie Accelerator (AnIA) genoemd, die tot maar liefst 2.900 biljoen bewerkingen per seconde per watt kan uitvoeren.

“Binnen imec’s machine learning programma werken we samen met onze partners aan energiezuinige AI-oplossingen waarbij berekeningen door middel van analoge technologie rechtstreeks in het computergeheugen worden uitgevoerd”, zegt Diederik Verkest, programmadirecteur voor machine learning bij imec. “Onze AnIA-chip toont niet alleen aan dat dit in praktijk mogelijk is; maar ook dat dit nu al tien tot honderd keer energie-efficiënter gebeurt dan in digitale chips. Deze beloftevolle resultaten moedigen ons aan om deze revolutionaire technologie verder te ontwikkelen.”

De AnIA-chip werd geïmplementeerd in het 22FDX-platform van GlobalFoundries, een geavanceerde chiptechnologie voor de volgende generatie IoT-toepassingen. “We werkten nauw samen met imec om de nieuwe AnIA-chip te implementeren,” zegt Hiren Majmudar, vice-president van de Compute Business Unit bij GlobalFoundries. “Deze testchip is een cruciale stap voorwaarts om de industrie te laten zien hoe we het energieverbruik van machine learning-toepassingen aanzienlijk kunnen verminderen.”