IBM Research, de universiteiten van Oxford, Münster en Exeter hebben een technologie ontwikkeld die licht in plaats van elektriciteit gebruikt voor rekenprocessen in processors. Deze technologie is vooral geschikt voor berekeningen voor AI-toepassingen vanwege een zeer lage vertraging.
Big Blue is al een tijd bezig om nieuwe vormen van processors te ontwikkelen. Veel onderzoek wordt daarbij gestoken in zogenoemde in-memory rekentechnieken, waarbij geheugen en rekenkracht op één of andere manier zijn samengevoegd. Dit zorgt ervoor dat data niet meer tussen de processor en apart RAM-geheugen hoeft te worden uitgewisseld. Het bespaart op energie en latency.
De onderzoekers hebben op dit gebied al een compleet optische methode voor in-memory processing bedacht. Hierbij werd in-memory geïntegreerd op een photonische chip die licht gebruikt om rekentaken uit te voeren.
Photonic tensor core
In het nu gepresenteerde onderzoek is hierop doorgebouwd. Er is een ‘photonic tensor core’ ontwikkeld die met de eigenschappen van lichtdeeltjes met zeer hoge snelheid data kan verwerken. Een photonic tensor core is een soort processorkern die zeer ingewikkelde matrix-berekeningen kan uitvoeren.
De op licht gebaseerde photonic tensor core is in het onderzoek gebruikt om een bepaalde activiteit uit te voeren, ‘convolution’. Deze handeling is zeer geschikt om visuele data als beelden te kunnen verwerken. Hierdoor ontstaat een complete convolution processor die weer gebruikt kan worden in neurale netwerken en dus voor AI-applicaties.
Zeer grote snelheden en zeer lage latency
Het belangrijkste voordeel dat deze op licht gebaseerde processors ten opzichte van de elektronische chips hebben, is een nog nooit eerder bereikte snelheid. Met behulp van aparte lichtgolven voor iedere afzonderlijke berekening, kunnen de op licht gebaseerde processors parallelle complexe berekeningen uitvoeren in een enkele core.
De nu, op kleine schaal, geteste processsor is in staat op een totaal van een Peta multiply-accumulate (MAC) per seconde te draaien. De op dit moment beschikbare top AI-processors die op basis van elektronische signalen werken, halen nu nog zelfs minder dat 1 TOPS per seconde, aldus IBM.
De combinatie van deze technologie met in-memory geeft de processors ook een ultra-lage latency waaraan de elektronische chips nog niet aan kunnen tippen. Dit maakt de photonische core processors dus erg interessant voor AI- en deep learning-applicaties. Deze toepassingen zijn immers zeer gebaat bij een zo laag mogelijke latency.
Verder hebben de op licht gebaseerde processors weinig compute density nodig. Dit betekent dat oplossingen en toepassingen niet meer grote hoeveelheden CPU en GPU’s nodig hebben. Dit bespaart op fysieke ruimte.
Daadwerkelijke toepassingen
Big Blue en de universiteiten denken inmiddels ook na over waar deze op licht gebaseerde chips het beste tot hun recht komen. Vooral wordt aan de automotive-industrie gedacht voor zelfrijdende voertuigen. Met de snelheid van de op licht gebaseerde processors, kunnen deze voertuigen sneller rekenprocessen uitvoeren en omzetten in fysieke actie. Zelfrijdende voertuigen zijn zo sneller in staat mogelijke hindernissen op de weg te detecteren en sneller daarop te reageren. Andere toepassingen voor de processors ziet IBM in medische toepassingen.
7 uur geleden
