Fujitsu is begonnen met het leveren van middleware waarmee bedrijven hun schaarse GPU’s volledig kunnen benutten voor AI. De software moet voor deze toepassingen tot 2,25 keer meer efficiënte rekenkracht opleveren en daardoor lagere GPU-gebruikskosten.
Eind vorig jaar lichtte Fujitsu al een tip van de sluier op van de “AI computing broker”, waarachter een GPU allocator-technologie voor AI-toepassingen schuilt. Met de recente aankondiging is deze technologie, na een uitvoerig testtraject eerder dit jaar, nu voor potentiële eindgebruikers beschikbaar.
Optimale GPU-prestaties
De AI-technologie van Fujistu maakt onderscheid tussen programma’s die wel een GPU nodig hebben om optimaal te werken en de applicaties die enkel een CPU vereisen. Daarnaast zorgt de middleware ervoor dat rekenkracht in real-time wordt toegewezen om voorrang te geven aan AI-processen met een hoge uitvoeringsefficiëntie, zelfs als de betreffende GPU’s al programma’s draaien.
Het is ook mogelijk de betreffende optimalisatiesoftware voor GPU’s te combineneren met specifieke AI-optimalisatietechnologie, zodat de software de gewenste AI-processen kan identificeren en per afzonderlijke GPU rekenkracht kan toewijzen.
Extra geheugencapaciteit
Verder blijkt de technologie via het in de middleware verborgen geheugenbeheer ervoor te zorgen dat GPU’s gelijktijdig meer AI-verwerkingsprocessen kunnen uitvoeren dan het geheugen van de GPU aankan. Fujitsu geeft aan dat de tech werkt tot 150 GB aan AI-verwerkingsprocessen of vijf keer zoveel als de daadwerkelijke geheugencapaciteit van een GPU.
Toekomstige ontwikkelingen
De Japanse techreus kondigt aan dat het zijn nieuwe AI-technologie de komende tijd verder gaat door ontwikkelen. Doel hierbij is ervoor te zorgen dat de technologie straks ook over meerdere GPU’s in meerdere servers werkt. Op dit moment werkt de technologie nog alleen voor individuele GPU’s in enkele servers.
Fujitsu wil in de (nabije) toekomst ook via deze technologie uitdagingen aanpakken rondom het draaien van GPU’s en mogelijke stroomstoringen. Op deze manier wil Fujitsu ervoor gaan zorgen dat AI daadwerkelijk, als een trouwe assistent, meer productiviteit en creativiteit gaat opleveren.
De AI computing broker-technologie van Fujistu is per direct algemeen beschikbaar. Twee grote Japanse eindgebruikers, Tradom en Sakura Internet, gaan de technologie binnenkort gebruiken voor eigen toepassingen, zoals in de eigen datacenters.
Lees ook: GPU-tekort drijft Fujitsu tot het optimaal benutten van bestaande hardware