Onderzoekers van Microsoft hebben onlangs een gigantisch AI-model met in totaal 13 miljard parameters ontwikkeld. Inmiddels heeft de techgigant dit model uitgerold naar zoekmachine Bing voor het verbeteren van zoekresultaten.
De onderzoekers van Microsoft hebben nu een neural network of AI-model gecreëerd, MEB, dat 135 miljard parameters bevat. Parameters zijn de configuratiesettings die bepalen hoe een AI-model zijn taken kan uitvoeren. Het is eigenlijk een stukje informatie dat het model helpt te bepalen wat de beste manier is voor het uitvoeren van berekeningen. Hoe meer informatiestukjes een AI-model heeft, hoe beter het zijn taken kan uitvoeren, is de gedachte.
Inzet in Bing
De onderzoekers hebben met MEB het grootste AI-model ontwikkeld dat de techgigant nu in productie heeft. Ook is het één van de meest geavanceerde modellen die nu openbaar is gemaakt. MEB is speciaal ontwikkeld voor de eigen zoekmachine van Microsoft, Bing. Het model analyseert de ingevoerde zoekvragen en identificeert vervolgens de meest relevante pagina’s op het internet. MEB doet dit binnen Bing niet alleen, maar in combinatie met de al bestaande machine learning algoritmes in de zoekmachine.
Werking AI-model
Meer concreet werkt het AI-model, net als bestaande AI-modellen voor zoekmachines, op basis van ‘numerical features’ voor het bepalen of een bepaalde webcontent relevant is voor de keywords die in de zoekvraag worden ingevoerd. Normaal worden hiervoor enkele duizenden numerical features handmatig door ontwikkelaars gedefinieerd, maar MEB doet dit geheel automatisch en in aantallen van miljarden numerical features.
Verder gebruikt MEB ook een andere methode en wijkt daarmee af van bestaande technologie. In plaats van zogenoemde op zoekvragen gerichte ‘eigenschappen’, gebruikt MEB binaire eigenschappen. Deze binaire eigenschappen zijn volgens Microsoft veel accurater in het verzamelen van informatie over de relevantie van webpagina’s voor zoekvragen van eindgebruikers. Deze eigenschappen maken het onder meer mogelijk dat MEB kan bepalen of een bepaalde webpagina relevante informatie heeft, zelfs als het niet de identieke of gelijkwaardige keywords heeft die een gebruiker in zijn zoekvraag heeft aangegeven.
Eerste resultaten
De toevoeging van MEB aan Bing heeft inmiddels de eerste successen opgeleverd, geven de onderzoekers van Microsoft verder aan. Zij constateerden dat het aantal doorklikken voor de meest gestelde zoekvragen met 2 procent is toegenomen. Ook signaleerden zij een lichte daling in het aantal ‘rewrites’ in zoekvragen wanneer eindgebruikers niet de gewenste resultaten krijgen.
De onderzoekers geven aan dat MEB blijvend wordt doorontwikkeld. Het model wordt constant getraind met de laatste dagelijkse klikgegevens. Ook worden features geschoond op basis van tijd, features die in de afgelopen 500 dagen niet naar boven zijn gekomen, worden verwijderd. Verder wordt het AI-model dagelijks geheel automatisch ververst.
42 minuten geleden
