Google heeft zojuist de integratie van generative AI volledig omgedraaid. Waar ontwikkelaars nu gewend zijn om tegen een model te praten om GenAI toe te passen, heeft Google die stap nu overbodig gemaakt. Google heeft Gemini 1.0 Pro, zijn nieuwste LLM, direct beschikbaar gemaakt in de BigQuery en AlloyDB-databases. Via een SQL-query is Gemini direct los te laten op specifieke data.
Google heeft din feite de applicatielogica die je nodig had om tegen een LLM te praten, overbodig gemaakt. Je kan direct in je SQL-query in BigQuery en AlloyDB aangeven dat een bepaalde tekst moet worden samengevat, waardoor de output van die query meteen de samenvatting is, in plaats van de volledige tekst.
Dit zorgt voor een enorme besparing aan code die ontwikkelaars moeten schrijven. Ze kunnen namelijk direct met de data aan de slag die het model heeft gegenereerd. De queries zullen hierdoor ongetwijfeld iets vertragen, maar gezien de integratie op hoog niveau gebeurt, zal dat waarschijnlijk niet leiden tot een slechte gebruikservaring.
Zeker voor data-analisten is deze directe integratie goed nieuws. Zij kunnen de ML-modellen die ze al hebben gebouwd om bedrijfsdata te analyseren in BigQuery, nu ook direct voeden aan Gemini. Dit zorgt ervoor dat analyses waardevoller worden en ze mogelijk in staat zijn om nieuwe inzichten te creëren.
Google stelt dat hiermee grote stappen kunnen worden gezet door aanbieders in de gezondheidszorg, maar ook voor de klantbeleving en engagement in retail, financiële dienstverlening en bij telco’s. De inzichten die Gemini kan bieden op data in Big Query gaan daarnaast ook verder dan enkel structurele data.
Lees ook: Gemini 1.5 is veel meer dan een nieuw foundation model
Ongestructureerde data en vector search
Ook geluidsopnames, afbeeldingen en documenten kunnen inzichtelijk worden gemaakt. Er kan structurele data worden verschaft over deze data, of er kan gezocht worden op gelijkwaardige data op basis van vector search. Zo kan een opname van een gesprek met een klantenservicemedewerker eenvoudig worden geanalyseerd. Wat er is besproken, welke afspraken er met de klant zijn gemaakt; dat zijn vragen die snel door Gemini kunnen worden beantwoord. Als er openstaande vragen zijn, mogelijk met afbeeldingen, kunnen ook vergelijkbare cases worden gezocht.
Vector search naar meer Google databases
Vector search speelt een belangrijke rol omdat het vergelijkbare ongestructureerde data kan vinden. Bijvoorbeeld alle rode shirts die in een winkel verkocht worden; deze kunnen worden gezocht op basis van de afbeelding. Natuurlijk is het verstandiger om metadata te hebben van alle producten, waarin de kleur, maat en beschikbaarheid zit. Als die echter nog niet voorhanden is kan die met Gemini worden gegenereerd of kan vector search worden gebruikt om vergelijkbare producten te vinden.
Google lijkt grote stappen te zetten met Vector search, want niet enkel Big Query en AlloyDB krijgen deze feature. Ook binnen Google Cloud SQL, Spanner en Memorystore for Redis wordt Vector Search toegevoegd. Firestore en Bigtable integrereren met Vertex AI Vector Search om de feature daar beschikbaar te maken.
22 uur geleden
Expert bijdrage
