Snowflake gaat klanten een managed service aanbieden die AI-modellen veilig loslaten op bedrijfsgegevens. Met Cortex zegt Snowflake iedereen de kans te geven om waarde te halen uit generatieve AI, ongeacht de expertise. Zelf heeft het bedrijf al een paar “LLM-powered experiences” klaar staan in Private Preview: Document AI, Snowflake Copilot en Universal Search.
De belofte van Snowflake Cortex draait om eenvoud. SVP of AI bij Snowflake Sridhar Ramaswamy benadrukt dat klanten krachtige en veilige applicaties kunnen bouwen rondom hun data. “Met Snowflake Cortex kunnen bedrijven binnen seconden de kracht van LLM’s inzetten, eigen LLM-aangestuurde apps bouwen binnen minuten, en daarbij flexibiliteit en controle over hun data behouden. Dit terwijl ze kunnen heruitvinden hoe alle gebruikers generatieve AI gebruiken om business value te creëren.”
Ontwikkelen
Snowflake zegt bedrijven alle ‘bouwstenen’ te geven die nodig zijn om LLM’s en AI in te zetten, zonder dat er dure GPU-gebaseerde infrastructuur opgezet moet worden. Binnen Cortex kunnen allerlei soorten data worden verwerkt en geanalyseerd op een zo efficiënt mogelijke manier. Twee ‘serverless functions’ beschikbaar via een function call in SQL of Python zijn in Private Preview beschikbaar. Specialized Functions kunnen met inputs het sentiment ervan ontdekken, een antwoord geven, tekst samenvatten en vertalen naar een gekozen taal. De functionaliteit van bestaande en binnenkort beschikbare ML-mogelijkheden binnen Snowflake wordt ook ondersteund via Specialized Functions, zoals anomaly detection en classification.
Snowflake maakt eveneens gebruik van bekende open-source LLM’s, zoals Llama 2 van Meta. Ook is er een text-to-SQL-taal beschikbaar om te kunnen “praten” met data voor allerlei toepassingen, zoals Snowflake het karakteriseert.
Streamlit in Snowflake draait al langer in Public Preview, waarbij LLM-aangestuurde apps in Python gebouwd kunnen worden. Er zouden al meer dan 10.000 apps ermee ontwikkeld zijn, met toepassingen in de medische wereld, klantenservice en bij kredietbeoordelaars.
Snowflake’s nieuwe apps
De eerder genoemde ‘LLM-powered experiences’ zouden ideaal voor businessteams en analisten zijn. Snowflake Copilot is een nieuwe AI-assistent (in Private Preview) om in normale taal SQL-queries te schrijven en inzicht in data te krijgen. Er zijn inmiddels talloze Copilots te noemen, maar de Splunk AI Assistant die medio 2023 werd aangekondigd doet er het meest aan denken.
Universal Search lanceert eveneens in Private Preview en zou ervoor moeten zorgen dat klanten relevante data en applicaties sneller te zien krijgen. Men kan zoeken over het gehele Snowflake-account van een organisaties, waaronder databases, views en zogeheten Iceberg Tables.
Met Document AI kunnen organisaties sneller facturen, contracten en andere documenten doorzoeken voor relevante informatie. In feite zorgt het ervoor dat informatie die moeilijk via classificaties bij te houden is, direct inzichtelijk kan worden. Wederom is het mogelijk om resultaten met doodgewone woorden te verfijnen; wederom gaat het hier vooralsnog om een Private Preview. Snowflake omschrijft Document AI als de “eerste LLM-experience” van het bedrijf.
Aanpasbaarheid
Tenslotte haalt Snowflake Snowpark Container Services aan, een dienst die het beheer van containerized workloads versimpelt. Met deze tool kunnen ook externe LLM’s veilig gedraaid worden in een aparte container binnen de eigen Snowflake-omgeving. Welke open-source LLM dan ook is daarnaast aan te passen naar wens binnen deze dienst.
Lees ook: Snowflake koopt Ponder voor betere integratie Python-workflows
2 dagen geleden
Expert bijdrage
