Hugging Face wil met ‘openai-gradio’ de integratie van OpenAI’s LLM’s drastisch vereenvoudigen. Het betreft een Python-pakket waarmee developers slechts een paar regels code hoeven toe te voegen om dergelijke modellen te integreren in web apps. Daarmee ontsluit het platform het potentieel van LLM’s voor bedrijven en ontwikkelaars met minder diepe zakken of zij die gewoon minder ervaring hebben.
Dit nieuwe pakket maakt gebruik van Gradio, een interface-building tool die populair is voor gebruik in machine learning-applicaties. Door de OpenAI API hiermee te integreren, neemt Hugging face verschillende drempels weg die AI-projecten kunnen bemoeilijken, zoals het opzetten van grootschalige cloud-infrastructuur of modelhosting.
Developers die ermee aan de slag willen, hoeven alleen maar het pakket te installeren, hun OpenAI API-sleutel in te stellen en een paar regels code te schrijven om een webapp te implementeren waarop bijvoorbeeld GPT-4-turbo draait. De eenvoud van deze workflow brengt volgens VentureBeat de ontwikkeltijd terug van maanden naar dagen. Dit stelt startups, online retailers en kleinere bedrijven in staat om te experimenteren met geavanceerde AI-functies zonder dat ze daar meteen al grote technische teams of complexe infrastructuur voor moeten optuigen.
Voorbeeld van toepassing
Een voorbeeld van dergelijke code (na het installeren van de package) is bijvoorbeeld:
import gradio as gr
import openai_gradio
gr.load(
name='gpt-4-turbo',
src=openai_gradio.registry,
).launch()Dit is in theorie voldoende om de Gradio-interface te laten verbinden met het GPT-4-turbo-model van OpenAI en vanuit een gebruiksvriendelijke omgeving aan de slag te gaan met dit krachtige model. Developers kunnen de interface verder naar believen aanpassen of de werking veranderen door specifieke input- en outputconfiguraties in te stellen. Integratie in grotere projecten is ook mogelijk, maar de gebouwde functionaliteit kan ook prima fungeren als standalone-applicatie, wat de veelzijdigheid te goede komt.
Klandizie voor AI-toepassingen uitbreiden
De combo OpenAI-Gradio is natuurlijk een prachtige manier om het spectrum aan use cases verder te verkennen –en dus de klandizie uit te breiden voor de modellen die het bedrijf in de markt zet. Met de toepassing kunnen developers met minimale aanpassingen complete webinterfaces produceren voor klant-of medewerker-gerichte AI-assistenten. Denk aan chatbots voor klantenservice of tools voor data-analyse.
Het initiatief van Hugging Face laat zien dat de AI-industrie ook op zoek is naar de euro’s van kleinere partijen. Natuurlijk ingekleed in een narratief van ‘democratisering’, wat ook best zo is. Maar behalve dat ontwikkelingen als deze inderdaad AI-toepassingen bereikbaar maakt voor partijen voor wie dat minder vanzelfsprekend is, is dit ook een manier om de klantenkring uit te breiden.
Lees ook: Low-code is overal en bijna elk bedrijf gebruikt het