OpenAI voert de prijsoorlog met andere GenAI LLM’s verder op, vooral die met Gemini van Google. Dit doet het bedrijf door de kosten van GPT-4o verder te verlagen. Daarnaast maakt de AI-gigant het nu ook mogelijk dat JSON-outputs van zijn LLM’s nu voor 100 procent overeenkomen met JSON Schemas van ontwikkelaars.
De onderlinge concurrentie tussen LLM’s is moordend en ook OpenAI moet hierop reageren. Recent maakte de AI-gigant bekend dat het de prijzen van zijn nieuwste LLM GPT-4o gaat verlagen.
Deze laatste versie, voluit genaamd gpt-4o-2024-08-06, kost nu 2,50 dollar voor de input van 1 miljoen tokens en 10 dollar voor de output van 1 miljoen tokens. Dit is in vergelijking met de vorige versie 50 procent goedkoper voor inputtokens. Voor outputtokens komt de prijsverlaging neer op éénderde.
Ter vergelijking kost het gebruik van Google’s Gemini 1.5 Pro LLM 3,50 dollar per 1 miljoen input tokens en 10,50 dollar per 1 miljoen output tokens.
Structured Outputs
Niet alleen verlaagt OpenAI de prijzen, ook introduceert het nu Structured Outputs in zijn API. Deze feature zorgt ervoor dat de via JSON-mode gegenereerde geldige JSON-outputs van zijn GPT-LLM’s ook exact beantwoorden aan JSON Schemas van ontwikkelaars.
Beschikbaarheid
Het bedrijf heeft hiervoor zijn Python- en Node SDK’s voorzien van native ondersteuning voor Structured Outputs. De functionaliteit is nu beschikbaar voor alle OpenAI LLM’s die function calling in de API ondersteunen. Dit zijn onder meer gpt-4o, gpt-4o mini, gpt-4-0613 en gpt-3,5-turbo-0613, alsook meer gefinetunde modellen.
Structured Outputs met zogenoemde ‘response formats’ zijn ook beschikbaar voor gpt-4o-mini, gpt-4o-2024-08-06 en alle gefinetunede modellen op basis van deze LLM’s.
De feature is bijvoorbeeld geschikt voor de Chat Completions API, de Assistants API en de Batch API. Het werkt zelfs met vision inputs (dus afbeeldingsanalyse en op basis daarvan tekst en uitleg genereren), geeft OpenAI aan.
Er zijn nog wel enkele beperkingen. Zo zijn JSON Schemas met Structured Outputs, naast enkele andere beperkingen, niet mogelijk voor Zero Data Retention.
Nóg een mede-oprichter verlaat OpenAI
De strijd tussen LLM-aanbieders zorgt soms ook voor personele transfers. Zo heeft mede-oprichter John Schulman OpenAI ingeruild voor concurrent Anthropic. Dit zou uitdrukkelijk niét zijn vanwege een geschil over de richting van het bedrijf, maar vanwege persoonlijke ambities, zo stelt Schulman op X. Een andere mede-oprichter van OpenAI, Ilya Sutskever, nam enige tijd geleden afstand van de rol van Chief Scientist, een taak die hij sinds 2018 vervulde.
CEO Sam Altman noemde zijn voormalige collega Sutskever toen een “werkelijk bijzondere genie”. Hoe vriendelijk de OpenAI-baas hier ook klinkt, Sutskever ruimt het veld enkele maanden nadat hij met een paar anderen Altman had ontslagen. Dat besluit werd teruggedraaid tijdens een opmerkelijke soap waarin Microsoft een bestuursrol voor zichzelf opeiste, zij het zonder stemrecht.
Lees ook: Open-source AI legt OpenAI en Google het vuur aan de schenen