OpenAI heeft de limieten voor de vorige week geïntroduceerde o1 en o1-mini LLM’s omhoog geschroefd. Vooral tier 5-ontwikkelaars profiteren hiervan. Ook abonnees van ChatGPT Plus en Teams zien hun API rate limiet voor deze LLM’s toenemen.
Vorige week introduceerde OpenAI zijn nieuwste generatie LLM’s: o1-preview en o1-mini. Deze krachtige modellen, die nog niet over alle functionaliteiten beschikken die bijvoorbeeld GPT-4 biedt, leveren hoge prestaties voor wetenschappelijke, coderings- en wiskundige vraagstukken. Beide modellen hebben meer redeneringscapaciteit dan eerdere LLM’s van de AI-gigant, waardoor ze beter in staat zijn om complexe taken en moeilijkere problemen op te lossen.
Na de introductie kregen gebruikers van de API’s voor deze nieuwe LLM’s op tier 5 een upgrade van de API rate limieten, die er zijn voor het beperken van API-calls. Voor o1-preview ging deze naar 100 vragen per minuut en voor o1-mini naar 250 vragen per minuut.
Upgrade limieten developers
OpenAI kondigt nu een upgrade van de vraaglimieten aan voor gebruikers van de API’s in tier 5. Voor de o1-preview stijgt de limiet naar 500 vragen per minuut, en voor o1-mini naar maar liefst 1.000 vragen per minuut.
De AI-gigant geeft aan dat de vraaglimieten voor ontwikkelaars in andere tiers ook zullen worden verhoogd, en dat er meer toegang komt tot de nieuwe LLM’s.
Algemene gebruikers profiteren ook
Voor algemene gebruikers, in het bijzonder abonnees van ChatGPT Plus en Teams, worden de vraaglimieten voor de nieuwe LLM’s eveneens verhoogd. De vraaglimiet voor o1-mini is met een factor 7 verhoogd, van 50 zoekvragen per week naar 50 zoekvragen per dag. Voor het rekenintensievere o1-preview LLM is de vraaglimiet gestegen van 30 vragen per week naar 50 vragen per week.
OpenAI heeft aangegeven dat ook voor deze eindgebruikers de limieten binnenkort verder zullen worden verhoogd, zodra het verdienmodel wordt geoptimaliseerd. Het is nog onbekend wanneer gratis gebruikers van GPT-4 toegang zullen krijgen tot de nieuwe LLM’s en met welke vraaglimieten.
Lees ook: OpenAI lanceert o1, de slimste krachtbron ooit voor ChatGPT