OpenAI introduceert betaalde API's voor ChatGPT en Whisper AI

OpenAI introduceert een tweetal betaalde API's voor ChatGPT en en spraak-tekst model Whisper AI. Ontwikkelaars kunnen beide AI-modellen met behulp van de API's eenvoudiger integreren in applicaties.

ChatGPT was voorheen alleen toegankelijk via een webinterface. Dit wordt nu dus ook mogelijk via een API. OpenAI meldt verschillende optimalisaties te hebben doorgevoerd, wat voor ChatGPT tot een kostenbesparing van 90% ten opzichte van december heeft geleid. Dit vertaalt zich ook naar het tarief van OpenAI rekent; ontwikkelaars betalen 0,002 dollar per 1.000 tokens, wat tien keer goedkoper is dan met de huidige GPT-3,5-modellen.

Dedicated instances

Ook biedt OpenAI voortaan dedicated instances aan voor gebruikers die meer controle willen over de versie van het model dat zij gebruiken en de systeemprestaties. Verzoeken aan ChatGPT draaien standaard op infrastructuur die met andere gebruikers gedeeld worden, waarbij gebruikers per verzoek afrekenen. De API draait op Azure. Met dedicated instances betalen gebruikers voor toegang tot infrastructuur gedurende een specifiek tijdsslot, waarbij de infrastructuur wordt gereserveerd om voor hen verzoeken uit te voeren.

Ontwikkelaars krijgen volgens OpenAI volledige controle over de instance. Zo kunnen zij bijvoorbeeld instellen dat de instance meer gelijktijdige verzoeken kan werken, wat tot gevolg heeft dat verzoeken trager worden verwerkt. Ook kan het aantal gelijktijdige verzoeken juist worden beperkt om verwerkingstijden te verkorten.

Whisper AI

Ook kunnen ontwikkelaars het open-source Whisper large-v2 model via de API integreren in applicaties. Whisper is een spraak-tekst model dat in september 2022 door OpenAI opensource is gemaakt. Uit feedback blijkt volgens OpenAI dat het model gewaardeerd wordt, maar moeilijk bruikbaar is. Het beschikbaar maken van Whisper AI via een API moet dit vereenvoudigen.

Van Whisper AI is versie 2.0 van het model beschikbaar via de API van OpenAI. Deze geeft toegang voor een bedrag van 0,006 dollar per minuut.

OpenAI belooft beide API's te blijven updaten. Meer informatie is hier beschikbaar.