De OpenAI o1 API verandert de manier waarop AI-modellen complexe taken afhandelen. De o1-seriemodellen blinken uit in wetenschappelijk en logisch redeneren door diepgaand denken aan te moedigen. Deze modellen zijn momenteel beschikbaar in bèta en hebben indrukwekkende benchmarks neergezet, waaronder hoge rangen in competitieve programmering en het overtreffen van menselijke experts in verschillende wetenschappelijke domeinen.
Modellen begrijpen vóór de OpenAI o1 API
De OpenAI o1 API heeft nu redeneringstokens. De o1-modellen gebruiken redeneringstokens om een probleem te overdenken voordat ze reageren, in tegenstelling tot eerdere modellen. Het model kan complexere taken aan dankzij dit interne redeneringsproces, met name op gebieden als coderen, wiskunde en wetenschap.
Er zijn twee versies van de OpenAI o1 API: o1-preview en o1-mini. Het o1-preview model is bedoeld voor het aanpakken van lastige problemen waarvoor veel kennis nodig is. Dit vroege preview model laat zien wat de volledige o1 serie kan doen. De o1-mini is sneller en goedkoper. Het is goed voor taken waarvoor niet veel algemene kennis nodig is, maar waarvoor wel nauwkeurig redeneren nodig is, zoals coderen en wetenschap.
Wat maakt de OpenAI o1 API zo bijzonder?
OpenAI o1 API presteert uitzonderlijk goed bij redeneertaken. De o1-modellen blinken uit in wetenschappelijk redeneren, scoren in het 89e percentiel bij competitieve programmeervragen en behalen hoge cijfers bij de kwalificaties voor de USA Math Olympiad. Deze modellen zijn nauwkeuriger dan mensen bij het oplossen van natuurkunde-, biologie- en scheikundeproblemen. Dit maakt ze tot nuttige hulpmiddelen in de wetenschap.
Omdat de OpenAI o1 API momenteel in bèta is, zijn er bepaalde beperkingen waar ontwikkelaars zich bewust van moeten zijn. De bètaversie ondersteunt alleen tekstinvoer en sommige API-parameters voor chatvoltooiing zijn nog niet beschikbaar. Bijvoorbeeld, afbeeldingsinvoer, systeemberichten en streaming worden niet ondersteund. Bovendien zijn hulpmiddelen zoals functieaanroepen en responsformaatparameters niet beschikbaar en zijn bepaalde instellingen zoals temperatuur en presence_penalty opgelost.
Ondanks deze beperkingen biedt de OpenAI o1 API een ruim contextvenster van maximaal 128.000 tokensmet specifieke modellen die verschillende maximale output-tokenlimieten toestaan. Het o1-previewmodel kan tot genereren 32.768 tokensterwijl het o1-mini model tot wel 65.536 tokensDit uitgebreide contextvenster is vooral handig voor het verwerken van complexe taken die een grondige redenering vereisen.
Kosten en tokenlimieten beheren
Een van de uitdagingen van het werken met de OpenAI o1 API is het beheren van de kosten die gepaard gaan met het uitgebreide tokengebruik dat vereist is door het redeneerproces. De o1-modellen genereren zowel redeneertokens (die onzichtbaar zijn voor de gebruiker) als voltooiingstokens (de zichtbare output). Om ontwikkelaars te helpen deze kosten te beheren, heeft OpenAI de max_completion_tokens parameter, waarmee gebruikers het totale aantal gegenereerde tokens kunnen bepalen.
Deze parameter is cruciaal omdat het aantal redeneringstokens soms het aantal zichtbare voltooiingstokens kan overschrijden, wat leidt tot hogere kosten zonder een overeenkomstige zichtbare output. Door de max_completion_tokens parameter kunnen ontwikkelaars ervoor zorgen dat ze binnen hun budget blijven en toch profiteren van de krachtige redeneermogelijkheden van de OpenAI o1 API.
Aanbevolen procedures voor het aansturen van de o1-modellen
Bij het werken met de OpenAI o1 API is het essentieel om prompts eenvoudig en direct te houden. De modellen zijn ontworpen om uit te blinken met eenvoudige instructies, en complexe promptstrategieën zoals chain-of-thought prompts zijn mogelijk niet nodig. Bovendien kan het gebruik van scheidingstekens om afzonderlijke delen van de invoer aan te geven het model helpen de informatie nauwkeuriger te interpreteren.
Naarmate de OpenAI o1 API zich blijft ontwikkelen, wordt verwacht dat er in toekomstige updates extra functies zoals multimodaliteit en toolgebruik worden toegevoegd. Voor nu kunnen ontwikkelaars de unieke mogelijkheden van de o1-modellen en experimenteren met hun geavanceerde redeneerfuncties om innovatieve toepassingen te creëren.
Hoe krijg je toegang tot de OpenAI o1 API
Toegang tot de API is momenteel beperkt vanwege de bètastatus. Als u een ontwikkelaar bent die geïnteresseerd is in het gebruik van de o1-modellen, volgt u deze stappen om toegang te krijgen:
- Controleer uw verbruiksniveau: Toegang tot de o1-modellen is beperkt tot ontwikkelaars in niveau 5U kunt uw gebruiksniveau verifiëren op het platform van OpenAI.
- Toegang aanvragen: Als u in aanmerking komt, kunt u toegang aanvragen via de ontwikkelaarsportal van OpenAI. Mogelijk moet u details verstrekken over uw beoogde use case.
- Begrijp de tarieflimieten: Tijdens de bètafase heeft de API een lage snelheidslimiet van 20 verzoeken per minuut (RPM). Plan uw gebruik dienovereenkomstig.
Zodra u toegang hebt, kunt u begin met experimenteren met de o1-preview en o1-mini modellen via het chat completions endpoint. Houd er rekening mee dat er extra functies en bredere toegang beschikbaar kunnen komen als de API uit de bètafase komt.
Afbeelding tegoed: OpenAI
Source: Nieuwe stap in complexe redeneringen met OpenAI o1 API