Fejlesztői útmutató a GPT‑5.6-hoz
Technikai tanulságok éles környezetben működő startupoktól
A GPT‑5.6 modellcsalád drámaian elérhetőbbé teszi az élvonalbeli ügynökteljesítményt, miközben tovább tágítja a lehetőségek határait.
Ebben az útmutatóban bemutatjuk, hogyan építenek a startupok intelligensebb modellválasztással és új API-vezérlőkkel gyorsabb, többre képes ügynököket a korábbi költségek töredékéért. Ezek az újdonságok segítik az érvelés folytonosságát, a többügynökös feladatszervezést és a programozott eszközhívást.
A GPT‑5 óta minden modellgeneráció arra törekszik, hogy kevesebb tokennel oldjon meg hosszabb távú feladatokat. A GPT‑5.6 folytatja ezt az irányt: jobb ügynökteljesítményt és alacsonyabb költségeket kínál, az alapul szolgáló végrehajtási környezet minimális módosításával.
Az összesített költséghatékonyság javulását tovább erősíti, hogy a modell kisebb érvelési ráfordítás mellett is pontosabb. Az Agents’ Last Exam teszten például a GPT‑5.6 Sol „alacsony” érvelési szinten felülmúlta a „magas” érvelési szintű GPT‑5.5‑öt, azonos végrehajtási környezet mellett. Hasonló sikereket láttunk az éles környezetben végzett teszteken is: startupok arról számoltak be, hogy a korábbi alapértékekhez képest csökkentett érvelési ráfordítással számos munkafolyamat költsége jelentősen javult.
A hosszabb távú felhasználási esetekhez hagyományosan a zászlóshajó modellre és az elérhető legmagasabb érvelési szintre való frissítés bizonyult a legjobb megoldásnak. Ennek fő oka az volt, hogy ezek a modellek a költségoptimalizált modelleknél lényegesen jobban kezelték a hosszabb kontextusokat és az eszközhívást. Az 5.6-os családdal ez megváltozott: nagyobb válaszadáskori számítási ráfordítással a Luna és a Terra gyakran a GPT‑5.4‑hez és a GPT‑5.5‑höz hasonló teljesítményt nyújt, jóval olcsóbban.
Vegyük például a BrowseComp feladatait: ez a keresésalapú teszt azt méri, mennyire képes egy modell nehezen fellelhető tényeket megkeresni. Három hónapja a GPT‑5.5 (Extra magas) 84,36%-os eredményt ért el ezen a teszten, összesen 33,27 dolláros költséggel. A megjelenésekor a GPT‑5.6 Luna (Extra magas) lényegében ugyanazt a teljesítményt nyújtja: 84,04%-ot ér el 1,33 dolláros költséggel. Azóta tovább csökkentettük az árakat. A legújabb árcsökkentéseinkről itt olvashat bővebben.
Az 5.6-os család kisebb modelljei kiválóan alkalmasak nagy volumenű terhelésekre, késleltetésérzékeny interakciókra és az ügynökalapú munkafolyamatok ismétlődő lépéseire. Ha például egy jogtechnológiai startup kézzel írt feljegyzéseket dolgoz fel az ügynökalapú elemzés előtt, már nem kell az egész folyamathoz élvonalbeli modellt használnia: az adatkinyerést a Terrára vagy a Lunára bízhatja, és jelentős költséget takaríthat meg.
Amellett, hogy a GPT‑5.6 alapbeállításokkal is nagyobb teljesítményt nyújt, a Responses API-t új építőelemekkel bővítettük a további előrelépés érdekében. A GPT‑5.6‑ot három, egymást kiegészítő architekturális megoldással tanítottuk be a teljes folyamatra, amelyek hatékonyabb működést tesznek lehetővé az ügynököknek:
A már elvégzett munka újrafelhasználása: a megőrzött érvelés(új ablakban nyílik meg) révén az érvelés átvihető a modell fordulói között, a hosszú beszélgetéseket pedig a natív tömörítés(új ablakban nyílik meg) vonja össze. Így a modell hosszabb feladatok során is következetesen dolgozhat anélkül, hogy összezavarodna vagy újra fel kellene építenie a korábbi kontextust.
Párhuzamos felbontás, ahol célszerű: a natív többügynökös feladatszervezéssel(új ablakban nyílik meg) több ügynök hangolható össze párhuzamos munkafolyamatokban, így az összetett feladatok gyorsabban befejezhetők.
A determinisztikus munka kódba helyezése: a programozott eszközhívással(új ablakban nyílik meg) az eszközök kimenete a modell kontextusablakán kívül szűrhető, összesíthető és hangolható össze. Így a modell tokenjei a mérlegelésre maradnak, miközben csökken a költség, a késleltetés és a kontextus romlása.
Ezeket együtt alkalmazva drámai lehet a különbség. Az ARC-AGI-3 teszten például a GPT‑5.6 Sol 13,3%-ot ért el a szabványos végrehajtási környezettel. A megőrzött érvelés és a kontextustömörítés bekapcsolása után azonban az eredmény 38,3%-ra ugrott, miközben a modell nagyjából hatszor kevesebb kimeneti tokent használt. A modell változatlan maradt, a teljesítmény mégis csaknem megháromszorozódott. Erről bővebben az ARC-AGI-3 végrehajtási környezetét vizsgáló elemzésünkben olvashat.
Az ügynökalapú munkafolyamatok gyakran kétféle munkából állnak:
Mérlegelést igénylő feladatok
Főként adatok mozgatását, szűrését és összevonását igénylő munka
Amikor egy ügynök lekér 100 jelentést, dátum szerint szűri őket, és azonosítja a releváns tranzakciókat, a modellnek nem kellene minden köztes eredményt végigelemeznie a kontextusablakában. A programozott eszközhívással a GPT‑5.6 JavaScript-kódot írhat az eszközök összehangolására, a független hívások párhuzamos futtatására és kimenetük kontextusablakon kívüli feldolgozására. Így a modell arra összpontosíthat, ami intelligenciát igényel: a mérlegelésre.
Az összetett, párhuzamosítható feladatoknál a műveletek és az érvelés több ügynöki munkafolyamat közötti elosztása gyorsabb feladatvégrehajtást és magasabb intelligenciát tesz lehetővé. Ezekben az elrendezésekben az elsődleges ügynök felel az alügynökök összehangolásáért és a feladatok kiosztásáért. Az alügynökök párhuzamosan dolgoznak céljaikon, majd eredményeiket visszaadják az elsődleges ügynöknek a végső összegzéshez. A csapatok közvetlenül kihasználhatják a többügynökös működést, ha engedélyezik azt(új ablakban nyílik meg) a Responses API-ban. A ChatGPT Ultra képességbeállítása is így működik.
“A Qualia ügynökcsapatokat vet be nyitott végű kutatási problémák megoldására, és a GPT‑5.6 Sol egyszerűen bevált. Jelentős javulást mutatott a GPT‑5.5‑höz képest, szinte minden más tesztelt modellnél gyorsabban végzett, és hamar az első számú OpenAI-modellünkké vált.”
“A GPT‑5.6 az OpenAI eddigi legjobb feladatszervező modellje. Egyszerre hat specifikációt bíztunk rá – mindet megírta, megépítette és átbeszélte –, és úgy tartott mindent kézben, hogy közben a minőség sem romlott.”
Bár a GPT‑5.6 jól felméri, hány alügynökre van szükség, és mikor érdemes elindítani őket, a többügynökös viselkedés nagymértékben irányítható. Ha utasítást adunk a modellnek arra, mikor hívjon alügynököket, nagyobb eséllyel csak olyan helyzetekben indítja el őket, amikor a további tokenráfordítás jobb teljesítményt eredményez.
A teljes modellcsaládnál legalább 30 percre nőtt a prompt-gyorsítótár élettartama, és a gyorsítótár töréspontjai mostantól determinisztikusan állíthatók be a modell kontextusablakán belül. Ennek köszönhetően a startupok jelentősen javíthatták a gyorsítótár-találati arányukat.
A gyorsítótár-töréspontok beállítása mellett egy megfelelő prompt_cache_key(új ablakban nyílik meg) folyamatos használata növeli annak esélyét, hogy a kérések ugyanarra a következtetési motorra kerüljenek, amely korábban már kiszolgálta ugyanazt az előtagot, ezáltal csökkentve a késleltetést.
Ezekből a példákból leginkább az tűnik ki, mennyit változott az ügynökök fejlesztésének gazdaságossága.
Azok a felhasználási esetek, amelyek korábban minden lépésnél élvonalbeli modellt igényeltek, ma már kisebb modellekkel, az érvelési ráfordítás finomhangolásával és hatékony architekturális döntésekkel a költségek töredékéért érhetnek el hasonló vagy jobb eredményt.
Izgatottan várjuk, mit építenek majd!
- 2026
- API Platform
A szerzőkről
Az útmutatót Samarth Madduru(új ablakban nyílik meg), Prashant Mital(új ablakban nyílik meg), Dave Leo(új ablakban nyílik meg) és Julien Reiman(új ablakban nyílik meg) készítette azon tapasztalataik alapján, amelyeket a GPT‑5.6-ra építő startupokkal végzett szoros együttműködés során szereztek, a korai teszteléstől egészen az éles bevezetésig.
