Produkty używające komputera płacą nie tylko za odpowiedź modelu. Płacą za odczyt ekranu, akcję, powtórzenie, narzędzie i kontrolę bezpieczeństwa. Premiera GPT-6.1 Terra od OpenAI dotyczy właśnie tej rzeczywistości operacyjnej.
OpenAI podaje Terra w API jako gpt-6.1-terra oraz ceny 1 dolara za milion tokenów wejściowych i 5 dolarów za milion tokenów wyjściowych. Benchmarki z ogłoszenia są pomiarami OpenAI, a nie niezależnym audytem.
Decyzja produktowa przesuwa się o warstwę wyżej
Mały zespół powinien określić, gdzie potrzebuje drogiego rozumowania, gdzie wystarczy szybki model i gdzie model powinien ustąpić deterministycznemu kodowi. Tańszy model nie usuwa uprawnień ani kontroli człowieka.
Wybór modelu staje się projektem workflow z dołączoną ceną.
Mierz koszt ukończonego zadania, a nie promptu. Uwzględnij nieudane akcje, eskalację, opóźnienie i czas człowieka potrzebny na poprawkę.
Możliwości, benchmarki, ceny i porównania szybkości pochodzą od OpenAI i są tu oznaczone jako twierdzenia dostawcy.
OpenAI · Introducing GPT-6.1 Terra ↗