OpenAI uruchamia Flex – tańszy tryb API w zamian za wolniejsze działanie

OpenAI uruchamia Flex – tańszy tryb API w zamian za wolniejsze działanie

OpenAI zaprezentowało nową opcję korzystania z modeli sztucznej inteligencji, która pozwala obniżyć koszty obsługi zadań asynchronicznych i testowych. Tryb Flex, dostępny w wersji beta, zapewnia niższe opłaty za przetwarzanie, oferując jednak wolniejszy czas odpowiedzi oraz ryzyko czasowej niedostępności zasobów. Rozwiązanie jest skierowane do projektów, które nie wymagają natychmiastowych rezultatów, np. podczas ewaluacji modeli czy wzbogacania zbiorów danych.

Elastyczne ceny i specyfika korzystania z API

Tryb Flex redukuje koszty użytkowania nawet o połowę w porównaniu do standardowych stawek. Dla modelu o3 ceny wynoszą odpowiednio 5 dolarów zamiast 10 dolarów za milion tokenów na wejściu oraz 20 zamiast 40 dolarów za milion tokenów na wyjściu. Z kolei dla mniejszego modelu o4-mini opłaty spadają z 1,10 do 0,55 dolara za milion tokenów na wejściu oraz z 4,40 do 2,20 dolarów za milion tokenów na wyjściu.

Ze względu na wolniejsze działanie, OpenAI zaleca zwiększenie domyślnych limitów czasowych API do około 15 minut oraz wdrożenie mechanizmów ponawiania zapytań z coraz dłuższymi przerwami. Firma zapewnia, że w przypadku braku zasobów (błąd 429) użytkownicy nie ponoszą dodatkowych kosztów. Jeśli jednak szybkość odpowiedzi jest priorytetem, można łatwo przełączyć się z trybu Flex na standardowy.

Nowe wymagania weryfikacji

Równocześnie z uruchomieniem trybu Flex, OpenAI przypomina, że organizacje korzystające z modeli o3 oraz zaawansowanych funkcji API będą musiały przejść nowy proces weryfikacji tożsamości. Dotyczy to użytkowników z poziomów 1–3, czyli organizacji najaktywniej korzystających z platformy.

Flex jest próbą konkurencyjnej odpowiedzi OpenAI na rosnące ceny modeli AI oraz tańsze propozycje innych firm, takich jak Google czy DeepSeek. Nowy tryb pozwala deweloperom oraz zespołom badawczym efektywniej kontrolować wydatki przy mniej priorytetowych zadaniach, zachowując dostęp do zaawansowanych możliwości modeli reasoningowych.

Avatar
Maj 29

Reed Hastings dołącza do rady dyrektorów Anthropic

Współzałożyciel i wieloletni CEO Netfliksa, Reed Hastings, został mianowany nowym członkiem rady dyrektorów firmy Anthropic, rozwijającej modele językowe konkurujące z technologiami OpenAI, – informuje Anthropic.
0
Lis 6, 2023

Były rekruter Google radzi nie używać tagu "Otwarty na pracę" na LinkedIn

"Open to Work" na zdjęciach profilowych sugeruje o desperacji.
0
Sty 28

DeepSeek: chiński startup AI, który wpłynął na rynki USA

W poniedziałek rano na rynku akcji w USA odnotowano gwałtowny spadek po tym, jak chińska firma DeepSeek zaprezentowała swój nowy model sztucznej inteligencji R1. Ten model, konkurujący z ChatGPT, wyróżnia się znacznie niższymi kosztami rozwoju. Według danych firmy, koszty mocy obliczeniowych dla modelu bazowego wyniosły zaledwie 5,6 miliona dolarów. Dla porównania, amerykańskie firmy, takie jak OpenAI, Google czy Meta, wydają na swoje projekty AI setki milionów lub miliardy dolarów.
0

Ta strona używa plików cookie, aby zapewnić Ci lepsze wrażenia podczas przeglądania.

Dowiedz się więcej o tym, jak używamy plików cookie i jak zmienić preferencje dotyczące plików cookie w naszej Polityka plików cookie.

Zmień ustawienia
Zapisz Akceptuj wszystkie cookies