OpenAI Wprowadza GPT-4o Mini

OpenAI ogłosiło wprowadzenie GPT-4o mini, swojego najbardziej kosztowo efektywnego małego modelu AI. Ten nowy model, oferujący wysoką wydajność przy niskich kosztach, ma na celu znaczne rozszerzenie zakresu zastosowań sztucznej inteligencji, czyniąc ją bardziej dostępną dla szerokiego grona użytkowników.

Wydajność i Koszt

GPT-4o mini osiąga imponujące wyniki na benchmarkach akademickich, takich jak MMLU (82%), przewyższając przy tym GPT-4 oraz inne modele, takie jak Gemini Flash i Claude Haiku. Cena za korzystanie z modelu wynosi zaledwie 15 centów za milion tokenów wejściowych i 60 centów za milion tokenów wyjściowych, co czyni go o 60% tańszym niż GPT-3.5 Turbo.

Nowe Możliwości i Zastosowania

Model GPT-4o mini jest szczególnie przydatny w aplikacjach wymagających niskich kosztów i opóźnień, takich jak interaktywne chatboty obsługi klienta, aplikacje analizujące duże wolumeny kontekstu (np. pełne bazy kodu lub historię rozmów) oraz te, które wymagają wielu równoległych wywołań modelu.

• Obsługa Tekstu i Wizji: GPT-4o mini wspiera tekst i wizję w API, z planami rozszerzenia na wejścia i wyjścia obrazów, wideo oraz audio w przyszłości.
• Duże Okno Kontekstowe: Model obsługuje do 128K tokenów kontekstowych oraz 16K tokenów wyjściowych na żądanie.
• Wielojęzyczność: Nowy tokenizer umożliwia jeszcze bardziej efektywne kosztowo przetwarzanie tekstów w językach innych niż angielski.

Bezpieczeństwo i Niezawodność

GPT-4o mini posiada wbudowane mechanizmy bezpieczeństwa, podobne do tych w GPT-4o. Model został starannie przetestowany przez zewnętrznych ekspertów w dziedzinie psychologii społecznej i dezinformacji, co pomogło zidentyfikować i zaadresować potencjalne ryzyka.

W API, GPT-4o mini stosuje metodę hierarchii instrukcji, która poprawia odporność modelu na próby obejścia zabezpieczeń, wstrzyknięcia komend i ekstrakcji systemowych poleceń, co zwiększa niezawodność jego odpowiedzi.

Dostępność i Przyszłość

GPT-4o mini jest już dostępny w API Assistants, Chat Completions oraz Batch. Użytkownicy ChatGPT (Free, Plus, Team) mogą korzystać z tego modelu od dzisiaj, a użytkownicy Enterprise od przyszłego tygodnia. Model ten ma na celu obniżenie kosztów i zwiększenie dostępności zaawansowanych aplikacji AI.

Przyszłość AI staje się coraz bardziej dostępna, niezawodna i zintegrowana z naszym codziennym życiem cyfrowym, a GPT-4o mini jest krokiem w kierunku tej wizji.

Źródłó: https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/ – Autorzy: Jacob Menick, Kevin Lu, Shengjia Zhao, Eric Wallace, Hongyu Ren, Haitang Hu, Nick Stathas, Felipe Petroski Such, Program Lead: Mianna Chen