[NEW] Szukaj pracy anonimowo — sprawdź szczegóły
Close
Super Mario Bros. jako nowy benchmark dla AI – które modele radzą sobie najlepiej?

Super Mario Bros. jako nowy benchmark dla AI – które modele radzą sobie najlepiej?

Wydawało się, że Pokémon jest trudnym testem dla AI, ale badacze twierdzą, że Super Mario Bros. stanowi jeszcze większe wyzwanie. Hao AI Lab, jednostka badawcza Uniwersytetu Kalifornijskiego w San Diego, przeprowadziła eksperyment, w którym różne modele AI próbowały pokonać kultową grę Nintendo z 1985 roku.

Najlepiej poradził sobie Claude 3.7, tuż za nim znalazł się Claude 3.5, natomiast Gemini 1.5 Pro i GPT-4o napotkały trudności. Super Mario Bros. nie był jednak uruchamiany w oryginalnej wersji – badacze wykorzystali własny emulator GamingAgent, który pozwalał AI przejąć kontrolę nad postacią Mario.

Jak AI radzi sobie w dynamicznym środowisku gry?

Platforma GamingAgent dostarczała modelom AI podstawowe instrukcje, np. „Jeśli w pobliżu jest przeszkoda lub przeciwnik, skocz lub przesuń się w lewo, aby go ominąć”, a także zrzuty ekranu z gry. Następnie AI generowało kod w Pythonie, który sterował postacią w czasie rzeczywistym.

Co ciekawe, badacze odkryli, że modele o silnych zdolnościach rozumowania, takie jak OpenAI o1, miały większe trudności z grą niż modele „nierozumujące”, mimo że zazwyczaj radzą sobie lepiej w standardowych testach.

Czas reakcji ma kluczowe znaczenie. Modele AI potrzebują kilku sekund na podjęcie decyzji, a w Super Mario Bros. taki czas reakcji oznacza przegraną.

Czy gry to dobty test AI?

Od lat gry służą jako testy dla AI, ale eksperci podważają ich przydatność do oceny rzeczywistych zdolności modeli. Gry są abstrakcyjne i stosunkowo proste, a do tego dostarczają teoretycznie nieskończoną ilość danych do treningu.

Andrej Karpathy, badacz AI i współzałożyciel OpenAI, zwraca uwagę na problem z oceną postępów AI:

„Nie wiem, jakie metryki AI są teraz najważniejsze” – napisał na platformie X. „Nie jestem pewien, jak dobre są te modele.”

Choć AI nadal daleko do perfekcji, jedno jest pewne – możemy oglądać, jak Mario uczy się grać samodzielnie. 🚀

Avatar
Kwi 23

Intel planuje zwolnienia ponad 20% załogi. Nowy CEO rozpoczyna restrukturyzację

Intel szykuje się do ogłoszenia największej fali zwolnień w swojej historii. Jak informuje Bloomberg, jeszcze w tym tygodniu firma ma poinformować o redukcji ponad 21 tysięcy etatów — czyli około jednej piątej całej kadry. Działania te wpisują się w plan nowego dyrektora generalnego, Lip-Bu Tana, który objął stanowisko pod koniec 2024 roku po odejściu Pata Gelsingera.
0
Kwi 17

XChat ma zastąpić wiadomości prywatne w X (dawniej Twitter)

Platforma X przygotowuje się do całkowitego wyłączenia funkcji wiadomości prywatnych (DM), zastępując je nowym systemem o nazwie XChat.
0
Maj 5

Windsurf: według Mohana, nawet przy 90% kodu generowanego przez AI rola programistów pozostaje kluczowa

Varun Mohan, założyciel startupu Windsurf (obecnie rozważanego do przejęcia przez OpenAI), podkreśla, że rozwój AI nie eliminuje znaczenia zespołów inżynierskich. Jego zdaniem technologia skraca czas potrzebny na programowanie, ale nie zastępuje pełnego procesu tworzenia oprogramowania.
0

Ta strona używa plików cookie, aby zapewnić Ci lepsze wrażenia podczas przeglądania.

Dowiedz się więcej o tym, jak używamy plików cookie i jak zmienić preferencje dotyczące plików cookie w naszej Polityka plików cookie.

Zmień ustawienia
Zapisz Akceptuj wszystkie cookies