ChatGPT odpowiada poprawnie tylko na 48% pytań programistycznych

ChatGPT odpowiada poprawnie tylko na 48% pytań programistycznych

​​Naukowcy postanowili przetestować ogólne umiejętności i wiedzę ChatGPT w zakresie programowania i zadali modelowi dużą liczbę pytań programistycznych. W rezultacie model językowy odpowiedział nieprawidłowo na ponad połowę pytań.

W badaniu przeprowadzonym przez Purdue University naukowcy zadali ChatGPT 517 pytań dot. Stack Overflow. Odpowiedzi były oceniane nie tylko pod kątem poprawności, ale także spójności, kompletności i zwięzłości. Zespół przeanalizował również styl językowy i ton odpowiedzi.

Nie był to najlepszy eksperyment dla ChatGPT. Narzędzie OpenAI odpowiedziało poprawnie tylko na 48% pytań, a 77% z nich określono jako "rozwlekłe".

Jednak ze względu na kompleksowość i styl językowy egzaminatorzy zatwierdzili prawie 40% odpowiedzi ChatGPT. Niestety, 77% tych odpowiedzi było niepoprawnych.

"Zauważyliśmy, że użytkownicy mogą zidentyfikować błąd ChatGPT tylko wtedy, gdy jest on oczywisty" — komentują badacze. "Jednak gdy błąd jest trudny do zweryfikowania lub wymaga zewnętrznego IDE lub dokumentacji, użytkownicy często go nie identyfikują lub nie doceniają".

A jakie jest wasze doświadczenie z ChatGPT? Przyzwyczailiście się do korzystania z niego?

Avatar
Mar 17, 2025

„Ucz się sam!”: Cursor AI odmówił generowania kodu i zasugerował samodzielną naukę programowania

Użytkownik na forum Cursor AI – narzędzia do pisania kodu – napotkał niespodziewaną sytuację: asystent AI odmówił pomocy, stwierdzając, że powinien samodzielnie nauczyć się programowania.
0
Sie 10, 2023

Kevuru Games otworzyło biuro w Warszawie

Warszawskie biuro Kevuru Games ma na celu rozszerzenie obecności na globalnym rynku tworzenia gier, stworzenie centrum sprzedaży dla europejskich klientów oraz miejsca pracy dla pracowników za granicą.
0
Maj 12, 2025

Microsoft i OpenAI negocjują warunki partnerstwa na nowo. W tle: dostęp do modeli po 2030 roku i możliwe IPO

O trwających trudnych negocjacjach między Microsoftem a OpenAI informuje Financial Times. Stawką są nie tylko nowe zasady podziału udziałów, lecz także przyszłość OpenAI jako spółki publicznej.
0

Ta strona używa plików cookie, aby zapewnić Ci lepsze wrażenia podczas przeglądania.

Dowiedz się więcej o tym, jak używamy plików cookie i jak zmienić preferencje dotyczące plików cookie w naszej Polityka plików cookie.

Zmień ustawienia
Zapisz Akceptuj wszystkie cookies