[NEW] Szukaj pracy anonimowo — sprawdź szczegóły
Close
OpenAI ujawnia chiński system AI do monitorowania krytyki Pekinu w mediach społecznościowych

OpenAI ujawnia chiński system AI do monitorowania krytyki Pekinu w mediach społecznościowych

OpenAI poinformowała o wykryciu chińskiej operacji rządowej, która wykorzystuje sztuczną inteligencję (AI) do monitorowania treści krytycznych wobec Chin w mediach społecznościowych na Zachodzie – informuje The New York Times.

Odkryty system AI, nazwany przez badaczy Peer Review, został zidentyfikowany, gdy specjaliści OpenAI zauważyli użycie ich narzędzi do debugowania kodu, będącego podstawą tej operacji szpiegowskiej.

"To pierwszy przypadek, gdy zidentyfikowaliśmy tak zaawansowany system inwigilacji oparty na AI. Czasami sami cyberprzestępcy nieświadomie ujawniają nam swoje operacje poprzez to, w jaki sposób wchodzą w interakcję z naszymi modelami."

powiedział Ben Nimmo, główny badacz OpenAI.

Według OpenAI, chiński system monitorowania bazuje na modelu Llama, opracowanym przez Meta. Ponieważ Llama została udostępniona jako open-source, wykorzystano ją do stworzenia tej technologii inwigilacyjnej.

Nie tylko monitoring – kampanie propagandowe z udziałem AI

Oprócz systemu Peer Review, OpenAI wykryła również inną operację o nazwie Sponsored Discontent, która korzystała z jej narzędzi do generowania treści w języku angielskim, skierowanych przeciwko chińskim dysydentom. Grupa ta tłumaczyła także artykuły krytykujące Stany Zjednoczone i rozpowszechniała je w języku hiszpańskim w Ameryce Łacińskiej.

W raporcie OpenAI wskazano także na inne zagrożenia. Badacze ujawnili kampanię z Kambodży, która wykorzystywała AI do udziału w schemacie oszustwa finansowego znanym jako "pig butchering". Metoda ta polega na nawiązywaniu internetowych znajomości z mężczyznami, a następnie wciąganiu ich w fałszywe inwestycje. Oszuści używali AI do generowania przekonujących komentarzy w mediach społecznościowych, by budować zaufanie ofiar.

AI – zarówno zagrożenie, jak i narzędzie ochrony

OpenAI podkreśla, że mimo rosnących zagrożeń, sztuczna inteligencja może być również skutecznym narzędziem do wykrywania i przeciwdziałania szkodliwej działalności.

Avatar
Sty 31, 2024

Google wydał miliardy dolarów na zwolnienia pracowników

Firma wydała kolejne 700 milionów dolarów na zwolnienia tylko w tym miesiącu, nawet pomimo odnotowania wzrostu we wszystkich swoich działach: reklamowym, chmurowym i usługowym.
0
Sty 28

DeepSeek: chiński startup AI, który wpłynął na rynki USA

W poniedziałek rano na rynku akcji w USA odnotowano gwałtowny spadek po tym, jak chińska firma DeepSeek zaprezentowała swój nowy model sztucznej inteligencji R1. Ten model, konkurujący z ChatGPT, wyróżnia się znacznie niższymi kosztami rozwoju. Według danych firmy, koszty mocy obliczeniowych dla modelu bazowego wyniosły zaledwie 5,6 miliona dolarów. Dla porównania, amerykańskie firmy, takie jak OpenAI, Google czy Meta, wydają na swoje projekty AI setki milionów lub miliardy dolarów.
0
Lut 27, 2024

Ponad 200 pracowników krakowskiego oddziału Aptiv straciło pracę

Około 250 osób zostało zaproszonych na wideokonferencję, podczas której powiadomiono ich o rozwiązaniu współpracy. Otrzymawszy kilka minut na spakowanie swoich rzeczy powiedziano im opuścić krakowską siedzibę Aptiv Services.
0

Ta strona używa plików cookie, aby zapewnić Ci lepsze wrażenia podczas przeglądania.

Dowiedz się więcej o tym, jak używamy plików cookie i jak zmienić preferencje dotyczące plików cookie w naszej Polityka plików cookie.

Zmień ustawienia
Zapisz Akceptuj wszystkie cookies