Wybuch w Las Vegas: ChatGPT oskarżany o pomoc w stworzeniu bomby

Rok dla OpenAI nie zaczął się najlepiej. Oprócz zarzutów wobec Sama Altmana, pojawiła się informacja o wybuchu Tesla Cybertruck w Las Vegas 1 stycznia, który niestety pochłonął życie jednej osoby.

Według policji Matthew Alan Livelsberger użył ChatGPT do uzyskania informacji na temat ilości materiałów wybuchowych oraz rodzaju pistoletu, który mógłby je zdetonować.

Odpowiedź OpenAI:

Liz Bourgeois, rzeczniczka OpenAI, w oświadczeniu e-mailowym zapewniła, że firma „jest zaangażowana w odpowiedzialne używanie narzędzi AI” i że „modele są zaprojektowane tak, aby odmawiać realizacji szkodliwych instrukcji.” Dodała także, że ChatGPT w tym przypadku odpowiedział jedynie informacjami już publicznie dostępnymi w internecie oraz ostrzegał przed nielegalnymi lub szkodliwymi działaniami.

Policja poinformowała, że odnaleziono sześciostronicowy dokument określany jako manifest, który może rzucić nowe światło na motywy Livelsbergera. Nowe dowody wskazują również, że śmierć Livelsbergera była samobójstwem.

„Nowe informacje przynoszą więcej pytań niż odpowiedzi. Nie będę wyrażał opinii na temat znaczenia tych dokumentów, ani nie udostępnimy informacji lub dokumentów, które nie zostały w pełni zweryfikowane.”

Szeryf Kevin McMahill

Pomimo zapewnień OpenAI, pojawiają się pytania, dlaczego zapytania takie jak te, które mogły posłużyć do zaplanowania aktu terrorystycznego, nie uruchamiają dodatkowych alarmów w systemach firmy.