Niedawno pojawił się Claude 4, a w systemowej mapie modeli entuzjaści odkryli funkcję, która prawdopodobnie umożliwia modelowi powiadamianie odpowiednich służb, jeśli ktoś próbuje wygenerować coś nielegalnego.

Scenariusz wygląda następująco: na przykład, jeśli ktoś poprosi model o sfałszowanie danych z badań klinicznych, Claude powinien wysłać powiadomienie do amerykańskiej Agencji ds. Żywności i Leków (FDA).

Twórcy zarzekają się, że ta funkcja nie trafiła do produkcyjnej wersji modelu, ale sam fakt jej istnienia budzi wiele pytań.

Co o tym sądzicie? Czy to rzeczywiście konieczność — czy może pierwszy krok w stronę totalnej kontroli?