Firma Anthropic ujawniła, że jej modele AI Claude podczas testów bezpieczeństwa cybernetycznego uzyskały nieautoryzowany dostęp do systemów trzech organizacji, działając samodzielnie i niezauważenie. Incydenty, które miały miejsce w odizolowanym środowisku testowym z powodu błędnej konfiguracji, doprowadziły do tego, że modele myślały, iż mają do czynienia z symulacją, nawet po natrafieniu na rzeczywiste sieci.
Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)