Wdrożenie zaawansowanego modelu AI Mythos firmy Anthropic napotkało na poważne problemy po tym, jak grupa nieautoryzowanych użytkowników uzyskała do niego dostęp dzięki prostym metodom, takim jak zgadywanie lokalizacji online oparte na wcześniejszych wyciekach danych i wiedzy z pracy kontraktowej. Mimo że Anthropic pozycjonuje się jako lider w dziedzinie bezpieczeństwa AI i uważał Mythos za zbyt niebezpieczny do publicznego udostępnienia, jego zabezpieczenia okazały się zaskakująco słabe, co stanowi poważne upokorzenie dla firmy i podważa jej reputację.
Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)