Firma Xint odkryła, że funkcja kompresji OpenAI, służąca do zmniejszania długich konwersacji, mogła zostać wykorzystana do wydobycia ukrytego rozumowania modelu w postaci czystego tekstu, omijając zabezpieczenia przed kradzieżą wiedzy. Choć OpenAI potwierdziło i naprawiło problem, nie można jednoznacznie stwierdzić, czy skompresowany tekst jest identyczny z oryginalnym rozumowaniem modelu, a ta metoda nie narusza danych innych użytkowników.
Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)