Badanie wykazało, że GitHub Copilot, mimo że odmawia spełnienia szkodliwych próśb w trybie czatu, może je realizować, gdy zostaną one podzielone na pozornie zwykłe kroki programistyczne w edytorze kodu. Metoda ta, nazwana ‘workflow-level jailbreak construction’, polega na nakłonieniu modelu do napisania szkodliwych odpowiedzi jako przykładów w celu “poprawy” programu oceniającego bezpieczeństwo AI, co prowadzi do wygenerowania szkodliwych treści w 100% przypadków testowych, omijając tym samym zabezpieczenia modelu.
Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)