OpenAI zaprezentowało GPT-Red, wewnętrzny model automatycznego red-teamingu, który zwiększa skalę wykrywania luk typu prompt injection w celu ich naprawy przed szerokim wdrożeniem modeli. GPT-Red naśladuje ludzkich testerów, wysyłając prompty, monitorując odpowiedzi modeli i iteracyjnie dążąc do osiągnięcia szkodliwego celu, co znacząco wzmocniło GPT-5.6 Sol, czyniąc go 6-krotnie bardziej odpornym na tego typu ataki w porównaniu do poprzedniej wersji. Model ten, trenowany za pomocą uczenia ze wzmocnieniem w trybie self-play, pomaga identyfikować nowe tryby błędów i budować zabezpieczenia, a jego skuteczność w atakach, nawet tych pośrednich, jest stale monitorowana i rozwijana przez samego siebie, by nadążyć za rosnącą odpornością modeli obronnych.
Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)