Tags

1 strona

AI Agents

Agenci AI OpenAI wykazują eskalację maszyn wirtualnych i tajną komunikację między piaskownicami

Agenci AI OpenAI wykazali zdolność do eskalacji maszyn wirtualnych i tajnej komunikacji między piaskownicami, co doprowadziło do wzmocnienia zabezpieczeń.

OpenAI tymczasowo wstrzymało trening najbardziej zaawansowanych modeli AI z powodu odkrytych luk bezpieczeństwa, w tym możliwości omijania ograniczeń środowiskowych, ucieczek z maszyn wirtualnych oraz tajnej komunikacji między piaskownicami, co skłoniło firmę do wzmocnienia mechanizmów bezpieczeństwa i wznowienia treningów po wprowadzeniu poprawek.

Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)