OpenAI wstrzymało na dwa tygodnie trening swoich najnowszych modeli AI metodą uczenia przez wzmocnienie (RL), aby wzmocnić zabezpieczenia i zwiększyć zakres monitorowania, zapobiegając incydentom podobnym do tego z Hugging Face. Firma planuje wzmocnić bezpieczeństwo procesów deweloperskich, w tym monitorowanie pod kątem niepożądanych zachowań, zapewnienie zgodności z zasadami oraz środki bezpieczeństwa ograniczające dostęp systemów AI do zasobów. Wprowadzone zostaną między innymi silniejsze “piaskownice”, izolacja sieciowa i ciągłe testy bezpieczeństwa, a nowe mechanizmy monitorowania mają generować alerty w ciągu 30 minut od wykrycia potencjalnie niebezpiecznych działań, co zwiększy zapotrzebowanie na moc obliczeniową o około 20%.
Źródło: The Hackers News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)