Badacze AI

OpenAI zwolniło trzech badaczy za rzekome niewłaściwe obchodzenie się z informacjami, w tym pracami związanymi z analizą modeli AI przez zewnętrzną organizację. Spółka stwierdziła, że naruszono procedury i zasady bezpieczeństwa, co podważyło zaufanie, mimo że nie podano nazwisk zwolnionych. Incydent ten wpisuje się w narastającą debatę na temat bezpieczeństwa AI i potencjalnych zagrożeń, jakie technologia ta może nieść dla ludzkości, a także w kontekście niedawnych wycieków danych związanych z modelami OpenAI.

Źródło: BBC
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Eksperci z dziedziny sztucznej inteligencji, w tym byli i obecni pracownicy wiodących firm jak OpenAI i Google DeepMind, wyrazili głębokie zaniepokojenie potencjalnymi zagrożeniami płynącymi z rozwoju superinteligencji. W serii wywiadów opublikowanych przez Palisade Research, naukowcy alarmują, że prawdopodobieństwo ludzkiego wyginięcia z powodu AI wynosi od 10% do nawet 50%, podkreślając brak skutecznych mechanizmów kontroli nad przyszłymi, wszechpotężnymi systemami AI. Mimo braku spójnych rozwiązań, część z nich uważa pracę nad tymi technologiami za konieczną do redukcji ryzyka, jednocześnie przyznając się do zawodowego zaangażowania w ich tworzenie.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)