Etyka AI

Trzech byłych pracowników OpenAI, zwolnionych za rzekome niewłaściwe postępowanie z informacjami, twierdzi, że powodem zwolnienia było podnoszenie obaw o bezpieczeństwo w firmie technologicznej. Zwolnieni badacze, specjaliści od bezpieczeństwa i “alignmentu” AI, opublikowali list otwarty, w którym zarzucają firmie podważanie kluczowych zasad bezpieczeństwa na rzecz krótko-terminowych celów biznesowych. OpenAI zaprzecza tym zarzutom, twierdząc, że decyzje wynikały z naruszenia zaufania i niewłaściwego obchodzenia się z poufnymi danymi, niezwiązanego z kwestiami bezpieczeństwa.

Źródło: BBC
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

David Robinson, były pracownik ds. bezpieczeństwa OpenAI, który tworzył raporty bezpieczeństwa dla dużych modeli firmy, zrezygnował i opublikował ostrzeżenie w “The Atlantic”. Robinson krytykuje kulturę w branży AI za “ekstremalną pewność siebie” i “ciągłe sprinty”, które prowadzą do ignorowania potencjalnych zagrożeń, postulując wprowadzenie zabezpieczeń na poziomie “jądrowym”, podobnych do tych w elektrowniach jądrowych lub lotniskach. Jego odejście wpisuje się w trend rezygnacji badaczy i pracowników ds. bezpieczeństwa z czołowych firm AI.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Startup Pippa proponuje nowy model biznesowy dla generatywnej sztucznej inteligencji, oferując artystom udział w dochodach za wykorzystanie ich prac przy trenowaniu modeli. Choć firma stara się działać etycznie i zapewnia wynagrodzenie za każdy wygenerowany obraz lub fragment wideo oparty na stylu artysty, jej modele nadal bazują na danych z internetu, co budzi kontrowersje. Brak jest również dowodów na to, że oferowane stawki są wystarczająco atrakcyjne, aby zaspokoić potrzeby twórców i przekonać ich do akceptacji technologii.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐ (6/10)

Lekarze muszą dążyć do humanistycznego podejścia do sztucznej inteligencji (AI) w praktyce lekarskiej, zapewniając, że technologie te wzmacniają, a nie zastępują empatię, która jest kluczową umiejętnością medyczną. Antonio Parata podkreśla, że AI może prowadzić do „cichego niebezpieczeństwa” dehumanizacji kontaktu pacjent-lekarz, gdzie historie pacjentów stają się danymi, a jednostki są zastępowane przez przypadki kliniczne, co pogarsza się przez przeciążenie poznawcze lekarzy. Parata proponuje, aby empatię traktować jako umiejętność kliniczną, integrującą wymiary poznawcze, emocjonalne i współczujące, i uważa, że AI może zarówno wzmocnić, jak i osłabić empatię, zależnie od sposobu jej wdrożenia, oraz proponuje pięć pytań jako „kompas etyczny” do oceny narzędzi AI w medycynie, podkreślając potrzebę nauki panowania nad AI, aby nie została przez nią zdominowana, i odrzucając możliwość „zakodowania” ludzkiej interakcji.

Źródło: Medscape
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Papież Leo XIV w swoim pierwszym ważnym dokumencie papieskim pt. „Magnifica Humanitas” ostrzega przed zagrożeniami związanymi ze sztuczną inteligencją i nieograniczoną potęgą technologiczną, wzywając do safeguarding of the human person in the time of artificial intelligence. Dokument porusza kwestie wojny napędzanej AI, wpływu na rynek pracy oraz potrzeby stworzenia nowych ram prawnych i etycznych dla technologii, podkreślając prymat ludzkiej godności i wolności w rozwoju innowacji.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Papież Leon XIV w swojej pierwszej encyklice “Magnifica Humanitas” odrzuca 1500-letnią doktrynę “wojny sprawiedliwej”, uznając ją za nieaktualną i często nadużywaną do usprawiedliwiania konfliktów. Ojciec Święty podkreśla również zagrożenia płynące ze sztucznej inteligencji dla ludzkiej godności i postuluje jej “rozbrojenie” poprzez wyłączenie z logiki zbrojnej rywalizacji oraz objęcie surowymi ograniczeniami etycznymi, aby zapobiec wyścigowi zbrojeń.

Źródło: Polsat News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)

Halucynacje modeli sztucznej inteligencji stanowią poważne zagrożenie dla bezpieczeństwa, generując przekonujące, ale błędne odpowiedzi, które mogą prowadzić do błędnych decyzji, zwłaszcza w obszarach krytycznych takich jak cyberbezpieczeństwo. Niewłaściwe dane treningowe, błędy w analizie danych czy niejasne zapytania mogą powodować, że AI będzie podawać nieprawdziwe informacje, wykrywać fałszywe zagrożenia lub rekomendować szkodliwe działania naprawcze, co wymaga bezwzględnej weryfikacji ludzkiej.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Ponad 600 pracowników Google podpisało list do CEO Sundara Pichai, domagając się zablokowania przez firmę wykorzystania jej modeli AI przez Pentagon do tajnych celów wojskowych. Podkreślają, że jedynym sposobem na uniknięcie powiązania z potencjalnymi szkodami jest odrzucenie wszelkich prac nad tajnymi projektami, aby zapobiec ich realizacji bez wiedzy i możliwości interwencji ze strony pracowników.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Wprowadzenie sztucznej inteligencji (AI) do systemu opieki zdrowotnej komplikuje relację między lekarzem a pacjentem, podczas gdy zaufanie do samych lekarzy pozostaje wysokie, zaufanie do systemu medycznego spada z powodu problemów z dostępem i finansowaniem. Chociaż AI ma potencjał usprawnienia administracji i diagnostyki, jej wdrażanie, zwłaszcza w przypadku nagrywania i streszczania wizyt bez pełnej zgody pacjentów, budzi obawy o prywatność i może zniechęcać do dzielenia się wrażliwymi informacjami, a także wymaga przejrzystości i odpowiedniej regulacji, aby zapewnić bezpieczeństwo i utrzymać zaufanie.

Źródło: Medscape
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Rodzina w Chinach, aby chronić schorowaną 80-letnią matkę przed szokiem po śmierci syna w wypadku, zleciła stworzenie jego cyfrowego klona AI. Model ten codziennie prowadzi z nią rozmowy wideo, udając, że wyjechał w celach zarobkowych, co wywołało debatę na temat etycznego wykorzystania sztucznej inteligencji.

Źródło: Polsat News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)