Deepfake

Meta, właściciel Facebooka i Instagrama, dopuszczała reklamy aplikacji wykorzystujących sztuczną inteligencję do tworzenia pornograficznych materiałów z twarzami kobiet, często podobnych do znanych osób. Mimo deklaracji o weryfikacji, automatyczny system pozwala na obejście zabezpieczeń, a podobne aplikacje są szeroko dostępne, nawet na platformach takich jak Apple App Store, co stawia pod znakiem zapytania wiarygodność treści wizualnych w dobie deepfakes.

Źródło: Niebezpiecznik
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

W sieci pojawił się materiał deepfake z wizerunkiem Karola Nawrockiego, który podszywa się pod niego w fałszywej reklamie inwestycyjnej obiecującej szybkie zyski. Ministerstwo Cyfryzacji zapowiedziało stanowcze działania, rozważając wniosek do Komisji Europejskiej w przypadku braku reakcji ze strony Meta.

Źródło: Polsat News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Ewolucja phishingu od prostych ataków opartych na treści (Phishing 1.0) do zaawansowanych technik społecznych (Phishing 2.0) doprowadziła do powstania Phishingu 3.0, gdzie generatywna sztuczna inteligencja i deepfake tworzą wielokanałowe, spersonalizowane ataki, wymagające odpowiedzi po stronie obrońców w postaci agentów AI do preemptywnego wykrywania i neutralizowania zagrożeń.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)

Apple pracuje nad nową funkcją w systemie iOS, która pozwoli weryfikować autentyczność zdjęć wykonanych aparatem iPhone’a. System “Apple Reference Image” będzie osadzał metadane pochodzenia już w momencie przechwytywania obrazu, umożliwiając użytkownikom udowodnienie, że zdjęcie nie zostało zmodyfikowane przez AI. Funkcja, która będzie domyślnie wyłączona, wymaga aktywacji w ustawieniach i pozwoli na uwierzytelnienie zdjęć poprzez przesłanie ich wraz z danymi sprzętowymi do chmury Apple w celu weryfikacji.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Unia Europejska wprowadziła nowe przepisy w ramach Aktu o Sztucznej Inteligencji, które od 2 sierpnia wymagają od firm ujawniania, kiedy użytkownicy wchodzą w interakcję z modelami AI lub kiedy treści są generowane lub modyfikowane przez AI. Zasady te, mające na celu ułatwienie identyfikacji chatbotów i deepfake’ów AI, nakładają obowiązki na dostawców i użytkowników systemów AI, grożąc karami finansowymi za ich nieprzestrzeganie, a dla nowo wprowadzanych systemów obowiązują natychmiast, z czteromiesięcznym okresem przejściowym dla starszych modeli.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Meta wycofała wprowadzoną zaledwie tydzień temu funkcję Instagrama, która umożliwiała użytkownikom generowanie obrazów AI z wykorzystaniem treści z publicznych kont poprzez ich oznaczenie. Decyzja ta zapadła po fali ostrej krytyki, podkreślającej brak zgody właścicieli kont i potencjalne ryzyko nadużyć, takich jak sextortion.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐ (6/10)

Według raportu INTERPOL, region Azji i Pacyfiku doświadcza gwałtownego wzrostu cyberprzestępczości, napędzanego cyfryzacją, rozwojem technologii i zorganizowanymi siatkami przestępczymi, gdzie phishing staje się najpowszechniejszą i najkosztowniejszą formą ataku, a ransomware i oszustwa oparte na AI, wykorzystujące deepfake do podszywania się pod menedżerów, generują miliardowe straty i uderzają w kluczowe sektory gospodarki.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Rosyjskie rodziny wykorzystują sztuczną inteligencję do tworzenia deepfake’ów i wideo przedstawiających zmarłych bliskich, głównie żołnierzy poległych na Ukrainie, jako sposób na radzenie sobie ze stratą i “niezakończonym pożegnaniem”. Technologia ta, choć dla niektórych stanowi pocieszenie, budzi kontrowersje etyczne i psychologiczne, a jej długoterminowy wpływ na proces żałoby jest nieznany.

Źródło: BBC
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Google zaprezentowało Omni Flash, nową rodzinę modeli generatywnych AI, która potrafi przekształcać różne typy danych wejściowych, takie jak zdjęcia czy tekst, w filmy, znacząco poprawiając jakość i spójność w porównaniu do poprzednich wersji. Chociaż narzędzie wykazuje imponujące możliwości w tworzeniu realistycznych deepfake’ów i manipulacji wideo, nadal pojawiają się artefakty i niespójności, a koszt generowania treści może być znaczący.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

YouTube udostępnia swoje narzędzie do wykrywania deepfake’ów opartych na podobieństwie twarzy wszystkim dorosłym użytkownikom, co pozwala im monitorować platformę pod kątem potencjalnych manipulacji ich wizerunkiem i zgłaszać treści do usunięcia. Funkcja, która początkowo była dostępna dla wybranych grup, teraz daje przeciętnym osobom możliwość ochrony przed nieautoryzowanym wykorzystaniem ich wizerunku, z uwzględnieniem wyjątków dla parodii czy satyry.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)