Google AI testuje narzędzie o nazwie SynthID, które będzie w stanie wykryć obrazy generowane przez sztuczną inteligencję. Jego działanie opiera się na tworzeniu i cyfrowych znaków wodnych, niewidocznych dla ludzkiego oka.
DeepMind, dział Google AI, wypuściło na rynek narzędzie w wersji beta, które ma pomóc w walce z dezinformacją. To ważny krok w dla wszelkiego rodzaju twórców i artystów, którzy domagają się od gigantów technologicznych respektowania praw autorskich w narzędziach AI. Zmiany mają więc znaczenie biznesowe.
SynthID działa jednak tylko na grafikach wygenerowanych przez sztuczną inteligencję Google’a – w programie Imagen. To narzędzie, które tworzy obrazy w oparciu o wpisany przez użytkownika tekst.
Cyfrowe znaki wodne
SynthID w obrazach generowanych przez Imagen umieszcza specjalne znaki wodne. Powstają one przez mikrozmiany w pikselach, niewidoczne dla ludzkiego oka. Jednak komputer może je wykryć bez problemu.
Znaki wodne będą nadal wykrywalne po modyfikacjach grafiki, takich jak dodanie filtru, zmiana kolorów czy kontrastu. DeepMind zaznacza jednak, że narzędzie „nie jest niezawodne wobec ekstremalnych manipulacji zdjęciem”.
Obrazy AI ze znakami wodnymi
Zmiany wprowadzone przez Google’a są wynikiem dobrowolnego podpisania porozumienia z rządem USA. Administracja Joe Bidena wypracowała zestaw dobrych praktyk i wytycznych dla bezpieczeństwa sztucznej inteligencji.
Na oznaczanie grafik znakami wodnymi oprócz Google’a zgodził się też Amazon i Microsoft. Meta pracuje nad narzędziem opartym o AI, które będzie generować materiały wideo. Na nich także mają znajdować się znaki wodne.
Chiny poszły o krok dalej. Od początku 2023 roku zakazane są tam narzędzia AI, które nie oznaczają generowanego kontentu cyfrowymi znakami wodnymi.
Źródło: BBC, deepmind.com