Google udostępnia graficzne znaki wodne wygenerowane przez sztuczną inteligencję

Nowy Jork
CNN
—

Aby zapobiec rozprzestrzenianiu się dezinformacji, Google udostępniło we wtorek trwały, niewidoczny znak wodny na zdjęciach, który oznacza, że ​​są one wygenerowane komputerowo.

Technologia o nazwie SynthID umożliwia osadzenie znaku wodnego bezpośrednio w obrazach wygenerowanych przez Imagen, jeden z najnowszych generatorów Google zajmujących się zamianą tekstu na obraz. Etykieta wygenerowana przez AI pozostaje niezależna od modyfikacji takich jak dodane filtry czy zmiana kolorów.

SynthID może także skanować przychodzące obrazy i określać prawdopodobieństwo, że zostały one przechwycone przez Imagen, skanując znak wodny z trzema poziomami pewności: wykryty, niewykryty i prawdopodobnie wykryty.

„Chociaż ta technologia nie jest doskonała, nasze wewnętrzne testy pokazują, że jest dokładna w przypadku wielu typowych manipulacji obrazami” – napisał Google w artykule. Post na blogu Wtorek.

Wersja beta SynthID jest już dostępna dla niektórych klientów Vertex AI, platformy Google do generowania sztucznej inteligencji dla programistów. SynthID, stworzony przez jednostkę Google DeepMind we współpracy z Google Cloud, będzie nadal ewoluować i może zostać rozszerzony, aby objąć inne produkty Google lub strony trzecie – twierdzi firma.

Deepfakes i zmienione obrazy

W miarę jak fałszywe i sfabrykowane zdjęcia oraz filmy stają się coraz bardziej realistyczne, firmy technologiczne starają się znaleźć niezawodny sposób identyfikowania i zgłaszania zmanipulowanych treści. W ostatnich miesiącach wirusowe stało się wygenerowane przez sztuczną inteligencję zdjęcie papieża Franciszka w puchowej kurtce, a wygenerowane przez sztuczną inteligencję zdjęcia byłego prezydenta Donalda Trumpa podczas jego aresztowania, zanim postawiono mu zarzuty, stały się wirusowe.

Vera Jourova, wiceprzewodnicząca Komisji Europejskiej, wezwała sygnatariuszy unijnego kodeksu postępowania w zakresie dezinformacji – listy obejmującej Google, Meta, Microsoft i TikTok – do „wdrożenia technologii umożliwiającej jasne identyfikowanie i oznaczanie tych treści dla użytkowników .” ” w czerwcu.

Wraz z ogłoszeniem SynthID Google dołącza do rosnącej liczby startupów i dużych firm technologicznych próbujących znaleźć rozwiązania. Niektóre z tych firm mają nazwy takie jak Truepic i Reality Defender, które mówią o potencjalnych niebezpieczeństwach związanych z tym wysiłkiem: ochrona naszego poczucia tego, co jest prawdziwe, a co nie.

Konsorcjum wspierane przez firmę Adobe Alliance for Content Provenance and Authenticity (C2PA) jest pionierem w zakresie cyfrowych znaków wodnych, podczas gdy Google w dużej mierze stosuje własne podejście.

W maju Google ogłosiło narzędzie o nazwie o tym zdjęciuumożliwiając użytkownikom sprawdzenie, kiedy obrazy w witrynie zostały pierwotnie zaindeksowane przez Google, gdzie obrazy mogą pojawić się po raz pierwszy i gdzie można je znaleźć w Internecie.

Firma technologiczna ogłosiła również, że każdy obraz wygenerowany przez Google przez sztuczną inteligencję będzie miał w oryginalnym pliku tag, który „odda kontekst”, jeśli obraz zostanie znaleziony w innej witrynie lub na innej platformie.

Ponieważ jednak technologia sztucznej inteligencji rozwija się szybciej, niż człowiek jest w stanie nadążyć, nie jest jasne, czy te rozwiązania techniczne będą w stanie w pełni rozwiązać problem. OpenAI, firma stojąca za Dall-E i ChatGPT, przyznała na początku tego roku, że jej własne wysiłki mające na celu pomoc w wykrywaniu pisma generowanego przez sztuczną inteligencję, a nie obrazów, były „niekompletne” i przestrzegła, że ​​należy je „traktować z przymrużeniem oka”. ” „.