We wpisie na blogu opublikowanym w ubiegły czwartek Ogłoś spór Wprowadzi wiele nowych funkcji sztucznej inteligencji w swojej aplikacji: Clyde, AutoMod AI, podsumowanie konwersacji, remiks awatara i wiele innych.
Oparte na technologii OpenAI, te nowe funkcje AI oferują pakiet usług serwerom Discord. Clyde może polecać playlisty, odpowiadać na pytania, prowadzić dłuższe rozmowy i nie tylko. AutoMod AI będzie miał rozszerzoną funkcjonalność, „wykorzystując moc dużych modeli językowych” do ostrzegania o łamaniu zasad edycji postów podczas śledzenia kontekstu konwersacji. Wreszcie, podsumowania rozmów będą zbierać wiadomości z czatów, aby utworzyć podsumowanie dla tych, którzy byli z dala od nich przez jakiś czas.
Ponadto Avatar Remix, aplikacja, która „pozwala znajomym na wzajemne remiksowanie swoich awatarów przy użyciu mocy generatywnych modeli obrazów”, jest teraz open source.
Te i wiele innych narzędzi, które Discord będzie oferować wkrótce, wydaje się przydatne. Ale cichsze zmiany w polityce prywatności oraz głębsze spojrzenie na to, co te nowe narzędzia mają do zaoferowania, przedstawiają zupełnie inną historię. Taki, który może doprowadzić do poważnych szkód dla użytkowników Discorda.
Mnóstwo problemów z prywatnością
Czy te prace mogą być również agregowane przez inne narzędzia sztucznej inteligencji, a następnie przekierowywane do innych celów bez uznania lub pozwolenia?
Największym problemem związanym z tą integracją AI jest fakt, że wiąże się ona z bardzo celowymi zmianami w polityce prywatności Discorda. Poprzednia Polityka Prywatności, która nadal obowiązuje 26 marca 2023 r (Otwiera się w nowej karcie)dwa ważne stwierdzenia w sekcji „Zbierane przez nas informacje”.
Pierwsza mówi, że „Zasadniczo nie przechowujemy treści rozmów lub kanałów wideo lub audio”, a druga to „Nie przechowujemy również treści transmisji, gdy udostępniasz swój ekran…” Podświetlone frazy można zobaczyć na zrzucie ekranu poniżej.
Ale po sprawdzeniu nowej polityki prywatności, która ma wejść w życie 27 marca 2023 r (Otwiera się w nowej karcie)Oba te stwierdzenia zostały teraz usunięte, podobnie jak stwierdzenie, że „Jeśli zamierzamy to zmienić w przyszłości (na przykład, aby ułatwić moderowanie treści), poinformujemy Cię o tym z wyprzedzeniem”. Na poniższym zrzucie ekranu widać akapit, którego dotyczy problem, który jest zakreślony.
Jest to ważne, ponieważ oznacza to teraz, że wszelkie informacje gromadzone przez Discord nie są już chronione przed działaniami sztucznej inteligencji. Tak, rozumiem, że post na blogu został oficjalnie zredagowany w celu stwierdzenia, że „Clyde nie rejestruje, nie przechowuje ani nie wykorzystuje żadnych danych rozmów audio ani wideo użytkowników”. I nie, to nie ma na nic wpływu.
To dlatego, że to stwierdzenie jest całkowicie mylące. Poprzednie zdanie stwierdza, że „Clyde może przechowywać i wykorzystywać informacje wyłącznie w sposób opisany na naszej stronie Polityka prywatności (Otwiera się w nowej karcie)”, która, jak się domyślacie, przekierowuje do zaktualizowanej Polityki prywatności. Ta nowa polityka nie zawiera niczego, co chroniłoby Twoje dane w jakikolwiek sposób, przed Clyde lub jakimkolwiek innym oprogramowaniem sztucznej inteligencji, które Discord zdecyduje się dodać do usługi.
… Prawnie wiążąca polityka prywatności mogła zostać zmieniona, aby to odzwierciedlić, zamiast pozostawiać ją tylko na wpis na blogu.
Przypominamy, że posty na blogach lub inne nieoficjalne publikacje nie mają żadnej mocy prawnej, jeśli są bezpośrednio sprzeczne z naszymi Warunkami korzystania z usługi, Polityką prywatności lub jakimkolwiek innym dokumentem prawnym stworzonym przez firmę. Ta taktyka polegająca na tym, że wpis na blogu firmy jest bezpośrednio sprzeczny z jej własnymi dokumentami prawnymi, z zamiarem ukrycia prawdziwej treści tych dokumentów, została ostatnio wdrożona przez Wizards of the Coast w nieudanej próbie jej zreformowania. Dungeons and Dragons Open Gaming License (OGL) (Otwiera się w nowej karcie).
Nawiasem mówiąc, dotyczy to również AutoMod AI i podsumowania konwersacji, ponieważ jedynym celem tych zestawów narzędzi jest zebranie jak największej liczby wiadomości w celu wykonania ich funkcji. A kto ma powiedzieć, co się robi z tymi informacjami?
Konsekwencje utraty prywatności
Może to być absolutnym bałaganem dla prywatności z wielu powodów. Pozwólcie, że poprzedzę to stwierdzeniem, że pod żadnym pozorem nie należy pisać wiadomości ani pokazywać strumieni, w których popełniacie jakąkolwiek działalność przestępczą lub udostępniacie prywatne informacje na Discordzie. Nadal jest to otwarta usługa internetowa, a udostępnianie poufnych informacji za pośrednictwem odpowiednio zaszyfrowanych i chronionych witryn, takich jak Signal, nie jest złą polityką.
Ale dzięki tej ogromnej zmianie w swojej polityce prywatności Discord oficjalnie i bardzo cicho deklaruje, że wszystko, co wysyłasz, udostępniasz lub przesyłasz, jest bezpieczne przed montażem AI. Ponieważ jeśli tak jest, sama prawnie wiążąca polityka prywatności została zmieniona, aby to odzwierciedlić, a nie tylko wpis na blogu.
A biorąc pod uwagę, że wiele części świata (w tym Stany Zjednoczone) pozbawia swobód obywatelskich, może to mieć tragiczne konsekwencje. Na przykład, jeśli rozmawiałeś o posiadaniu lub planowaniu pewnych procedur medycznych, które stały się nielegalne tam, gdzie mieszkasz za pośrednictwem Discord, i zgłaszasz to władzom i żądasz, aby Discord przekazał wszelkie dane zebrane za pośrednictwem tych programów sztucznej inteligencji, to zgodnie z z własną polityką Discord, zrobisz to natychmiast. Obejmuje to teraz wszelkie dane, które nie są już chronione przez ich politykę prywatności.
Takie gromadzenie danych może naruszać Twoją prywatność w inny sposób. Wszystkie te nowe dane, które można teraz od Ciebie zebrać, można następnie przekształcić w profile danych i sprzedać stronom trzecim. Jest to oczywiście coś, co Discord może już zrobić, stwierdzając, że informacje, które zbiera od ciebie, mogą być udostępniane dostawcom i powiązanym firmom dla ich własnych interesów biznesowych. Ale teraz ma znacznie większy zestaw informacji do zebrania – to czat wideo, czat głosowy, transmisja na żywo i wszelkie inne wiadomości gromadzone przez narzędzia AI.
A co, jeśli ty i twoi znajomi oglądacie program lub film w usłudze przesyłania strumieniowego wideo Discord, a dzieje się to za pośrednictwem nielegalnej strony? Teraz, gdy Discord zbiera dane również z tej trasy, może udostępniać te informacje właścicielom IP dowolnych przeglądanych przez Ciebie mediów, co podlega sekcji „Przestrzeganie naszych zobowiązań prawnych” w polityce prywatności. Po udostępnieniu tych informacji ci posiadacze praw własności intelektualnej mogą teraz wyśledzić i pozwać te same witryny, a może nawet je zatrzymać Widzowie i widzowie ponoszą odpowiedzialność prawną (Otwiera się w nowej karcie)W zależności od przepisów dotyczących piractwa w ich krajach.
Kreatywny biznes jest zagrożony
Podczas gdy naruszenia prywatności są najbardziej rażącą częścią całej tej próby, jest jeszcze jeden problem z jednym z innych nowych narzędzi Discord: aplikacją Avatar Remix. Narzędzia sztucznej inteligencji były wielokrotnie atakowane za zbieranie dzieł sztuki bez pozwolenia i wykorzystywanie ich do tworzenia obrazów pod nadzorem użytkownika.
I całkiem dosłownie, cały sens tej aplikacji – która będzie teraz open source i dlatego będzie używana częściej niż wcześniej – polega na modyfikowaniu przesłanych do niej awatarów Discord za pomocą „generatywnych modeli obrazów”. Co jeśli Twój awatar jest dziełem sztuki narysowanym przez Ciebie lub kogoś innego? Czy sztuczna inteligencja pobiera obrazy przesłane na serwery Discord?
Nie ma sposobu, aby wiedzieć ostatecznie, ponieważ jest to odzwierciedlone w zasadach Discord. Wszystko, co możemy zrobić, to przeszłe i obecne eksperymenty z innymi narzędziami graficznymi AI Kradzież dzieł sztuki na masową skalę A brak ochrony artystów w tych przypadkach nie stanowi dobrego precedensu.
Nie obejmuje to nawet liczby prac pisemnych krążących obecnie na tych serwerach. Czy te prace mogą być również agregowane przez inne narzędzia sztucznej inteligencji, a następnie przekierowywane do innych celów bez uznania lub pozwolenia?
Końcowe przemyślenia
Może to być absolutnym bałaganem dla prywatności z wielu powodów.
Naprawdę kocham Discord i uważam, że jest to obecnie jedna z najważniejszych witryn. Zaczynając od prostej usługi czatu głosowego dla graczy i ewoluując do znacznie więcej, stała się integralną częścią życia wielu ludzi i sposobem na łączenie się z innymi w skali globalnej.
Sam należę do kilku społeczności Discord, w tym kilku społeczności piszących, a nawet prowadzę kreatywny serwer, który zachęca innych do dzielenia się swoją grafiką, pisaniem, muzyką i edycjami. Ale teraz te starania są zagrożone kradzieżą, a nasza prywatność w rozmowach wideo i audio została pozbawiona. Te same funkcje, które dały nam swobodę łączenia, będą teraz monitorowane i gromadzone.
Niczego bardziej bym nie pragnął, niż mylić się co do tego. Jeśli okaże się to fałszywym alarmem, wezmę L w spokoju. Ale kiedy widzę, jak firmy technologiczne wielokrotnie zdradzają swoje bazy użytkowników, aby szybko zarobić, nie widzę, żebym miał rację. Zwłaszcza, że nie jest to pierwszy raz, kiedy Discord próbował bankować – jak wtedy, gdy założyciel i dyrektor generalny Jason Citron próbował wcześniej wypchnąć integrację NFT na platformie. Cofnij się po reakcji użytkownika (Otwiera się w nowej karcie).
Wszystko, co mogę ci w tej chwili doradzić, to przejść teraz do ustawień prywatności i je zmienić. Przejdź do Ustawień użytkownika w Discord po prawej stronie swojego awatara. Następnie kliknij Prywatność i Bezpieczeństwo po lewej stronie i zrezygnuj ze wszystkich ustawień Jak wykorzystujemy Twoje dane. Możesz zobaczyć listę na zrzucie ekranu poniżej.
. „Nieuleczalny entuzjasta muzyki. Bacon geek. Badacz internetu. Hipsterski miłośnik telewizji”.