Artyści wizualni walczą z firmami zajmującymi się sztuczną inteligencją
Pozew złożony przez trzech artystów wizualnych przeciwko twórcom obrazów AI może być wczesnym wskaźnikiem tego, jak trudno będzie wszelkiego rodzaju twórcom uniemożliwić twórcom AI czerpanie korzyści z ich pracy. (31 sierpnia)
AP
Przez lata istotne decyzje dotyczące tego, kto zostanie objęty ubezpieczeniem Medicare, były podejmowane na zapleczu firm ubezpieczeniowych. Obecnie niektóre z tych zmieniających życie decyzji są podejmowane przez oprogramowanie AI.
Tak przynajmniej twierdzą dwie rodziny, które w tym tygodniu pozwały UnitedHealth Group, twierdząc, że gigant ubezpieczeniowy wykorzystał nową technologię, aby odmówić lub skrócić okresy rehabilitacji dla dwóch starszych mężczyzn na kilka miesięcy przed ich śmiercią.
Twierdzą, że sztuczna inteligencja (AI) UnitedHealth podejmuje „sztywne i nierealistyczne” decyzje dotyczące tego, czego potrzeba pacjentom, aby wyzdrowieli po poważnych chorobach i odmawia im opieki w wykwalifikowanych ośrodkach pielęgniarskich i rehabilitacyjnych, które powinny być objęte planami Medicare Advantage, zgodnie z pozew federalny złożony w Minnesocie przez majątki dwóch starszych pacjentów w Wisconsin. W pozwie, w którym domaga się statusu pozwu zbiorowego, stwierdzono, że nielegalne jest pozwalanie sztucznej inteligencji na ignorowanie zaleceń lekarzy dla tych mężczyzn i takich jak oni pacjentów. Rodziny twierdzą, że takich ocen powinni dokonywać lekarze.
W pozwie rodziny wskazują, że ich zdaniem firma ubezpieczeniowa pozbawia opieki starszych pacjentów, którzy nie stawiają oporu, mimo że dowody wskazują, że sztuczna inteligencja słabo ocenia potrzeby ludzi. Twierdzą, że firma wykorzystała algorytmy do ustalenia planów ubezpieczenia i unieważnienia zaleceń lekarzy pomimo zdumiewająco wysokiego poziomu błędów programu AI.
Z dokumentów sądowych wynika, że ponad 90% odmów roszczeń pacjentów zostało unieważnionych w drodze wewnętrznych odwołań lub przez federalnego sędziego prawa administracyjnego. Jednak w rzeczywistości tylko niewielka liczba pacjentów kwestionowała decyzje algorytmów. Niewielki odsetek pacjentów – 0,2% – zdecydował się walczyć z odmową roszczeń w drodze odwołania. Zdecydowana większość osób ubezpieczonych w ramach planów Medicare Advantage UnitedHealth „albo pokrywa koszty z własnej kieszeni, albo rezygnuje z pozostałej przepisanej im opieki pooperacyjnej” – czytamy w pozwie.
Prawnicy reprezentujący rodziny pozywające giganta ubezpieczeniowego z Minnesoty stwierdzili, że wysoki wskaźnik odmów jest częścią strategii ubezpieczyciela.
„Przedkładają własne zyski ponad ludzi, z którymi zawarli umowy, a następnie są prawnie zobowiązani do ich pokrycia” – powiedział Ryan Clarkson, kalifornijski prawnik, którego kancelaria wniosła kilka spraw przeciwko firmom korzystającym ze sztucznej inteligencji. „To takie proste. To po prostu chciwość”.
Oprogramowanie sztucznej inteligencji naviHealth, na które powołano się w pozwie, nie jest wykorzystywane do podejmowania decyzji dotyczących ubezpieczenia, stwierdziła UnitedHealth w oświadczeniu dla USA TODAY.
„To narzędzie służy nam jako przewodnik, który pomaga nam informować świadczeniodawców, rodziny i innych opiekunów o rodzaju pomocy i opieki, jakiej pacjent może potrzebować zarówno w placówce, jak i po powrocie do domu” – stwierdziła firma.
Firma twierdzi, że decyzje dotyczące ubezpieczenia opierają się na standardach Centrów Usług Medicare i Medicaid oraz standardów planów ubezpieczeń konsumenckich.
Firma oświadczyła: „Ten pozew jest bezpodstawny i będziemy się energicznie bronić”.
Tego rodzaju pozwy nie są niczym nowym. Stanowią one część coraz większej liczby pozwów.
W lipcu kancelaria Clarkson złożyła pozew wydanie v. CIGNA Healthcare zarzucająca ubezpieczycielowi wykorzystanie sztucznej inteligencji w celu zautomatyzowania odmowy roszczeń. Firma złożyła również pozwy przeciwko twórcy ChatGPT OpenAI I Google.
Rodziny płacą za kosztowną opiekę, której odmawia firma ubezpieczeniowa
Powodami w pozwie z tego tygodnia są krewni dwóch zmarłych mieszkańców stanu Wisconsin, Jane B. Loken i Del. Henry Tetzloff, obaj są ubezpieczeni w ramach prywatnego planu Medicare UnitedHealth.
W maju 2022 r. 91-letni Loken upadł w domu i złamał nogę oraz kostkę, co wymagało krótkiego pobytu w szpitalu, a następnie miesięcznego pobytu w ośrodku rehabilitacyjnym do czasu powrotu do zdrowia. Następnie lekarz Lukina zalecił fizjoterapię, aby mógł odzyskać siły i równowagę. Mężczyzna ze stanu Wisconsin spędził niecałe trzy tygodnie na fizjoterapii, zanim firma ubezpieczeniowa wypowiedziała mu umowę ubezpieczenia i zaleciła wypisanie go ze szpitala i wysłanie do domu w celu odzyskania zdrowia.
Fizjoterapeuta określił stan Lukena jako „sparaliżowany” i „słaby”, ale z pozwu wynika, że prośby jego rodziny o dalsze finansowanie leczenia zostały odrzucone.
Pomimo odmowy rodzina zdecydowała się kontynuować leczenie. Bez ubezpieczenia rodzina musiała płacić od 12 000 do 14 000 dolarów miesięcznie za prawie rok leczenia w placówce. Łukin zmarł w ośrodku w lipcu 2023 r.
Rodzina drugiego mężczyzny również wyraziła obawy, że algorytm AI odmówi niezbędnych świadczeń rehabilitacyjnych.
Tetzloff wracał do zdrowia po udarze, który miał miejsce w październiku 2022 r., a jego lekarze zalecili przeniesienie 74-latka ze szpitala do ośrodka rehabilitacyjnego na co najmniej 100 dni. Firma ubezpieczeniowa początkowo chciała zakończyć jego ubezpieczenie po 20 dniach, ale rodzina złożyła odwołanie. Firma ubezpieczeniowa przedłużyła następnie pobyt Tetzloffa o kolejne 20 dni.
Lekarz mężczyzny zalecił dodatkową terapię fizyczną i zajęciową, ale jego ubezpieczenie zakończyło się po 40 dniach. Rodzina wydała na jego opiekę ponad 70 000 dolarów w ciągu następnych 10 miesięcy. Tetzloff spędził ostatnie miesiące w ośrodku opiekuńczym, gdzie zmarł 11 października.
10 apeli o rehabilitację złamanego biodra
Postępowanie prawne następuje po tym, jak zwolennicy Medicare zaczęli zgłaszać obawy dotyczące rutynowego stosowania technologii sztucznej inteligencji w celu odmowy lub ograniczenia opieki dla seniorów objętych prywatnymi planami Medicare.
W 2022 r. Center for Medicare Advocacy zbadało wykorzystanie oprogramowania AI przez kilka firm ubezpieczeniowych w rehabilitacji i warunkach opieki zdrowotnej w domu. Grupa rzecznicza raport Stwierdzono, że programy sztucznej inteligencji często podejmowały bardziej restrykcyjne decyzje dotyczące zasięgu, niż pozwalałoby na to Medicare, a decyzjom brakowało poziomu szczegółowości niezbędnego do oceny wyjątkowych okoliczności każdego przypadku.
„Zaobserwowaliśmy większą liczbę przypadków opieki, która byłaby objęta tradycyjnym Medicare, której odmówiono natychmiastowej opieki lub przedwcześnie ją rozwiązano” – powiedział David Lipshutz, zastępca dyrektora i główny prawnik ds. polityki w Center for Medicare Advocacy.
Lipschutz powiedział, że niektórzy seniorzy, którzy odwołają się od odmowy, mogą uzyskać ulgę w postaci ponownego zamknięcia placówki. Przytoczył przykład A Kobieta z Connecticut która ubiegała się o trzymiesięczny pobyt w ośrodku rehabilitacyjnym w związku z rekonwalescencją po operacji wymiany stawu biodrowego. Złożyła i wygrała 10 odwołań po tym, jak firma ubezpieczeniowa wielokrotnie próbowała zakończyć jej ubezpieczenie i ograniczyć jej pobyt.
Znaczenie posiadania „człowieka na bieżąco”
Eksperci prawni niezaangażowani w te sprawy stwierdzili, że sztuczna inteligencja stała się płodnym celem dla osób i organizacji chcących ograniczyć lub kształtować wykorzystanie nowych technologii.
Ważną kwestią dla ubezpieczycieli zdrowotnych i innych osób wdrażających programy sztucznej inteligencji jest zapewnienie, że ludzie będą częścią decyzji, powiedział Gary Marchant, dyrektor wydziału Centrum Prawa, Nauki i Innowacji w Sandra Day O’Connor College of Law na Uniwersytecie Stanowym w Arizonie. Robić postęp.
Chociaż systemy sztucznej inteligencji mogą być wydajne i szybko wykonywać podstawowe zadania, programy same w sobie również mogą popełniać błędy, powiedział Marchant.
„Czasami systemy sztucznej inteligencji nie są rozsądne, nie mają zdrowego rozsądku” – powiedział Marchant. „Trzeba mieć człowieka na oku”.
Marchant stwierdził, że w sprawach dotyczących firm ubezpieczeniowych wykorzystujących sztuczną inteligencję do podejmowania decyzji dotyczących roszczeń kluczowym czynnikiem prawnym może być stopień, w jakim firma podlega algorytmowi.
W pozwie UnitedHealth stwierdza się, że firma ograniczyła pracownikom „swobodę odstępowania” od algorytmu. W pozwie stwierdzono, że pracownikom, którzy odstąpili od oczekiwań programu sztucznej inteligencji, groziła kara lub zwolnienie.
Marchant powiedział, że jednym z czynników, które należy monitorować w sprawach UnitedHealth i podobnych procesach sądowych, jest zaangażowanie pracowników w przestrzeganie modelu sztucznej inteligencji.
„Bez wątpienia musi istnieć możliwość, aby ludzki decydent mógł obejść algorytm” – powiedział Marchant. „To po prostu duży problem w sztucznej inteligencji i opiece zdrowotnej”.
Powiedział, że ważne jest rozważenie konsekwencji sposobu, w jaki firmy konfigurują swoje systemy sztucznej inteligencji. Powiedział, że firmy powinny rozważyć, jak bardzo szanują algorytm, wiedząc, że sztuczna inteligencja może przetwarzać ogromne ilości danych oraz być „niezwykle potężna” i „niezwykle dokładna”.
Ken Alltucker jest na X, dawniej Twitterze, pod adresem @kalltucker lub można go wysłać e-mailem na adres [email protected].
„Nagradzany beeraholik. Fan Twittera. Podróżnik. Miłośnik jedzenia.