Ale jej praca zaczyna wyglądać niechlujnie w przypadku bardziej szczegółowych próśb. Kiedy system został poproszony o napisanie notatki na temat preferencji konsumentów w Paragwaju w porównaniu z Urugwajem, system błędnie opisał Paragwaj jako mniej zaludniony. Mają halucynacje lub wymyślają ukryte za nimi znaczenie Piosenka z hinduskiego filmu z lat 60 Wykonywane są na moim przyjęciu przedślubnym.
Jak na ironię, system opisał Duet AI jako startup założony przez dwóch byłych pracowników Google w celu opracowania sztucznej inteligencji dla przemysłu muzycznego z ponad 10 milionami dolarów dofinansowania od inwestorów takich jak Andreessen Horowitz i Y Combinator. Wydaje się, że nie ma takiej firmy. Google zachęca użytkowników do zgłaszania nieścisłości za pomocą przycisku kciuka w dół pod odpowiedziami generowanymi przez sztuczną inteligencję.
Behr mówi, że Google sprawdza tematy, słowa kluczowe i inne sygnały dotyczące treści, aby uniknąć odpowiedzi, które są obraźliwe lub niesprawiedliwie wpływają na ludzi, szczególnie w oparciu o dane demograficzne lub przekonania polityczne lub religijne. Przyznała, że system popełnia błędy, ale powiedziała, że informacje zwrotne z publicznych testów są niezbędne do przeciwdziałania tendencji systemów sztucznej inteligencji do odwracania błędów, które pojawiają się w ich danych treningowych lub przekazują zmyślone informacje. „AI będzie projektem na zawsze”, mówi.
Mimo to Beer mówi, że pierwsi użytkownicy, tacy jak pracownicy Instacart i marki bielizny Adore Me Victoria’s Secret, byli pozytywnie nastawieni do tej technologii. Rzeczniczka Instacart, Lauren Svensson, powiedziała – w odręcznym e-mailu – że firma jest podekscytowana testowaniem funkcji AI Google, ale nie jest gotowa do podzielenia się jakimikolwiek spostrzeżeniami.
Moje testy wzbudziły we mnie niepokój, że środki pisania AI mogą zabić oryginalność kosztem ludzi po stronie odbiorcy tekstu AI. Wyobrażam sobie czytelników kontemplujących przestarzałe e-maile i dokumenty, jakby zostali zmuszeni do przeczytania polityki prywatności Google na 6000 słów. Nie jest jasne, ile indywidualności mogą wchłonąć narzędzia Google i czy przyjdą nam z pomocą, czy nas zastąpią.
Behr mówi, że w wewnętrznych testach Google e-maile od kolegów nie stały się jeszcze „waniliowe” ani „ogólne”. Powiedziała, że narzędzia zwiększyły ludzką pomysłowość i kreatywność, a nie je stłumiły. Behr byłaby również zachwycona modelem AI, który naśladuje jej styl, ale „są to rzeczy, które wciąż oceniamy” – mówi.
Pomimo rozczarowań i ograniczeń, funkcje Duet w Dokumentach i Gmailu wydają się przemawiać do niektórych użytkowników, którzy zaczynają polegać na ChatGPT lub konkurencyjnym programie do pisania AI. Google idzie dalej niż większość innych opcji, a to, co widzimy dzisiaj, to tylko zapowiedź tego, co ma nadejść.
Kiedy – lub jeśli – duet dojrzeje z obiecującego redaktora na bezstronnego eksperta od wykańczania dokumentów, korzystanie z nich stanie się nie do powstrzymania. Do tego czasu, jeśli chodzi o pisanie tych szczerych ślubów i przemówień, jest to pusty ekran pozostawiony całkowicie mnie.
. „Nieuleczalny entuzjasta muzyki. Bacon geek. Badacz internetu. Hipsterski miłośnik telewizji”.