Dyrektor generalny Anthropic, Dario Amodei, odrzucił pogląd, jakoby namalował zbyt pesymistyczny obraz sztucznej inteligencji, argumentując w serii postów, że rosnący sprzeciw opinii publicznej wobec tej technologii jest „zasadniczo kryzysem zaufania” do instytucji, a nie wynikiem ostrzeżeń ze strony dyrektorów AI.

Wymiana informacji, o której w niedzielę poinformował TechCrunch, rozpoczęła się, gdy inwestor Gavin Baker argumentował w podcaście All-In i X, że ostrzeżenia Amodei dotyczące zagrożeń związanych ze sztuczną inteligencją pomogły wywołać ostry sprzeciw w Stanach Zjednoczonych, szczególnie przeciwko centrom danych. Baker stwierdził, że Amodei „przegrał dyskusję” na temat regulacji dotyczących sztucznej inteligencji, a biorąc pod uwagę, że „zaraz zostanie dyrektorem generalnym jednej z najważniejszych firm na świecie”, napisał: „Z całym szacunkiem uważam, że powinien dołożyć wszelkich starań, aby być bardziej pozytywnym orędownikiem swojej własnej branży”. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Odpowiedź Amodei, opublikowana w serwisie X, przyciągnęła uwagę całej branży sztucznej inteligencji ze względu na to, co ujawnia na temat sposobu, w jaki jeden z najwybitniejszych liderów w tej dziedzinie interpretuje zgorzkniałe nastroje opinii publicznej, a także z powodu niezwykle dosadnej samokrytyki w związku z niedotrzymanymi obietnicami branży.

„Zwykli ludzie nie ufają firmom”

Amodei przyznał w swoich postach, że „opinia publiczna ma negatywny pogląd na sztuczną inteligencję” i zgodził się, że „to duży problem”. Odrzucił jednak pogląd, że negatywne nastawienie jest „głównie spowodowane” przez niego „lub jakiegokolwiek innego przywódcę sztucznej inteligencji ostrzegającego o zagrożeniach związanych ze sztuczną inteligencją”.

„Myślę, że jest to zasadniczo kryzys zaufania” – napisał Amodei. „Myślę, że zwykli ludzie nie ufają firmom, rządom ani branży technologicznej i zawsze podejrzewają, że wymyślamy jakiś nowy sposób, aby ich oszukać”.

Według Amodei jest to kryzys, na który trzeba czekać od kilkudziesięciu lat, a reakcja sztucznej inteligencji to „dopiero jego najnowsza wersja”. Komentarz pojawia się w momencie widocznego napięcia między firmami zajmującymi się sztuczną inteligencją a społeczeństwem: protesty przeciwko budowie centrów danych rozprzestrzeniły się w całych Stanach Zjednoczonych, a sprzeciw społeczności wielokrotnie opóźniał w tym roku główne budowy.

Kwestionowanie zarzutu „negatywnego przesyłania wiadomości”.

Pod konkretnym zarzutem, że jego własna komunikacja była zbyt mroczna, Amodei był bezpośredni. „Nie zgadzam się, że mój przekaz był nieproporcjonalnie negatywny” – napisał, stwierdzając, że jego teksty „opowiadają o równowadze ryzyka i korzyści”. Zauważył, że napisał swój esej „Machines of Loving Grace” właśnie dlatego, że „nie uważał, że przemysł sztucznej inteligencji maluje wystarczająco inspirujący obraz tego, jak technologia może radykalnie zmienić świat na lepsze”.

Jednak najczęściej cytowany fragment odpowiedzi Amodei był skierowany do jego własnej branży – w tym jego własnej firmy. „Myślę, że zdecydowanie najtrafniejsza krytyka firm zajmujących się sztuczną inteligencją, w tym Anthropic, dotyczy tego, że nie spełniliśmy jeszcze naszych wielkich obietnic, które miały przynieść korzyści światu” – napisał. „To całkowicie zależy od nas i uważam, że to ty powinieneś kierować się krytyką, a nie tymi wszystkimi bzdurami dotyczącymi przesyłania wiadomości i marketingu”.

Dodał, że obiecywanie, że sztuczna inteligencja wyleczy raka, jest „bardziej banałem niż inspirującym”. Argumentował, że tym, co faktycznie zmieni opinię publiczną, będzie „faktyczne wyleczenie raka”.

Walka regulaminowa

Amodei odrzucił także sformułowanie Bakera dotyczące regulacji, oskarżając go o dokonanie „fałszywego wyboru” między szeroką dystrybucją sztucznej inteligencji bez zasad a koncentracją technologii w rękach kilku firm za pomocą zasad.

„Wiem, że istnieje coś w rodzaju skrótu Doliny Krzemowej, w którym regulacja = przejęcie organów regulacyjnych = koncentracja władzy, ale zawsze uważałem, że jest to zbyt uproszczony obraz świata” – napisał Amodei. „Wiele osób spoza tej bańki uważa regulacje za coś, co ogranicza władzę korporacji i przynosi korzyści zwykłym ludziom”.

Powiedział, że Anthropic celowo opracowało propozycje polityczne, aby uniknąć umacniania się na rynku operatorów. „Bardzo staramy się przedstawiać propozycje, które stawiają w niekorzystnej sytuacji (spowalniają) pionierskie firmy zajmujące się sztuczną inteligencją, jednocześnie korzystując mniejszych konkurentów” – napisał. Anthropic opowiadała się za wymogami przejrzystości dotyczącymi dużych firm zajmujących się sztuczną inteligencją, w tym za wprowadzeniem kalifornijskiej ustawy nakładającej obowiązki ujawniania informacji.

W sprawie modeli z wagą otwartą – punktu zapalnego w obecnej debacie politycznej, kiedy Biały Dom zdecydował się niedawno na wyłączenie modeli z wagą otwartą z niektórych przeglądów federalnych – Amodei przedstawił zróżnicowane stanowisko. „Sztuczna inteligencja jest strukturalnie technologią, która ma tendencję do koncentrowania władzy” – argumentował. Otwarte ciężary „niektórym w tym pomagają, ale nie są wcale rozwiązaniem wystarczającym, ponieważ po prostu przesuwają nieco koncentrację na te, które mają najwięcej mocy obliczeniowej i chipów”. Właściwe „zasady postępowania” – stwierdził – mogą jednocześnie stawić czoła zagrożeniom cybernetycznym, biologicznym i dostosowawczym, ograniczyć możliwości laboratoriów granicznych i pozostawić miejsce dla modeli o otwartej wadze.

Dlaczego wymiana ma znaczenie

Debata toczy się w delikatnym momencie dla Anthropic. Firma przeżywa falę sukcesów komercyjnych, a wzrost przychodów uczynił ją jedną z najchętniej obserwowanych firm w branży technologicznej i powszechnie oczekuje się, że wejdzie na giełdę. Jej dyrektor generalny pozostaje jednocześnie jednym z najgłośniejszych w branży zwolenników poważnego podejścia do ryzyka związanego ze sztuczną inteligencją – a to połączenie sprawia, że ​​jego komunikaty działają jak piorunochron.

Argument Bakera odzwierciedla szerszy nurt w kapitale wysokiego ryzyka i wśród zwolenników sztucznej inteligencji: że publiczny sceptycyzm wobec sztucznej inteligencji jest w dużej mierze problemem komunikacyjnym wynikającym z ostrożności branży. Odpowiedź Amodei skutecznie odwraca ten schemat – problemem nie jest to, co mówią liderzy sztucznej inteligencji, ale to, czego nie udało się zapewnić branży i to, jak mało społeczeństwo ufa instytucjom tworzącym technologię.

Jak na firmę, której marka opiera się na byciu odpowiedzialnym laboratorium AI, stanowisko jest spójne. Jednak ustępstwo Amodei – że najsurowszą i najtrafniejszą krytyką jest rozbieżność w branży między obietnicami a realizacją – jest szczególnie szczerym wyznaniem dyrektora generalnego, którego firma złożyła jedne z największych obietnic ze wszystkich.

W postach zarysowano także stanowisko, którego Anthropic prawdopodobnie będzie bronić w miarę nasilania się walk politycznych w Waszyngtonie: zasady przejrzystości dla laboratoriów granicznych, zabezpieczenia korzystne dla mniejszych konkurentów i brak ogólnego założenia, że ​​otwarte wagi rozwiążą problem koncentracji władzy.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →