W tym tygodniu w Moscone Center w San Francisco doszło do niezwykłego publicznego sporu: liderzy firm Nvidia, Anthropic i OpenAI, którzy pojawili się na tej samej scenie w odstępie kilku godzin na konferencji Salesforce Dreamforce, przedstawili zdecydowanie odmienne odpowiedzi na pytanie, jak szybko należy pozwolić sztucznej inteligencji na rozwój.
Dyrektor generalny Nvidii, Jensen Huang, powiedział szefowi Salesforce Marcowi Benioffowi, że zestawienie szybkości i bezpieczeństwa jest błędne. „To fałszywy wybór” – stwierdził Huang według CNBC. „Zdecydowanie można mieć jedno i drugie jednocześnie.” Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Jego stanowisko całkowicie kontrastowało z tym, które przedstawił wcześniej tego dnia dyrektor generalny Anthropic Dario Amodei, a później dyrektor generalny OpenAI Sam Altman, w debacie, która w ciągu tygodnia przeniosła się z blogów badawczych do przemówień konferencyjnych do Waszyngtonu.
Prezentacja Amodei dotycząca spowolnienia zyskuje platformę Keynote
Amodei pojawił się jako pierwszy, dołączając do Benioffa podczas corocznego przemówienia programowego Salesforce przed publicznością liczącą około 12 000 osób. Pojawiło się to po eseju, który Amodei opublikował w weekend, wzywając branżę do spowolnienia tempa rozwoju modeli. Jego zdaniem propozycja może złagodzić szybkość poprawy możliwości bez „rezygnowania z przewagi handlowej lub wiodącej pozycji Stanów Zjednoczonych w dziedzinie sztucznej inteligencji”.
Według CNBC Amodei określił dobrowolną powściągliwość jako test przywództwa dla branży. „Myślę, że w ten sposób można poprowadzić branżę do przodu, dać przykład i powiedzieć, że każdy zawsze może być lepszy” – powiedział Benioffowi.
Esej szybko zyskał poparcie opinii publicznej ze strony innych dyrektorów branży, w tym Sama Altmana z OpenAI, dyrektora generalnego SpaceX Elona Muska i przewodniczącego Google DeepMind Demisa Hassabisa. Opublikowano go kilka dni po tym, jak badacze z branży podnieśli alarm dotyczący potencjalnego wyrządzenia przez sztuczną inteligencję katastrofalnych szkód, co nadało argumentowi dotyczącemu spowolnienia gospodarczego nową pilność.
Huang: Siły rynkowe, a nie nowe prawa
Huang, którego firma stała się najcenniejsza na świecie dzięki sprzedaży sprzętu służącego do trenowania i obsługi pionierskich modeli, odrzuciła zarówno założenie kompromisu, jak i pomysł nowych regulacji. Istnieją już siły rynkowe, które dyscyplinują lekkomyślne zachowania – argumentował, a odpowiedzialne postępowanie w przypadku swoich produktów należy do twórców modeli.
„Biegnij tak szybko, jak potrafisz” – powiedział Huang Benioffowi. „Ale jeśli w dowolnym momencie poczujesz, że firma wymknęła się spod kontroli lub produkt nie będzie bezpieczny, zatrzymaj się i upewnij się, że wszystko robisz dobrze”.
To rozróżnienie ma znaczenie: Huang nie twierdzi, że firmy nigdy nie powinny się zatrzymywać, jedynie, że decyzja powinna pozostać w gestii każdej firmy, a nie być egzekwowana na mocy przepisów lub skoordynowanych porozumień branżowych. Dzień wcześniej na szczycie All-In Summit w Los Angeles Huang odebrał rozmowę przez telefon w trybie głośnomówiącym od prezydenta Donalda Trumpa, który wyraził zaniepokojenie faktem, że ludzie próbują utrudniać budowę centrum danych AI. „Nie pozwolimy, aby tak się stało, proszę pana” – odpowiedział Huang.
Altman: Bezpieczeństwo „nie powinno mieć żadnych kwalifikatorów”
Kolej na Altmana na scenie Dreamforce przyszła później tego samego dnia i stanął bliżej Amodei niż Huanga. Podczas rozmowy przy kominku z Benioffem Altman powiedział, że bezpieczeństwo i monitorowanie muszą być ważniejsze od możliwości, biorąc pod uwagę moc obecnych modeli.
Jego celem były firmy, które uzależniają swoje zobowiązania w zakresie bezpieczeństwa od zachowań konkurencji. „Firmy mówią na przykład: «Będziemy odpowiedzialni tylko wtedy, gdy inne firmy poniosą odpowiedzialność»” – powiedział Altman, dodając, że gdy ludzie pytają, co firma zrobi, aby zapewnić bezpieczeństwo „bez względu na wszystko”, odpowiedź nie powinna pozostawiać miejsca na warunki. „Nie powinno być w tej kwestii żadnych zastrzeżeń”.
Benioff siedzi pośrodku
Benioff, który gościł wszystkich trzech dyrektorów, odmówił wyboru jednej ze stron w kwestii tempa spotkania. „Jeśli czują, że powinni zwolnić, to powinni zwolnić. Jeśli czują, że powinni przyspieszyć, powinni przyspieszyć” – powiedział reporterom, po czym dodał, że firmy „powinny ponosić odpowiedzialność”.
Konferencja pokazała także, jak skomplikowane stały się relacje biznesowe. We wtorek Salesforce i Nvidia ogłosiły nowy model rozumowania dla platformy Agentforce firmy Salesforce zbudowanej na jednym z otwartych modeli Nemotron firmy Nvidia. Pod koniec sierpnia Salesforce i Anthropic rozszerzyły swoje strategiczne partnerstwo i zaprezentowały „Claudeforce”, które umożliwia sprzedawcom dostęp do danych Salesforce z poziomu Claude.
Dlaczego podział ma znaczenie
Wymiana informacji w ramach Dreamforce skrystalizowała to, co stało się główną linią podziału w debatach na temat zarządzania sztuczną inteligencją: czy ograniczenia powinny być skoordynowane i potencjalnie skodyfikowane, czy też pozostawione presji konkurencyjnej i indywidualnej ocenie korporacji.
Propozycja Amodei pozostaje dobrowolna, ale jej poparcie przez dyrektorów generalnych OpenAI, DeepMind i xAI oznacza, że po raz pierwszy liderzy głównych pionierskich laboratoriów publicznie poparli spowolnienie. Kontrargument Huanga, przedstawiony przez najcenniejszą firmę świata, stanowi osłonę dla kadry kierowniczej i decydentów, którzy twierdzą, że nakazanie ostrożności zapewniłoby przewagę konkurentom, zwłaszcza w Chinach.
Jak zauważyło CNBC w powiązanej analizie, prezydent Trump sprzeciwił się nowym przepisom dotyczącym sztucznej inteligencji, co podważa wezwania branży do spowolnienia. To pozostawia wszelkie dobrowolne porozumienia w sprawie tempa pracy bez mechanizmu egzekwowania, którego zdaniem zwolenników bezpieczeństwa potrzebuje, i na razie utrzymuje debatę na temat korporacyjnych systemów honorowych.
Ponieważ badacze publicznie ostrzegają przed katastrofalnymi zagrożeniami, a liderzy największych firm w tej dziedzinie otwarcie sprzeciwiają się teraz na scenie, kwestia dynamiki prawdopodobnie zdominuje następny cykl polityki w Waszyngtonie – niezależnie od decyzji rynku w międzyczasie.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
