OpenAI har arbetat nära med rivalerna Anthropic och Google DeepMind i flera veckor för att ta fram ett ramverk för artificiell intelligenssäkerhet, bekräftade en ledande befattningshavare på tisdagen och avslöjade en ovanlig grad av samarbete mellan företag som konkurrerar hårt på nästan allt annat.
Chris Lehane, OpenAI:s globala policychef, sa till reportrar vid en pressträff i Washington att de tre labben har samordnat säkerhetsinitiativ. "Det är bättre att försöka samarbeta för att prioritera säkerhet", sa Lehane, enligt en Bloomberg-rapport från briefingen. Hans kommentarer kom dagar efter en serie högprofilerade utrotningsvarningar från forskare som lämnade branschens största labb. For more context on this story, see our ongoing AI trends.
Vad samarbetet faktiskt omfattar
Lehane utvecklade inte arbetets specifika karaktär, men avslöjandet följer en anmärkningsvärd offentlig positionering av branschens största namn. På lördagen publicerade Antropics vd Dario Amodei en uppsats där han uppmanade AI-industrin att samarbeta för att bromsa utvecklingen av gränsmodeller för att undvika vad han kallade "katastrofala risker."
Samtalet fick överraskande stöd från hela konkurrensklyftan: OpenAIs Sam Altman, Googles Demis Hassabis och Elon Musk stödde alla känslan. Altman gick längre och sa att OpenAI skulle vara villig att gå med i Anthropics initiativ för att bädda in tredjepartsutvärderare i sina utvecklingsteam för att övervaka AI-säkerhet från insidan. Anthropics medgrundare Jack Clark sa samtidigt till NPR att att bromsa AI i grunden är ett "kollektivt agerandeproblem" som inget enskilt labb kan lösa ensamt.
Det är dock inte alla inom OpenAI som behandlar tempodebatten som brådskande. Chief financial officer Sarah Friar sa till CNBC att hon inte är orolig för att bromsa AI-utvecklingen - en påminnelse om att företaget samtidigt uppvaktar investerare till en värdering norr om en biljon dollar.
Antitrust-skuggan över samarbete
All samordning mellan dominerande AI-labb stöter på ett uppenbart juridiskt problem: USA:s antitrustlagstiftning. Juridiska experter har varnat för att avtal mellan konkurrenter om att begränsa vad deras produkter kan göra kan tolkas som "produktionsbegränsning", ett brott mot Sherman Act.
Den oro har redan flyttat till Capitol Hill. Senatorerna Jim Banks från Indiana och Adam Schiff från Kalifornien föreslog lagstiftning – Collaboration on Adversarial Threats and Security Risks Act – som skulle tillåta AI-laboratorier att agera på säkerhet även när dessa åtgärder annars skulle kunna leda till antitrustfrågor. Amodeis uppsats hävdade att regeringen borde överväga att bevilja företagen ett undantag för säkerhetssamarbete, även om Lehane sa till reportrar att han tycker att ett sådant drag är onödigt.
Nvidias Jensen Huang har varit ännu rakare. När han talade på Dreamforce på tisdagen kallade han Anthropics förslag om att avstå från antitrustavtal "fullständigt onödigt", enligt CNBC, vilket understryker den fördjupade splittringen mellan laboratorierna som uppmanar till återhållsamhet och hårdvarujätten som uppmanar till acceleration.
"En kartell vid ett annat namn"
Kritikerna av samarbetet har varit svidande. Coheres vd Aidan Gomez skrev i ett blogginlägg som svar på Amodeis uppsats att säkerhetssamtalen ser ut som ett försök från de bästa AI-labben för att dölja ett konkurrensbegränsande system som skulle bevara deras ledning inom utveckling av gränsmodeller, vilket gör det möjligt för "marknadsdominerande" labb att definiera reglerna för alla andra.
"Återigen genom att använda rädsla under förevändning att skydda allmänheten, begär dessa oligopol nu att böja konkurrensreglerna och tillåtas att diktera villkoren för alla andra", skrev Gomez och kallade arrangemanget "en varg i fårakläder, en kartell med ett annat namn."
President Donald Trump har avvisat Amodeis avmattningsuppmaning direkt, och hävdar i ett inlägg på Truth Social att varje avmattning skulle göra det möjligt för Kina att gå om USA i AI-racet. David Sacks, Vita husets viktigaste AI-rådgivare, har sagt att farhågorna för att AI skulle kunna utgöra ett existentiellt hot är överdrivna.
Analytiker vid CNBC observerade att två läger nu fullt ut har dykt upp i debatten om AI-säkerhet och -reglering: ett som uppmanar gränsen att sakta ner innan något går fel, och ett annat - befolkat av Nvidia, Vita huset och förespråkare för öppen modell - som hävdar att tvekan är den största faran.
OpenAI:s Capitol Hill Push
Lehanes kommentarer kom under en mediagenomgång i Washington, där han var planerad att träffa lagstiftare. OpenAI lägger sin vikt bakom två tvådelade lagförslag, enligt företagets offentliga uttalanden och rapportering från Reuters och Politico.
Den första är FRONTIER Act, som kräver ett federalt ramverk för AI-säkerhet och skulle kräva att AI-laboratorier skickar in nya modeller för revisioner av oberoende utvärderare. OpenAI stöder också en åtgärd som skulle kräva oberoende granskningar av AI-modeller, rapporterade CBS News. Det andra förslaget, som fortfarande är under utveckling, är ett som senatens majoritetsledare John Thune utarbetar tillsammans med den republikanske senatorn Ted Cruz och den demokratiske senatorn Amy Klobuchar. Enligt Reuters skulle det lagförslaget ge handelssekreteraren befogenhet att utsätta nya modeller för säkerhetsrevisioner innan de släpps. OpenAI har separat godkänt tvåpartiplaner som tar itu med AI-biohot, rapporterade Politico.
Konvergensen är slående: samma företag som varnar för skenande AI ställer upp frivilligt för oberoende granskningar, medan deras kritiker varnar för att samarbetet i sig kan vara den största faran. Hur kongressen trådar den nålen - möjliggör säkerhetssamarbete utan att licensiera en kartell - kan definiera AI-policy i flera år.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
