Oracle v tichosti implementoval politiku, která zakazuje kódy generované umělou inteligencí přispívat do OpenJDK, open-source vývojové platformy Java, kterou společnost řídí. Tento krok, o kterém informoval The Register, zmiňuje obavy o bezpečnost, zabezpečení a duševní vlastnictví, ale je ve velkém napětí s interními zprávami společnosti Oracle o tom, jak vytváří software. Pokud jde o probíhající nejnovější zprávy o AI, tento příběh zdůrazňuje rostoucí propast mezi ambicemi podnikové AI a technickou opatrností.

Podle těchto zásad mohou vývojáři stále používat velké jazykové modely soukromě pro ladění a kontrolu kódu. Mají však zakázáno odesílat materiál generovaný umělou inteligencí do úložišť OpenJDK, žádostí o stažení nebo jiných komunikačních kanálů projektu. Omezení účinně kreslí hranici mezi používáním umělé inteligence jako osobního asistenta a tím, že jí umožňuje vytvářet kód, který vstupuje do sdílené, dlouhotrvající kódové základny.

Proč Oracle Drew the Line

Důvody zákazu jsou spíše praktické než filozofické. Kód vygenerovaný umělou inteligencí zavádí tři kategorie rizik, které je obtížné následně eliminovat. Za prvé, bezpečnost: LLM mohou produkovat kód s jemnými zranitelnostmi, které lidští recenzenti nemusí okamžitě zachytit, zvláště v jazyce tak složitém, jako je Java s její hlubokou standardní knihovnou a souběžným modelem. Za druhé, duševní vlastnictví: modely trénované na rozsáhlých korpusech existujícího kódu mohou reprodukovat licencovaný materiál doslovně nebo v úzké parafrázi, čímž potenciálně poznamenají open-source projekt nároky na autorská práva. Za třetí, připisování a odpovědnost: když je kód generován spíše než psán, je těžší zjistit, kdo je zodpovědný za chyby, licenční povinnosti nebo problémy s dodržováním předpisů.

OpenJDK není jen tak ledajaký open-source projekt. Jde o referenční implementaci Javy, jazyka běžícího na miliardách zařízení po celém světě, od podnikových serverů po aplikace pro Android. Kód oddaný OpenJDK může proudit do komerčních produktů Oracle, distribucí JDK třetích stran a globálního ekosystému Java po celá desetiletí. Jediný kus problematického kódu generovaného umělou inteligencí by mohl způsobit odpovědnost, která se bude vlnit po celá léta.

Rozpor s vnitřním držením společnosti Oracle

Co dělá tuto politiku pozoruhodnou, je její kontrast s veřejnými prohlášeními společnosti Oracle o jejím vlastním používání AI. Spoluzakladatel Larry Ellison nedávno prohlásil, že modely umělé inteligence nyní píší kód Oracle, čímž se společnost stala lídrem ve vývoji softwaru řízeného umělou inteligencí. Co-CEO Mike Sicilia ocenil nástroje AI za to, že menším inženýrským týmům umožňují dodávat rychleji, což naznačuje, že AI je ústředním bodem strategie produktivity Oracle.

Rozdělení odráží širší napětí napříč technologickým průmyslem. Společnosti touží nabízet kód vygenerovaný umělou inteligencí jako důkaz inovací a efektivity ve svých interních operacích, zejména investorům a zákazníkům. Ale když přijde na kód, na kterém jsou závislí ostatní lidé, kde je odpovědnost externí a rádius exploze chyby se měří v globálním nasazení, nadšení opadne. Stanovisko společnosti Oracle v podstatě říká, že kód generovaný umělou inteligencí je dost dobrý pro proprietární produkty Oracle, ale není dost dobrý pro open-source projekt, který řídí.

OpenJDK není sám ve váhání

Oracle není prvním velkým open-source projektem, který se potýká s touto otázkou, ale je jedním z největších a nejdůslednějších. Několik dalších komunit s otevřeným zdrojovým kódem přijalo nebo zvažuje podobná omezení. Linuxové jádro, Kubernetes a Apache Software Foundation zažily debaty o tom, zda by příspěvky generované umělou inteligencí měly být označeny, omezeny nebo přímo zakázány. Jádro zájmu je univerzální: licence a smlouvy s otevřeným zdrojovým kódem byly navrženy kolem lidských autorů, kteří rozumí svému kódu a přebírají za něj odpovědnost.

Model umělé inteligence nemůže podepsat certifikát původu vývojáře, nemůže nést odpovědnost za bezpečnostní zranitelnost a nemůže odpovědět na otázky, proč napsal kód konkrétním způsobem. Když člověk předloží kód vygenerovaný umělou inteligencí jako své vlastní dílo, implicitně ručí za něco, čemu nemusí plně rozumět, což podkopává model důvěry, na kterém závisí spolupráce s otevřeným zdrojovým kódem.

Pozadí za 70 miliard dolarů

Opatrnost společnosti Oracle ohledně umělé inteligence na frontě kódu přichází uprostřed obrovské sázky na infrastrukturu umělé inteligence. Společnost letos investuje přibližně 70 miliard dolarů do rozšíření datových center na podporu pracovních zátěží AI, což je jeden z největších investičních programů v technologickém sektoru. Tyto výdaje přiměly společnost S&P Global Ratings ke snížení úvěrového ratingu Oracle na BBB-, o jeden stupeň výše, než status nevyžádané pošty, s odkazem na nejistou návratnost masivní investice.

Kontrast je poučný. Oracle je ochoten vsadit desítky miliard na infrastrukturu AI a vsadit, že poptávka po AI compute bude ospravedlnit náklady. Ale pokud jde o to, nechat AI napsat kód, který běží v jednom z nejdůležitějších světových programovacích ekosystémů, inženýři společnosti tvrdí, že zatím ne. Poselstvím je, že infrastruktura je sázka na komoditu, ale kvalita kódu je sázka na reputaci a tyto dvě položky s sebou nesou velmi odlišné rizikové profily.

Co to znamená pro vývojáře

Pro vývojáře v Javě, kteří přispívají do OpenJDK, tato politika znamená, že musí být více uvážliví ohledně toho, jak používají nástroje AI. Použití ChatGPT nebo Claude k pochopení chyby nebo přezkoumání návrhového vzoru zůstává přijatelné. Odeslání kódu, který byl primárně vygenerován nástrojem umělé inteligence, dokonce ani s lidskými úpravami, ne. Hranice není v praxi vždy jasná, protože mnoho vývojářů nyní používá umělou inteligenci jako partnera pro společné navrhování a nemusí být schopno čistě oddělit své vlastní myšlení od návrhů modelů.

Širší důsledek odvětví je, že spěch s přijetím nástrojů pro kódování AI může narazit na strop přesně v bodě, kde na kvalitě kódu a odpovědnosti nejvíce záleží. Správci open source, bezpečnostní týmy a pracovníci odpovědní za dodržování předpisů se stále více obávají kódu generovaného umělou inteligencí, i když vedoucí pracovníci oslavují jeho nárůst produktivity. Zákaz OpenJDK společnosti Oracle může být signálem toho, kde je skutečný konsensus mezi lidmi, kteří skutečně udržují kritický software.

Udržujte si náskok před umělou inteligencí

Propast mezi humbukem AI a inženýrskou realitou se zvětšuje. Sledujte nejnovější [obor AI] (https://aibuzzwire.news), kde najdete další informace o tom, jak podniky procházejí přechodem na umělou inteligenci.

Přečtěte si další zprávy o AI →