Programovací jazyk s názvem Bend se tento týden dostal na vrchol Hacker News, získal 278 bodů a na titulní straně se objevila debata s názorem zaměřeným přímo na éru kódování AI: jazyk, který agentům AI matematicky znemožňuje poslat kód, který porušuje vaše pravidla.

Webová stránka projektu popisuje Bend jako „rychlý jazyk, který blokuje chyby AI prostřednictvím důkazu“, slibující neobvyklou kombinaci vlastností: nativní kompilace v rychlosti C, automatický paralelismus mezi jádry CPU a GPU s podporou CUDA, formální důkazy ve stylu Lean a syntaxe podobná Pythonu. For more context on this story, see our ongoing breaking AI news.

Jinými slovy, Bend se nesnaží být lepším jazykem pro psaní lidí. Snaží se být pro agenty umělé inteligence lepším jazykem pro psaní – jazykem, kde stojí na stráži samotný kompilátor.

Argument: Výzvy jsou nejednoznačné, důkazy ne

Rámování na domovské stránce projektu je neobvykle upřímné o tom, kam vývoj softwaru směřuje.

"V post-AGI ekonomice lidé nakonec přestanou psát a číst kód, ale stále potřebujeme nejednoznačný způsob, jak říct AI, které tvoří svět kolem nás, co chceme udělat," argumentuje web. "Se zákony mohou být naše záměry mnohem přesnější než přirozený jazyk. S důkazy můžeme ověřit, že AI implementovala naše výzvy správně. A rychlý kompilátor to spouští rychlostí."

Tato teze obrací obvyklý vztah mezi vývojářem a nástrojem. Místo toho, aby zacházel s kódem generovaným umělou inteligencí jako s výstupem, který má být zkontrolován řádek po řádku, Bend žádá člověka, aby deklaroval vlastnosti, které musí vždy platit – a přiměje stroj, aby prokázal svou práci, než bude možné cokoliv sloučit.

Jak LAWS.bend funguje

Středobodem návrhu je soubor s názvem LAWS.bend, kde vývojáři deklarují invarianty, které musí projekt splňovat. Slogan webu ke konceptu: "LAWS.bend je AGENTS.md podpořený důkazem." Tam, kde soubory AGENTS.md instruují agenty kódování AI s pravidly přirozeného jazyka, která mohou být tiše ignorována, Bendovy zákony jsou vynucovány samotnou kontrolou typu.

„Od té doby nemůže žádná umělá inteligence dodat jedinou linii, která by je přerušila,“ tvrdí stránka.

Doprovodný soubor PROOF.bend obsahuje strojově ověřený argument, který platí každý zákon – a zejména, že důkaz je napsán AI, nikoli člověkem. Vývojář uvádí, co musí být pravda; agent vytváří důkazy.

Projekt demonstruje myšlenku pomocí hry na hraní, ve které zákon prohlašuje, že vyhrát je nemožné. V ukázce nový požadavek na funkci – „aby se hrací plocha zabalila“ – představuje chybu, která umožňuje hráči vyhrát. Bez LAWS.bend se chybový kód sloučí a chyba se spustí. Se zavedeným LAWS.bend je změna odmítnuta a AI to musí opakovat, dokud nevytvoří implementaci, která přichází s platným důkazem. Jak to říká stránka: "Sloučení chyby je matematicky nemožné: je to teorém."

Rychlost je aktivátor

Formální ověření je stará myšlenka. To, co ji udrželo mimo každodenní vývoj softwaru, jsou náklady: důkazní asistenti jako Lean a Rocq mohou trvat minuty, než zkontrolují středně velkou kódovou základnu, což je přijatelné pro kryptografii nebo jádra operačního systému, ale nepraktické pro agenta AI, který provádí desítky změn za hodinu.

Bendovou odpovědí je udělat z kontroly typu samotného kontrolního nátisku, který běží za sekundu nebo méně. Web říká, že to znamená, že „agent AI může zkontrolovat po každé změně“ – proměňuje ověřování z těžkého ceremoniálu na konci projektu v odlehčenou bránu při každé úpravě.

Nároky na výkon, které jsou založeny na srovnávacích testech zveřejněných na vlastních stránkách projektu (běží na Apple M4 Max), jsou ambiciózní ve všech směrech:

  • Bend se zkompiluje do nativního kódu a běží "téměř tak rychle jako C" na jednom jádru.
  • Stejné binární měřítko přes šestnáct jader nebo na GPU, kde web požaduje až 100krát vyšší rychlost než jedno jádro.
  • Paralelnost je automatická – „žádná vlákna, žádné zámky, žádná jádra k zápisu“ – s rozdělováním běhového prostředí napříč každým jádrem, které najde, a spojováním výsledků.

Začátek je záměrně bez tření: jednořádkový instalační skript a navíc úryvek určený k vložení do AGENTS.md, který agentovi dává pokyn, aby spustil `bend guide`, dodržoval důležitá pravidla v LAWS.bend a před potvrzením spustil `bend PROOF.bend`.

Proč to rezonuje právě teď

Odpověď Hacker News – stovky bodů během několika hodin – odráží rostoucí obavy ve vývojářské komunitě. Agenti pro kódování AI učinili výrobu kódu téměř zdarma, ale ověřování se nezlevnilo stejným tempem. Kontrola kódu, testování a kontrola kvality jsou stále v zásadě procesy s lidskou rychlostí a týmy stále častěji hlásí, že překážka se posunula od psaní softwaru k důvěře.

Bendova sázka je, že problém důvěry se lépe řeší v jazyce než v pracovním postupu. Pokud kompilátor odmítne přijmout kód, který porušuje stanovený invariant, konverzace o přezkoumání se změní: lidé přestanou lovit chyby, které již stroj vyloučil, a začnou se soustředit na to, zda samotné zákony zachycují to, co podnik skutečně potřebuje.

Upozornění

Jako u každého projektu, který se propaguje prostřednictvím svých vlastních benchmarků, je další otázkou samozřejmé nezávislé ověření. Údaje o výkonu pocházejí z webových stránek projektu a ukázka je záměrně jednoduchým příkladem. Kódové základny v reálném světě mají chaotický stav, externí systémy a požadavky, které odolávají ostré formalizaci – nejtěžší částí formálních metod nikdy nebylo dokazování, ale specifikace.

Existuje také kulturní překážka. Přesvědčit lidské vývojáře, aby přijali nový jazyk, je notoricky obtížné; přesvědčit je, aby zakódovali pravidla svého projektu jako strojově kontrolovatelné zákony, je stále větší požadavek, i když většinu psaní dělají agenti AI.

Ale základní vhled – že jazyk navržený pro éru kódu generovaného umělou inteligencí by měl ze správnosti udělat vlastnost v době kompilace – je vážnou odpovědí na problém, který má nyní průmysl ve velkém měřítku. Ať už tento argument vyhraje konkrétně Bend, nebo nějaký nástupce, směr jízdy se zdá jasný: když stroje píší kód, musí se do stroje přesunout zábradlí.

Chcete-li se dozvědět více o nástrojích, které přetvářejí způsob vytváření softwaru, sledujte nejnovější zprávy o AI a naše průběžné pokrytí ekosystému vývoje AI.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →