שפת תכנות בשם Bend עלתה השבוע לראש ה-Hacker News, משכה 278 נקודות ודיון בעמוד הראשון עם פיץ' מכוון בדיוק לעידן קידוד הבינה המלאכותית: שפה שהופכת את זה לבלתי אפשרי מבחינה מתמטית לסוכן בינה מלאכותית לשלוח קוד שמפר את הכללים שלך.
אתר האינטרנט של הפרויקט מתאר את בנד כ"שפה מהירה שחוסמת טעויות בינה מלאכותית באמצעות הוכחה", ומבטיחה שילוב יוצא דופן של מאפיינים: קומפילציה מקורית במהירות C, מקביליות אוטומטית על פני ליבות מעבד ומעבדים גרפיים בעלי יכולת CUDA, הוכחות צורניות בסגנון רזה ותחביר דמוי פייתון. For more context on this story, see our ongoing more AI stories.
במילים אחרות, בנד לא מנסה להיות שפה טובה יותר עבור בני אדם לכתוב. היא מנסה להיות שפה טובה יותר עבור סוכני AI לכתוב - שפה שבה המהדר עצמו עומד על המשמר.
הטענה: ההנחיות אינן חד-משמעיות, ההוכחות אינן
המסגור בדף הבית של הפרויקט גלוי בצורה יוצאת דופן לגבי לאן מועדות פיתוח התוכנה.
"בכלכלה שלאחר ה-AGI, בני אדם יפסיקו בסופו של דבר לכתוב ולקרוא קוד, אבל אנחנו עדיין צריכים דרך נטולת עמימות לספר ל-AIs הבונים את העולם סביבנו מה אנחנו רוצים שייעשה", טוען האתר. "עם חוקים, הכוונות שלנו יכולות להיות הרבה יותר מדויקות משפה טבעית. עם הוכחות, אנחנו יכולים לוודא שה-AI יישם את ההנחיות שלנו בצורה נכונה. ומהדר מהיר מריץ את זה במהירות".
התזה הזו הופכת את הקשר הרגיל בין מפתח לכלי עבודה. במקום להתייחס לקוד שנוצר בינה מלאכותית כאל פלט שיש לסקור שורה אחר שורה, בנד מבקש מהאדם להכריז על המאפיינים שחייבים להחזיק תמיד - וגורם למכונה להוכיח את עבודתה לפני שניתן יהיה למזג משהו.
איך LAWS.bend עובד
החלק המרכזי של העיצוב הוא קובץ שנקרא LAWS.bend, שבו מפתחים מצהירים על אינווריאציות שהפרויקט חייב לעמוד בהן. הכותרת של האתר למושג: "LAWS.bend הוא AGENTS.md מגובה בהוכחה." כאשר קבצי AGENTS.md מורים לסוכני קידוד בינה מלאכותית עם כללי שפה טבעית שניתן להתעלם מהם בשקט, החוקים של בנד נאכפים על ידי בודק הסוג עצמו.
"מכאן ואילך, אף AI לא יכול לשלוח קו אחד ששובר אותם, לעולם", טוען האתר.
קובץ ה-PROOF.bend הנלווה מכיל את הטיעון הנבדק על ידי כל חוק - ובמיוחד, ההוכחה נכתבת על ידי ה-AI, לא האדם. היזם קובע מה חייב להיות נכון; הסוכן בונה את הראיות.
הפרויקט מדגים את הרעיון עם משחק צעצוע שבו חוק מכריז שניצחון הוא בלתי אפשרי. בהדגמה, בקשת תכונה חדשה - "להפוך את הלוח לעטוף סביב" - מציגה באג שמאפשר לשחקן לנצח. ללא LAWS.bend, קוד הבאגי מתמזג והבאג עולה לאוויר. עם LAWS.bend במקום, השינוי נדחה, וה-AI צריך להמשיך ולנסות שוב עד שהוא מייצר יישום שמגיע עם הוכחה תקפה. כדברי האתר: "מיזוג באג הוא בלתי אפשרי מבחינה מתמטית: זה משפט".
מהירות היא המאפשרת
אימות פורמלי הוא רעיון ישן. מה שמרחיק אותו מפיתוח תוכנה יומיומי הוא העלות: עוזרי הוכחה כמו Lean ו-Rocq יכולים לקחת דקות כדי לבדוק בסיס קוד בגודל בינוני, שהוא נסבל לקריפטוגרפיה או ליבות של מערכת הפעלה אבל לא מעשי לסוכן AI שעושה עשרות שינויים בשעה.
התשובה של בנד היא להפוך את בודק הסוג עצמו לבודק הוכחה שפועל תוך שנייה או פחות. האתר אומר שזה אומר ש"סוכן בינה מלאכותית יכול לבדוק אחרי כל שינוי" - הפיכת אימות מטקס סיום פרויקט במשקל כבד לשער קל משקל בכל עריכה בודדת.
הטענות לביצועים, המבוססות על מדדים שפורסמו באתר הפרויקט עצמו (מופעל על Apple M4 Max), הן שאפתניות בכל הטווח:
- Bend מקמפל לקוד מקורי ופועל "כמעט מהר כמו C" על ליבה אחת.
- אותו קנה מידה בינארי על פני שש עשרה ליבות, או על ה-GPU, שם האתר טוען למהירות של עד פי 100 של ליבה בודדת.
- מקביליות היא אוטומטית - "ללא שרשורים, אין מנעולים, אין גרעינים לכתוב" - כאשר פיצול זמן הריצה עובד על פני כל ליבה שהוא יכול למצוא ומצטרף לתוצאות.
תחילת העבודה היא נטולת חיכוכים בכוונה: סקריפט התקנה בן שורה אחת, בתוספת קטע שנועד להדביק ב-AGENTS.md המורה לסוכן להפעיל את 'מדריך לכופף', לשמור על כללים חשובים ב-LAWS.bend ולהפעיל את 'bend PROOF.bend' לפני הביצוע.
למה זה מהדהד עכשיו
תגובת האקר ניוז - מאות נקודות בתוך שעות - משקפת חרדה גוברת בקהילת המפתחים. סוכני קידוד בינה מלאכותית הפכו את הפקת הקוד כמעט בחינם, אך אימות זה לא הפך זול יותר באותו קצב. סקירת קוד, בדיקות ו-QA הם עדיין ביסודם תהליכים במהירות אנושית, וצוותים מדווחים יותר ויותר שצוואר הבקבוק עבר מכתיבת תוכנה למתן אמון בה.
ההימור של בנד הוא שבעיית האמון נפתרת טוב יותר בשפה מאשר בזרימת העבודה. אם המהדר מסרב לקבל קוד שמפר אינוריאנט מוצהר, שיחת הביקורת משתנה: בני אדם מפסיקים לחפש באגים שהמכונה כבר הוציאה מהכלל, ומתחילים להתמקד בשאלה האם החוקים עצמם תופסים את מה שהעסק באמת צריך.
האזהרות
כמו בכל פרויקט המקדם את עצמו באמצעות אמות מידה משלו, אימות עצמאי הוא השאלה הבאה המתבקשת. נתוני הביצועים מגיעים מאתר הפרויקט, וההדגמה היא דוגמה פשוטה במכוון. לבסיסי קוד בעולם האמיתי יש מצב מבולגן, מערכות חיצוניות ודרישות שמתנגדות לפורמליזציה חדה - החלק הקשה של שיטות פורמליות מעולם לא היה ההוכחה, אלא המפרט.
יש גם מכשול תרבותי. לשכנע מפתחים אנושיים לאמץ שפה חדשה היא קשה לשמצה; לשכנע אותם לקודד את חוקי הפרויקט שלהם כחוקים הניתנים לבדיקת מכונה זו שאלה גדולה יותר, גם אם סוכני AI עושים את רוב הכתיבה.
אבל התובנה המרכזית - ששפה המיועדת לעידן של קוד שנוצר בינה מלאכותית צריכה להפוך את הנכונות למאפיין של זמן הידור - היא תשובה רצינית לבעיה שיש לתעשייה כעת בקנה מידה. בין אם בנד זוכה באופן ספציפי בוויכוח הזה ובין אם יורש כלשהו יזכה, כיוון הנסיעה נראה ברור: כשמכונות כותבות את הקוד, מעקות הבטיחות צריכים לנוע לתוך המכונה.
למידע נוסף על הכלים המעצבים מחדש את אופן בניית התוכנה, עקוב אחר החדשות האחרונות בינה מלאכותית והסיקור המתמשך שלנו על האקולוגית של פיתוח בינה מלאכותית.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
