ג'ייקוב קוקסון, החוקר האנתרופי לשעבר שהתפטר בחודש שעבר באזהרה פומבית שחברות בינה מלאכותית "מהמרות בחיינו", מעיד ביום שני בדיון במועצת העיר ניו יורק בנושא בטיחות בינה מלאכותית, ומציב אותו באותו חדר עם נציגי התעשייה שעזב.

בלומברג דיווח ב-4 באוקטובר כי קוקסון יופיע בשימוע, אשר נקרא על ידי יו"ר המועצה ג'ולי מנין והוא פועל כוועדה של הכלל - כלומר כל 51 חברי המועצה משתתפים במקום ועדת משנה אחת. נציגים מאנתרופיק, OpenAI, גוגל ומטא צפויים להופיע באותו מושב. להקשר נוסף על הסיפור הזה, עיין בפיתוחי הבינה המלאכותית האחרונים המתמשכים שלנו.

מי זה ג'ייקוב קוקסון?

קוקסון התפטר מ-Anthropic בתחילת ספטמבר 2026. בהצהרת העזיבה הפומבית שלו, הוא אפיין חברות בינה מלאכותית כ"מהמרות עם החיים שלנו" והזהיר כי הטכנולוגיה עלולה להוות סיכון קטסטרופלי בתוך העשור. על פי תדריך קריפטו, ההצהרה נצפתה יותר מ-173 מיליון פעמים, והתפטרותו מיוחסת לזכותה שהניעה את הדחיפה לדיון במועצה.

הוא לא לבד בדאגותיו. אוון הובינגר, חוקר אנתרופי נוסף, העריך בפומבי הסתברות של יותר מ-10 אחוזים שבינה מלאכותית מתקדמת עלולה להיות קטלנית לאנושות בתוך עשר שנים - איתות, טוענים תומכי בטיחות, לאופן נרחב של דעות כאלה כיום במעבדות גבול.

הנרטיב של קוקסון נסוג. ספקנים הטילו ספק בקשר שלו עם חברת יחסי ציבור הקשורה לקידום בטיחות בינה מלאכותית, טענות שהוא הפריך.

ראשון עבור מחוקקים בארה"ב

השימוע מתואר בדיווח על הפגישה כפעם הראשונה שגוף מחוקק בארה"ב כפה עדות בשבועה על בטיחות בינה מלאכותית. מועצת העיר ניו יורק שלחה מכתבים שהזמינו את המנהלים הראשיים של ארבע חברות הבינה המלאכותיות הגדולות - דריו אמודיי מאנתרופיק, סם אלטמן מ-OpenAI, סונדאר פיצ'אי מגוגל ומארק צוקרברג מ-Meta - להשתתף.

לא כל חברה הגיבה כפי שהמועצה קיוותה. לפי תדריך קריפטו, לחברת בינה מלאכותית אחת הוגשה זימון ב-30 בספטמבר 2026 או בסביבות ה-30 בספטמבר 2026, לאחר שנפתחה הליכים משפטיים בגין אי ציות לבקשת המועצה.

השטרות על השולחן

מחוקקים מתכננים להשתמש במושב כדי לשקול כמה צעדים מוצעים, שלושה מהם בולטים:

  • אימות צד שלישי של מערכות AI המשמשות את העיר, מה שידרוש אימות עצמאי לפני פריסה בשירותים עירוניים.
  • תמריצים לחושפי מלשינים המתוארים בהצעות כמובילים לאומיים, שנועדו לתגמל מקורבים שמסמנים שיטות מסוכנות בתוך מעבדות בינה מלאכותית.
  • זכות תביעה פרטית שתעניק ליחידים את היכולת לתבוע על נזקים שנגרמו על ידי מערכות בינה מלאכותית.

כל אחד מהשלושה יהפוך את ניו יורק לאחד הרגולטורים המקומיים האגרסיביים ביותר של בינה מלאכותית בארצות הברית. מכיוון שההצעות מכוונות למערכות המשמשות את העיר והחברות הפועלות בה, השפעותיהן עשויות להגיע הרבה מעבר לחמשת הרובעים.

כללים מקומיים בוואקום פדרלי

הדיון מגיע לרגע של זרמים רגולטוריים מתחרים בוושינגטון. הנשיא טראמפ מינה לאחרונה את מנהל המודיעין הלאומי ג'יי קלייטון כ"צאר הבינה המלאכותית" שלו, בראש צוות משימה חדש של "כוח מודיעין על" עם 120 יום למסור דו"ח על סיכונים ופיקוח על בינה מלאכותית - מסגרת שנטתה להאצת הפיתוח במקום להגביל אותו.

לתוך הוואקום הזה, מדינות וערים נעו. המושב של ניו יורק יבדוק כמה רחוק יכולות הממשלות העירוניות להגיע בהגדרת ציפיות בטיחות לטכנולוגיה שנבנתה הרחק מהעירייה, והאם המעבדות הגדולות בתעשייה יתקשרו עם מחוקקים מקומיים או יתנגדו להם.

מדוע העדות חשובה

שימועים כמו זה נוטים להיות פחות חשובים למה שנאמר בחדר ויותר למה שאחריו. עדות מושבעת יוצרת תיעוד ציבורי שיכול לעגן חקיקה עתידית, והנוכחות של כל ארבע חברות הבינה המלאכותיות הגדולות - בתוספת מבקר בסגנון מלשיין - מעניקה למחוקקים השוואה נדירה זה לצד זה של הבטחות ואזהרות.

עבור תעשיית הבינה המלאכותית, הפגישה היא תזכורת לכך שהבדיקה אינה מוגבלת עוד לקונגרס או לבירות זרות. מועצות העיר מנסחות כעת חוקי AI משלהן, והן מזמנות את האנשים שבונים את המערכות כדי להגן עליהם בשבועה.

במה לצפות בעדות

כדאי לעקוב אחרי מספר שרשורים בזמן שהפגישה מתגלגלת. ראשית, כיצד נציגי החברה מאפיינים את נוהלי הבטיחות שלהם כשהם מדברים תחת שבועה, כאשר מקורב לשעבר קולני אמור להופיע באותו פאנל. שנית, אם ההצעה לתמריץ חושפי שחיתויות שואבת תמיכה משני צדי המעבר - היא מהדהדת את המאמצים הפדרליים לפורמליזציה של ערוצי הלשנות של מעבדות בינה מלאכותית, תחום שבו כמה חברות חזית כבר פרסמו מדיניות וולונטרית.

שלישית, זכות התביעה הפרטית עשויה להיות המרכיב השנוי ביותר במחלוקת. מנגנון המאפשר ליחידים לתבוע על נזקים שנגרמו בבינה מלאכותית יעביר חשיפה משפטית אמיתית לספקי מודלים, וניתן לצפות מלובייסטים בתעשייה להילחם בזה הרבה יותר מאשר דרישות ביקורת או גילוי.

הדיון גם מייצר ניגוד ישיר בפילוסופיית הרגולציה. כוח המשימה החדש של AI בוושינגטון תחת ג'יי קלייטון בנוי סביב האצת פיתוח ואיחוד תיאום פדרלי, בעוד שההצעות של ניו יורק נוטות לכיוון אימות, דיווח פנימי והתדיינות משפטית כמעצורים לאכיפה. אם הצעות החוק יתקדמו, העיר עלולה להפוך למקרה מבחן לכמה תקנות בינה מלאכותית יכולות להטיל ממשלות תת-פדרליות באקלים הפוליטי הנוכחי.

AI Buzz Wire ימשיך לעקוב אחר תוצאות הדיון וגורלן של שלוש הצעות החוק.

---

הישאר לפני AI

קבל את החדשות העדכניות ביותר של AI, ניתוח ופריצות דרך - הכל במקום אחד.

קרא עוד חדשות AI →