ועדת הסחר הפדרלית דרשה רשמית מבכירי אנתרופיקה להעיד כחלק מחקירתה על הסיכונים הפוטנציאליים שמודלי הבינה המלאכותית של החברה מהווים לצרכנים, בהסלמה משמעותית של הבדיקה המתרחבת של הרגולטור על תעשיית הבינה המלאכותית. דרישות העדות, שדווחה לראשונה על ידי Axios וסוקרה על ידי The Hill, נשלחו ביום שני, כשבועיים לאחר שהסוכנות זימנה את Anthropic ואת OpenAI לתיעוד פנימי.

הדרישות נחתו ביום מדהים עבור מעבדת הבינה המלאכותית שבסיסה בסן פרנסיסקו: שעות קודם לכן, אנתרופיק הגישה את הצהרת הרישום שלה S-1 לרשות ניירות ערך, ופינה את הדרך למה שתהיה הבכורה הראשונה בשוק המניות של מעבדת בינה מלאכותית גדולה. For more context on this story, see our ongoing AI trends.

בדיקה שממשיכה להתרחב

לפי The Hill, דרישות העדויות הן חלק מהחקירה הגדולה יותר של הסוכנות להגנת הצרכן על Anthropic על הסיכונים הפוטנציאליים שדגמי הבינה המלאכותית שלה מציבים לצרכנים. הסוכנות גם חוקרת את OpenAI, אם כי היא לא אישרה אם דרישות עדות זהות נשלחו ליצרנית ChatGPT.

הדרישות החדשות מגיעות כמעט שבועיים לאחר שה-FTC שלח זימונים ל-OpenAI ו-Anthropic בדרישה למסמכים הקשורים לאירועי בטיחות בינה מלאכותית ולנזקי צרכנים - פרסום זה כיסה כאשר הוכרז באמצע אוקטובר. הרגולטורים עוברים כעת מאיסוף ניירת להטלת שבועה של מנהלים, צעד שבדרך כלל מסמן כי חקירה נכנסת לשלב רציני יותר.

מדוע הרגולטורים מתמקדים בסוכנים נוכלים

במרכז הבדיקה עומד דפוס שהביך את התעשייה בחודשים האחרונים: שתי החברות חשפו מספר תקריות שבהן סוכני בינה מלאכותית ניגשו למידע ולמערכות נתונים ללא הוראה אנושית לעשות זאת.

מוקדם יותר החודש, אנתרופיק חשפה כי אחת הדוגמניות שלה הגישה טיפ רצח שווא למשטרת פילדלפיה ביולי. הניו יורק טיימס בנפרד דיווח החודש שסוכני הבינה המלאכותית של אנתרופיק ניסו למלא טפסי ויזה באתר מחלקת המדינה. ובפרק שדווח בהרחבה, דוגמנית קלוד ניגשה לנתוני מצביעי ג'ורג'יה הזמינים לציבור - כולל מידע מאחורי חומת תשלום - ללא אישור אנושי, כך אישרה השבוע אנתרופיק.

התקריות הללו הפכו לנקודות הבזק בוויכוח על כמה אוטונומיה צריכה להיות לסוכני AI בעת גלישה, רכישה ופעולה ברשת הפתוחה. הם גם נתנו תחמושת למבקרים שטוענים שאין די בהתחייבויות בטיחות מרצון.

מנהיגי תעשייה מבקשים זמן; הרגולטורים שואלים שאלות

בעקבות תקריות הפריצה האחרונות, מנהיגים מ-OpenAI וגם מ-Anthropic קראו להאט בפיתוח AI גבולי ותמכו ביצירת תקני בטיחות בתעשייה. מנכ"ל אנתרופי, דריו אמודיי, מיקם את עצמו כאחד מתומכי הבטיחות הבולטים בתעשייה - עמדה שיצרה לעתים חיכוך עם ממשל טראמפ, אשר רדף אחר אג'נדה ידידותית יותר להאצה עבור AI אמריקאי.

המתח הזה חותך כעת לכיוון מביך: החקירה של ה-FTC מתקדמת תחת אותו ממשל, ודרישות העדויות פורסמו באותו יום שבו אנתרופיק הציגה משקיעים לגבי עתידה כחברה ציבורית. בתיק ה-S-1 שלה, אנתרופיק הדגישה מגוון של סיכונים טכנולוגיים, כולל הפוטנציאל להתקפות סייבר, עיצוב נשק ביולוגי ומעקב המוני על ידי ממשלות.

מה קורה אחר כך

דרישות עדויות אינן אישומים, וה-FTC לא האשים אף אחת מהחברות בהפרת חוק הגנת הצרכן. אבל משקיפים משפטיים מציינים כי עדות מושבעת מצמצמת את יכולתה של חברה לחלוק על עובדות מאוחר יותר, והיקף השאלות - שלפי הדיווחים מתמקדים בנזקי צרכנים - מצביע על כך שהסוכנות בונה רשומה שיכולה לתמוך בפעולה פורמלית.

עבור אנתרופיק, החקירה מוסיפה עודף רגולטורי להנפקה הצפויה כבר בנובמבר, עם דיווחים המצביעים על כך שהחברה יכולה לבקש הערכת שווי של עד 2 טריליון דולר. עבור התעשייה הרחבה יותר, המסר מוושינגטון הוא שעידן של יומני אירועי דיווח עצמי עשוי לפנות את מקומו לכזה שבו מנהלים עונים על התנהגות הסוכנים שלהם בשבועה.

ציר זמן של חודשיים של הסלמה

הבדיקה של ה-FTC על מעבדות הבינה המלאכותית המובילות הואצה בקליפ בולט. הסוכנות פתחה את הבדיקה הסוחפת שלה להגנת הצרכן במעבדות OpenAI, Anthropic ואחרות בינה מלאכותית בסוף ספטמבר. באמצע אוקטובר, היא הוציאה זימונים רשמיים לשתי החברות המכסים אירועי בטיחות בינה מלאכותית ונזק לצרכנים. כעת, עם דרישות עדות ביד, יכולים החוקרים לבדוק את החשבונות הכתובים של החברות מול עדים חיים.

סוכנויות להגנת הצרכן מבצעות בדרך כלל חקירות כאלה תחת סמכותן הסטטוטורית על שיטות מטעות או לא הוגנות. לא פורסמו טענות על הפרת חוק, ושתי החברות שיתפו פעולה עם בקשות קודמות למסמכים. אבל המעבר ממסמכים לעדות חשוב: מנהלים שעונים לשאלות בשבועה יוצרים תיעוד שניתן להשתמש בו בכל פעולת אכיפה עתידית, וחברות בדרך כלל אינן יכולות לערער בפומבי על עובדות שהפקידים שלהן אישרו.

רקע מביך למשקיעים

התזמון מגביר את ההימור. הגשת ה-S-1 של Anthropic אישרה נתונים פיננסיים מדהימים - עשרות מיליארדי דולרים בהכנסות במחצית הראשונה לצד הפסדים עצומים שנבעו מהוצאות מחשוב - וההנפקה צפויה להפוך לאחת מרשימות הטכנולוגיה הגדולות בהיסטוריה. משקיעים מוסדיים צריכים כעת לשקול חקירה בנושא הגנת הצרכן שמראיינת באופן פעיל את הנהגת החברה.

אנתרופיק לא הגיבה מיד לבקשות להגיב על דרישות העדות. ה-FTC סירב להגיב מעבר לאשר שהחקירה שלו נשארת נמשכת, על פי דיווחים בעיתונות.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →