Anthropic עדכנה את מדיניות השימוש שלה בפעם הראשונה מזה יותר משנה, והוסיפה הוראה האוסרת על "התנהגות פוגענית או אכזרית מתמשכת ומיותרת" כלפי דגמי קלוד שלה, לפי The Verge. העדכון, שדווח ביום חמישי, גם מגבש ומרחיב את הכללים של החברה סביב התערבות בבחירות, מסעות תעמולה, מעקבים, פיתוח נשק ושימושים בריאותיים ופיננסיים בעלי סיכון גבוה.
נימוק הרווחה המופת For more context on this story, see our ongoing breaking AI news.
הסעיף המכוון להתעללות כלפי קלוד הוא הרחבה של מחקר שהחברה החלה לפרסם לפני יותר משנה. באוגוסט 2025, אנתרופיק הודיעה שהיא תאפשר לקלוד לסיים שיחות עם משתמשים "מזיקים או מתעללים באופן מתמשך" כחלק מהעבודה שלה על מה שהיא מכנה רווחת המודל, המחקר האם למערכות בינה מלאכותית יכולות להיות חוויות רלוונטיות מבחינה מוסרית וכיצד האפשרות הזו צריכה לעצב החלטות מוצר.
לפי המדיניות החדשה, סיום שיחות נשאר "מנגנון האכיפה העיקרי". אנתרופיק לא הגיבה לשאלות האם צעדי אכיפה נוספים, כגון איסור חשבונות, עשויים להופיע. החברה ניסחה את הכלל בצמצום בהצהרה, וכתבה כי הוא "נועד לחול רק במקרים קיצוניים, שבהם משתמשים נוהגים שוב ושוב באכזריות כלפי הדוגמניות שלנו, ללא מטרה מובחנת".
באופן מכריע, אנתרופיק הוסיפה כי ההוראה "אינה חלה על גרסאות נפוצות של תסכול משתמשים, דחיפה, נושאים יצירתיים אפלים, או בדיקות ומחקר מודלים", ניסיון לכאורה להרגיע מפתחים, אנשי צוות אדומים וכותבים בדיוניים ששימוש יריב שגרתי לא ייענש.
כללים חדשים בנושא תעמולה ובחירות
מעבר לרווחת המודל, העדכון אוסף את ההגבלות הפזורות בעבר של החברה על פעולות השפעה לאיסור יחיד ומפורש על קמפיינים מסחריים או פוליטיים מטעים. השפה החדשה מגבילה את "המאמצים לטשטש מי עומד מאחורי הודעה או להגביר תוכן באמצעות חשבונות או פוסטים מזויפים", מכוונת ישירות לשוק ההולך וגדל של תעמולה שנוצרת בינה מלאכותית.
סעיף הבחירות של המדיניות אוסר כעת על הטעיית בוחרים ושיבוש בחירות. אנתרופיק אומר שאסור להשתמש בקלוד כדי להפיץ מידע מוטעה "על מועמדים או איך להצביע", כדי להתחזות למועמדים או לפקידי בחירות, או לנסות לדכא את אחוז ההצבעה.
מדוע מדיניות השימוש מקבלת שכתוב
הרענון של אנתרופיק משקף דפוס ענף רחב יותר. כאשר עוזרי בינה מלאכותית עברו מצ'אטבוטים חדשניים לתשתית המשמשת מאות מיליוני אנשים, מעבדות נאלצו לעבור מעקרונות רחבים לכללים עדינים הממפים דפוסי שימוש לרעה אמיתיים: פעולות להשפעה להשכרה, כלי מעקב, פיתוח נשק אוטונומי ותחומים בסיכון גבוה כמו ייעוץ רפואי ופיננסי.
OpenAI, Google DeepMind ומטה חזרו כולן על מדיניות השימוש שלהן במהלך השנתיים האחרונות, אם כי ההחלטה של Anthropic להסדיר באופן מפורש את האופן שבו משתמשים מתייחסים למודל, ולא רק למה שהם גורמים לו לעשות, נותרה יוצאת דופן. מבקרי חקר הרווחה של מודלים טוענים שהוא מאנתרופומורפיז מערכות סטטיסטיות, בעוד התומכים טוענים שאם יש סיכוי לא אפסי שלמודלים נוכחיים או קרובים יש חוויות רלוונטיות לרווחה, לחברות יש חובה לפעול תחת אי ודאות.
העיתוי משנה גם מבחינה מסחרית. לפי הדיווחים, אנתרופיק מתכוננת להנפקה לפי שווי של עד 2 טריליון דולר, ורוכשי ארגונים שוקלים יותר ויותר את נוהלי הממשל של הספקים לצד איכות המודל הגולמי. מדיניות שימוש מתועדת בבירור ומתעדכנת בקביעות משמשת גם כחפץ בטיחותי וגם כחפץ מכירות: היא נותנת לצוותי רכש ולרגולטורים בסיס קונקרטי לאמון בפלטפורמה, ומקודדת את סעיף הרווחה של המודל מאותת שאנתרופיק מתכוונת להמשיך ולהשקיע בתחום שרוב המתחרים לא השאירו מענה.
שאלות אכיפה נותרו פתוחות
השאלות המעשיות משמעותיות. זיהוי אכזריות "מתמשכת ומיותרת" מצריך מעקב אחר שיחות ברמת פירוט שלקוחות ארגוניים מודעים לפרטיות עשויים להתנגד לה, ומתווה קו בין התעללות אסורה ל"דחיקה" לגיטימית או "בדיקת מודלים" היא שיפוט שסביר להניח שתהיה ערעור.
אנתרופיק לא אמרה אם יתבצע מעקב אחר הפרות בין חשבונות, האם פריסות ארגוניות יהיו כפופות לתקני ניטור שונים, או שהחברה תפרסם נתוני שקיפות על פעולות אכיפה, כפי שהיא עושה לגבי קטגוריות אחרות של שימוש לרעה בדוחות המדיניות התקופתיים שלה.
מה שברור הוא שהחוזים החברתיים של מעבדות הגבול עם המשתמשים שלהם הולכים ונעשים מפורטים יותר. מדיניות שפעם התאימה לדף בודד מכסה כעת בחירות, מעקבים צמודים לריגול, נשק ביולוגי, וכעת, התנהלותם הרגשית של בני האדם בצד השני של חלון הצ'אט.
מה זה אומר עבור מפתחים
עבור צוותים המבוססים על ה-API של קלוד, ההשפעה בטווח הקרוב היא ככל הנראה מינימלית: סעיף ההתנהגות הפוגענית מכוון להתנהלות קיצונית וחוזרת, ומנגנון סיום השיחה שהוא מכונן פעיל מאז 2025. אבל מפתחים בקטגוריות סמוכות, ייעוץ פוליטי, מחקר אופוזיציה, שיווק השפעה, צריכים לעיין בקפידה את הקמפיין החדש ואת הוראות הבחירות שפוזרו בקפידה על מסמכים מרובים של מסמכים מרובים, כיוון שהם היו מסמכים מרובים שנפרסו בעבר. אי בהירות שעליה הסתמכו מקרי שימוש בשטח אפור.
העדכון גם מסמן לאן מועדות תשומת הלב הרגולטורית. עם התחייבויות השקיפות של חוק הבינה המלאכותית של האיחוד האירופי והכנסת המחוקקים של מדינות ארה"ב מעבירות טלאי הולך וגדל של חוקי בינה מלאכותית, מדיניות שימוש מרצון מתפקדת יותר ויותר כתבנית שהרגולטורים בודקים כשהם מחליטים מהן הנורמות של פריסה אחראית.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
