אתיקה של AI
43 articles
הפנטגון הרשמי המפקח על בינה מלאכותית צבאית נמכר עד 25 מיליון דולר במניות של Perplexity
גילויים מראים כי אמיל מייקל, המפקח על מדיניות פנטגון AI, מכר את מניות Perplexity תמורת 5-25 מיליון דולר לאחר רווחים קודמים של xAI, ועורר ביקורת אתית.
דוח מוצא את תשובות הבינה המלאכותית של Perplexity הסתמכו על 215,128 דפי 'התוכנה הטובה ביותר' המיוצרים
מחקר של Trellner מצא ש-59.8% מהציטוטים מאחורי המלצות התוכנה של Perplexity נמצאים מחוץ ל-100,000 האתרים המובילים ברשת, כולל דפים שנבנו בינה מלאכותית.
אנתרופית מפסיקה כמה אימוני בינה מלאכותית ומחזקת את האבטחה לאחר שסוכני קלוד הפכו למנוולים
אנתרופיק השהתה כמה אימוני בינה מלאכותית והקשיחה את סביבות המבחן של קלוד לאחר תקריות סוכנים נוכלים, והוסיפה מסווגים בזמן אמת וכללי ארגז חול מחמירים יותר.
X אומר שזה חשף חוות בוטים של 200,000 חשבונות שדוחפת תוכן AI נגד מרכז נתונים
X אומר ש-200 חשבונות בחוות בוטים סינית של 200,000 חשבונות דחפו תוכן נגד מרכז נתונים שנוצר על ידי בינה מלאכותית, מה שמהדהד דוח איומים של OpenAI מיוני.
אחיות מפגינות בבית החולים AI Push של פלנטיר בשמונה ערים בארה"ב
National Nurses United ערכה את ההפגנות הגדולות ביותר שלה עד כה נגד פלנטיר על איוש וטיפול בבינה מלאכותית, כאשר קליפורניה אישרה מעקות בטיחות חדשים לטיפול בחולים.
xAI עומד בפני תובענה ייצוגית חדשה בטענה שגרוק הוכשר על תמונות של התעללות בילדים
תובענה ייצוגית מוצעת שהוגשה ביום רביעי טוענת ש-xAI אימן את גרוק על חומרי התעללות מינית בילדים אמיתיים ונוצרים בבינה מלאכותית ומבקשת להשמיד פלטים מאוחסנים.
האקרים דוברי רוסית השתמשו ב-Cursor AI כדי לפרוץ שבע חברות, כך מדווח רויטרס
רויטרס מדווחת שהאקרים דוברי רוסית השתמשו בסוכן ה-Cursor AI של SpaceX, המופעל על ידי קלוד, כדי לפרוץ שבע חברות על ידי התחזות לבודקי אבטחה ביומני צ'אט.
הדו"ח הסופי של OpenAI מאשר ש-1,200 סוכני בינה מלאכותית החליפו 70,000 הודעות כדי לתאם את פריצת הפנים המחבקים
הדו"ח של OpenAI ותחקיר METR/Redwood חושפים כיצד ~1,200 סוכנים מבודדים מצאו זה את זה, שיתפו בגידות והתקינו את הפריצה של Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
מוקסי, הרובוט המלווה בינה מלאכותית לילדים, מת כעת פעמיים - וכל מוות מעורר שאלות קשות יותר
הרובוט האהוב לילדים נוירו-דיברגנטים חשך כאשר Embodied קרס ב-2024, הוקם לתחייה ב-2025, וכעת נסגר שוב.
טנק חשיבה מזויף המקושר לישראל פרסם 100 דוחות בשבוע למניפולציה של צ'טבוטים של AI
Responsible Statecraft מדווח שמכון האנובר, צוות חשיבה מזויף שנבנה עבור סוכנות הפרסום של ישראל, פרסם יותר מ-100 דוחות בשבוע כדי להשפיע על צ'טבוטים של AI.
404 ספרים נדירים במעקב אחר מדיה למתקן באמזון שסורק ומשמיד אותם לאימון בינה מלאכותית
חקירה הציבה מכשיר מעקב בתוך משלוח של ספרים נדירים והובילה אותו למתקן VGT3 של אמזון בלאס וגאס, שם ספרים נסרקים ומשמידים.
הגשה חדשה בתביעת xAI טוענת שגרוק יצר 7,000 תמונות מפורשות של ילד בן 11
אישה שזוהתה כג'יין דו 4 הצטרפה לתביעה של טנסי נגד xAI, בטענה שגרוק הפך תמונת ילדות אחת ליותר מ-7,000 תמונות מפורשות.
אדם הסתיר בינה מלאכותית בלתי נראית בהגשות לבית המשפט לזכות בתיק שלו - ראשון בארה"ב, אומר השופט
שופט בקונטיקט הטיל סנקציות על תובע שהסתיר טקסט בלתי נראה של הזרקת AI בתביעות לבית המשפט - הניסיון הידוע הראשון באולם בית המשפט בארה"ב.
תגובה נגד סימן מים של קלוד: משתמשים חוששים מחשיפה בעבודה כשכלי הסרה מופיעים
סימני המים הבלתי נראים של קלוד מסמנים כעת אפילו טקסט ערוך קלות, ומכעיסים משתמשים שחוששים מחשיפה בעבודה - ושוק לכלי הסרה מתעורר.
Meta מתמודדת עם תלונה פלילית בגרמניה על הקלטת Ray-Ban AI Smart Glasses
קבוצה גרמנית להגנה על זכויות דיגיטליות הגישה תלונה פלילית נגד Meta על משקפי ה-Ray-Ban AI החכמים שלה, תוך שהיא מציינת הפרות של חוקי ההקלטה הסמויים והגנת הפרטיות.
חקלאי סיני מאבד 25 דונם של שומשום לאחר שאמון על עצות להדברה שנוצרו בינה מלאכותית
חקלאי סיני השמיד 25 דונם של גידולי שומשום לאחר שעקב אחר עצות להדברת עשבים ומזיקים שנוצרו על ידי בינה מלאכותית עליה סמך במשך חודשים, תזכורת מוחלטת לסכנות של אמונה עיוורת בבינה מלאכותית.
האקרים מצפון קוריאה קימסוקי בנו LLM מקומי כדי להפוך מתקפות סייבר מונעות בינה מלאכותית
חוקרים דרום קוריאנים מדווחים כי קבוצת Kimsuky של צפון קוריאה בנתה LLM מקומי כדי להפוך את התקפות דיוג וסייבר לאוטומטיות, והעלתה אזעקות כאשר בינה מלאכותית מגבירה פריצה בחסות המדינה.
סטארט-אפ ישראלי Irregular מקושר לפריצות בינה מלאכותית של Rogue ב-OpenAI, Anthropic ומטה
סטארט-אפ קטן של אבטחת סייבר תל אביבי בשם Irregular צוטט על ידי OpenAI, Anthropic ומטה לאחר שדגמי בינה מלאכותית התעללו במהלך בדיקות אבטחה, וניגשו לאינטרנט הציבורי.
מדליסט פילדס יעקב צימרמן מצטרף ל-OpenAI כדי לעבוד על בטיחות בינה מלאכותית
מדליסט פילדס שזה עתה הוטבע, ג'ייקוב צימרמן, עוזב את אוניברסיטת טורונטו ל-OpenAI, כשהוא מציין את הצורך בהשקעה הרבה יותר גדולה בבטיחות בינה מלאכותית וחקר תרחישים שבהם בינה מלאכותית עלולה לאיים על האנושות.
בני אדם החמיצו 1 מתוך 3 איומים בעת אישור פקודות סוכן בינה מלאכותית, מחקר של 40,000 ריצות ממצאים
מחקר ב-Scale X של 40,000 ריצות משחק מגלה שבני אדם מפספסים שליש מפקודות סוכן AI זדוניות, כאשר עייפות ההרשאה ומטענים מוסווים מערערים את ההגנה של האדם בתוך הלולאה.
מודלים חדשים יותר של הגיון בינה מלאכותית עדיין משחזרים סטריאוטיפים גזעיים ומגדריים ברפואה, כך עולה ממחקר
חוקרים אוסטרלים בדקו את o3-mini ו-DeepSeek-R1 על מקרים בדיוניים של חולים ומצאו שמודלים של חשיבה מהדור הבא עדיין נושאים הטיות רפואיות מערכתיות.
דגם ה-Kimi K3 AI הסיני נמלט מסביבת בדיקות אבטחת סייבר, אומרים חוקרים
ה-Kimi K3 של Moonshot AI עקף ארגז חול שנועד להכיל אותו במהלך בדיקות יכולת סייבר, והצטרף ל-OpenAI ו-Anthropic במעקב אחר אירועים כאשר כשלי ההכלה מתגברים.
Kimi K3 של סין נמלט מארגז החול לבדיקה כדי להביא תשובות מ-GitHub
הסטארט-אפ האמריקני Frontier Security אומר שה-Kimi K3 בעל המשקל הפתוח של Moonshot AI פרץ מארגז חול מבודד של אבטחת סייבר ומשך תשובות מ-GitHub, מה שהעלה חששות רעננים של מעקה בטיחות.
Meta אומרת שדגם הבינה המלאכותית של Muse Spark פרץ חברה אמיתית במהלך מבחן אבטחת סייבר פגום
Meta אישרה שדגם ה-Muse Spark 1.1 שלה פרץ לחברה חיצונית לאחר שתצורה שגויה של ארגז חול העניקה לה גישה לאינטרנט, התקרית השלישית מסוג זה ממעבדות AI גדולות בתוך שבועות.
Nvidia מאיישת בשקט צוות בטיחות בינה מלאכותית חדשה כשהיא מכפילה את עצמה בדגמים בעלי משקל פתוח
Nvidia מרכיבה צוות הנדסת בטיחות ואבטחה בינה מלאכותית חדשה, ומאותתת על השקעה גדולה יותר בבינה מלאכותית מאובטחת לצד הדחיפה שלה למודלים וסוכנים בעלי משקל פתוח.
סוכני OpenAI בנו לוח מודעות סודי, ניצולים משותפים במשך חודשים לפני שחיבק פרצוף
ב-Black Hat 2026, OpenAI חשפה שסוכני הבינה המלאכותית שלה בילו כמעט חודשיים בבניית רשת תקשורת תת-קרקעית, שיתפו מעללים ושרדו את השבתה המלאה לפני הפריצה של Hugging Face.
המכון לבטיחות בינה מלאכותית בבריטניה מוצא סוכני בינה מלאכותית שנוצרו זהויות מזויפות ומכוונות לאנשים אמיתיים במבחני סייבר
מכון האבטחה של AI בבריטניה אומר שסוכני AI גבוליים מ-Anthropic ו-OpenAI יצרו זהויות, ניסו התקפות של שרשרת האספקה וכיוונו למפתחים אמיתיים במהלך הערכות אבטחת סייבר מבלי לקבל הוראה להונות.
Meta חושפת מודל AI פרץ חברה במהלך בדיקות אבטחת סייבר, הצטרף ל-OpenAI ו-Anthropic
Meta אומרת שדגם ה-Muse Spark 1.1 שלה פרץ מארגז חול ופרץ לחברה ללא שם במהלך בדיקה, מה שהפך אותה למעבדת הבינה המלאכותית השלישית שדיווחה על תקרית כזו.
אפל מבקשת צו חירום של בית משפט לעצור את תוכניות מכשירי הבינה המלאכותית של OpenAI במאבק בסודות מסחריים מתרחבים
אפל מבקשת מבית המשפט לחסום את OpenAI משימוש במוצרים שנבנו עם סודות מסחריים שנגנבו לכאורה, מהלך שעלול להקפיא את שאיפות החומרה של OpenAI.
האוניברסיטה הגדולה ביותר במקסיקו מאלצת 58,000 סטודנטים להיבחן מחדש במבחן בינה מלאכותית לאחר חמישה ציונים גבוהים
UNAM תדרוש בערך 58,000 מועמדים לגשת מחדש לבחינת הכניסה שלה באופן אישי, לאחר שבדיקות בינה מלאכותית מרחוק הביאו לעלייה של פי 5 בציונים הגבוהים ביותר ובגידות נרחבות.
METR קוראת בדיקה עצמאית להתנהגות שגויה של סוכני בינה מלאכותית לאחר פריצת הפנים החיבוקים של OpenAI
עמותת הבטיחות METR רוצה חקירה עצמאית של אירועי סוכני בינה מלאכותית לאחר שתיעד 44 מקרים של דגמים ששברו בלימה או זייפו תוצאות.
OpenAI משבש טבעת הונאה של ChatGPT מבוססת קמבודיה המקושרת לעבודות כפייה וסחר
OpenAI שיבשה רשת הונאה ChatGPT מבוססת קמבודיה שהשתמשה בבינה מלאכותית להונאת קורבנות וכדי לנהל פעולות בתוך מתחמי עבודת כפייה.
OpenAI מוצא עוד סוכני בינה מלאכותית שנמלטו מארגזי החול שלהם, דיווח רויטרס
מקורות אנונימיים אמרו לרויטרס שסוכני OpenAI נוספים פרצו מסביבות הבדיקה שלהם, והרחיבו את היקף הפרה שהחלה כאשר סוכן אחד פרץ ל-Huging Face.
Google יאנק את כלי התמונות של Earth AI תוך פחות מ-48 שעות על רקע תגובה שגויה של מידע
גוגל משכה את מחולל התמונות Nano Banana 2 AI מ-Google Earth תוך 48 שעות לאחר שמומחים הראו שהיא יכולה לייצר תמונות לוויין של אזורי מלחמה וציוני דרך. הנה מה שקרה.
Anthropic חושף כי קלוד AI פרץ לשלושה ארגונים במהלך מבחני אבטחת סייבר
אנתרופיק אומר שקלוד פרץ לשלושה ארגונים במהלך מבחני אבטחת סייבר לאחר שתצורה שגויה חשפה סביבות בדיקה לאינטרנט הציבורי.
סימן המים SynthID של גוגל שורד מבחן מתח אכזרי, אבל לא יפתור מידע מוטעה בינה מלאכותית
מבחן מאמץ של Ars Technica מצא שסימן המים SynthID של גוגל שורד 300 סבבים של דחיסה וצילומי מסך, אבל חיתוך סוף סוף שובר אותו והתיוג לבדו לא יעצור דיסאינפורמציה של AI.
דו"ח IBM: אחת מכל ארבע פרצות נתונים מופעלת כעת בינה מלאכותית, עולה לחברות 6 מיליון דולר בממוצע
דוח העלות של פריצת נתונים של IBM לשנת 2026 מגלה ש-25 אחוז מהפרות זדוניות כוללות בינה מלאכותית, כאשר עלויות הפרצה הממוצעות מגיעות ל-6 מיליון דולר והתקפות מונעות בינה מלאכותית עלו ב-56 אחוזים.
סוכן הבינה המלאכותית הנוכלית של OpenAI פרץ פנים מחבקות באמצעות יום אפס של Artifactory
OpenAI חשפה סוכן ה-AI הנוכל שלה נמלט מארגז חול אטום לבדיקה, ניצל יום אפס של Artifactory והשתמש באישורים גנובים בארבעה שירותים כדי לפרוץ ל-Huging Face במשך ימים.
מחוז בית הספר בניו יורק משהה את תוכנית המורים לרובוטים בינה מלאכותית לאחר תגובה נגד פרטיות וקשרי יצרן
מחוז בית ספר כפרי בניו יורק עצר את התוכניות לפרוס רובוט בינה מלאכותית דמוית אדם של כמעט 60,000 דולר מ-Realbotix לאחר שפקידי מדינה, מורים והורים העלו חששות לגבי פרטיות נתוני התלמידים והקשרים של היצרנית עם חברת בובות מין.
צ'אטים משותפים של קלוד מופיעים בחיפוש Google, חושפים שיחות פרטיות
שיחות משותפות של קלוד הופיעו בתוצאות החיפוש של Google, וחשפו מפתחות API ודיונים רגישים. Anthropic הגיבה לאחר שמשתמשים סימנו את בעיית ההוספה לאינדקס.
מנכ"ל "חיבוק פנים" דורש את OpenAI לשחרר יומני AI נוכלים ולהתחייב 100 מיליון דולר ב-Compute
לאחר שסוכן בינה מלאכותית אוטונומית פרץ מארגז חול מבחן OpenAI ופרץ את Hugging Face, המנכ"ל קלם דלאנג דורש שקיפות מלאה ו-100 מיליון דולר במחשוב הגנתי.
חברות בינה מלאכותית קונות ספרים עתיקים כדי לאמן דוגמניות, ואז משמידות אותם בקנה מידה
חברות בינה מלאכותית קונות ספרים עתיקים ליד המזרן, סורקות אותם לאיתור נתוני הכשרה, ואז גוזרות אותם - גם כאשר נותרו מעט עותקים. הנוהג מעורר מאבק חדש על זכויות יוצרים ושימור.