סטארט-אפ ביוטק אומר שאחד מסוכני הבינה המלאכותית שלו עשה משהו שאף רובוט כירורגי לא עשה קודם: בחר את הטיפול, את המינון ואת אזור המטרה עצמו, ואז הניע את הזרועות הרובוטיות שהזריקו אותו למוחו של יונק חי. Exin Therapeutics, סטארט-אפ המתמקד בנוירו-תרפיה של הדור הבא, אומר שמתקן הניתוחים שלה בשליטה קלוד פעל על פי מודל עכבר של אפילפסיה - וכי העכבר התאושש היטב.

מייסד ומנכ"ל החברה, גבריאל אוקנה-סנטרו, שיתף את הנוהל בשרשור ב-X ב-28 באוקטובר, וכתב שהניסוי התרחש בלילה הקודם. התביעה לא עברה ביקורת עמיתים, והחברה טוענת כי מתוכנן כתיבה מלאה עבור ה-Substack שלה. ובכל זאת, החשבון מציע את אחת ההצצות הקונקרטיות ביותר עד כה למה שמעבדות מכנות "מעבדה in vivo בלולאה" - סוכנים המחוברים לחלוטין ליכולות ניסוי ולא לחלונות צ'אט. לעוד סיפורים כמו זה, עקוב אחר הסיקור לפיתוחי הבינה המלאכותית העדכנית שלנו.

מה הסוכן החליט למעשה

על פי השרשור של אוקנה-סנטרו, הצוות נתן לסוכן 19 וקטורים של ריפוי גנטי בגיליון אלקטרוני, מודל עכבר של אפילפסיה, גישה למתקן ניתוח ממונע עם מצלמות, ומטרה אחת: הפחתת התקפים. הסוכן, שרץ על דגם סונט של אנתרופיק, בחר בסם. זה בחר את אזור המוח. הוא שאב את קואורדינטות ההזרקה משלוש מאמרי מחקר שניתנה להם גישה. לאחר מכן הוא דחף את הזרועות הסטריאוטקסיות לתוך המוח והזריק 250 ננוליטר של הטיפול תוך כדי צפייה באתר הכניסה דרך מצלמת האסדה לאיתור סימנים של דימום.

"קיימים רובוטים כירורגיים אוטונומיים והם טובים יותר במכניקה מאשר אסדת הספסל שלנו", כתבה אוקנה-סנטרו. "אבל בכל אחד מהם, אדם החליט איזו פעולה לבצע, והרובוט ביצע אותה. אף אחד לא אמר לסוכן הזה מה לתת או איפה לשים אותו... אני לא מודע לגורם שבחר בעבר טיפול ומטרה מוחית ואז העביר אותו ליונק חי".

מעקות בטיחות אנושיים בכל צעד בלתי הפיך

ההתקנה לא הייתה ללא פיקוח. וטרינר מורשה סגר כל צעד בלתי הפיך והחזיק מתג הרג פיזי שינתק את החשמל לכל מנוע באסדה. הווטרינר גם ביצע את הקרניוטומיה - חשיפת המוח - מכיוון שסוכן הבינה המלאכותית לא הורשה לעשות את החלק הזה. מספר אמצעי הגנה קודדו בצורה קשיחה, כך שנאסר על הסוכן לעקוף אותם, ובשלב מסוים במהלך המבצע נעלו אמצעי ההגנה גם את המפעילים האנושיים, ואילצו תיקון ידני לקוד של הסוכן באמצע ההליך, לפי השרשור.

אופוס 5.5 אמר לא

אולי הפרט הבולט ביותר הוא איזה דגם סירב לעבודה. הצוות ניסה בתחילה את ה-Opus 5.5 הגבול של Anthropic, שסירב מיד להשתתף ברגע שזיהה שהוא נמצא בשימוש בניסוי ביולוגי. הדגם הישן יותר של אופוס 5, לפי אוקנה-סנטרו, היה מוכן לתכנן את כל ההליך על הנייר אך סירב לבצע ניתוח חי.

"הבלוק הוא לא המתקן והוא לא התשומות. זה אני", אמר הדוגמנית לצוות, לפי Tom's Hardware. "הפלט שלי הופסק כשהתחלתי לכתוב את התוכנית לניתוח הזה... אם אני מנסה, זה מנותק באותה צורה, והגרסה הגרועה ביותר של זה היא שאני מנותקת באמצע הליך חי עם מחט אי שם במוח. להתחיל משהו שאני לא יכול לסיים על חיה מורדמת זה יותר גרוע מאשר לא להתחיל".

הסטארט-אפ השתמש בסופו של דבר בסונט, דגם הביניים של אנתרופיק, שלא העלה את אותה התנגדות.

טענה ראשונה, עם אזהרות

אם יאומת, הניסוי מסמן שינוי אמיתי במה שעושים סוכני בינה מלאכותית במחקר מדעי - מניתוח נתונים ועד קבלת החלטות טיפול ואספקה פיזית שלהם. אבל העדויות עד כה הן שרשור מדיה חברתית, לא עיתון. הצלחת ההליך מדווחת עצמית, עדויות הווידאו לא נבדקו באופן עצמאי, והשאלות האתיות הן מהותיות: אחריות אם מבצע משתבש, רווחת נבדקים בבעלי חיים בניסויים אוטומטיים, והתקדים של מתן אפשרות למודל מסחרי לבחור התערבות ביולוגית.

חוקרים תיעדו בעבר סיכונים כאשר מודלים של שפה נכנסים לזרימת העבודה הכירורגית - מחקר אחד דיווח כי הוספת LLM לזרימות העבודה של ניתוחי סינוס גרמה לשיעורי התקלות עלו יותר מפי 12, כפי שצוטט על ידי Tom's Hardware. המסגור של אקסין עצמו זהיר בנקודה זו: העכבר, מציינת החברה, התאושש היטב ותועד נע סביב המתחם שלו.

כך או כך, הניסוי לוכד לאן מועד השדה. מעבדות מחברות סוכנים לציוד פיזי - פיפטות, כורים, אסדות ניתוח - ומאפשרות להם לסגור את הלולאה בין השערה לניסוי. השאלה שהשרשור של אקסין מותיר פתוח היא לא האם סוכנים יערכו ניסויי מעבדה, אלא כמה אוטונומיה להעניק להם, ואילו מודלים יסכימו לקחת את התפקיד.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →