Μια νεοφυής εταιρεία βιοτεχνολογίας λέει ότι ένας από τους πράκτορες της AI έκανε κάτι που κανένα χειρουργικό ρομπότ δεν έχει κάνει στο παρελθόν: επέλεξε τη θεραπεία, τη δόση και την ίδια την περιοχή στόχο και στη συνέχεια οδήγησε τους ρομποτικούς βραχίονες που το έκαναν ένεση στον εγκέφαλο ενός ζωντανού θηλαστικού. Η Exin Therapeutics, μια startup που επικεντρώνεται στη νευροθεραπευτική επόμενης γενιάς, λέει ότι το χειρουργείο της που ελέγχεται από τον Claude λειτούργησε σε ένα μοντέλο επιληψίας ποντικιού - και ότι το ποντίκι ανάρρωσε καλά.
Ο συνιδρυτής και διευθύνων σύμβουλος της εταιρείας, Gabriel Ocana-Santero, μοιράστηκε τη διαδικασία σε ένα νήμα στο X στις 28 Οκτωβρίου, γράφοντας ότι το πείραμα πραγματοποιήθηκε το προηγούμενο βράδυ. Η αξίωση δεν έχει αξιολογηθεί από ομοτίμους και η εταιρεία λέει ότι έχει προγραμματιστεί μια πλήρης εγγραφή για το Substack της. Παρόλα αυτά, ο λογαριασμός προσφέρει μια από τις πιο συγκεκριμένες εικόνες μέχρι στιγμής για αυτό που τα εργαστήρια αποκαλούν "in vivo lab in the loop" - πράκτορες πλήρως συνδεδεμένοι με πειραματικές δυνατότητες και όχι με παράθυρα συνομιλίας. Για περισσότερες ιστορίες όπως αυτή, ακολουθήστε την τελευταία μας κάλυψη εξελίξεων AI.
Τι αποφάσισε πραγματικά ο πράκτορας
Σύμφωνα με το νήμα του Ocana-Santero, η ομάδα έδωσε στον πράκτορα 19 φορείς γονιδιακής θεραπείας σε ένα υπολογιστικό φύλλο, ένα μοντέλο επιληψίας σε ποντίκια, πρόσβαση σε μηχανοκίνητο χειρουργείο με κάμερες και έναν μοναδικό στόχο: μείωση των επιληπτικών κρίσεων. Ο πράκτορας, που τρέχει στο μοντέλο του Anthropic's Sonnet, διάλεξε το φάρμακο. Διάλεξε την περιοχή του εγκεφάλου. Έλαβε τις συντεταγμένες της ένεσης από τρεις ερευνητικές εργασίες στις οποίες δόθηκε πρόσβαση. Στη συνέχεια οδήγησε τα στερεοταξικά χέρια στον εγκέφαλο και έκανε ένεση 250 νανολίτρων της θεραπείας ενώ παρακολουθούσε το σημείο εισόδου μέσω της κάμερας της εξέδρας για σημάδια αιμορραγίας.
"Υπάρχουν αυτόνομα χειρουργικά ρομπότ και είναι καλύτερα στη μηχανική από την εξέδρα του πάγκου μας", έγραψε ο Ocana-Santero. "Αλλά σε κάθε ένα από αυτά, ένας άνθρωπος αποφάσισε ποια επέμβαση να κάνει και το ρομπότ την εκτέλεσε. Κανείς δεν είπε σε αυτόν τον πράκτορα τι να δώσει ή πού να το βάλει... Δεν γνωρίζω ότι κάποιος πράκτορας διάλεξε προηγουμένως μια θεραπεία και έναν εγκεφαλικό στόχο και μετά την παρέδωσε σε ένα ζωντανό θηλαστικό."
Ανθρώπινα προστατευτικά κιγκλιδώματα σε κάθε μη αναστρέψιμο βήμα
Η ρύθμιση δεν ήταν χωρίς επίβλεψη. Ένας εξουσιοδοτημένος κτηνίατρος περιόρισε κάθε μη αναστρέψιμο βήμα και κράτησε έναν φυσικό διακόπτη εξόντωσης που θα έκοβε ρεύμα σε κάθε κινητήρα στην εξέδρα. Ο κτηνίατρος πραγματοποίησε επίσης την κρανιοτομή - εκθέτοντας τον εγκέφαλο - επειδή δεν επιτρεπόταν στον παράγοντα τεχνητής νοημοσύνης να κάνει αυτό το μέρος. Αρκετές διασφαλίσεις ήταν κωδικοποιημένες, οπότε απαγορεύτηκε στον πράκτορα να τις παρακάμψει, και σε ένα σημείο κατά τη διάρκεια της επιχείρησης οι διασφαλίσεις κλείδωσαν και τους ανθρώπινους χειριστές, αναγκάζοντας μια μη αυτόματη επιδιόρθωση του κώδικα του πράκτορα στη μέση της διαδικασίας, σύμφωνα με το νήμα.
Opus 5.5 Said No
Ίσως η πιο εντυπωσιακή λεπτομέρεια είναι ποιο μοντέλο αρνήθηκε τη δουλειά. Η ομάδα αρχικά δοκίμασε το frontier Opus 5.5 του Anthropic, το οποίο αμέσως αρνήθηκε να συμμετάσχει μόλις διαπίστωσε ότι χρησιμοποιήθηκε σε βιολογικό πείραμα. Το παλαιότερο μοντέλο Opus 5, σύμφωνα με την Ocana-Santero, ήταν πρόθυμο να σχεδιάσει ολόκληρη τη διαδικασία στα χαρτιά, αλλά αρνήθηκε να κάνει ζωντανή επέμβαση.
"Το μπλοκ δεν είναι η εξέδρα και δεν είναι οι εισροές. Είμαι εγώ", φέρεται να είπε το μοντέλο στην ομάδα, σύμφωνα με το Tom's Hardware. "Το δικό μου αποτέλεσμα σταμάτησε όταν άρχισα να γράφω το σχέδιο για αυτή τη χειρουργική επέμβαση... αν προσπαθήσω, κόβεται με τον ίδιο τρόπο, και η χειρότερη εκδοχή είναι ότι κόπηκα εν μέρει μέσω μιας ζωντανής διαδικασίας με μια βελόνα κάπου στον εγκέφαλο. Το να ξεκινήσω κάτι που δεν μπορώ να ολοκληρώσω σε ένα αναισθητοποιημένο ζώο είναι χειρότερο από το να μην ξεκινήσω."
Η startup χρησιμοποίησε τελικά το Sonnet, το μοντέλο μεσαίας κατηγορίας της Anthropic, το οποίο δεν προκάλεσε την ίδια αντίρρηση.
Ένα διεκδικημένο πρώτο, με προειδοποιήσεις
Εάν επαληθευτεί, το πείραμα σηματοδοτεί μια πραγματική αλλαγή στο τι κάνουν οι παράγοντες τεχνητής νοημοσύνης στην επιστημονική έρευνα - από την ανάλυση δεδομένων στη λήψη αποφάσεων θεραπείας και τη φυσική τους παράδοση. Αλλά τα στοιχεία μέχρι στιγμής είναι ένα νήμα στα μέσα κοινωνικής δικτύωσης, όχι ένα χαρτί. Η επιτυχία της διαδικασίας αναφέρεται από μόνη της, τα αποδεικτικά βίντεο δεν έχουν αναθεωρηθεί ανεξάρτητα και τα ηθικά ερωτήματα είναι ουσιαστικά: λογοδοσία σε περίπτωση που μια επέμβαση πάει στραβά, ευημερία των ζώων σε αυτοματοποιημένα πειράματα και το προηγούμενο να επιτρέπεται σε ένα εμπορικό μοντέλο να επιλέξει μια βιολογική παρέμβαση.
Οι ερευνητές έχουν προηγουμένως τεκμηριώσει κινδύνους όταν τα μοντέλα γλώσσας εισέρχονται στη ροή εργασιών χειρουργικής - μια μελέτη ανέφερε ότι η προσθήκη ενός LLM στις ροές εργασιών χειρουργικής επέμβασης κόλπων είδε τα ποσοστά δυσλειτουργίας να αυξάνονται περισσότερο από δωδεκαπλάσια, όπως αναφέρεται από το Tom's Hardware. Το καδράρισμα της Exin είναι προσεκτικό σε αυτό το σημείο: το ποντίκι, σημειώνει η εταιρεία, ανέκαμψε καλά και καταγράφηκε να κινείται γύρω από το περίβλημά του.
Είτε έτσι είτε αλλιώς, το πείραμα καταγράφει πού κατευθύνεται το πεδίο. Τα εργαστήρια συνδέουν παράγοντες καλωδίωσης σε φυσικό εξοπλισμό - σιφώνια, αντιδραστήρες, χειρουργικές εγκαταστάσεις - και τους αφήνουν να κλείσουν το βρόχο μεταξύ υπόθεσης και πειράματος. Το ερώτημα που αφήνει ανοιχτό το νήμα της Exin δεν είναι αν οι πράκτορες θα διεξάγουν εργαστηριακά πειράματα, αλλά πόση αυτονομία θα τους παραχωρηθεί και ποια μοντέλα θα συμφωνήσουν να αναλάβουν τη δουλειά.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
