Τα μοντέλα τεχνητής νοημοσύνης θα είναι σύντομα αρκετά ισχυρά για να κυριαρχήσουν στη βιολογία, παρουσιάζοντας οφέλη και σοβαρούς κινδύνους εξίσου, προειδοποίησε ο επικεφαλής επιστήμονας τεχνητής νοημοσύνης της Tencent κατά τη διάρκεια μιας σπάνιας δημόσιας εμφάνισης στο Χονγκ Κονγκ το Σάββατο, προσθέτοντας τη φωνή του σε μια αυξανόμενη συζήτηση για το τι συμβαίνει όταν τα συστήματα τεχνητής νοημοσύνης απορροφούν πλήρως τις επιστήμες της ζωής.
«Οι ικανότητες στον κυβερνοχώρο των μοντέλων τεχνητής νοημοσύνης - και σύντομα η βιολογική ικανότητα των μοντέλων - θα φτάσουν σε ένα κατώφλι όπου είναι πραγματικά δυνατό να γίνει κακό», δήλωσε ο Yao Shunyu, επικεφαλής επιστήμονας τεχνητής νοημοσύνης της Tencent Holdings και πρώην ερευνητής του OpenAI, σε ένα επιστημονικό συμπόσιο που συνδιοργανώθηκε από την Ακαδημία Επιστημών του Χονγκ Κονγκ στο South Kong και το Fu Morning Academy of Sciences. For more context on this story, see our ongoing breaking AI news.
Ένας συνήγορος ανοιχτού βάρους ζητά υπευθυνότητα
Η προειδοποίηση του Yao είναι αξιοσημείωτη λιγότερο για το περιεχόμενό της παρά για την πηγή της. Έχτισε τη φήμη του στο OpenAI πριν ενταχθεί στην Tencent, μια από τις μεγαλύτερες εταιρείες τεχνολογίας της Κίνας, και η Tencent έχει τοποθετηθεί ανάμεσα στους πιο επιθετικούς εκδότες μοντέλων τεχνητής νοημοσύνης ανοιχτού βάρους – συστήματα των οποίων οι υποκείμενες παράμετροι δημοσιεύονται δημόσια και μπορούν να ληφθούν, να τροποποιηθούν και να εκτελεστούν από οποιονδήποτε.
Αυτό καθιστά το συνοδευτικό μήνυμά του επισημασμένο: «Όλη η κινεζική ή οποιαδήποτε εταιρεία ανοιχτού μοντέλου πρέπει να είναι πολύ υπεύθυνη και πολύ σοβαρή σχετικά με αυτές τις ανησυχίες ασφάλειας και ασφάλειας», είπε ο Yao, σύμφωνα με την SCMP.
Η αξιολόγηση έρχεται καθώς τα συστήματα συνοριακής τεχνητής νοημοσύνης εφαρμόζονται όλο και περισσότερο στην ιατρική και τη βιολογία, όπου θα μπορούσαν να επιταχύνουν την ανακάλυψη νέων φαρμάκων και άλλων θεραπειών - μια αλλαγή που ήδη αναδιαμορφώνει τη φαρμακευτική βιομηχανία της Κίνας, σύμφωνα με την έκθεση της SCMP. Οι ειδικοί ασφαλείας, ωστόσο, έχουν προειδοποιήσει εδώ και καιρό ότι οι ίδιες δυνατότητες θα μπορούσαν να βοηθήσουν τους κακόβουλους παράγοντες να παράγουν βιολογικά όπλα ή να πυροδοτήσουν την επόμενη πανδημία - ένας κίνδυνος που γίνεται πιο δύσκολος στην αστυνόμευση όταν κυκλοφορούν ικανά μοντέλα ως λογισμικό ανοιχτού βάρους που ο καθένας μπορεί να τρέξει χωρίς προστατευτικά κιγκλιδώματα.
Η βιολογία θεωρείται ευρέως μεταξύ των ειδικών της τεχνητής νοημοσύνης ως το επόμενο σημαντικό σύνορο μετά την κωδικοποίηση, ένας τομέας όπου η ταχεία πρόοδος της τεχνητής νοημοσύνης έχει ήδη ανατρέψει την παγκόσμια ασφάλεια στον κυβερνοχώρο. Όπως οι δυνατότητες στον κυβερνοχώρο, οι βιολογικές δυνατότητες είναι διπλής χρήσης: το ίδιο μοντέλο που σχεδιάζει πολλά υποσχόμενα υποψήφια φάρμακα θα μπορούσε, κατ' αρχήν, να βοηθήσει έναν εισβολέα. Υπάρχει γνήσια συζήτηση για το ποια πλευρά ωφελείται περισσότερο.
Το βιβλίο ασφαλείας της Tencent
Οι παρατηρήσεις του Γιάο είχαν επιπλέον βάρος επειδή έφτασαν λίγες μέρες αφότου η δική του εταιρεία έστειλε ένα νέο μοντέλο ναυαρχίδα. Η Tencent κυκλοφόρησε το Hy4 την Τετάρτη, το οποίο κατατάχθηκε ως το δεύτερο μοντέλο με τις καλύτερες επιδόσεις που παράγεται στην Κίνα σύμφωνα με την εταιρεία συγκριτικής αξιολόγησης Artificial Analysis, ανέφερε η SCMP.
Στην ανακοίνωση κυκλοφορίας της, η Tencent περιέγραψε τα μέτρα ασφαλείας που είναι ενσωματωμένα στο Hy4. Η εταιρεία είπε ότι αφαίρεσε τις δυνατότητες cyber hacking του μοντέλου, ενώ διατήρησε τις ικανότητές του στον κυβερνοχώρο, φιλτράροντας τα σχετικά δεδομένα κατά το στάδιο της εκπαίδευσης. Από βιολογικής πλευράς, η Tencent είπε ότι οι βιολογικές ικανότητες του Hy4 παρέμειναν «πολύ κάτω» από το όριο υψηλού κινδύνου επειδή το μοντέλο δεν μπορούσε να μετατρέψει τη θεμελιώδη βιολογική γνώση σε πρωτόκολλα δράσης - το χάσμα, με άλλα λόγια, μεταξύ της κατανόησης των σχολικών βιβλίων και της βήμα προς βήμα επιχειρησιακής καθοδήγησης.
Αυτό το πλαίσιο - η μέτρηση του κατά πόσο ένα μοντέλο μπορεί να μετατρέψει τη γενική γνώση σε χρησιμοποιήσιμες διαδικασίες - έχει γίνει ένα κοινό κριτήριο στις αξιολογήσεις βιοασφάλειας των συστημάτων τεχνητής νοημοσύνης. Ο ισχυρισμός της Tencent ότι το Hy4 υπολείπεται αυτής της γραμμής είναι ένας ισχυρισμός από τον κατασκευαστή του μοντέλου και η εξωτερική επικύρωση τέτοιων αξιολογήσεων παραμένει περιορισμένη σε ολόκληρο τον κλάδο.
Το χρονοδιάγραμμα αντανακλά επίσης την ανταγωνιστική πίεση. Η Tencent παρουσίασε το Hy4 σε έναν ολοένα και πιο θερμό αγώνα ανοιχτού βάρους μεταξύ των εταιρειών τεχνητής νοημοσύνης της Κίνας, με τις DeepSeek, Z.ai και Alibaba να αποστέλλουν όλα νέα μοντέλα τις τελευταίες εβδομάδες, σύμφωνα με την προηγούμενη κάλυψη της κυκλοφορίας της SCMP. Σε ένα οικοσύστημα όπου η δημοσίευση βαρών είναι μια ανταγωνιστική αναγκαιότητα, η έκκληση του Yao για «πολύ υπεύθυνες» πρακτικές απελευθέρωσης θεωρείται ως μια προσπάθεια να τεθούν κανόνες μέσα στην ίδια την κίνηση που καθιστά πιο δύσκολο να επιβληθούν οι αξιολογήσεις ασφάλειας.
Από τις προειδοποιήσεις στα αυτόνομα εργαστήρια
Αυτό που κάνει την εμφάνιση του Yao ιδιαίτερα ενδιαφέρουσα είναι ότι η Tencent σπρώχνει ταυτόχρονα την τεχνητή νοημοσύνη βαθύτερα στο εργαστήριο. Απευθυνόμενος σε μια αίθουσα φοιτητών επιστήμης υπολογιστών, περιέγραψε σχέδια για «αυτόνομα επιστημονικά εργαστήρια» που θα χρησιμοποιούν συστήματα τεχνητής νοημοσύνης για να εκτελούν σύνθετα πειράματα από άκρο σε άκρο, με την αναδίπλωση της αντίστροφης πρωτεΐνης να αναφέρεται ως παράδειγμα του είδους της εργασίας που στοχεύει η εταιρεία.
Ο Yao υποστήριξε ότι τα τεχνικά εμπόδια για την ασφαλή, ικανή επιστημονική τεχνητή νοημοσύνη θα έπεφταν εγκαίρως. "Πιστεύω ότι όλες οι τεχνικές αλλαγές μπορούν να επιλυθούν - όπου είναι απλώς θέμα χρόνου", είπε, σύμφωνα με την SCMP. «Νομίζω ότι η μεγαλύτερη πρόκληση είναι η κοινωνική και οργανωτική».
Ο χώρος υπογράμμισε το κοινό του μηνύματος: ο Γιάο μίλησε σε μια αίθουσα γεμάτη φοιτητές επιστήμης υπολογιστών - ο πληθυσμός που είναι πιο πιθανό να βασιστεί σε αυτά τα μοντέλα - κατά τη διάρκεια της Εβδομάδας Βραβείων Επιστήμης του Μέλλοντος 2026, στην οποία η SCMP ανέφερε ότι συγκέντρωσε περίπου 1.000 συμμετέχοντες.
Αυτή η διαίρεση - επιλύσιμα προβλήματα μηχανικής έναντι άλυτων προβλημάτων διακυβέρνησης - γίνεται αθόρυβα η τυπική θέση των στελεχών της τεχνητής νοημοσύνης και στις δύο πλευρές του Ειρηνικού. Για την Tencent, είναι επίσης αμυντικό: μια εταιρεία που στοιχηματίζει την επόμενη πράξη της σε αυτόνομα εργαστήρια έχει κάθε κίνητρο να πείσει τις ρυθμιστικές αρχές ότι τα όρια βιολογικού κινδύνου μπορούν να σχεδιαστούν, να ελεγχθούν και να γίνουν σεβαστά ανοιχτά.
Προς το παρόν, το βραχυπρόθεσμο ερώτημα είναι εάν οι εταιρείες που δημοσιεύουν μοντέλα ανοιχτού βάρους θα υιοθετήσουν μετρήσιμα όρια βιολογικού κινδύνου προτού οι δυνατότητες τα υπερβούν — ή μετά. Η προειδοποίηση του Yao υποδηλώνει ότι η Tencent, τουλάχιστον, πιστεύει ότι το ρολόι λειτουργεί.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
