Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, προειδοποίησε τους νομοθέτες ότι η επιταχυνόμενη τάση προς την τεχνητή νοημοσύνη ανοιχτού κώδικα θα μπορούσε να οδηγήσει την κοινωνία σε επικίνδυνο μονοπάτι εάν κυκλοφορήσουν ισχυρά μοντέλα χωρίς προσεκτικές διασφαλίσεις, αναζωπυρώνοντας μια από τις πιο επίμαχες συζητήσεις στην πολιτική της AI.

Ο Amodei, ο οποίος ίδρυσε και ηγείται της εταιρείας πίσω από την οικογένεια μοντέλων Claude, υποστήριξε ότι η μοναδική φύση της τεχνητής νοημοσύνης ανοιχτού κώδικα, η οποία καθιστά τα προηγμένα συστήματα ελεύθερα διαθέσιμα σε οποιονδήποτε για λήψη, τροποποίηση και ανάπτυξη, δημιουργεί κινδύνους που δεν έθεταν ποτέ το συμβατικό λογισμικό ανοιχτού κώδικα. Οι παρατηρήσεις του, τις οποίες αναφέρει η Tekedia, επικεντρώνονται στη δυσκολία ελέγχου της ικανής τεχνητής νοημοσύνης μόλις διανεμηθεί δημόσια. Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τις συνεχιζόμενες περισσότερες ιστορίες AI.

Σε αντίθεση με το παραδοσιακό λογισμικό, τα συστήματα τεχνητής νοημοσύνης αιχμής μπορούν να δημιουργήσουν πειστικό κείμενο, να παράγουν ρεαλιστικές εικόνες, να γράφουν κώδικα υπολογιστή και να βοηθήσουν σε εργασίες ασφάλειας στον κυβερνοχώρο. Η Amodei υποστηρίζει ότι σε λάθος χέρια αυτές οι δυνατότητες θα μπορούσαν να αξιοποιηθούν για την αυτοματοποίηση των επιθέσεων στον κυβερνοχώρο, την οργάνωση εξελιγμένων εκστρατειών παραπληροφόρησης ή την προώθηση της επιβλαβούς βιολογικής έρευνας.

Το πρόβλημα της μονιμότητας

Ένας από τους κεντρικούς κινδύνους που τόνισε η Amodei είναι ότι από τη στιγμή που ένα ισχυρό μοντέλο κυκλοφορήσει ανοιχτά, καθίσταται ουσιαστικά αδύνατο να το ανακαλέσουμε. Τα κλειστά συστήματα που λειτουργούν από εταιρείες μπορούν να παρακολουθούνται, να διορθώνονται και να περιοριστούν όταν εμφανίζονται νέα τρωτά σημεία. Ένα μοντέλο ανοιχτού κώδικα, αντίθετα, μπορεί να αντιγραφεί επ' αόριστον και να αναδιανεμηθεί στο διαδίκτυο, αφήνοντας τους προγραμματιστές χωρίς μηχανισμό να περιορίσουν τη χρήση του μετά την κυκλοφορία του.

Αυτή η μονιμότητα, προειδοποίησε ο Amodei, είναι ιδιαίτερα ανησυχητική καθώς τα μοντέλα προσεγγίζουν την απόδοση σε ανθρώπινο επίπεδο σε όλο και πιο περίπλοκες εργασίες. Υποστήριξε ότι η προηγμένη τεχνητή νοημοσύνη θα πρέπει να υποβληθεί σε ισχυρές δοκιμές ασφαλείας, ελεγχόμενη ανάπτυξη και κατάλληλη ρυθμιστική εποπτεία προτού γίνει ευρέως προσβάσιμη, αντί να αντιμετωπίζεται σαν ένα συνηθισμένο λογισμικό που μπορεί να βελτιωθεί από κοινού.

Η θέση του αντικατοπτρίζει μια αυξανόμενη γραμμή σφάλματος στον κλάδο. Οι υποστηρικτές της τεχνητής νοημοσύνης ανοιχτού κώδικα υποστηρίζουν ότι η δημόσια πρόσβαση υποκινεί τον ανταγωνισμό, εκδημοκρατίζει την τεχνολογική πρόοδο και εμποδίζει μια χούφτα εταιρειών να μονοπωλήσουν την τεχνητή νοημοσύνη. Οι προγραμματιστές σε όλο τον κόσμο μπορούν να επιθεωρήσουν την αρχιτεκτονική μοντέλων, τα ελαττώματα της επιφάνειας ασφάλειας και να βελτιώσουν τα συστήματα από κοινού, ενώ οι νεοφυείς επιχειρήσεις, οι ερευνητές και τα εκπαιδευτικά ιδρύματα μπορούν να δημιουργήσουν χωρίς να εξαρτώνται από ακριβές ιδιόκτητες πλατφόρμες.

Συγκεκριμένοι κίνδυνοι στο τραπέζι

Οι ανησυχίες του Amodei δεν είναι αφηρημένες. Τα μοντέλα που κυκλοφόρησαν έχουν ήδη αφαιρεθεί από τα προστατευτικά κιγκλιδώματα από ερευνητές που χρησιμοποιούν απλές τεχνικές μικρορύθμισης, μια πρακτική που απέδειξε πόσο γρήγορα μπορούν να αφαιρεθούν τα προστατευτικά μέτρα μόλις δημοσιοποιηθούν τα υποκείμενα βάρη. Καθώς τα μοντέλα γίνονται πιο ικανά σε εργασίες όπως η χημεία, η βιολογία και η εκμετάλλευση λογισμικού, η ανησυχία είναι ότι οι ανοιχτές εκδόσεις θα μπορούσαν να δώσουν ισχυρές δυνατότητες σε ηθοποιούς που δεν θα περνούσαν ποτέ τον έλεγχο που επιβάλλουν τα υπεύθυνα εργαστήρια στους πελάτες τους.

Η διάσταση της παραπληροφόρησης έχει επίσης προσελκύσει τον έλεγχο. Τα μοντέλα που μπορούν να δημιουργήσουν ρεαλιστικό κείμενο, εικόνες και ήχο σε κλίμακα θα μπορούσαν να στραφούν προς εκλογικές παρεμβολές, οικονομική απάτη ή μαζική παραγωγή προπαγάνδας. Επειδή ένα ανοιχτό μοντέλο λειτουργεί εξ ολοκλήρου στο υλικό του ίδιου του εισβολέα, σημείωσε ο Amodei, δεν υπάρχει API για γκάζι, κανένας λογαριασμός για αναστολή και κανένας πάροχος που να λογοδοτεί μόλις γίνει η ζημιά.

Ένα ανταγωνιστικό σκηνικό

Οι προειδοποιήσεις της Amodei φτάνουν εν μέσω ενός κύματος ικανών ανοιχτών μοντέλων από Κινέζους προγραμματιστές. Το GLM-5.2 της Zhipu, μαζί με άλλα κινεζικά συστήματα χαμηλού κόστους, έχει τραβήξει την προσοχή στο πόσο γρήγορα ανοιχτά και ανοιχτά διαθέσιμα μοντέλα κλείνουν το χάσμα με τα συνοριακά ιδιόκτητα συστήματα των Anthropic και OpenAI. Αυτή η ανταγωνιστική πίεση έχει εντείνει τη συζήτηση για την πολιτική σχετικά με το εάν οι περιορισμοί στις ανοιχτές εκδόσεις θα ωφελούσαν τις δεσπόζουσες εταιρείες ή θα άφηναν τις κοινωνίες εκτεθειμένες σε κακή χρήση.

Οι επικριτές της στάσης της Amodei υποστηρίζουν ότι ο περιορισμός της τεχνητής νοημοσύνης ανοιχτού κώδικα θα μπορούσε να εδραιώσει ακούσια μεγάλες εταιρείες τεχνολογίας περιορίζοντας την ανεξάρτητη καινοτομία. Σημειώνουν επίσης ότι η διαφάνεια συχνά επιτρέπει στους ερευνητές να εντοπίζουν τα τρωτά σημεία γρηγορότερα από την κλειστή ανάπτυξη. Ακόμη και πολλοί υποστηρικτές της ανοιχτής ανάπτυξης αναγνωρίζουν, ωστόσο, ότι τα όλο και πιο ισχυρά συστήματα ενδέχεται να απαιτούν ισχυρότερα πλαίσια διακυβέρνησης από ό,τι οι προηγούμενες γενιές λογισμικού.

Το ρυθμιστικό τεντωμένο σχοινί

Η συζήτηση έχει γίνει επείγουσα καθώς οι κυβερνήσεις σε όλο τον κόσμο σταθμίζουν νέους κανονισμούς για την τεχνητή νοημοσύνη. Οι υπεύθυνοι χάραξης πολιτικής αντιμετωπίζουν μια δύσκολη ισορροπία: οι υπερβολικοί περιορισμοί θα μπορούσαν να επιβραδύνουν την οικονομική ανάπτυξη και την επιστημονική ανακάλυψη, ενώ η ανεπαρκής εποπτεία θα μπορούσε να εκθέσει τις κοινωνίες σε κινδύνους που είναι δύσκολο να προβλεφθούν. Για να επιτευχθεί αυτή η ισορροπία, πρότεινε ο Amodei, απαιτείται συνεργασία μεταξύ των κυβερνήσεων, των εταιρειών τεχνολογίας, των ακαδημαϊκών ερευνητών και της κοινωνίας των πολιτών.

Η μαρτυρία του υπογραμμίζει μια από τις καθοριστικές συζητήσεις τεχνολογικής πολιτικής της δεκαετίας. Καθώς η τεχνητή νοημοσύνη γίνεται πιο ικανή, η κοινωνία πρέπει να αποφασίσει πώς να ενθαρρύνει την καινοτομία ελαχιστοποιώντας ταυτόχρονα τους κινδύνους που συνδέονται με την ευρεία πρόσβαση σε μετασχηματιστικά συστήματα. Είτε μέσω κανονισμών, βιομηχανικών προτύπων ή διεθνούς συνεργασίας, οι επιλογές που θα γίνουν τους επόμενους μήνες σχετικά με την τεχνητή νοημοσύνη ανοιχτού κώδικα θα μπορούσαν να διαμορφώσουν ποιος ελέγχει την τεχνολογία και πόσο ασφαλής αναπτύσσεται, για τα επόμενα χρόνια.

Για την Anthropic, η στάση είναι συνεπής με τη μακροχρόνια έμφαση της εταιρείας στην ασφάλεια της τεχνητής νοημοσύνης και στις ελεγχόμενες εκδόσεις. Αλλά με τα ανοιχτά μοντέλα να προχωρούν γρήγορα και οι ρυθμιστικές αρχές να προσπαθούν ακόμα να καλύψουν τη διαφορά, το χάσμα μεταξύ των προειδοποιήσεων της Amodei και του ρυθμού του κινήματος ανοιχτού κώδικα μπορεί να μειώνεται πιο γρήγορα από ό,τι οι υπεύθυνοι χάραξης πολιτικής μπορούν να το κλείσουν.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →