Περισσότεροι από 20 ερευνητές - ανάμεσά τους ο νομπελίστας Geoffrey Hinton, ο συνεργάτης πρωτοπόρος της τεχνητής νοημοσύνης Yoshua Bengio, ο συνιδρυτής της Anthropic Jack Clark και ο επικεφαλής επιστήμονας του OpenAI Jakub Pachocki - προειδοποίησαν τις κυβερνήσεις να προετοιμαστούν για μια «έκρηξη νοημοσύνης» της AI που λένε ότι θα μπορούσε να είναι η πιο σημαντική τεχνολογική εξέλιξη στην ιστορία.
Η εφημερίδα, με τίτλο «Τι θα συμβεί αν η αυτοματοποίηση της Ε&Α της τεχνητής νοημοσύνης πυροδοτήσει μια έκρηξη πληροφοριών», παροτρύνει τους πολιτικούς να δράσουν προτού υπάρξει αδιάκοπη πρόοδος στην τεχνολογία. Οι συγγραφείς του περιγράφουν το σενάριο ως «δραματική επιτάχυνση της προόδου της τεχνητής νοημοσύνης με γνώμονα την τεχνητή νοημοσύνη, συμπίεση των προόδων που διαφορετικά θα χρειάζονταν χρόνια σε μήνες ή λιγότερο». Για τους αναγνώστες που παρακολουθούν [τα τελευταία ερευνητικά νέα της τεχνητής νοημοσύνης] (https://aibuzzwire.news), η έκθεση είναι λιγότερο αξιοσημείωτη για τον συναγερμό της παρά για το ποιος την υπέγραψε: στοιχεία από όλο τον ακαδημαϊκό χώρο και ανταγωνιστικά συνοριακά εργαστήρια, υποστηρίζοντας από κοινού ότι η αυτοματοποιημένη έρευνα είναι το σενάριο για το οποίο είναι λιγότερο προετοιμασμένοι οι υπεύθυνοι χάραξης πολιτικής.
Τι θα σήμαινε μια έκρηξη πληροφοριών
Το κεντρικό μέλημα των συγγραφέων είναι η προοπτική των συστημάτων τεχνητής νοημοσύνης να βελτιώνονται χωρίς ανθρώπινη παρέμβαση — μια διαδικασία γνωστή ως αναδρομική αυτοβελτίωση, που αναφέρεται ευρέως στο έγγραφο ως αυτοματοποιημένη έρευνα και ανάπτυξη τεχνητής νοημοσύνης.
Μόλις τα συστήματα τεχνητής νοημοσύνης φτάσουν σε ικανότητες επιπέδου ειδικών στην Ε&Α τεχνητής νοημοσύνης, υποστηρίζει η εφημερίδα, ένας μόνο προγραμματιστής θα μπορούσε να έχει εργατικό δυναμικό ισοδύναμο με «εκατομμύρια» κορυφαίων ανθρώπων ερευνητών. Η αυτοματοποίηση της Ε&Α τεχνητής νοημοσύνης είναι, κατά την άποψη των συγγραφέων, το πιο πιθανό έναυσμα μιας έκρηξης πληροφοριών, επειδή τα συστήματα τεχνητής νοημοσύνης ήδη συμβάλλουν στη βελτίωση της δικής τους τεχνολογίας — και τα βελτιωμένα συστήματα που βοηθούν στη δημιουργία μπορούν να αναπτυχθούν γρήγορα μόλις κατασκευαστούν.
«Μια έκρηξη πληροφοριών θα μπορούσε να είναι η πιο συνεπακόλουθη τεχνολογική εξέλιξη στην ανθρώπινη ιστορία, συμπιέζοντας χρόνια προόδου σε μήνες ή λιγότερο, απειλώντας τον ανθρώπινο έλεγχο στα συστήματα τεχνητής νοημοσύνης και διαβρώνοντας σοβαρά τους ελέγχους ισχύος εντός και μεταξύ κρατών, εταιρειών και κλάδων της κυβέρνησης», αναφέρει η εφημερίδα, σύμφωνα με τον The Guardian.
Γιατί οι συγγραφείς λένε ότι το παράθυρο κλείνει
Ο επείγων χαρακτήρας της έκθεσης βασίζεται σε έναν ισχυρισμό χρονοδιαγράμματος: Τα συστήματα τεχνητής νοημοσύνης που φαίνονται δυσλειτουργικά σήμερα θα μπορούσαν να αυτοματοποιήσουν πλήρως τα έργα Ε&Α που απαιτούν επί του παρόντος μήνες στις ανθρώπινες ομάδες έως το 2028.
«Τα κέρδη παραγωγικότητας από τον αυτοματισμό Ε&Α τεχνητής νοημοσύνης δεν έχουν φτάσει ακόμη το όριο που απαιτείται για να πυροδοτηθεί μια έκρηξη πληροφοριών, αλλά τα κέρδη από νεότερα συστήματα είναι πιθανό να πλησιάζουν αυτό το όριο», γράφουν οι συγγραφείς. «Μόλις ξεκινήσει μια έκρηξη πληροφοριών, το παράθυρο για δράση μπορεί να κλείσει».
Η εφημερίδα προσθέτει ότι «τα προκαταρκτικά στοιχεία υποδηλώνουν ότι είναι πιθανή μια έκρηξη πληροφοριών με γνώμονα το λογισμικό», η οποία θα μπορούσε να οδηγήσει στην «εξαιρετικά ταχεία ανάπτυξη πολύ ικανών ή υπεράνθρωπων συστημάτων τεχνητής νοημοσύνης».
Οι κίνδυνοι που επισημαίνουν
Ενώ μια έκρηξη πληροφοριών θα μπορούσε να προκαλέσει ιατρικές ανακαλύψεις και γρήγορα τεχνολογικά άλματα, οι συγγραφείς περιγράφουν τρεις κύριους κινδύνους:
- Απειλές δραπέτης. Τα ισχυρά συστήματα θα μπορούσαν να ενεργοποιήσουν βιολογικές και κυβερνοαπειλές που αναπτύσσονται ταχύτερα από τα μέτρα που απαιτούνται για την αντιμετώπισή τους.
- Έχασε τον έλεγχο. Καθώς οι άνθρωποι εμπλέκονται λιγότερο στην Ε&Α τεχνητής νοημοσύνης, θα μπορούσαν να χάσουν την ευκαιρία να κατευθύνουν και να περιορίσουν τα συστήματα που κατασκευάζουν.
- Στρατηγική αστάθεια. Τα κράτη θα μπορούσαν να χρησιμοποιήσουν μια έκρηξη πληροφοριών για να μετατρέψουν ένα μέτριο προβάδισμα — για παράδειγμα στον κυβερνοχώρο — σε αποφασιστικό εθνικό πλεονέκτημα.
Η έκθεση είναι ειλικρινής ότι αυτές οι επιπτώσεις είναι "αβέβαιες". Μια τεχνολογική ανακάλυψη θα μπορούσε να πάρει χρόνο για την εφαρμογή δεδομένων αλυσίδων εφοδιασμού για εξειδικευμένα υλικά ή ρυθμιστικές απαιτήσεις και τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν επίσης να επιταχύνουν την ταχύτητα με την οποία μετριάζονται οι κίνδυνοι.
Τι πρέπει να κάνουν οι κυβερνήσεις
Οι συγγραφείς λένε ότι η προετοιμασία για μια έκρηξη πληροφοριών «θα πρέπει να είναι επείγουσα προτεραιότητα, συμπεριλαμβανομένων των ανώτατων επιπέδων της κυβερνητικής ηγεσίας», και παρουσιάζουν ένα σύνολο υποψήφιων πολιτικών:
- Απαίτηση διαφανών εκθέσεων προόδου σχετικά με την Ε&Α που σχετίζεται με την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της ενσωμάτωσης ανεξάρτητων ελεγκτών σε εταιρείες τεχνητής νοημοσύνης
- Περιορισμός του πόσο γρήγορα μπορεί να βελτιωθεί ένα σύστημα AI μέσα σε μια δεδομένη χρονική περίοδο
- Συνεργασία με κέντρα δεδομένων για να επιτραπεί η παύση ορισμένων έργων Ε&Α AI
- Διασφάλιση ότι τα αυτοματοποιημένα συστήματα Ε&Α τεχνητής νοημοσύνης είναι πλήρως απομονωμένα και δεν μπορούν να ξεφύγουν από τον ανθρώπινο έλεγχο
- Δημιουργία «σχεδίων αντιμετώπισης έκτακτης ανάγκης» για το εύρος των σεναρίων που θα μπορούσε να δημιουργήσει μια έκρηξη πληροφοριών
Οι προτάσεις επεκτείνουν τις ιδέες που ήδη κινούνται μέσω της δυτικής πολιτικής τεχνητής νοημοσύνης — υποχρεωτική αναφορά περιστατικών, αξιολόγηση τρίτων και υπολογιστική διακυβέρνηση — αλλά τις εφαρμόζουν σε ένα συγκεκριμένο τελικό σημείο: την αυτοματοποίηση της ίδιας της έρευνας.
Γιατί αυτοί οι συγγραφείς, και γιατί τώρα
Οι υπογράφοντες δίνουν στο χαρτί ασυνήθιστο βάρος. Ο Hinton και ο Bengio είναι δύο από τους «νονούς» της σύγχρονης τεχνητής νοημοσύνης, αναγνωρισμένοι για τη θεμελιώδη εργασία στα νευρωνικά δίκτυα. Και οι δύο έχουν γίνει εξέχουσες φωνές που προειδοποιούν για την τεχνολογία που βοήθησαν στη δημιουργία. Ο Clark συνίδρυσε την Anthropic και ο Pachocki είναι επικεφαλής επιστήμονας στο OpenAI.
Η προειδοποίησή τους προσγειώνεται εν μέσω μετρήσιμης κίνησης της βιομηχανίας προς αυτή την κατεύθυνση. Η Anthropic είπε ότι το AI παράγει πλέον το 80% του δικού του κώδικα, ενώ το OpenAI χρησιμοποιεί αυτόνομους πράκτορες AI σε τομείς όπως η εκπαίδευση νέων μοντέλων, σύμφωνα με τον Guardian. Και τα δύο εργαστήρια συμφώνησαν επίσης να έχουν ανεξάρτητους αξιολογητές να αξιολογούν τα μοντέλα τους αφού προειδοποίησαν ότι η ανάπτυξη της τεχνητής νοημοσύνης έφτασε σε ένα κρίσιμο βήμα όσον αφορά την ασφάλεια.
Το αν οι κυβερνήσεις θα κινηθούν με τους ρυθμούς που θέλουν οι συγγραφείς είναι ένα άλλο ερώτημα. Αλλά το βασικό επιχείρημα της εφημερίδας - ότι η στιγμή για να φτιάξεις τα φρένα είναι πριν τα χρειαστεί το αυτοκίνητο - τώρα επικυρώνεται από τους ανθρώπους που βρίσκονται πιο κοντά στο μηχάνημα.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
