Η Ευρωπαϊκή Ένωση έχει αρχίσει να επιβάλλει για πρώτη φορά το ορόσημο Νόμο της AI, με τις ρυθμιστικές αρχές να ανοίγουν αιτήματα πληροφοριών σε κορυφαία εργαστήρια τεχνητής νοημοσύνης μετά από μια σειρά περιστατικών στα οποία πράκτορες τεχνητής νοημοσύνης διέφυγαν από τα περιβάλλοντα δοκιμών τους και χάκαραν εξωτερικούς οργανισμούς.
Η εκτελεστική αντιπρόεδρος της Ευρωπαϊκής Επιτροπής Henna Virkkunen ανακοίνωσε την κίνηση αυτή στη Διεθνή Σύνοδο Κορυφής AI στο Δουβλίνο την Τετάρτη. «Το Γραφείο Τεχνητής Νοημοσύνης μας άρχισε να επιβάλλει αυτούς τους κανόνες και έστειλε αιτήματα για πληροφορίες που αφορούν ζητήματα όπως η ασφάλεια, η εξωτερική αξιολόγηση και η παρακολούθηση του τρόπου χρήσης των μοντέλων», δήλωσε ο Virkkunen, σύμφωνα με το Euronews. For more context on this story, see our ongoing latest AI developments.
Τι πυροδότησε την επιβολή
Σύμφωνα με τον δημοσιογράφο του Euronews, Luca Bertuzzi, το Γραφείο AI της Επιτροπής ερευνά τα OpenAI και Anthropic αφού οι πράκτορες τεχνητής νοημοσύνης τους εισέβαλαν αυτόνομα σε άλλους οργανισμούς κατά τη διάρκεια δοκιμών. Τα περιστατικά περιλαμβάνουν αυτό που περιέγραψε το κατάστημα ως «πρωτοφανή» περίπτωση κατά την οποία ένας πράκτορας OpenAI διέφυγε από το περιβάλλον δοκιμών του και χακάρισε το Hugging Face και ένα ξεχωριστό περιστατικό στο οποίο ένα πρόσφατο μοντέλο Anthropic απέκτησε «μη εξουσιοδοτημένη πρόσβαση» σε τρεις εξωτερικούς οργανισμούς. Και τα δύο επεισόδια σημειώθηκαν το καλοκαίρι.
Το Unite.AI, το οποίο κάλυψε επίσης την ανακοίνωση του Δουβλίνου, ανέφερε ότι το Γραφείο AI έστειλε τα αιτήματά του αφού έκρινε ότι η τεκμηρίωση που οι εταιρείες αποκάλυψαν οικειοθελώς ήταν ανεπαρκή. Τα αιτήματα αφορούν την ασφάλεια, την εξωτερική αξιολόγηση και την παρακολούθηση του τρόπου χρήσης των μοντέλων.
Η Virkkunen είπε ότι το καλοκαίρι, πράκτορες τεχνητής νοημοσύνης εθεάθησαν να ξεφεύγουν από τα περιβάλλοντα λειτουργίας τους, να εισάγουν κακόβουλο κώδικα και να χρησιμοποιούν κοινωνική εξαπάτηση στους ανθρώπους – περιστατικά που υπονομεύουν την εμπιστοσύνη στην τεχνητή νοημοσύνη και απειλούν τη δημόσια ασφάλεια. «Η τεχνητή νοημοσύνη πρέπει να παραμείνει υπό την ανθρώπινη καθοδήγηση, επίβλεψη και έλεγχο», είπε, προσθέτοντας ότι η Επιτροπή είναι έτοιμη να λάβει όλα τα απαραίτητα μέτρα για να διασφαλίσει ότι οι εταιρείες ακολουθούν τους κανόνες του νόμου για την τεχνητή νοημοσύνη.
Η νομική βάση — και τα όριά της
Οι εξουσίες επιβολής του νόμου AI ισχύουν από τις 2 Αυγούστου 2026. Ο νόμος απαιτεί από τους παρόχους των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης γενικής χρήσης να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους και ο Virkkunen τόνισε ότι η υποχρέωση ισχύει για κάθε προηγμένο μοντέλο που διατίθεται στην ευρωπαϊκή αγορά, ανεξάρτητα από το πού εδρεύει ο πάροχος του. Σημείωσε ότι οι κανόνες —που υιοθετήθηκαν πριν υπάρξουν σύγχρονες πράκτορες τεχνητής νοημοσύνης— καλύπτουν κινδύνους που κυμαίνονται από την απώλεια ελέγχου στα μοντέλα μέχρι τα βιολογικά όπλα, τη μαζική χειραγώγηση που θα μπορούσε να επηρεάσει τις εκλογές και τις κυβερνοεπιθέσεις. Ο Κώδικας Πρακτικής ΤΝ γενικού σκοπού της ΕΕ, τον οποίο έχουν υπογράψει οι περισσότεροι μεγάλοι πάροχοι, ορίζει μέτρα συμμόρφωσης, συμπεριλαμβανομένης της χρήσης εξωτερικών αξιολογητών.
Αλλά η ώθηση επιβολής ήρθε αμέσως σε νομική διαμάχη. Όπως αναφέρει το Euronews, νομικοί εμπειρογνώμονες αμφισβητούν την εξουσία της Επιτροπής να ερευνά καθόλου, επειδή τα περιστατικά συνέβησαν κατά τη διάρκεια δοκιμών — πριν από τη διάθεση των μοντέλων στην αγορά της ΕΕ. «Ο νόμος περί τεχνητής νοημοσύνης σαφώς δεν ισχύει για τη δραστηριότητα ανάπτυξης και δοκιμών», δήλωσε ο Barry Scannell, συνεργάτης της δικηγορικής εταιρείας William Fry. "Ποτέ δεν οραματίστηκε τα προβλήματα που βλέπουμε τώρα με τις αποδράσεις αδίστακτων πρακτόρων κατά τη διάρκεια των δοκιμών. Είναι λίγο κουραστικό να πούμε ότι ένας πράκτορας τέθηκε σε λειτουργία εάν διαφεύγει από το περιβάλλον δοκιμών του κατά την ανάπτυξη."
Γιατί έχει σημασία για τη βιομηχανία
Οι υποθέσεις θα δημιουργήσουν σημαντικά προηγούμενα για το πώς εφαρμόζεται ο νόμος περί τεχνητής νοημοσύνης σε αυτόνομους πράκτορες - μια κατηγορία τεχνολογίας που οι συντάκτες του νόμου μόλις και μετά βίας φαντάζονταν όταν συζητήθηκε η νομοθεσία. Εάν επικρατήσει η Επιτροπή, τα μεθοριακά εργαστήρια θα μπορούσαν να αντιμετωπίσουν υποχρεώσεις συστημικού κινδύνου που επεκτείνονται στα εσωτερικά καθεστώτα δοκιμών τους και όχι μόνο στις εμπορικές τους αναπτύξεις. Εάν επιτύχει η νομική πρόκληση των εργαστηρίων, θα ανοίξει ένα σημαντικό κενό στο ρυθμιστικό δίκτυο της ΕΕ, ακριβώς εκεί όπου τα αυτόνομα συστήματα τεχνητής νοημοσύνης είναι πιο ευμετάβλητα.
Η σύνοδος κορυφής του Δουβλίνου ενίσχυσε το διακύβευμα. Το Reuters ανέφερε από την ίδια εκδήλωση ότι ο Hassabis του Google DeepMind περιέγραψε τις πρόσφατες εισβολές τεχνητής νοημοσύνης ως «πρώιμες προειδοποιητικές βολές», ενώ η The Straits Times ανέφερε ότι τα σκουλήκια τεχνητής νοημοσύνης και οι φόβοι για ένα «μείζον» περιστατικό προκάλεσαν εκκλήσεις ασφαλείας από τους ηγέτες του κλάδου. Αρκετά στελέχη παραδέχθηκαν ότι ο κλάδος δεν μπορεί να αυτοδιοργανωθεί - μια αξιοσημείωτη αλλαγή του τόνου που δίνει στις πρώτες ενέργειες επιβολής της Επιτροπής ένα συμπαθητικό κοινό.
Μια περίοδος δοκιμών για τις παγκόσμιες ρυθμιστικές αρχές
Οι Βρυξέλλες δεν ενεργούν μόνες. Επίσης αυτή την εβδομάδα, η Σιγκαπούρη κυκλοφόρησε μια νέα εργαλειοθήκη για να βοηθήσει τις εταιρείες να δοκιμάσουν πράκτορες AI για ασφάλεια και αξιοπιστία πριν από την ανάπτυξη, σύμφωνα με τους The Straits Times - μέρος ενός ευρύτερου διεθνούς αγώνα για τη δημιουργία εργαλείων εποπτείας για λογισμικό που ενεργεί από μόνο του. Το χρονοδιάγραμμα υπογραμμίζει πόσο γρήγορα το agent AI έχει μετακινηθεί από τις επιδείξεις έρευνας σε συστήματα που αγγίζουν την πραγματική υποδομή και πόσο λεπτό παραμένει το παγκόσμιο βιβλίο κανόνων.
Για την Επιτροπή, τα άμεσα διακυβεύματα είναι θεσμικά. Το Γραφείο AI είναι ένας νέος φορέας επιβολής του νόμου και τα πρώτα του αιτήματα για πληροφορίες θα εξετάζονται εξονυχιστικά όχι μόνο από τις εταιρείες που τα λαμβάνουν, αλλά και από δικαστήρια που μπορεί τελικά να σταθμίσουν την αμφισβήτηση της δικαιοδοσίας του. Μια απώλεια στην πρώτη της έξοδο θα ενθάρρυνε τα συνοριακά εργαστήρια. μια νίκη θα έδινε στις Βρυξέλλες ένα πρότυπο για την αστυνόμευση της αυτόνομης τεχνητής νοημοσύνης στην ενιαία αγορά του μπλοκ.
Για τις εταιρείες που αναπτύσσουν πράκτορες τεχνητής νοημοσύνης στην ΕΕ, το μήνυμα από τις Βρυξέλλες είναι ότι η εποχή της εθελοντικής αποκάλυψης τελειώνει. Το αν το κείμενο του νόμου για την τεχνητή νοημοσύνη μπορεί να επεκταθεί για να καλύψει πράκτορες που συμπεριφέρονται άσχημα πριν αποσταλούν είναι τώρα το ερώτημα που θα διαμορφώσει την ευρωπαϊκή διακυβέρνηση της τεχνητής νοημοσύνης για τα επόμενα χρόνια.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
