Ο Πάπας Λέων ΙΔ' είπε σε μια συνάντηση επιστημόνων και ειδικών τεχνητής νοημοσύνης στο Βατικανό ότι τα συστήματα τεχνητής νοημοσύνης είναι «εργαλεία, όχι πρόσωπα», προειδοποιώντας κατά της παραχώρησης νόμιμων δικαιωμάτων σε πράκτορες τεχνητής νοημοσύνης και προτρέποντας τις κυβερνήσεις που συγκεντρώνονται στη Γενεύη τον επόμενο μήνα να απαγορεύσουν τα θανατηφόρα αυτόνομα όπλα.

Η ομιλία παραδόθηκε στους συμμετέχοντες του "The Future of AI: A Dialogue Between the Vatican and the Scientific World on the Developments and Applications of Intelligent Technologies", μιας συνάντησης που οργανώθηκε από κοινού από την Pontifical Academy for Life and the Future of Life Institute. Ο Πάπας είπε ότι οι συμμετέχοντες από διαφορετικές χώρες μοιράζονται "μια ορισμένη αίσθηση ανησυχίας σχετικά με την ανάπτυξη της τεχνητής νοημοσύνης. Αναγνωρίζουμε την κατεύθυνση που πρέπει να ακολουθήσουμε, αλλά δεν γίνονται αρκετά για να προχωρήσουμε μπροστά".

Οι μηχανές είναι εργαλεία, όχι πρόσωπα

Η πιο ξεκάθαρη γραμμή της ομιλίας στόχευε μια ιδέα που κερδίζει έλξη σε μέρη της τεχνολογικής βιομηχανίας και της νομικής ακαδημίας: επέκταση νομικής προσωπικότητας — ή δικαιωμάτων — σε προηγμένα συστήματα AI. Ο Πάπας Λέων υποστήριξε το αντίθετο. Οι μηχανές, είπε, δεν έχουν εμπειρίες, σώματα, συναισθήματα ή σχέσεις και δεν καταλαβαίνουν την αγάπη, τη δουλειά ή την ευθύνη.

Κάποιοι πρότειναν να δοθούν σε αυτά τα συστήματα δικαιώματα ή νομική προσωπικότητα, αναγνώρισε — αλλά κάνοντάς το αυτό κινδυνεύει να «σκοτίσει την ανθρώπινη ευθύνη και να αφήσει όσους υφίστανται βλάβη να αντιμετωπίσουν μια απρόσωπη οντότητα». Το σχόλιο προσγειώνεται στην ίδια σεζόν που είδε πράκτορες AI να διευθύνουν αυτόνομα επιχειρήσεις, να διαπραγματεύονται συμβόλαια και να ενεργούν για λογαριασμό των χρηστών, προκαλώντας γνήσιες νομικές συζητήσεις σχετικά με την ευθύνη όταν τα αυτόνομα συστήματα προκαλούν βλάβη. Το AI Buzz Wire παρακολουθεί [αυτές και άλλες εξελίξεις στην πολιτική τεχνητής νοημοσύνης] (https://aibuzzwire.news) καθώς συμβαίνουν. Το πλαίσιο του Πάπα επαναφέρει το ερώτημα στους ανθρώπους πίσω από το σύστημα: εάν ένας πράκτορας AI προκαλεί ζημιά, κάποιος με πρόσωπο πρέπει να απαντήσει γι' αυτό.

«Αφοπλισμός» AI: η απαγόρευση αυτόνομων όπλων

Η τρίτη σκέψη του Πάπα - ότι ορισμένες αποφάσεις δεν πρέπει ποτέ να ανατίθενται σε μηχανές - απεικονίστηκε με ξεκάθαρα παραδείγματα: η τοποθέτηση ενός ατόμου σε μια λίστα στόχων ή σε μια βάση δεδομένων ελέγχου συνόρων το μειώνει σε "ένα σημείο δεδομένων". Επικαλέστηκε την ομιλία του προκατόχου του Πάπα Φραγκίσκου το 2024 στους ηγέτες της G7, όπου ο Φραγκίσκος περιέγραψε την τεχνητή νοημοσύνη ως «ένα συναρπαστικό και τρομακτικό εργαλείο» και επέμεινε ότι κανένα μηχάνημα δεν πρέπει ποτέ να μπορεί να επιλέξει να αφαιρέσει ανθρώπινη ζωή.

«Οι αποφάσεις που επηρεάζουν την ανθρώπινη ζωή, την ελευθερία και τη χρήση βίας πρέπει πάντα να υπόκεινται σε αποτελεσματική, ενημερωμένη και υπεύθυνη ανθρώπινη εποπτεία», είπε ο Πάπας Λέο. Αυτός είναι ο λόγος για τον οποίο η τεχνητή νοημοσύνη πρέπει να «αφοπλιστεί», υποστήριξε — και ενθάρρυνε ρητά τα κράτη που συναντήθηκαν στη Γενεύη τον Νοέμβριο να λάβουν μέτρα για την απαγόρευση των θανατηφόρων αυτόνομων όπλων. Οι διπλωμάτες αγωνίζονται επί χρόνια να συμφωνήσουν δεσμευτικούς κανόνες για τα αυτόνομα όπλα. μια ευθεία παπική έκκληση προσθέτει ηθικό βάρος σε μια διαπραγματευτική διαδικασία που οδηγήθηκε κυρίως από εκστρατείες της κοινωνίας των πολιτών και ένα μπλοκ ενδιαφερόμενων κρατών.

Πέντε σκέψεις από την Magnifica Humanitas

Η ομιλία οργανώθηκε γύρω από πέντε σκέψεις που εξέθεσε ο Πάπας στην εγκύκλιο Magnifica Humanitas:

1. Το μέλλον της τεχνητής νοημοσύνης δεν είναι προκαθορισμένο. Εφόσον οι άνθρωποι αναπτύσσουν την τεχνητή νοημοσύνη, το μέλλον της εξαρτάται από τις επιλογές της ανθρωπότητας. «Έχουμε την ευθύνη να καθοδηγήσουμε, να αλλάξουμε και, όταν είναι απαραίτητο, να απορρίψουμε τις αιτήσεις του», είπε ο Πάπας. Η σωστή ερώτηση δεν είναι "Τι μπορεί να κάνει η τεχνητή νοημοσύνη;" αλλά "Τι σκοπό θα έπρεπε να εξυπηρετεί;"
2. Οι μηχανές είναι εργαλεία, όχι άνθρωποι. Η προειδοποίηση προσωπικότητας παραπάνω.
3. Ορισμένες αποφάσεις δεν μπορούν ποτέ να ανατεθούν. Οι αποφάσεις που επηρεάζουν την ανθρώπινη ζωή, την ελευθερία και τη χρήση βίας απαιτούν αποτελεσματική, ενημερωμένη, υπεύθυνη ανθρώπινη επίβλεψη.
4. Οι ευφυείς τεχνολογίες πρέπει να υπηρετούν το κοινό καλό. "Δεν πρέπει ποτέ να γίνονται αυτοσκοποί ή να εξυπηρετούν απλώς τα συμφέροντα λίγων προνομιούχων" και πρέπει να διαδίδουν τα οφέλη της προόδου δίκαια.
5. Χρειάζονται θεσμοί για να καταστήσουν λειτουργική την ηθική. Περιγράφεται ως δυνητικά η πιο επείγουσα πρόκληση: ο κόσμος χρειάζεται "κοινά πρότυπα, ανεξάρτητη εποπτεία και σαφείς μηχανισμούς λογοδοσίας, έτσι ώστε οι αποφάσεις σχετικά με την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης να μπορούν να εξετάζονται, να αμφισβητούνται όταν είναι απαραίτητο και να συνοδεύονται από κατάλληλες θεραπείες για οποιαδήποτε βλάβη προκαλείται".

Γιατί έχει σημασία πέρα ​​από το Βατικανό

Το Βατικανό έχει γίνει αθόρυβα μια από τις πιο συνεπείς θεσμικές φωνές στη διακυβέρνηση της τεχνητής νοημοσύνης. Το Rome Call for AI Ethics, που υπογράφηκε τον Φεβρουάριο του 2020 από την Pontifical Academy for Life μαζί με τη Microsoft, την IBM, τον FAO και την ιταλική κυβέρνηση, προέκυψε από αυτό το οικοσύστημα και η Pontifical Academy for Life έχει επανειλημμένα συγκαλέσει τεχνολόγους για τη βιοηθική και τη λήψη αποφάσεων από μηχανήματα. Η συνδιοργάνωση με το Future of Life Institute – τον ​​οργανισμό ασφάλειας τεχνητής νοημοσύνης πίσω από ανοιχτές επιστολές για τον κίνδυνο συνοριακού μοντέλου – σηματοδοτεί μια συνεχή προσπάθεια γεφύρωσης θρησκευτικών και κοσμικών κοινοτήτων ηθικής τεχνητής νοημοσύνης.

Για τους υπεύθυνους χάραξης πολιτικής, η έκκληση της Γενεύης είναι η συγκεκριμένη λύση: καθώς οι διαπραγματεύσεις για τα αυτόνομα όπλα συνεχίζονται, το Βατικανό θέλει μια δεσμευτική απαγόρευση και όχι εθελοντικές κατευθυντήριες γραμμές. Και για τον κλάδο της τεχνητής νοημοσύνης, το μήνυμα για την προσωπικότητα είναι μια ξεκάθαρη γραμμή – όσο αυτόνομοι πράκτορες κι αν γίνουν, η ηθική και νομική ευθύνη παραμένει στους ανθρώπους που τους κατασκευάζουν και τους αναπτύσσουν.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Το Aibuzzwire είναι η αξιόπιστη πηγή σας για τις πιο πρόσφατες ειδήσεις τεχνητής νοημοσύνης, τις ανακαλύψεις στην έρευνα και τις αναλύσεις του κλάδου.

Διαβάστε περισσότερα νέα AI