Καθώς οι εταιρείες τεχνολογίας αγωνίζονται να δημιουργήσουν ολοένα και πιο ισχυρή τεχνητή νοημοσύνη, μερικές από αυτές ζητούν βοήθεια από ένα παλιό ίδρυμα για ένα νέο πρόβλημα: πώς να διδάξουν ένα chatbot το σωστό από το λάθος. Η απάντησή τους, όλο και περισσότερο, είναι η θρησκεία.
Τους τελευταίους μήνες, στελέχη της τεχνητής νοημοσύνης ζήτησαν τη γνώμη φιλοσόφων και θρησκευτικών ηγετών για το πώς να κάνουν τα μοντέλα «ηθικά καλά». Η προσέγγιση ξεκινά από επίσημες διαβουλεύσεις έως εμφανίσεις στο Βατικανό - και, σύμφωνα με μια έκθεση του Associated Press που δημοσιεύθηκε την Κυριακή, προκαλεί ανησυχίες μεταξύ των μελετητών της θρησκείας ότι οι εταιρείες παρεξηγούν αυτό που αξιοποιούν. Για τους αναγνώστες που παρακολουθούν τις [τελευταίες εξελίξεις της τεχνητής νοημοσύνης] (https://aibuzzwire.news), η ιστορία σηματοδοτεί πόσο κεντρική ηθική ευθυγράμμιση έχει γίνει με τον τρόπο λειτουργίας αυτών των εταιρειών τώρα.
"Ερωτήσεις που ένα εργαστήριο δεν μπορεί να απαντήσει"
Η Anthropic, η εταιρεία τεχνητής νοημοσύνης που θεωρείται ευρέως ότι λαμβάνει πιο σοβαρά την ηθική, ήταν από τις πιο δραστήριες. Στην παρουσίαση στο Βατικανό της εγκυκλίου του Πάπα Λέοντος XIV για την τεχνητή νοημοσύνη νωρίτερα αυτό το έτος, ο συνιδρυτής της Anthropic Chris Olah είπε στο κοινό ότι τα ηθικά ερωτήματα γύρω από την τεχνητή νοημοσύνη υπερβαίνουν αυτά που οι εταιρείες μπορούν να επιλύσουν μόνες τους.
«Αυτές δεν είναι ερωτήσεις που μπορεί να απαντήσει ένα εργαστήριο», είπε ο Olah. «Είναι ερωτήματα που κουβαλούσαν οι παραδόσεις όπως η δική σας εδώ και χιλιετίες».
Η Anthropic ανέφερε σε μια ανάρτηση ιστολογίου τον Μάιο ότι είχε συναντηθεί με "λόγιους, κληρικούς, φιλοσόφους και ηθικολόγους από περισσότερες από 15 θρησκευτικές και διαπολιτισμικές ομάδες", μια δεξαμενή που λέει ότι ελπίζει να διευρυνθεί. Η εταιρεία πλαισίωσε την προσπάθεια σε γενικές γραμμές: "Αυτή η εργασία δεν έχει να κάνει με την ευθυγράμμιση των μοντέλων μας με την κοσμοθεωρία οποιασδήποτε παράδοσης. Θέλουμε ο Claude να αντλεί από ένα πλήρες φάσμα απόψεων - θρησκευτικές, κοσμικές, πολιτικές - με το ίδιο βάθος και αυστηρότητα."
Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, έχει διατυπώσει ένα διαφορετικό, πιο συγκεντρωτικό όραμα. «Αυτό που πιστεύω ότι πρέπει να κάνει το ChatGPT είναι να αντικατοπτρίζει αυτόν τον σταθμισμένο μέσο όρο, ή οτιδήποτε άλλο, της ηθικής άποψης της ανθρωπότητας», είπε ο Άλτμαν πέρυσι.
Inside Anthropic's Faith Meeting
Η Meghan Sullivan, μια φιλόσοφος της θρησκείας που ηγείται μιας πρωτοβουλίας για την ηθική και την τεχνητή νοημοσύνη στο Πανεπιστήμιο της Notre Dame, παρακολούθησε μια από τις συναντήσεις του Anthropic νωρίτερα φέτος. Σε αντίθεση με τις συζητήσεις που είχε με άλλες εταιρείες τεχνολογίας, έφυγε εντυπωσιασμένη από την αυστηρότητα του αρραβώνα.
"Η κουλτούρα μέσα στην εταιρεία είναι παρόμοια με αυτή σε μια καλή πανεπιστημιούπολη με την έννοια ότι έχετε μια συλλογή από πολύ διανοητικά περίεργους ανθρώπους", είπε ο Sullivan. «Αυτές οι συναντήσεις είναι αρκετά σπασμωδικές — δεν ξέρω αν αυτός είναι ο καλύτερος τρόπος να το θέσω — με την καλή έννοια».
Η συνάντηση, η οποία περιλάμβανε Χριστιανούς από διαφορετικά δόγματα, χωρίστηκε σε δύο μέρη: η εταιρεία εξήγησε πρώτα τα μοντέλα της «με απλούς όρους» και οι ηγέτες της πίστης απάντησαν με σχόλια και συζήτηση. Σύμφωνα με τον Sullivan, οι ερωτήσεις κυμαίνονταν από το "Έχουν οι άνθρωποι ψυχές;" στο "Θα πρέπει οι μαθητές της τρίτης τάξης να μπορούν να έχουν πρόσβαση σε ένα chatbot για εκπαίδευση γραμματισμού;"
Το Βατικανό γίνεται τακτική στάση
Ο Anthropic δεν είναι μόνος στα στασίδια. Εκπρόσωποι της Meta, της Google και της Amazon συναντήθηκαν επίσης με το Βατικανό, ενώ η Microsoft έχει χαρακτηριστεί ως ιδιαίτερα σθεναρή στη θρησκευτική της προβολή.
Η δέσμευση αντικατοπτρίζει έναν υπολογισμό μοναδικό μέχρι σήμερα στην ανάπτυξη της τεχνητής νοημοσύνης. Καθώς τα στελέχη κρούουν συναγερμούς για το καταστροφικό δυναμικό της τεχνητής νοημοσύνης και συζητούν τι σημαίνει ακόμη και η «ηθικά καλή» συμπεριφορά μοντέλου, οι θρησκευτικές παραδόσεις προσφέρουν πολλές χιλιετίες συσσωρευμένης σκέψης σχετικά με τον χαρακτήρα, την υποχρέωση και τη βλάβη – υλικό που κανένα εκπαιδευτικό σώμα δεν μπορεί να αναπαραχθεί πλήρως και που οι εταιρείες δεν μπορούν εύκολα να το προμηθευτούν αλλού σε κλίμακα.
Το καδράρισμα του ίδιου του Anthropic κάνει τη φιλοδοξία ξεκάθαρη: «Αυτό που επιδιώκουμε σε αυτές τις συνομιλίες είναι προσεκτική, συσσωρευμένη σκέψη σχετικά με το πώς διαμορφώνεται πραγματικά ο καλός χαρακτήρας».
Οι μελετητές προειδοποιούν: Η θρησκεία δεν είναι βιβλίο κανόνων
Οι ειδικοί και οι οπαδοί προειδοποιούν εξίσου ότι η υπόθεση των εταιρειών - ότι η θρησκεία μπορεί να παρέχει ένα εξαγόμενο σύνολο ηθικών αρχών - αποτυγχάνει να υπολογίσει τον τρόπο με τον οποίο λειτουργούν πραγματικά οι παραδόσεις. Οι διαφορετικές κοσμοθεωρίες συχνά έρχονται σε αντίθεση μεταξύ τους και η αντιμετώπιση της θρησκείας ως βάσης δεδομένων κανόνων κινδυνεύει να διαστρεβλώσει το ίδιο το υλικό που ζητείται.
Ο Webb Keane, ανθρωπολόγος στο Πανεπιστήμιο του Μίσιγκαν, υποστηρίζει ότι οι μελετητές πέρασαν δεκαετίες αντικρούοντας την άποψη της θρησκείας ως ενός συνόλου αρχών που διαχωρίζονται από τους «ακατάστατους, πρακτικούς, ad hoc» τρόπους ζωής των οπαδών.
«Υπάρχει ένας πολύ συμβατικός τρόπος σκέψης της θρησκείας ως βιβλίο κανόνων», είπε ο Keane. "Σίγουρα είναι πολύ συνδεδεμένο με τη γραφική θρησκεία και οι γραφικές θρησκείες στο τέλος της ημέρας αποδεικνύονται πραγματικά ότι είναι οι Αβρααμικές θρησκείες."
Αυτή η υπόθεση, προειδοποιεί, κινδυνεύει να δώσει προτεραιότητα σε ορισμένες παραδόσεις, ενώ διαστρεβλώνει άλλες - ιδιαίτερα τις θρησκείες που δεν κατανοούν τον εαυτό τους κυρίως ως συστήματα ηθικής.
Ο Tomoko Masuzawa, ένας μελετητής θρησκευτικών σπουδών και συγγραφέας του "The Invention of World Religions", προχωρά παραπέρα, σημειώνοντας ότι κατηγορίες όπως ο "Βουδισμός" και ο "Ινδουισμός" ως σαφώς οριοθετημένες, συγκρίσιμες παραδόσεις αποτελούν σε μεγάλο βαθμό ένα κατασκεύασμα της ευρωπαϊκής επιστήμης που χρονολογείται από τον 19ο αιώνα. «Όλες αυτές οι κατηγορίες δεν ήταν εγγενείς», είπε ο Masuzawa.
Τι πραγματικά κατασκευάζεται
Η επιστημονική κριτική έχει ουσιαστική σημασία γιατί ό,τι μαθαίνουν οι εταιρείες σε αυτές τις διαβουλεύσεις μπορεί να διαμορφώσει τον τρόπο με τον οποίο τα μοντέλα απαντούν σε ηθικά ερωτήματα για δισεκατομμύρια χρήστες. Μια τεχνητή νοημοσύνη που αντιμετωπίζει τη θρησκεία ως πηγή αρχών σταθμισμένου μέσου όρου θα συμπεριφέρεται διαφορετικά από έναν εκπαιδευμένο να αναγνωρίζει ότι η ηθική εξουσία αμφισβητείται, βρίσκεται και ζει.
Προς το παρόν, οι εταιρείες αρνούνται οποιαδήποτε ατζέντα μεμονωμένης παράδοσης και οι εμπλεκόμενοι ηγέτες της πίστης περιγράφουν τη δέσμευση ως σοβαρή και ουσιαστική. Η ετυμηγορία του Sullivan για το Anthropic — διανοητικά περίεργος, αυστηρός, λίγο σπασίκλας — υποδηλώνει ότι οι συναντήσεις είναι κάτι περισσότερο από δημόσιες σχέσεις.
Αλλά το βαθύτερο ερώτημα που αναδύεται στην έκθεση του AP παραμένει ανοιχτό: εάν οποιαδήποτε διαδικασία διαβούλευσης μπορεί να μεταφράσει χιλιετίες βιωμένης παράδοσης σε συμπεριφορά μοντέλου χωρίς να την ισοπεδώσει - και ποιος αποφασίζει ποια μέρη της ηθικής κληρονομιάς της ανθρωπότητας θα το κάνουν στα βάρη.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
