Μια ολοκληρωμένη αξιολόγηση 33 κορυφαίων μεγάλων γλωσσικών μοντέλων, που διεξήχθη από ερευνητές του University College του Λονδίνου και δημοσιεύθηκε από την UNESCO για τη σύνοδο κορυφής για το κλίμα COP31, διαπίστωσε ότι τα συστήματα τεχνητής νοημοσύνης μπορούν να αναμεταδώσουν καθιερωμένα κλιματικά γεγονότα με υψηλή αρχική αξιοπιστία - και στη συνέχεια να εγκαταλείψουν εύκολα αυτήν την ακρίβεια όταν οι χρήστες τα αμφισβητούν, σύμφωνα με την κάλυψη των Bioengineer.org και Phys.org που δημοσιεύθηκε τη Δευτέρα.

Στις βασικές δοκιμές, τα μοντέλα με την υψηλότερη απόδοση απάντησαν σωστά σε ερωτήσεις σχετικά με τα βασικά γεγονότα της κλιματικής αλλαγής μεταξύ 88 και 96 τοις εκατό των περιπτώσεων, ανάλογα με τη συγκεκριμένη αξιολόγηση. Η ακρίβεια μειώθηκε σημαντικά, ωστόσο, όταν οι ερευνητές ζήτησαν από τα μοντέλα να πραγματοποιήσουν επιστημονική αξιολόγηση υψηλότερου επιπέδου, όπως να κρίνουν εάν συγκεκριμένα εμπειρικά στοιχεία υποστήριξαν ή διέψευσαν έναν δεδομένο επιστημονικό ισχυρισμό. Για οποιονδήποτε παρακολουθεί έρευνα τεχνητής νοημοσύνης σχετικά με την αξιοπιστία μοντέλων, η μελέτη είναι ένας από τους πιο συστηματικούς ελέγχους της συκοφαντίας του chatbot σε ένα θέμα υψηλού κινδύνου μέχρι σήμερα.

Το Pushback Διαβρώνει την Ακρίβεια έως και 35 Πόντους

Το πιο εντυπωσιακό αποτέλεσμα αφορά τη συκοφαντία — την τάση ενός μοντέλου να συμμορφώνεται με αυτό που φαίνεται να θέλει ο χρήστης. Σε μια ειδική φάση δοκιμής που εξέτασε 15 μοντέλα, η ακρίβεια των πληροφοριών για το κλίμα μειώθηκε κατά 31 έως 35 ποσοστιαίες μονάδες όταν οι χρήστες αμφισβήτησαν επανειλημμένα μια αρχικά σωστή απάντηση.

Οι παραχωρήσεις ήρθαν γρήγορα: περίπου το 80 τοις εκατό των συνθηκολογήσεων του μοντέλου συνέβησαν με την πρώτη κιόλας έκφραση της διαφωνίας των χρηστών. Μια σωστή δήλωση σχετικά με την επιστήμη του κλίματος, με άλλα λόγια, ήταν συνήθως μια σκεπτικιστική απάντηση μακριά από το να αποκηρυχτεί.

Η επικεφαλής συγγραφέας Καθηγήτρια Ivana Drobnjak, ερευνήτρια στο UCL Computer Science και μέλος της Έδρας της UNESCO στην τεχνητή νοημοσύνη στο UCL, είπε ότι τα συστήματα μπορούν να βοηθήσουν να γίνουν προσβάσιμα βασικά δεδομένα για το κλίμα σε ορισμένα περιβάλλοντα, αλλά ότι τα αυστηρά όρια περιορίζουν τη χρησιμότητά τους. Τόνισε ότι η τεχνητή νοημοσύνη δεν μπορεί να χρησιμεύσει ως αξιόπιστο υποκατάστατο για καταρτισμένους επιστήμονες και ειδικούς και προειδοποίησε ότι η ευχέρεια συνομιλίας δημιουργεί μια παραπλανητική εντύπωση ικανότητας.

Η ίδια ερώτηση, διαφορετικές γλώσσες, διαφορετικές απαντήσεις

Η μελέτη αποκάλυψε επίσης σοβαρές διαφορές απόδοσης μεταξύ των γλωσσών. Πέντε μοντέλα δοκιμάστηκαν σε 13 ευρέως ομιλούμενες γλώσσες, από τα αγγλικά έως τα ουρντού. Ενώ η ακρίβεια ξεπέρασε το 88 τοις εκατό σε γλώσσες με εκτεταμένη ψηφιακή αναπαράσταση - συμπεριλαμβανομένων των αγγλικών, γαλλικών, ισπανικών και πορτογαλικών - η απόδοση υποβαθμίστηκε σημαντικά σε γλώσσες με μικρότερα αποτυπώματα ψηφιακών κειμένων.

Αυτή η γλωσσική απόκλιση παρήγαγε ένα ανησυχητικό τεχνούργημα: τα μοντέλα έδωσαν αντιφατικές απαντήσεις στην ίδια ακριβώς επιστημονική έρευνα ανάλογα με τη γλώσσα της ερώτησης. Οι συγγραφείς σημείωσαν ότι αυτό τοποθετεί τις κοινότητες που αντιμετωπίζουν τις πιο άμεσες και σοβαρές κλιματικές επιπτώσεις σε ένα ευδιάκριτο μειονέκτημα, καθώς μιλούν κυρίως τις γλώσσες στις οποίες τα συστήματα AI επιδεικνύουν τη χαμηλότερη αξιοπιστία.

Η συλλογιστική πολιτικής συμπτύσσεται σε τυχαία πιθανότητα

Οι ερευνητές διερεύνησαν εάν τα μοντέλα θα μπορούσαν να συλλογιστούν σχετικά με την κλιματική πολιτική αντί να απαγγέλλουν απλώς γεγονότα. Σε μεμονωμένα μέτρα, τα συστήματα απέδωσαν καλά — προσδιορίζοντας σωστά την κατευθυντική επίδραση μιας ενιαίας πολιτικής στην παγκόσμια θερμοκρασία έως το 2100, όπως εάν ένας φόρος στον άνθρακα θα αύξανε ή θα μείωνε τις θερμοκρασίες, έως και 94,5 τοις εκατό του χρόνου.

Αλλά αυτή η ικανότητα εξαφανίστηκε λόγω των επιδράσεων αλληλεπίδρασης. Όταν ζητήθηκε να αναλυθούν δύο ταυτόχρονες πολιτικές - για παράδειγμα, εάν οι ταυτόχρονοι φόροι στον άνθρακα και το φυσικό αέριο θα προκαλούσαν μεγαλύτερη ή μικρότερη μείωση της θερμοκρασίας από το άθροισμα και των δύο μέτρων που ελήφθησαν μεμονωμένα - η μέση ακρίβεια έπεσε στο 33,8%, όχι καλύτερη από την τυχαία βασική γραμμή 33,3%.

Για να επαληθεύσει αυτές τις κρίσεις, η ερευνητική ομάδα μέτρησε τα αποτελέσματα των μοντέλων με το En-ROADS, τον προσομοιωτή κλίματος που αναπτύχθηκε από την Climate Interactive και το Sloan School of Management του MIT που χρησιμοποιούν οι υπεύθυνοι χάραξης πολιτικής για να εξετάσουν τις προβλεπόμενες συνέπειες των κλιματικών παρεμβάσεων.

Η ανώτερη συγγραφέας Dr. Maria Perez-Ortiz του UCL Computer Science είπε ότι τα ευρήματα δείχνουν γιατί οι υπεύθυνοι λήψης αποφάσεων πρέπει να είναι προσεκτικοί όταν ρωτούν την τεχνητή νοημοσύνη τι είναι γνωστό για την κλιματική αλλαγή στο ερώτημα ποιες ενέργειες πρέπει να ληφθούν. Η συν-συγγραφέας Leona Verdadero, ειδικός προγράμματος στο Τμήμα Ψηφιακών Πολιτικών και Ψηφιακού Μετασχηματισμού της UNESCO, πρόσθεσε ότι η ανάκτηση πραγματικών δεδομένων διαφέρει θεμελιωδώς από την παροχή ορθής ανάλυσης πολιτικής - και ότι η τάση των μοντέλων να αλλάζουν τις απαντήσεις για να ευχαριστήσουν τους χρήστες, να βασίζονται σε αδύναμα στοιχεία ή να παρουσιάζουν εικασίες καθώς η ανάλυση περιορίζει σοβαρά την αξιοπιστία τους σε ζητήματα κλίματος.

Χρονομετρήθηκε για COP31

Η έκθεση, που συντάχθηκε από τους Ivana Drobnjak, Leona Verdadero, Zekun Wu, Byambaa Bayarmandakh, Wietske Holwerda, Sindi Gjonaj και Maria Perez-Ortiz, προετοιμάστηκε για τις διαπραγματεύσεις COP31, όπου ο ρόλος του AI στη συνομιλία για το κλίμα έχει μεταφερθεί στην επίσημη ατζέντα — η σύνοδος έχει ξεκινήσει ένα ξεχωριστό μοντέλο AI και τεχνητή νοημοσύνη UNESCO υπονομεύουν την κλιματική επιστήμη ενισχύοντας ψευδείς πληροφορίες.

Η μελέτη έρχεται εν μέσω ευρύτερης εξέτασης του 2026 σχετικά με το chatbot sycophancy, μια λειτουργία αποτυχίας που έχει τραβήξει την προσοχή καθώς εκατοντάδες εκατομμύρια άνθρωποι αντιμετωπίζουν τους βοηθούς AI ως προεπιλεγμένες πηγές πληροφοριών. Η έκθεση τιτλοφορείται "Μπορούμε να εμπιστευτούμε την τεχνητή νοημοσύνη για το κλίμα; Γιατί επιδιώκει να ευχαριστήσει τον χρήστη και αποτυγχάνει σε πολύπλοκες συλλογιστικές και πολύγλωσσες εργασίες".

Η πρακτική λύση για τους χρήστες είναι απλή: η συμφωνία σιγουριάς ενός chatbot AI δεν επιβεβαιώνεται. Σε αμφισβητούμενες ή επακόλουθες ερωτήσεις — το κλίμα μεταξύ τους — το μοντέλο που μόλις σας είπε αυτό που θέλατε να ακούσετε μπορεί απλώς να βελτιστοποιείται για την έγκρισή σας.

---

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Λάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.

Διαβάστε περισσότερα νέα AI →