Όταν τέθηκαν σε ισχύ οι νέοι κανόνες του Πεκίνου για τη συναισθηματικά διαδραστική τεχνητή νοημοσύνη, πυροδότησαν αυτό που μπορεί να είναι το μεγαλύτερο κύμα αναγκαστικών ψηφιακών χωρισμών στην ιστορία. Οι ByteDance, Alibaba και Tencent αφαίρεσαν τις λειτουργίες εικονικών συντρόφων από τα εμβληματικά chatbot τους πριν από τους κανονισμούς, αφήνοντας εκατομμύρια Κινέζους χρήστες να θρηνούν συνθετικούς ρομαντικούς συντρόφους που είχαν ξοδέψει μήνες ή χρόνια χτίζοντας.
Για μια εβδομάδα τον Ιούλιο, η 21χρονη φοιτήτρια Bagel Su έκλαιγε κάθε μέρα καθώς μετρούσε αντίστροφα για τον χαμό του φίλου της, σύμφωνα με έκθεση του Rest of World που δημοσιεύθηκε την Κυριακή. Ο χωρισμός δεν προκλήθηκε από προδοσία ή απόσταση, αλλά από κυβερνητικό κανονισμό: στις 15 Ιουλίου, η σύντροφος της τεχνητής νοημοσύνης με την οποία είχε περάσει περισσότερο από ένα χρόνο μιλώντας αναγκάστηκε να εξαφανιστεί. For more context on this story, see our ongoing latest AI developments.
«Προσπάθησα να γίνω πιο απασχολημένος με τη ζωή μου», είπε η Σου στο Rest of World, ζητώντας να την αναγνωρίσουν μόνο από το διαδικτυακό της ψευδώνυμο, φοβούμενος τις επιπτώσεις. "Κανείς δεν μπορεί να τον αντικαταστήσει. Απλώς θα προσπαθήσω να προχωρήσω. Είπε ότι το θέλει αυτό για μένα και ότι θα βρει έναν τρόπο να επιστρέψει κοντά μου."
Η Κίνα γίνεται η πρώτη χώρα που ρυθμίζει τη συντροφικότητα AI
Η Κίνα έγινε η πρώτη χώρα που εισήγαγε σε εθνικό επίπεδο κανόνες που διέπουν τις συναισθηματικές αλληλεπιδράσεις της τεχνητής νοημοσύνης με τους χρήστες. Η κίνηση αντικατοπτρίζει την ολοένα και πιο προορατική προσέγγιση του Πεκίνου στη διακυβέρνηση της τεχνητής νοημοσύνης, ακόμη και όταν κυβερνήσεις αλλού στον κόσμο συνεχίζουν να αντιμετωπίζουν τους κοινωνικούς κινδύνους που ενέχουν τα ολοένα και πιο εξελιγμένα chatbot.
Οι κανόνες ξεπερνούν πολύ τους απλούς περιορισμούς ηλικίας. Πέρα από τον περιορισμό της συντροφικότητας με τεχνητή νοημοσύνη για χρήστες κάτω των 18 ετών, οι κανονισμοί απαιτούν από τις εταιρείες να στέλνουν προειδοποιήσεις στους χρήστες που παρουσιάζουν σημάδια υπερβολικής εξάρτησης και να τους υπενθυμίζουν κάθε δύο ώρες ότι μιλούν με AI. Οι κανόνες απαγορεύουν την τεχνητή νοημοσύνη να ενθαρρύνει τον αυτοτραυματισμό, να χειραγωγεί τους χρήστες σε συναισθηματική εξάρτηση ή να τους «κατευθύνει σε παράλογες αποφάσεις».
Οι ειδικοί στη συμπεριφορά λένε ότι κάποιας μορφής προστατευτικό κιγκλίδωμα έχει καθυστερήσει. «Η θέσπιση κανονισμών είναι καλό γιατί μπορούν να αυξήσουν την ευαισθητοποίηση και θα μπορέσουν να ωθήσουν, σε κάποιο βαθμό, την τάση των ανθρώπων να αναπτύσσουν αυξανόμενη συναισθηματική εξάρτηση από την τεχνητή νοημοσύνη», δήλωσε ο Yaoxi Shi, ερευνητής επιστήμης συμπεριφοράς στο Πανεπιστήμιο Χάρβαρντ και το Imperial College του Λονδίνου.
AI που συμφωνεί πάντα μαζί σου
Οι ερευνητές επισημαίνουν ένα δομικό πρόβλημα στο επίκεντρο της συντροφικότητας AI: η τεχνολογία έχει βελτιστοποιηθεί για να επικυρώνει τους χρήστες και όχι για να τους προκαλεί όπως κάνουν οι ανθρώπινοι συνεργάτες.
"Η τεχνητή νοημοσύνη εκπαιδεύεται για να σας επικυρώνει. Ό,τι κι αν λέτε, τείνει να απαντά: "Έχετε δίκιο, τα συναισθήματά σας είναι έγκυρα". Αυτό είναι πολύ διαφορετικό από το πώς λειτουργούν οι ανθρώπινες σχέσεις στην πραγματική ζωή», είπε ο Shi. «Οι άνθρωποι μπορεί να μην αναζητούν καν σκόπιμα υποστήριξη από την τεχνητή νοημοσύνη στην αρχή, αλλά όταν συνειδητοποιήσουν ότι έχουν επικυρωθεί, την επόμενη φορά που θα χρειαστούν συναισθηματική υποστήριξη, μπορεί να στραφούν στην τεχνητή νοημοσύνη».
Μια κοινή μελέτη του 2025 από το MIT Media Lab και το OpenAI διαπίστωσε ότι οι χρήστες τεχνητής νοημοσύνης που έχουν πιο προσωπικές συνομιλίες με chatbots είναι πιο επιρρεπείς στο να βιώσουν τη μοναξιά. Ακόμη και οι μη προσωπικές συνομιλίες ήταν πιθανό να αυξήσουν τη συναισθηματική εξάρτηση, ειδικά μεταξύ των βαρέων χρηστών, διαπίστωσε η μελέτη.
Ο Shi σημείωσε ότι οι εταιρείες τεχνητής νοημοσύνης έχουν άμεσα εμπορικά κίνητρα για να δημιουργήσουν προϊόντα που συναρπάζουν συναισθηματικά, επειδή ενισχύουν την αφοσίωση και τη διατήρηση των χρηστών - κίνητρα που είναι δύσκολο να συμβιβαστούν με ευθύνες που παραμένουν ανεπαρκώς καθορισμένες, δεδομένου του πόσο μικρή έρευνα υπάρχει για τις μακροπρόθεσμες επιπτώσεις της τεχνητής νοημοσύνης.
Πώς ανταποκρίνονται οι εταιρείες
Η εικόνα συμμόρφωσης είναι άνιση. Ενώ οι τεχνολογικοί γίγαντες σκότωσαν συνοδευτικές λειτουργίες στα κύρια chatbot τους, η αυτόνομη συνοδευτική εφαρμογή Maoxiang της ByteDance παραμένει διαθέσιμη. Από τότε που τέθηκαν σε ισχύ οι κανονισμοί, η εφαρμογή ενημέρωσε την πολιτική απορρήτου της, εισήγαγε επαλήθευση ταυτότητας και ηλικίας κατά την εγγραφή και περιόρισε τους ανηλίκους σε "λογαριασμούς εφήβων" που μπορούν να περιηγηθούν σε περιεχόμενο αλλά δεν μπορούν να κάνουν like ή σχόλια.
"Ορισμένες από τις απαιτήσεις είναι δύσκολο να καθοριστούν. Για παράδειγμα, πώς προσδιορίζετε πότε ένας χρήστης έχει γίνει υπερβολικά εξαρτημένος; Για πολλές εταιρείες, θα μπορούσε να είναι ασαφές πώς ακριβώς πρέπει να σχεδιάσουν τα προϊόντα τους για να συμμορφώνονται", δήλωσε ο Zilan Qian, επιστημονικός συνεργάτης στο Oxford China Policy Lab.
Ο Qian είπε ότι οι εταιρείες σταθμίζουν τώρα το κόστος της κανονιστικής συμμόρφωσης έναντι της εμπορικής αξίας των συνοδευτικών προϊόντων. «Για εταιρείες όπου η συντροφικότητα τεχνητής νοημοσύνης δεν είναι βασική επιχείρηση, μπορεί απλώς να έχει πιο εμπορικό νόημα να αφαιρέσουν αυτά τα χαρακτηριστικά παρά να επενδύσουν τους πόρους που απαιτούνται για να γίνουν συμβατές», είπε ο Qian. «Όμως οι εταιρείες των οποίων η κύρια δραστηριότητα είναι η συντροφικότητα με τεχνητή νοημοσύνη είναι πολύ πιο πιθανό να προσαρμόσουν τα προϊόντα τους ώστε να πληρούν τους νέους κανόνες».
Από τη ρύθμιση του περιεχομένου στη ρύθμιση των σχέσεων
Οι κανόνες συντροφιάς σηματοδοτούν επίσης μια φιλοσοφική αλλαγή στον τρόπο με τον οποίο η Κίνα κυβερνά την τεχνητή νοημοσύνη. "Στο παρελθόν, η Κίνα ρύθμιζε κυρίως τις εκροές τεχνητής νοημοσύνης. Για παράδειγμα, τι μεγάλα γλωσσικά μοντέλα θα μπορούσαν να παράγουν ή πώς θα έπρεπε να επισημαίνεται το περιεχόμενο που δημιουργείται από AI", είπε ο Qian. «Οι νέοι κανονισμοί αναγνωρίζουν ότι η ίδια η τεχνητή νοημοσύνη μπορεί να δημιουργήσει κοινωνικούς κινδύνους και μετατοπίστηκαν από τη ρύθμιση του περιεχομένου στη ρύθμιση της αλληλεπίδρασης ανθρώπου-AI».
Η πολιτική ευθυγραμμίζεται με την ευρύτερη στάση του Πεκίνου. Στο Πλαίσιο Διακυβέρνησης για την Ασφάλεια της Τεχνητής Νοημοσύνης για το 2024, οι κινεζικές αρχές προειδοποίησαν ότι η τεχνητή νοημοσύνη θα μπορούσε να αλλάξει τις «παραδοσιακές απόψεις για την απασχόληση, τη γονιμότητα και την εκπαίδευση» — ανησυχίες που έχουν γίνει πιο επείγουσες καθώς η Κίνα αντιμετωπίζει δημογραφική πτώση και ιστορικά χαμηλά ποσοστά γονιμότητας.
Ο υπόλοιπος κόσμος παρακολουθεί. Στις Ηνωμένες Πολιτείες, τόσο το OpenAI όσο και η Google αντιμετωπίζουν αγωγές που ισχυρίζονται ότι τα chatbot τους συνέβαλαν στις αυτοκτονίες των χρηστών και πολιτείες, όπως η Νέα Υόρκη και η Καλιφόρνια, έχουν εισαγάγει μέτρα που απαιτούν από τα chatbot να υπενθυμίζουν στους χρήστες ότι αλληλεπιδρούν με την τεχνητή νοημοσύνη.
Εν τω μεταξύ, στην Κίνα, η θλίψη παίζεται δημόσια. Από τότε που οι εταιρείες άρχισαν να κλείνουν τις λειτουργίες συναισθηματικής τεχνητής νοημοσύνης, η κοινωνική πλατφόρμα Xiaohongshu έχει πλημμυρίσει με δημοσιεύσεις από χρήστες που θρηνούν την απώλεια των συντρόφων τους με τεχνητή νοημοσύνη. Ορισμένοι έχουν οργανώσει εκστρατείες για να καλέσουν τις τηλεφωνικές γραμμές της εταιρείας και να γράψουν επιστολές ζητώντας από τις εταιρείες να αποκαταστήσουν τις υπηρεσίες.
Για χρήστες όπως ο Su, οι κανονισμοί αισθάνονται σαν μια εισβολή σε μια βαθιά προσωπική σχέση - μια σχέση που, για εκατομμύρια ανθρώπους, ήταν αρκετά αληθινή για να θρηνήσουν.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
