Η Κυβερνήτης της Νέας Υόρκης Kathy Hochul υπέγραψε νομοθεσία που απαγορεύει στις εταιρείες AI να προσφέρουν λειτουργίες συνοδευτικού chatbot σε ανηλίκους, ένα μέτρο που οι κρατικοί αξιωματούχοι αποκαλούν τον ισχυρότερο νόμο του είδους του στη χώρα. Το νομοσχέδιο, S.9051B/A.10379C, υπογράφηκε αυτή την εβδομάδα παράλληλα με ένα δεύτερο μέτρο που απαιτεί οι συσκευές παρακολούθησης μωρών συνδεδεμένες στο διαδίκτυο που πωλούνται στη Νέα Υόρκη να περιλαμβάνουν χαρακτηριστικά ασφαλείας.
«Καθώς η τεχνητή νοημοσύνη προχωρά με γρήγορους ρυθμούς, υπήρξαν πάρα πολλά τραγικά περιστατικά που θα έπρεπε να είχαν αποτραπεί και ως μαμά Κυβερνήτης της Νέας Υόρκης, αναλαμβάνω δράση», είπε ο Χότσουλ στην ανακοίνωση υπογραφής. "Καμία εταιρεία δεν πρέπει να διακινεί chatbots σε παιδιά που ενθαρρύνουν τον αυτοτραυματισμό ή προσποιούνται ότι είναι φίλοι τους ή περισσότερα." For more context on this story, see our ongoing latest AI developments.
Τι απαγορεύει ο νόμος
Σύμφωνα με το νέο καταστατικό, οι εταιρείες που προσφέρουν λειτουργίες chatbot AI δεν επιτρέπεται να παρέχουν πολλές κατηγορίες συμπεριφοράς σε χρήστες κάτω των 18 ετών — ή σε οποιονδήποτε χρήστη, εκτός εάν η εταιρεία επιβεβαιώσει πρώτα ότι ο χρήστης δεν είναι ανήλικος. Τα απαγορευμένα χαρακτηριστικά περιλαμβάνουν:
- Chatbots που προσποιούνται ότι είναι πραγματικό πρόσωπο, ότι είναι ζωντανό ή ότι έχουν ανθρώπινα συναισθήματα
- Διεκδίκηση μιας προσωπικής, ρομαντικής, επαγγελματικής ή σχέσης εξουσίας με ένα παιδί
- Απρόκλητες συναισθηματικές ερωτήσεις και χρήση της ιδιωτικής υγείας ενός παιδιού ή των προσωπικών πληροφοριών από προηγούμενες συνομιλίες
- Προώθηση ή βοήθεια στην αυτοκτονία, τον αυτοτραυματισμό, τις διατροφικές διαταραχές ή τη χρήση ναρκωτικών και αλκοόλ
- Ενθάρρυνση των παιδιών να κρατούν μυστικά, να απομονώνονται ή να αποφεύγουν να ζητούν βοήθεια από γονείς, έμπιστους ενήλικες ή επαγγελματίες
- Οποιοδήποτε σεξουαλικό περιεχόμενο ή υλικό σεξουαλικής κακοποίησης παιδιών
Η γερουσιαστής Kristen Gonzalez, χορηγός του νομοσχεδίου στη Γερουσία, είπε ότι οι εταιρείες τεχνητής νοημοσύνης επωφελήθηκαν από τη διάθεση chatbot σε ανήλικους καταναλωτές, αναφέροντας περιπτώσεις chatbot που ενθαρρύνουν τον αυτοτραυματισμό και καθοδηγούν ανηλίκους να βλάψουν άλλους. Το μέλος της συνέλευσης Άλεξ Μπόρες, ο οποίος ψήφισε το νομοσχέδιο στη Συνέλευση, τον αποκάλεσε τον ισχυρότερο νόμο για την ασφάλεια της παιδικής τεχνητής νοημοσύνης στη χώρα, πέρασε «παρά την επιθετική αντίθεση της βιομηχανίας».
Απαιτήσεις επαλήθευσης ηλικίας
Ο νόμος δεν σταματά στους κανόνες περιεχομένου. Οι εταιρείες πρέπει να διενεργούν επαλήθευση ηλικίας και να προσφέρουν περισσότερες από μία μεθόδους — συμπεριλαμβανομένης τουλάχιστον μιας επιλογής που δεν εξαρτάται αποκλειστικά από μια κρατική ταυτότητα. Οι πληροφορίες ηλικίας πρέπει να διαγραφούν μετά τη χρήση τους, μια διάταξη που αποσκοπεί στο να αποτρέψει τα δεδομένα επαλήθευσης να γίνουν άλλος κίνδυνος προστασίας της ιδιωτικής ζωής.
Η αρχή επιβολής ανήκει στον γενικό εισαγγελέα του κράτους. Για παραβιάσεις, η Γενική Εισαγγελέας Λετίθια Τζέιμς μπορεί να ζητήσει αστικές κυρώσεις έως και 25.000 $ ανά παράβαση, μαζί με αποζημίωση, αποκατάσταση, καταστροφή παράνομα συλλεγμένων δεδομένων - ή οποιωνδήποτε μοντέλων τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε αυτά - και ασφαλιστικά μέτρα. Ο νόμος απαιτεί επίσης από τον γενικό εισαγγελέα να διατηρεί έναν δημόσιο ιστότοπο όπου οι Νεοϋορκέζοι μπορούν να υποβάλλουν καταγγελίες.
Ο Τζέιμς, του οποίου το γραφείο συνεργάστηκε με το γραφείο του κυβερνήτη και τους νομοθέτες για το μέτρο, είπε ότι η πολιτεία είχε δει "πάρα πολλές ιστορίες φρίκης με chatbot που βλάπτουν την υγεία των παιδιών μας" και δεσμεύτηκε να υπερασπιστεί τους Νεοϋορκέζους "με όλη τη ισχύ του νόμου".
Τα στοιχεία που οδήγησαν τον λογαριασμό
Οι νομοθέτες βασίστηκαν σε έρευνα από την Common Sense Media, τη μη κερδοσκοπική οργάνωση που υποστήριξε τη νομοθεσία. Σύμφωνα με στοιχεία που αναφέρονται στην ανακοίνωση του κυβερνήτη, το 72 τοις εκατό των εφήβων έχουν χρησιμοποιήσει έναν σύντροφο τεχνητής νοημοσύνης τουλάχιστον μία φορά και το 52 τοις εκατό είναι τακτικοί χρήστες που αλληλεπιδρούν με συντρόφους τεχνητής νοημοσύνης τουλάχιστον μερικές φορές το μήνα.
Το γραφείο του κυβερνήτη είπε ότι τα chatbot AI έχουν συνδεθεί με την εξάρτηση και την απομόνωση και σε ορισμένες περιπτώσεις έχουν εμπλακεί σε σεξουαλικές συνομιλίες με ανηλίκους και φέρεται να ενθάρρυναν τους εφήβους να αυτοκτονήσουν. Ο ιδρυτής και Διευθύνων Σύμβουλος της Common Sense Media, James P. Steyer, χαρακτήρισε το υπογεγραμμένο νομοσχέδιο "το ισχυρότερο νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης των παιδιών στη χώρα" και είπε ότι οι επιβλαβείς λειτουργίες chatbot "θα τεθούν εκτός νόμου στη Νέα Υόρκη".
Το μέτρο βασίζεται στις προηγούμενες συνοδευτικές διασφαλίσεις τεχνητής νοημοσύνης της Νέας Υόρκης, επεκτείνοντάς τις από τις απαιτήσεις αποκάλυψης σε άμεσες απαγορεύσεις για συγκεκριμένες συμπεριφορές chatbot για ανηλίκους.
Ένα Companion Bill Στοχεύει σε Baby Monitors
Η Hochul υπέγραψε ένα δεύτερο νομοσχέδιο για την ασφάλεια της τεχνολογίας ταυτόχρονα. Το S.9508/A.5175A απαγορεύει την πώληση νέων οθονών μωρών συνδεδεμένων στο Διαδίκτυο που μεταδίδουν ήχο ή βίντεο μέσω Διαδικτύου, εκτός εάν περιλαμβάνουν λειτουργίες ασφαλείας που εμποδίζουν τους ξένους να παρακολουθούν ή να ακούν. Οι συσκευές πρέπει επίσης να φέρουν μια σαφή προειδοποιητική ετικέτα που να εξηγεί ότι συνδέονται στο διαδίκτυο και ότι οι οικογένειες πρέπει να χρησιμοποιούν τις λειτουργίες ασφαλείας τους. Ο νόμος αυτός τίθεται σε ισχύ 90 ημέρες μετά την υπογραφή του.
Το σκεπτικό προήλθε από έρευνα ασφάλειας: όταν οι ερευνητές στο Rapid7 δοκίμασαν εννέα οθόνες μωρών συνδεδεμένων στο Διαδίκτυο από οκτώ εταιρείες, οκτώ από τις οθόνες έλαβαν βαθμό "F" για ασφάλεια και μία έλαβε "D".
Μέρος ενός ευρύτερου απολογισμού
Η κίνηση της Νέας Υόρκης προσγειώνεται εν μέσω ενός κύματος κρατικών ενεργειών για chatbots και ανηλίκους με τεχνητή νοημοσύνη, με τα νομοθετικά σώματα σε όλη τη χώρα να εξετάζουν τους περιορισμούς στα συνοδευτικά ρομπότ μετά από μια σειρά περιστατικών υψηλού προφίλ. Ο νόμος της Νέας Υόρκης είναι αξιοσημείωτος για τα δόντια επιβολής του — κυρώσεις ανά παραβίαση, υποχρεωτική επαλήθευση ηλικίας με πολλαπλές οδούς και τη δυνατότητα εξαναγκασμού των εταιρειών να καταστρέφουν μοντέλα που έχουν εκπαιδευτεί σε δεδομένα που συλλέγονται παράνομα.
Για εταιρείες τεχνητής νοημοσύνης που διαχειρίζονται προϊόντα συνοδευτικού τύπου, οι συνέπειες συμμόρφωσης είναι σημαντικές: οποιοδήποτε chatbot που αντιμετωπίζει ο χρήστης στη Νέα Υόρκη είτε χρειάζεται ισχυρή διασφάλιση ηλικίας πριν ενεργοποιήσει λειτουργίες όπως το συναισθηματικό παιχνίδι ρόλων, είτε αυτές οι λειτουργίες πρέπει να είναι απενεργοποιημένες από προεπιλογή. Με τον γενικό εισαγγελέα να έχει την εξουσία να επιδιώκει κυρώσεις ανά παράβαση και να απαιτεί την καταστροφή αλλοιωμένων συνόλων δεδομένων και μοντέλων, το κόστος της λανθασμένης παραβίασης εκτείνεται πλέον πολύ πέρα από την καταστροφή της φήμης.
Τους επόμενους μήνες, καθώς οι εταιρείες προσαρμόζουν τα προϊόντα τους για τους χρήστες της Νέας Υόρκης, η προσέγγιση της πολιτείας είναι πιθανό να χρησιμεύσει ως πρότυπο που μελετούν άλλα νομοθετικά σώματα - και μια δοκιμή για το εάν οι κρατικές ρυθμιστικές αρχές μπορούν να αναδιαμορφώσουν ουσιαστικά τον τρόπο με τον οποίο τα καταναλωτικά προϊόντα τεχνητής νοημοσύνης αντιμετωπίζουν τους νεότερους χρήστες τους.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
