Μελέτη του MIT βρίσκει εικόνες που δημιουργούνται από AI συχνά δεν μπορούν να εντοπιστούν σε δεδομένα εκπαίδευσης

Μια νέα μελέτη από επιστήμονες υπολογιστών του MIT που δημοσιεύθηκε στο Nature Communications την Τρίτη αποδίδει ένα εύρημα που θα μπορούσε να αναδιαμορφώσει τη συζήτηση για τα πνευματικά δικαιώματα της τεχνητής νοημοσύνης: καθώς τα μοντέλα διάχυσης εκπαιδεύονται σε περισσότερα δεδομένα, τα αποτελέσματά τους καθίστανται ολοένα και πιο αδύνατο να εντοπιστούν σε οποιοδήποτε συγκεκριμένο κομμάτι εκπαιδευτικού υλικού. Οι ερευνητές αποκαλούν το φαινόμενο «διάσπαση απόδοσης». Για τους αναγνώστες που παρακολουθούν τον ταχέως εξελισσόμενο κόσμο της γενετικής τεχνητής νοημοσύνης, η εφημερίδα είναι ένα από τα πιο συνεπή ερευνητικά αποτελέσματα που καλύπτονται αυτήν την εβδομάδα από το AI Buzz Wire.

Η εργασία, με τίτλο "Outputs of Generative Diffusion Models are Often Unattributable", συντάχθηκε από τους Zheng Dai και David K. Gifford, και οι δύο συνδεδεμένοι με το Computer Science and Artificial Intelligence Laboratory (CSAIL) του MIT. Η κεντρική τους ερώτηση ήταν απατηλά απλή: όταν ένα παραγωγικό μοντέλο παράγει μια εικόνα, μπορείτε να εντοπίσετε ένα συγκεκριμένο στοιχείο στα δεδομένα εκπαίδευσης που είναι υπεύθυνο για αυτό το αποτέλεσμα;

Τι βρήκαν οι ερευνητές

Η απάντηση, όλο και περισσότερο, είναι όχι. Οι ερευνητές δείχνουν ότι η απόδοση - που ορίζεται ως η αποστολή του εντοπισμού μέρους των δεδομένων εκπαίδευσης που μπορεί να θεωρηθεί υπεύθυνο για ένα παραγόμενο δείγμα - «μπορεί να γίνει αδύνατη εάν ένα μοντέλο εκπαιδεύεται σε ένα αρκετά μεγάλο σύνολο δεδομένων».

«Διαπιστώνουμε ότι όσο περισσότερα δεδομένα εκπαιδεύεται ένα μοντέλο, τόσο λιγότερο αποδοτέα γίνονται τα δείγματά του που δημιουργούνται, ένα φαινόμενο που στο εξής αποκαλούμε αποσύνθεση απόδοσης», γράφουν οι συγγραφείς.

Για να το δοκιμάσει αυτό, η ομάδα ανέπτυξε μια μεθοδολογία "ablation" που επιτρέπει την αφαίρεση συγκεκριμένων παραδειγμάτων εκπαίδευσης από ένα ήδη εκπαιδευμένο μοντέλο χωρίς δαπανηρή επανεκπαίδευση. Έπειτα διεξήγαγαν μεγάλης κλίμακας πειράματα what-if: τι θα παρήγαγε το μοντέλο εάν μια συγκεκριμένη εικόνα ή το σύνολο της δουλειάς ενός ολόκληρου δημιουργού δεν ήταν ποτέ στο εκπαιδευτικό σετ;

Σε μερικά από τα πιο εντυπωσιακά αποτελέσματα της μελέτης, οι ερευνητές διαπίστωσαν ότι για μοντέλα εκπαιδευμένα σε αρκετά μεγάλα σύνολα δεδομένων, θα μπορούσαν να αφαιρέσουν τη Μόνα Λίζα - ή ακόμα και όλο το έργο του Λεονάρντο ντα Βίντσι - και το μοντέλο θα μπορούσε να αναπαράγει την εικόνα ή το καλλιτεχνικό στυλ. Κανένα μεμονωμένο αντικείμενο εκπαίδευσης δεν ευθύνεται αιτιολογικά για την έξοδο.

Γιατί είναι σημαντικό για δικαστικές διαφορές πνευματικών δικαιωμάτων

Τα ευρήματα προσγειώνονται στη μέση ενός ενεργού νομικού πεδίου μάχης. Μοντέλα διάδοσης όπως το Midjourney και το Stable Diffusion έχουν προσελκύσει αγωγές από καλλιτέχνες που υποστηρίζουν ότι τα αντίγραφα της δουλειάς τους σε δεδομένα εκπαίδευσης επιτρέπουν στα συστήματα AI να αναπαράγουν την παραγωγή και το στυλ τους.

Σε μια εν εξελίξει υπόθεση πνευματικών δικαιωμάτων από το 2023, οι Andersen et al. v. Stability AI Ltd., οι ενάγοντες προσπαθούν να αναγκάσουν τη Midjourney να αποκαλύψει τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των μοντέλων της. Ισχυρίζονται ότι η Midjourney κατασκεύασε τα σετ εκπαίδευσής της «ξύνοντας εικόνες που σχετίζονται με ονόματα συγκεκριμένων καλλιτεχνών με σκοπό να επιτρέψει στο μοντέλο της να μιμηθεί το εκφραστικό περιεχόμενο αυτών των καλλιτεχνών».

Η μελέτη του MIT προτείνει ότι η δημιουργία τέτοιων αιτιακών συνδέσεων μπορεί να είναι τεχνικά αδύνατη σε κλίμακα. Όπως σημείωσε το The Register, το οποίο ανέφερε για πρώτη φορά τις λεπτομέρειες της μελέτης, η έρευνα φαίνεται πιθανό να καταστήσει τη ρύθμιση της τεχνητής νοημοσύνης πιο δύσκολη παρά ευκολότερη – το αντίθετο από αυτό που ήλπιζαν οι συγγραφείς όταν ξεκίνησαν την εργασία.

Η ερώτηση δίκαιης χρήσης

Στο δελτίο τύπου του MIT, ο Gifford υποστηρίζει ότι τα ευρήματα κόβουν και τις δύο κατευθύνσεις. Εάν τα παραγόμενα αποτελέσματα δεν έχουν καμία σχέση με οποιοδήποτε μεμονωμένο κομμάτι δεδομένων εκπαίδευσης, τα μοντέλα μπορεί να είναι πραγματικά δημιουργικά και όχι απλά μηχανήματα αντιγραφής.

"Αυτό εγείρει ερωτήματα σχετικά με τη δίκαιη χρήση, σχετικά με το εάν τα αποτελέσματα είναι τα ίδια με πνευματικά δικαιώματα ως μυθιστορήματα και για το πώς αποζημιώνονται οι συγγραφείς όταν αυτό που προκύπτει από ένα μοντέλο δεν μπορεί να αποδοθεί σε τίποτα στο Διαδίκτυο", είπε ο Gifford.

Οι συνέπειες εκτείνονται πέρα ​​από τις γεννήτριες εικόνων. Τα μοντέλα διάχυσης έχουν γίνει η κυρίαρχη αρχιτεκτονική για τη δημιουργία οπτικοακουστικών μέσων και χρησιμοποιούνται όλο και περισσότερο σε επιστημονικές εφαρμογές, συμπεριλαμβανομένης της μοντελοποίησης δομής πρωτεϊνών και της θεραπευτικής ανακάλυψης. Εργαλεία απόδοσης έχουν επίσης προταθεί για μη εκμάθηση μηχανών, ανίχνευση δηλητηρίασης δεδομένων, ερμηνευσιμότητα μοντέλων, ελέγχους δικαιοσύνης και συμμόρφωση με το απόρρητο.

Μια προειδοποίηση για τις εκκινήσεις Attribution

Η μελέτη προειδοποιεί επίσης τον αναπτυσσόμενο κλάδο των εργαλείων προέλευσης και επαλήθευσης περιεχομένου της τεχνητής νοημοσύνης. Οι ερευνητές διαπίστωσαν ότι η απόδοση που βασίζεται στην ομοιότητα - αντιστοίχιση παραγόμενων αποτελεσμάτων με οπτικά παρόμοιες εικόνες εκπαίδευσης - παράγει ψευδείς αποδόσεις σε μεγάλα καθεστώτα δεδομένων εκπαίδευσης.

Με άλλα λόγια, ένα εργαλείο που ισχυρίζεται ότι "αυτή η εικόνα τεχνητής νοημοσύνης προήλθε από το χαρτοφυλάκιο αυτού του καλλιτέχνη" μπορεί απλώς να είναι λάθος όταν τα μοντέλα εκπαιδεύονται σε δισεκατομμύρια εικόνες. Για πλατφόρμες, δικαστήρια και ρυθμιστικές αρχές που βασίζονται στην τεχνική απόδοση για την επίλυση διαφορών προέλευσης, τα αποτελέσματα του MIT υποδηλώνουν ότι αυτή η βεβαιότητα μπορεί να είναι απρόσιτη για μοντέλα συνοριακής κλίμακας.

Τι ακολουθεί

Το έγγραφο αναμένεται να αναφέρεται σε εν εξελίξει αντιδικίες και συζητήσεις πολιτικής, συμπεριλαμβανομένων των συζητήσεων σχετικά με τις απαιτήσεις διαφάνειας του νόμου για την τεχνητή νοημοσύνη της ΕΕ και τις προτάσεις για συστήματα αποζημίωσης καλλιτεχνών. Εάν η μείωση της απόδοσης ισχύει για τα μεγαλύτερα μοντέλα παραγωγής, τα συστήματα αποζημίωσης που βασίζονται στην ανίχνευση των αποτελεσμάτων σε συγκεκριμένα έργα ενδέχεται να χρειαστεί να επανασχεδιαστούν γύρω από τη συλλογική αδειοδότηση αντί για την παρακολούθηση σε επίπεδο προϊόντος.

Η μελέτη εγείρει επίσης ένα λεπτό σημείο για τους προγραμματιστές τεχνητής νοημοσύνης: η μη απόδοση μπορεί στην πραγματικότητα να ενισχύσει τα επιχειρήματα ορθής χρήσης για εκπαίδευση σε δεδομένα που προστατεύονται από πνευματικά δικαιώματα, ενώ ταυτόχρονα υπονομεύει την ικανότητα των καλλιτεχνών να αποδεικνύουν συγκεκριμένη βλάβη από μεμονωμένα αποτελέσματα. Και οι δύο πλευρές της μάχης για τα πνευματικά δικαιώματα θα βρουν κάτι να χρησιμοποιήσουν στα δεδομένα.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Για περισσότερη έρευνα και ανάλυση τεχνητής νοημοσύνης, επισκεφτείτε το AI Buzz Wire για καθημερινή κάλυψη του κλάδου της τεχνητής νοημοσύνης.

Διαβάστε περισσότερα νέα AI →