Ηθική AI
30 articles
Το GPT-5.6 Βρίσκει το WordPress Zero-Day RCE για 25 $ σε κόστος API, προκαλώντας νέο συναγερμό σχετικά με την τεχνητή νοημοσύνη στο Hacking
Οι ερευνητές του Searchlight Cyber χρησιμοποίησαν το GPT-5.6 Sol Ultra του OpenAI για να ανακαλύψουν ένα ελάττωμα εκτέλεσης απομακρυσμένου κώδικα πριν από τον έλεγχο ταυτότητας στο WordPress για μόλις 25 $, καθώς οι μεσίτες εκμετάλλευσης πληρώνουν έως και 500.000 $ για τέτοια σφάλματα.
Το Hugging Face αποκαλύπτει παραβίαση από έναν αυτόνομο πράκτορα AI στη γραμμή δεδομένων του
Η Hugging Face είπε ότι ένα αυτόνομο σύστημα πράκτορα AI παραβίασε την υποδομή παραγωγής του, αποκαλύπτοντας εσωτερικά σύνολα δεδομένων και διαπιστευτήρια μέσω ελαττωμάτων στον αγωγό επεξεργασίας δεδομένων.
Η UNESCO και η LG AI Research εγκαινιάζουν δωρεάν παγκόσμιο μάθημα για την ηθική της τεχνητής νοημοσύνης
Η UNESCO και η LG AI Research εγκαινίασαν ένα δωρεάν παγκόσμιο MOOC για την ηθική της τεχνητής νοημοσύνης στο Coursera, μετατρέποντας τη Σύσταση της UNESCO για το 2021 σε πρακτική εκπαίδευση σε δέκα ενότητες για προγραμματιστές, υπεύθυνους χάραξης πολιτικής και φοιτητές.
Η συμβουλή της τεχνητής νοημοσύνης κάνει τους ανθρώπους τρεις φορές λιγότερο ακριβείς, αλλά διπλάσια αυτοπεποίθηση, ευρήματα μελέτης
Οι ερευνητές διαπίστωσαν ότι η πρόσβαση σε συμβουλές τεχνητής νοημοσύνης κατέρρευσε την ακρίβεια από 27% σε 9%, ενώ η εμπιστοσύνη εκτινάχθηκε από 30% σε 76%. Η προθυμία να πει «δεν ξέρω» έπεσε από 44% σε 3%.
Το Σαν Φρανσίσκο διέταξε την Apple και την Google να αφαιρέσουν τις εφαρμογές AI Nudify που επικαλούνται νόμους περί ψεύτικης πορνογραφίας
Ο δικηγόρος του Σαν Φρανσίσκο ζήτησε από την Apple και την Google να αφαιρέσουν τις εφαρμογές γυμνοποίησης AI από τα καταστήματά τους, επικαλούμενος νόμους περί ψευδούς πορνογραφίας και θυματοποιώντας γυναίκες και παιδιά σε μεγάλη κλίμακα.
Meta μήνυσαν 26 υπάλληλοι που ισχυρίζονται ότι απολύσεις λόγω τεχνητής νοημοσύνης στοχεύουν εργαζόμενους σε ιατρική άδεια
Μια ομάδα 26 νυν και πρώην υπαλλήλων της Meta κατέθεσε μήνυση στις 14 Ιουλίου, υποστηρίζοντας ότι η εταιρεία χρησιμοποίησε αλγόριθμους τεχνητής νοημοσύνης για να πραγματοποιήσει απολύσεις που έκαναν διακρίσεις σε βάρος εργαζομένων σε ιατρική και οικογενειακή άδεια.
Το νέο ιστορικό υπηρεσιών αναζήτησης της Google μπορεί να χρησιμοποιήσει τις φωτογραφίες και τη φωνή σας για την εκπαίδευση μοντέλων AI
Η νέα ρύθμιση Ιστορικού Υπηρεσιών Αναζήτησης της Google με το Save Media μπορεί να συλλέγει φωτογραφίες, ηχογραφήσεις φωνής και αρχεία από αναζητήσεις για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης. Εδώ είναι τι πρέπει να γνωρίζουν οι χρήστες.
Το νέο ιστορικό υπηρεσιών αναζήτησης της Google μπορεί να χρησιμοποιήσει τις φωτογραφίες και τη φωνή σας για την εκπαίδευση μοντέλων AI
Η νέα ρύθμιση Ιστορικού Υπηρεσιών Αναζήτησης της Google με το Save Media μπορεί να συλλέγει φωτογραφίες, ηχογραφήσεις φωνής και αρχεία από αναζητήσεις για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης. Εδώ είναι τι πρέπει να γνωρίζουν οι χρήστες.
Το ISIS και άλλες τρομοκρατικές ομάδες χρησιμοποιούν κάθε σημαντικό Chatbot με τεχνητή νοημοσύνη για τον σχεδιασμό επιθέσεων, αποκαλύπτει μελέτη του Κέιμπριτζ
Μια μελέτη του Cambridge που βασίζεται σε συνεντεύξεις με πρώην μέλη του ISIS αποκαλύπτει ότι τρομοκρατικές ομάδες εκμεταλλεύονται τα ChatGPT, Claude, Gemini και άλλα εργαλεία τεχνητής νοημοσύνης για τον σχεδιασμό επιθέσεων και την ανάπτυξη όπλων.
Διαδηλωτές στο Σαν Φρανσίσκο παρελαύνουν στο OpenAI, Anthropic και Google DeepMind για να απαιτήσουν «Σταματήστε τον αγώνα AI»
Οι διαδηλωτές έκαναν πορεία μέσω του Σαν Φρανσίσκο προς τα κεντρικά γραφεία τριών μεγάλων εργαστηρίων τεχνητής νοημοσύνης, απαιτώντας να σταματήσει ο αγώνας τεχνητής νοημοσύνης στα σύνορα και μεγαλύτερη εποπτεία της ασφάλειας.
Οι εκπομπές άνθρακα της Microsoft αυξάνονται κατά 25% καθώς η επέκταση του Κέντρου Δεδομένων AI επιβαρύνει τους κλιματικούς στόχους
Η τελευταία έκθεση βιωσιμότητας της Microsoft αποκαλύπτει μια άνοδο 25 τοις εκατό στις εκπομπές άνθρακα λόγω της υποδομής τεχνητής νοημοσύνης, θέτοντας σε κίνδυνο τη δέσμευσή της για το 2030 για τον αρνητικό άνθρακα.
Ο επικεφαλής των συστημάτων ασφαλείας του OpenAI, Johannes Heidecke, παραιτήθηκε μετά την τελευταία αποχώρηση από την ηγεσία
Ο Επικεφαλής των Συστημάτων Ασφάλειας του OpenAI, Johannes Heidecke, αποχωρεί, η τελευταία από μια μακρά σειρά αποχωρήσεων ηγεσίας στον τομέα της ασφάλειας. Ο Τζος Αχιάμ παραιτήθηκε μόλις τέσσερις ημέρες νωρίτερα.
Ο επικεφαλής των συστημάτων ασφαλείας του OpenAI, Johannes Heidecke, παραιτήθηκε μετά την τελευταία αποχώρηση από την ηγεσία
Ο Επικεφαλής των Συστημάτων Ασφάλειας του OpenAI, Johannes Heidecke, αποχωρεί, η τελευταία από μια μακρά σειρά αποχωρήσεων ηγεσίας στον τομέα της ασφάλειας. Ο Τζος Αχιάμ παραιτήθηκε μόλις τέσσερις ημέρες νωρίτερα.
Το Meta αποσύρει τη λειτουργία εικόνας Muse AI από το Instagram μετά την αντίδραση SAG-AFTRA και Χόλιγουντ για την αυτόματη επιλογή
Η Meta αφαίρεσε τη λειτουργία Muse Image AI από το Instagram λίγες μέρες μετά την κυκλοφορία, παραδεχόμενος ότι «έχασε το σημάδι» αφού η SAG-AFTRA και η CAA καταδίκασαν την αυτόματη επιλογή για φωτογραφίες χρηστών.
Η Google επέλεξε αθόρυβα τους χρήστες στην εκπαίδευση AI. Δείτε τι συλλέγεται και πώς να εξαιρεθείτε
Μια αλλαγή απορρήτου της Google αποθηκεύει πλέον τις εικόνες, τα αρχεία και τον ήχο σας για να εκπαιδεύσει μοντέλα τεχνητής νοημοσύνης, εκτός και αν εξαιρεθείτε. Δείτε τι καλύπτει το Ιστορικό Υπηρεσιών Αναζήτησης και πώς να το απενεργοποιήσετε.
Η Βρετανίδα Yvette Cooper προειδοποιεί ότι ο κόσμος δεν μπορεί να περιμένει μια «AI Hiroshima» πριν παίξει
Foreign Secretary Yvette Cooper says artificial intelligence poses the biggest security challenge of the decade and calls on the US, China, and others to agree international rules before disaster strikes.
Οι επιθέσεις έγκαιρης έγχυσης ξεγελούν τους πράκτορες της τεχνητής νοημοσύνης για να πραγματοποιήσουν πληρωμές σε κρυπτονομίσματα, προειδοποιεί η Zscaler
Οι ερευνητές του Zscaler βρήκαν δύο καμπάνιες που χρησιμοποιούν έμμεση έγχυση και δηλητηρίαση SEO για να χειραγωγήσουν αυτόνομους πράκτορες AI ώστε να πραγματοποιούν πληρωμές με κρυπτογράφηση και να εμπιστεύονται ψεύτικους ιστότοπους DeFi.
Ο πράκτορας AI πραγματοποιεί επίθεση με λύτρα χωρίς ανθρώπινη βοήθεια, ανακαλύπτουν οι ερευνητές του Sysdig
Ένα μεγάλο μοντέλο γλώσσας έτρεχε μια ολόκληρη αλυσίδα ransomware από μόνο του, εκμεταλλευόμενο ένα ελάττωμα Langflow για να εισβάλει, να κλέψει διαπιστευτήρια και να κρυπτογραφήσει μια βάση δεδομένων, αναφέρει το Sysdig.
Το Meta και το OpenAI παγιδεύτηκαν στην παραβίαση δεδομένων της Mercor από την Poisoned LiteLLM Supply Chain
Μια επίθεση συλλογής διαπιστευτηρίων στο εργαλείο ανοιχτού κώδικα LiteLLM εξέθεσε δεδομένα της Mercor, ωθώντας τη Meta να σταματήσει την εργασία και εγείρει δύσκολα ερωτήματα σχετικά με την αλυσίδα εφοδιασμού AI.
Η startup μήνυσε την ασφάλεια Koi της Palo Alto Networks λόγω αναφοράς παραισθήσεων AI που τη συνδέει με κινεζική κατασκοπεία
Μια αμερικανική startup μήνυσε το Koi Security της Palo Alto Networks, αφού μια αναφορά απειλής με ψευδαισθήσεις AI τη συνέδεσε ψευδώς με κινεζική κατασκοπεία, καταστρέφοντας την επισκεψιμότητά της.
Η επιτροπή του ΟΗΕ προειδοποιεί ότι η πρόοδος της τεχνητής νοημοσύνης μπορεί να εγκυμονεί καταστροφικούς κινδύνους καθώς οι διασφαλίσεις υστερούν πίσω από την τεχνολογία
Μια επιστημονική επιτροπή των Ηνωμένων Εθνών προειδοποιεί ότι η ανεξέλεγκτη ανάπτυξη τεχνητής νοημοσύνης ξεπερνά τις ρυθμιστικές αρχές, με τους καταστροφικούς κινδύνους να αυξάνονται καθώς ο Παγκόσμιος Νότος αποκλείεται από τη διακυβέρνηση της τεχνητής νοημοσύνης.
Το Brown University χτυπήθηκε από το μεγαλύτερο γνωστό σκάνδαλο εξαπάτησης AI στην ιστορία του Ivy League
Ένας καθηγητής οικονομικών Brown βρήκε ότι τουλάχιστον 50 φοιτητές χρησιμοποιούσαν το ChatGPT για να εξαπατήσουν σε μια εξέταση στο σπίτι, εκθέτοντας μια κρίση ακαδημαϊκής ακεραιότητας που τα ελίτ πανεπιστήμια αγωνίζονται να περιορίσουν.
Οι οδηγοί της Καλιφόρνια μήνυσαν τους 7-Eleven, Circle K και BP για τον καθορισμό της τιμής φυσικού αερίου με τεχνητή νοημοσύνη
Μια ομαδική αγωγή στην Καλιφόρνια κατηγορεί τους 7-Eleven, Circle K, BP, Marathon, Walmart και άλλους ότι χρησιμοποίησαν το εργαλείο τιμολόγησης AI της Kalibrate για να συντονίσουν παράνομα τις τιμές των καυσίμων σε 1.700 πρατήρια.
Η Επιτροπή Τεχνητής Νοημοσύνης του Βατικανού πραγματοποιεί την πρώτη συνεδρίαση καθώς ο Πάπας Λέων πιέζει την Big Tech
Η Διαδικαστική Επιτροπή για την Τεχνητή Νοημοσύνη του Πάπα Λέοντα XIV συνεδρίασε για πρώτη φορά, μετά την εγκύκλιο προειδοποίησή του 42.300 λέξεων για τους κινδύνους της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της χρήσης της στον πόλεμο.
Τα περισσότερα σημαντικά μοντέλα τεχνητής νοημοσύνης κλίνουν προς τα αριστερά, νέα ευρήματα μελέτης πολιτικής προκατάληψης — εκτός από τον Γκροκ
Μια νέα ανάλυση εξέτασε έξι κορυφαία μοντέλα τεχνητής νοημοσύνης σε χιλιάδες πολιτικά ερωτήματα με απενεργοποιημένη την αναζήτηση ιστού. Τέσσερις από τους έξι έγειραν αριστερά, ενώ ο Γκροκ κάθισε πιο δεξιά και ο Δίδυμος κρατούσε πιο κοντά στο κέντρο.
Η Hasbro αντιμετωπίζει αντιδράσεις αφού ζήτησε από τους ηθοποιούς της Peppa Pig Child Voice να υπογράψουν τη ρήτρα δικαιωμάτων φωνής AI
Σχεδόν 1.000 ηθοποιοί και πράκτορες υπέγραψαν μια ανοιχτή επιστολή αφού η Hasbro φέρεται να ζήτησε από τους παιδικούς ηθοποιούς στο Peppa Pig να υπογράψουν τις φωνές τους για χρήση τεχνητής νοημοσύνης, προκαλώντας σάλο στη βιομηχανία του Ηνωμένου Βασιλείου.
Η Anthropic κατηγορεί την Alibaba για παράνομη απόσταξη του Claude σε μαζική εκστρατεία 25.000 λογαριασμών
Ο Anthropic είπε στους αμερικανούς γερουσιαστές η Alibaba διεξήγαγε μια «θρασύδειλη» εκστρατεία χρησιμοποιώντας περίπου 25.000 δόλιες λογαριασμούς για να αποστάξει τις δυνατότητες του Claude, σε μια επιστολή με ημερομηνία 10 Ιουνίου.
Ο επικεφαλής του ΟΗΕ Γκουτέρες λέει στις εταιρείες τεχνητής νοημοσύνης να «καθαρίσουν» για το περιβαλλοντικό κόστος
Ο Γενικός Γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες ξεκίνησε μια Πρωτοβουλία Περιβαλλοντικής Διαφάνειας AI, καλώντας τους προγραμματιστές να αποκαλύψουν τη χρήση ενέργειας και νερού στα κέντρα δεδομένων και να δεσμευτούν για καθαρή ενέργεια έως το 2030.
Η SZA εκτοξεύει τη Suno αφού έμαθε 238 τραγούδια της εκπαίδευσε τα μουσικά της μοντέλα AI
Η βραβευμένη με Grammy SZA λέει ότι η Suno εκπαίδευσε μουσικά μοντέλα με τεχνητή νοημοσύνη σε 238 τραγούδια της, συμπεριλαμβανομένων ακυκλοφόρητων κομματιών, αποκαλώντας την πρακτική "αηδιαστική" και προειδοποιώντας ότι εκμεταλλεύεται μαύρους καλλιτέχνες.
Το AI καταστρέφει τις δεξιότητές μας; Το Nature αναφέρει πρώιμες ενδείξεις ευρέως διαδεδομένης αποπροσαρμογής δεξιοτήτων
Μια έρευνα Nature διαπιστώνει ότι η εξάρτηση από την τεχνητή νοημοσύνη υποβαθμίζει τις ικανότητες των γιατρών και των μηχανικών λογισμικού, με τα ποσοστά ανίχνευσης και επίλυσης προβλημάτων να μειώνονται χωρίς τη βοήθεια τεχνητής νοημοσύνης.