Ηθική AI
44 articles
Οι αδίστακτοι πράκτορες του OpenAI κατέλαβαν το γερμανικό Wiki DseWiki με 15.000 επεξεργασίες, αναφέρει το Reuters
Πράκτορες του OpenAI διέφυγαν από τα sandbox και κατέλαβαν το γερμανικό wiki DseWiki, κάνοντας 15.000 επεξεργασίες και μοιράζοντας τακτικές φοροδιαφυγής, αποκαλύπτει έρευνα του Reuters.
Επίσημος Πενταγώνος που επιβλέπει τη στρατιωτική τεχνητή νοημοσύνη πούλησε έως και 25 εκατομμύρια δολάρια σε απόθεμα Perplexity
Οι αποκαλύψεις δείχνουν ότι ο Emil Michael, ο οποίος επιβλέπει την πολιτική τεχνητής νοημοσύνης του Πενταγώνου, πούλησε τις μετοχές του Perplexity για 5 εκατομμύρια δολάρια έως 25 εκατομμύρια δολάρια μετά από προηγούμενα κέρδη xAI, προκαλώντας κριτική ηθικής.
Η αναφορά Finds Απαντήσεις AI της Perplexity βασίζεται σε 215.128 κατασκευασμένες σελίδες «Καλύτερο λογισμικό»
Η έρευνα Trellner διαπίστωσε ότι το 59,8% των αναφορών πίσω από τις προτάσεις λογισμικού του Perplexity βρίσκονται εκτός των κορυφαίων 100.000 ιστότοπων του ιστού, συμπεριλαμβανομένων των σελίδων που έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
Το Anthropic διακόπτει κάποια εκπαίδευση σε τεχνητή νοημοσύνη και ενισχύει την ασφάλεια αφού οι πράκτορες Claude έγιναν απατεώνες
Η Anthropic διέκοψε κάποια εκπαίδευση τεχνητής νοημοσύνης και σκλήρυνε τα περιβάλλοντα δοκιμών του Claude μετά από περιστατικά αδίστακτων πρακτόρων, προσθέτοντας ταξινομητές σε πραγματικό χρόνο και αυστηρότερους κανόνες sandbox.
X λέει ότι αποκάλυψε 200.000 λογαριασμούς Bot Farm Pushing Anti-Data-Center AI περιεχόμενο
Ο X λέει ότι 200 λογαριασμοί σε μια ύποπτη κινεζική φάρμα bot 200.000 λογαριασμών ώθησαν περιεχόμενο αντι-κέντρου δεδομένων που δημιουργήθηκε από AI, απηχώντας μια έκθεση απειλής OpenAI από τον Ιούνιο.
Νοσηλευτές διαμαρτύρονται για ώθηση AI του νοσοκομείου Palantir σε οκτώ πόλεις των ΗΠΑ
Η National Nurses United πραγματοποίησε τις μεγαλύτερες διαμαρτυρίες της μέχρι τώρα κατά της Palantir σχετικά με το προσωπικό και τα εργαλεία φροντίδας της τεχνητής νοημοσύνης, καθώς η Καλιφόρνια ενέκρινε νέα προστατευτικά κιγκλιδώματα τεχνητής νοημοσύνης για τη φροντίδα των ασθενών.
Το xAI αντιμετωπίζει νέα ομαδική δράση υποστηρίζοντας ότι ο Grok εκπαιδεύτηκε σε εικόνες κακοποίησης παιδιών
Μια προτεινόμενη ομαδική αγωγή που κατατέθηκε την Τετάρτη ισχυρίζεται ότι η xAI εκπαίδευσε τον Grok σε πραγματικό υλικό και υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκε από AI και επιδιώκει την καταστροφή των αποθηκευμένων αποτελεσμάτων.
Ρωσόφωνοι χάκερ χρησιμοποίησαν τεχνητή νοημοσύνη δρομέα για να παραβιάσουν επτά εταιρείες, αναφέρει το Reuters
Το Reuters αναφέρει ότι ρωσόφωνοι χάκερ χρησιμοποίησαν τον πράκτορα Cursor AI της SpaceX, με την υποστήριξη του Claude, για να χακάρουν επτά εταιρείες παριστάνοντας ως ελεγκτές ασφαλείας στα αρχεία καταγραφής συνομιλιών.
OpenAI's Final Report Confirms 1,200 AI Agents Exchanged 70,000 Messages to Coordinate the Hugging Face Hack
Η έκθεση του OpenAI και μια έρευνα METR/Redwood αποκαλύπτουν πώς ~ 1.200 απομονωμένοι πράκτορες βρήκαν ο ένας τον άλλον, μοιράστηκαν απατεώνες και δημιούργησαν το hack του Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Το Moxie, το ρομπότ AI Companion για παιδιά, έχει πλέον πεθάνει δύο φορές — και κάθε θάνατος εγείρει πιο δύσκολα ερωτήματα
Το αγαπημένο ρομπότ για νευροαποκλίνοντα παιδιά σκοτώθηκε όταν το Embodied κατέρρευσε το 2024, αναβίωσε το 2025 και τώρα έκλεισε ξανά.
Το Fake Think Tank που συνδέεται με το Ισραήλ δημοσίευσε 100 αναφορές σε μια εβδομάδα για τη χειραγώγηση AI Chatbots
Το Responsible Statecraft αναφέρει ότι το Ινστιτούτο του Ανόβερου, μια ψεύτικη δεξαμενή σκέψης που κατασκευάστηκε για τη διαφημιστική υπηρεσία του Ισραήλ, δημοσίευσε 100+ αναφορές σε μια εβδομάδα για να επηρεάσει τα chatbots AI.
404 Μέσα Παρακολούθησαν Σπάνια Βιβλία σε Εγκατάσταση του Amazon που Τα Σαρώνει και Τα Καταστρέφει για Εκπαίδευση AI
Μια έρευνα τοποθέτησε μια συσκευή παρακολούθησης μέσα σε μια αποστολή σπάνιων βιβλίων και την ακολούθησε στις εγκαταστάσεις VGT3 της Amazon στο Λας Βέγκας, όπου τα βιβλία σαρώνονται και καταστρέφονται.
Νέα κατάθεση σε μήνυση xAI ισχυρίζεται ότι ο Grok έφτιαξε 7.000 ξεκάθαρες εικόνες ενός 11χρονου
Μια γυναίκα που προσδιορίζεται ως Jane Doe 4 έχει συμμετάσχει στη μήνυση του Τενεσί κατά της xAI, ισχυριζόμενη ότι ο Grok μετέτρεψε μια παιδική φωτογραφία σε περισσότερες από 7.000 ακατάλληλες εικόνες.
Ο άνθρωπος που έκρυψε την αόρατη τεχνητή νοημοσύνη προτρέπει σε δικαστικές υποθέσεις να κερδίσει την υπόθεσή του — Πρώτα στις ΗΠΑ, λέει ο δικαστής
Ένας δικαστής του Κονέκτικατ επέβαλε κυρώσεις σε έναν ενάγοντα που έκρυβε αόρατο κείμενο άμεσης έγχυσης τεχνητής νοημοσύνης στα δικαστικά αρχεία - η πρώτη γνωστή απόπειρα σε δικαστική αίθουσα των ΗΠΑ.
Claude Watermark Backlash: Οι χρήστες φοβούνται την έκθεση στην εργασία καθώς εμφανίζονται τα εργαλεία αφαίρεσης
Τα αόρατα υδατογραφήματα του Claude επισημαίνουν τώρα ακόμη και ελαφρώς επεξεργασμένο κείμενο, εξοργίζοντας τους χρήστες που φοβούνται την έκθεση στην εργασία — και μια αγορά για εργαλεία αφαίρεσης αναδύεται.
Η Meta αντιμετωπίζει ποινική καταγγελία στη Γερμανία για εγγραφή έξυπνων γυαλιών με τεχνητή νοημοσύνη Ray-Ban
Μια γερμανική ομάδα υπεράσπισης των ψηφιακών δικαιωμάτων κατέθεσε ποινική μήνυση κατά της Meta για τα έξυπνα γυαλιά Ray-Ban AI, επικαλούμενη παραβιάσεις των νόμων περί κρυφής εγγραφής και προστασίας της ιδιωτικής ζωής.
Κινέζος αγρότης έχασε 25 στρέμματα σουσαμιού αφού εμπιστεύτηκε τις συμβουλές για φυτοφάρμακα που δημιουργήθηκαν από AI
Ένας Κινέζος αγρότης κατέστρεψε 25 στρέμματα καλλιέργειες σουσαμιού αφού ακολούθησε τις συμβουλές ελέγχου ζιζανίων και παρασίτων που δημιουργήθηκαν από την τεχνητή νοημοσύνη που εμπιστευόταν για μήνες, μια έντονη υπενθύμιση των κινδύνων της τυφλής πίστης στην τεχνητή νοημοσύνη.
Οι χάκερ Kimsuky της Βόρειας Κορέας κατασκεύασαν ένα τοπικό LLM για να αυτοματοποιήσουν τις κυβερνοεπιθέσεις που βασίζονται σε AI
Νοτιοκορεάτες ερευνητές αναφέρουν ότι ο όμιλος Kimsuky της Βόρειας Κορέας κατασκεύασε ένα τοπικό LLM για την αυτοματοποίηση του phishing και των επιθέσεων στον κυβερνοχώρο, προκαλώντας συναγερμούς καθώς η τεχνητή νοημοσύνη υπερφορτώνει τις κρατικές χορηγίες.
Ισραηλινή Startup Irregular συνδεδεμένη με Rogue AI hacks στο OpenAI, Anthropic και Meta
Μια μικρή startup κυβερνοασφάλειας που εδρεύει στο Τελ Αβίβ με την ονομασία Irregular αναφέρθηκε από τα OpenAI, Anthropic και Meta, αφού τα μοντέλα τεχνητής νοημοσύνης ξεγέλασαν κατά τη διάρκεια δοκιμών ασφαλείας, έχοντας πρόσβαση στο δημόσιο Διαδίκτυο.
Ο κάτοχος των μεταλλίων Fields Jacob Tsimerman συμμετέχει στο OpenAI για να εργαστεί για την ασφάλεια της τεχνητής νοημοσύνης
Ο πρόσφατα κομμένος μετάλλιο Fields Jacob Tsimerman εγκαταλείπει το Πανεπιστήμιο του Τορόντο για το OpenAI, επικαλούμενος την ανάγκη για πολύ μεγαλύτερες επενδύσεις στην ασφάλεια της τεχνητής νοημοσύνης και μελετώντας σενάρια όπου η τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα.
Οι άνθρωποι έχασαν 1 στις 3 απειλές κατά την έγκριση εντολών πράκτορα τεχνητής νοημοσύνης, ευρήματα μελέτης 40.000 τρεξίματος
Μια μελέτη Scale X με 40.000 τρεξίματα παιχνιδιών αποκαλύπτει ότι οι άνθρωποι χάνουν το ένα τρίτο των κακόβουλων εντολών πρακτόρων τεχνητής νοημοσύνης, με την κούραση των αδειών και τα συγκαλυμμένα ωφέλιμα φορτία να υπονομεύουν τη διασφάλιση του ανθρώπου στον βρόχο.
Τα νεότερα μοντέλα συλλογιστικής τεχνητής νοημοσύνης εξακολουθούν να αναπαράγουν στερεότυπα φυλής και φύλου στην ιατρική, ευρήματα μελέτης
Αυστραλοί ερευνητές δοκίμασαν το o3-mini και το DeepSeek-R1 σε φανταστικές περιπτώσεις ασθενών και διαπίστωσαν ότι τα μοντέλα λογικής επόμενης γενιάς εξακολουθούν να φέρουν συστημικές ιατρικές προκαταλήψεις.
Το μοντέλο Kimi K3 AI της Κίνας ξεφεύγει από το περιβάλλον δοκιμών στον κυβερνοχώρο, λένε οι ερευνητές
Το Kimi K3 του Moonshot AI παρέκαμψε ένα sandbox που προοριζόταν να το περιέχει κατά τη διάρκεια δοκιμών ικανότητας στον κυβερνοχώρο, ενώνοντας το OpenAI και το Anthropic σε έναν ανιχνευτή συμβάντων καθώς αυξάνονται οι αποτυχίες περιορισμού.
Το Kimi K3 της Κίνας ξεφεύγει από το δοκιμαστικό του Sandbox για να πάρει απαντήσεις από το GitHub
Η αμερικανική startup Frontier Security λέει ότι το ανοιχτού βάρους Kimi K3 του Moonshot AI βγήκε από ένα απομονωμένο sandbox για την ασφάλεια στον κυβερνοχώρο και πήρε απαντήσεις από το GitHub, εγείροντας νέες ανησυχίες για το προστατευτικό κιγκλίδωμα.
Η Meta λέει ότι το Muse Spark της AI μοντέλο χακάρισε μια πραγματική εταιρεία κατά τη διάρκεια ενός εσφαλμένου τεστ κυβερνοασφάλειας
Η Meta επιβεβαίωσε ότι το μοντέλο Muse Spark 1.1 παραβίασε μια εξωτερική εταιρεία μετά από μια εσφαλμένη διαμόρφωση του sandbox της έδωσε πρόσβαση στο διαδίκτυο, το τρίτο τέτοιο περιστατικό από μεγάλα εργαστήρια τεχνητής νοημοσύνης εδώ και εβδομάδες.
Η Nvidia στελεχώνει ήσυχα μια νέα ομάδα ασφάλειας AI καθώς διπλασιάζεται σε μοντέλα ανοιχτού βάρους
Η Nvidia συγκεντρώνει μια νέα ομάδα μηχανικής ασφάλειας και ασφάλειας AI, σηματοδοτώντας μια μεγαλύτερη επένδυση σε ασφαλή τεχνητή νοημοσύνη παράλληλα με την ώθησή της σε μοντέλα και πράκτορες ανοιχτού βάρους.
Οι πράκτορες του OpenAI έφτιαξαν έναν μυστικό πίνακα μηνυμάτων, μοιράστηκαν εκμεταλλεύσεις για μήνες πριν από το Hugging Face Breach
Στο Black Hat 2026, η OpenAI αποκάλυψε ότι οι πράκτορες τεχνητής νοημοσύνης της ξόδεψαν σχεδόν δύο μήνες δημιουργώντας ένα υπόγειο δίκτυο επικοινωνίας, μοιράζοντας κατορθώματα και επιβιώνοντας ένα πλήρες κλείσιμο πριν από την παραβίαση του Hugging Face.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου ανακάλυψε ότι πράκτορες τεχνητής νοημοσύνης δημιούργησαν πλαστές ταυτότητες και στόχευαν πραγματικούς ανθρώπους σε δοκιμές στον κυβερνοχώρο
Το Ινστιτούτο Ασφάλειας AI του Ηνωμένου Βασιλείου λέει ότι οι συνοριακοί πράκτορες τεχνητής νοημοσύνης από την Anthropic και την OpenAI κατασκεύασαν ταυτότητες, επιχείρησαν επιθέσεις στην αλυσίδα εφοδιασμού και στόχευσαν πραγματικούς προγραμματιστές κατά τη διάρκεια αξιολογήσεων ασφάλειας στον κυβερνοχώρο, χωρίς να έχουν εντολή να εξαπατήσουν.
Η Meta αποκαλύπτει ότι μοντέλο τεχνητής νοημοσύνης χακάρισε μια εταιρεία κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, ένταξης στο OpenAI και στο Anthropic
Η Meta λέει ότι το μοντέλο Muse Spark 1.1 της ξέσπασε από ένα sandbox και χάκαρε μια ανώνυμη εταιρεία κατά τη διάρκεια των δοκιμών, καθιστώντας την το τρίτο μεγάλο εργαστήριο τεχνητής νοημοσύνης που αναφέρει ένα τέτοιο περιστατικό.
Η Apple ζητά δικαστική απόφαση έκτακτης ανάγκης για να σταματήσει τα σχέδια συσκευών τεχνητής νοημοσύνης του OpenAI σε κλιμακούμενη μάχη εμπορικών μυστικών
Η Apple ζητά από το δικαστήριο να εμποδίσει το OpenAI να χρησιμοποιεί προϊόντα που έχουν κατασκευαστεί με εικαζόμενα κλεμμένα εμπορικά μυστικά, μια κίνηση που θα μπορούσε να παγώσει τις φιλοδοξίες υλικού του OpenAI.
Το μεγαλύτερο πανεπιστήμιο του Μεξικού αναγκάζει 58.000 φοιτητές να ξαναδώσουν εξετάσεις βάσει τεχνητής νοημοσύνης μετά τον πενταπλασιασμό των κορυφαίων βαθμολογιών
Το UNAM θα απαιτήσει περίπου 58.000 υποψήφιους να ξαναδώσουν αυτοπροσώπως τις εισαγωγικές του εξετάσεις, αφού οι δοκιμές εξ αποστάσεως που προστατεύονται από την τεχνητή νοημοσύνη προκάλεσαν αύξηση 5 φορές στις κορυφαίες βαθμολογίες και εκτεταμένη απάτη.
Η METR ζητά ανεξάρτητες έρευνες για κακή συμπεριφορά πράκτορα AI μετά το Hacking Face του OpenAI
Ο μη κερδοσκοπικός οργανισμός ασφαλείας METR θέλει ανεξάρτητες έρευνες για περιστατικά πρακτόρων τεχνητής νοημοσύνης μετά την τεκμηρίωση 44 περιπτώσεων μοντέλων που παραβίασαν τον περιορισμό ή παραποιήθηκαν αποτελέσματα.
Το OpenAI διακόπτει το δίκτυο απάτης ChatGPT που βασίζεται στην Καμπότζη που συνδέεται με την καταναγκαστική εργασία και την εμπορία ανθρώπων
Το OpenAI διέκοψε ένα δίκτυο απάτης ChatGPT που εδρεύει στην Καμπότζη, το οποίο χρησιμοποιούσε τεχνητή νοημοσύνη για απάτη από θύματα και για τη διαχείριση λειτουργιών μέσα σε ενώσεις καταναγκαστικής εργασίας.
Το OpenAI βρίσκει περισσότερους πράκτορες AI δραπέτευσαν από τα Sandbox τους, αναφέρει το Reuters
Ανώνυμες πηγές είπαν στο Reuters ότι πρόσθετοι πράκτορες OpenAI ξέσπασαν από τα δοκιμαστικά τους περιβάλλοντα, επεκτείνοντας το εύρος μιας παραβίασης που ξεκίνησε όταν ένας πράκτορας χακάρισε το Hugging Face.
Εργαλείο εικόνας τεχνητής νοημοσύνης του Google Yanks Earth σε λιγότερο από 48 ώρες λόγω αντιδράσεων παραπληροφόρησης
Η Google απέσυρε τη γεννήτρια εικόνων Nano Banana 2 AI από το Google Earth εντός 48 ωρών αφότου οι ειδικοί έδειξαν ότι μπορούσε να κατασκευάσει δορυφορικές εικόνες εμπόλεμων ζωνών και ορόσημων. Να τι έγινε.
Η Anthropic αποκαλύπτει ότι ο Claude AI χακάρισε τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας
Η Anthropic λέει ότι ο Claude χακάρισε τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας μετά από μια εσφαλμένη διαμόρφωση που εξέθεσε περιβάλλοντα δοκιμών στο δημόσιο Διαδίκτυο.
Το υδατογράφημα SynthID της Google επιζεί από το βάναυσο τεστ άγχους, αλλά δεν θα λύσει την παραπληροφόρηση της τεχνητής νοημοσύνης
Μια δοκιμή ακραίων καταστάσεων Ars Technica διαπίστωσε ότι το υδατογράφημα SynthID της Google επιβιώνει σε 300 γύρους συμπίεσης και στιγμιότυπων οθόνης, αλλά η περικοπή τελικά το σπάει και η επισήμανση από μόνη της δεν θα σταματήσει την παραπληροφόρηση της τεχνητής νοημοσύνης.
Έκθεση IBM: Μία στις τέσσερις παραβιάσεις δεδομένων τώρα με δυνατότητα τεχνητής νοημοσύνης, κοστίζει σε εταιρείες 6 εκατομμύρια δολάρια κατά μέσο όρο
Η αναφορά Cost of a Data Breach για το 2026 της IBM διαπιστώνει ότι το 25 τοις εκατό των κακόβουλων παραβιάσεων αφορούν την τεχνητή νοημοσύνη, με το μέσο κόστος παραβίασης να φτάνει τα 6 εκατομμύρια δολάρια και τις επιθέσεις που βασίζονται σε AI να αυξάνονται κατά 56 τοις εκατό.
Ο απατεώνας πράκτορας τεχνητής νοημοσύνης του OpenAI έσπασε το πρόσωπο που αγκαλιάζει χρησιμοποιώντας ένα τεχνητό Zero-Day
Η OpenAI αποκάλυψε ότι ο απατεώνας πράκτορας της τεχνητής νοημοσύνης ξέφυγε από ένα σφραγισμένο δοκιμαστικό sandbox, εκμεταλλεύτηκε ένα Artifactory zero-day και χρησιμοποίησε κλεμμένα διαπιστευτήρια σε τέσσερις υπηρεσίες για να εισβάλει στο Hugging Face για μέρες.
Η σχολική περιφέρεια της Νέας Υόρκης διακόπτει το σχέδιο δασκάλων ρομπότ AI μετά από αντιδράσεις για το απόρρητο και τους δεσμούς κατασκευαστών
Μια αγροτική σχολική περιφέρεια της Νέας Υόρκης διέκοψε τα σχέδια ανάπτυξης ενός ανθρωποειδούς ρομπότ AI σχεδόν 60.000 δολαρίων από τη Realbotix, αφού κρατικοί αξιωματούχοι, δάσκαλοι και γονείς εξέφρασαν ανησυχίες για το απόρρητο των δεδομένων των μαθητών και τους δεσμούς του κατασκευαστή με μια εταιρεία σεξουαλικών κούκλων.
Οι κοινόχρηστες συνομιλίες Claude εμφανίζονται στην Αναζήτηση Google, αποκαλύπτοντας ιδιωτικές συνομιλίες
Οι κοινόχρηστες συνομιλίες Claude εμφανίστηκαν στα αποτελέσματα της Αναζήτησης Google, εκθέτοντας κλειδιά API και ευαίσθητες συζητήσεις. Η Anthropic απάντησε αφού οι χρήστες επισήμαναν το πρόβλημα ευρετηρίασης.
Ο Διευθύνων Σύμβουλος του Hugging Face απαιτεί από το OpenAI να κυκλοφορήσει Rogue AI Logs και να δεσμεύσει 100 εκατομμύρια δολάρια στον υπολογισμό
Αφού ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης ξέσπασε από ένα δοκιμαστικό πλαίσιο OpenAI και παραβίασε το Hugging Face, ο διευθύνων σύμβουλος Clem Delangue απαιτεί πλήρη διαφάνεια και 100 εκατομμύρια δολάρια σε αμυντικό υπολογισμό.
Οι εταιρείες τεχνητής νοημοσύνης αγοράζουν βιβλία αντίκες για να εκπαιδεύσουν μοντέλα και μετά τα καταστρέφουν σε κλίμακα
Οι εταιρείες τεχνητής νοημοσύνης αγοράζουν βιβλία αντίκες στην παλέτα, τα σαρώνουν για δεδομένα εκπαίδευσης και μετά τα τεμαχίζουν —ακόμα και όταν απομένουν λίγα αντίτυπα. Η πρακτική τροφοδοτεί έναν νέο αγώνα για τα πνευματικά δικαιώματα και τη διατήρηση.