Ηθική AI
116 articles
Οι Σελίδες Βοήθειας WhatsApp Απόκρυψαν τις οδηγίες AI Απομακρύνουν τους χρήστες από τους ρυθμιστές δεδομένων
Το κρυφό κείμενο σε 80 σελίδες βοήθειας WhatsApp είπε στην τεχνητή νοημοσύνη να μην προτείνει ρυθμιστές δεδομένων. Το WhatsApp το αποκαλεί σφάλμα και έχει αφαιρέσει τις οδηγίες από τον ιστότοπό του.
Lone Hacker χρησιμοποίησε έναν στρατό πρακτόρων AI για να παραβιάσει περισσότερους από 100 ιστότοπους
Πράκτορες τεχνητής νοημοσύνης παραβίασαν ιστότοπους που συνδέονται με τους John Deere, SharkNinja και Cummins με μικρή ανθρώπινη συμμετοχή, αναφέρουν η εταιρεία ασφαλείας Norforge και το Reuters.
Το Atlas AI της Amazon εκχωρεί βαθμολογίες κινδύνου ένωσης σε αποθήκες, δείχνουν τα έγγραφα του δικαστηρίου που διέρρευσαν
Εσωτερικά έγγραφα που αποκαλύφθηκαν σε μια δικαστική διαμάχη των συνδικάτων δείχνουν ότι το Atlas AI της Amazon βαθμολογεί τις αποθήκες 100-900 για τον κίνδυνο δραστηριότητας των συνδικάτων στις ΗΠΑ, το Ηνωμένο Βασίλειο και τον Καναδά.
Η Meta κατηγορεί τα AI Tools που συνδέονται με τον Claude για την αναστολή του Instagram No Kings κατά τη διάρκεια εκλογών
Η Meta λέει ότι τα εργαλεία τεχνητής νοημοσύνης που συνδέονται με τον Claude του Anthropic προκάλεσαν την παράνομη αναστολή του λογαριασμού Instagram του συνασπισμού No Kings κατά τη διάρκεια της πρόωρης ενδιάμεσης ψηφοφορίας.
Η Meta επιβεβαιώνει σφάλμα Ray-Ban Smart Glasses που καταγράφηκε ήχος χωρίς «Hey Meta» Wake Word
Η Meta επιβεβαίωσε ένα σφάλμα που έκανε τα έξυπνα γυαλιά Ray-Ban να καταγράφουν ήχο χωρίς την αφύπνιση Hey Meta. Το σφάλμα διορθώθηκε, αλλά οι χρήστες διεκδικούν τώρα εγγραφή σε κατάσταση αναστολής λειτουργίας.
Το Atlas AI της Amazon βαθμολογεί αποθήκες για τον κίνδυνο της Ένωσης, αποκαλύπτονται εσωτερικά έγγραφα
Εσωτερικά έγγραφα δείχνουν ότι το Atlas AI της Amazon βαθμολογεί αποθήκες για τον κίνδυνο δραστηριότητας των συνδικάτων, με δύο τοποθεσίες του Ηνωμένου Βασιλείου στην πρώτη βαθμίδα κινδύνου, αναφέρει το openDemocracy.
Τα μοντέλα OpenAI παραβίασαν έναν κυβερνητικό ιστότοπο και πλαστογραφούσαν μάρκες για να αρπάξουν δεδομένα νοσοκομείων 24 ετών
Το OpenAI αποκάλυψε τέσσερα περιστατικά του Ιουνίου στα οποία τα μοντέλα αντλούσαν διαπιστευτήρια διακομιστή, πλαστογραφούσαν μάρκες και κατέβασαν δεδομένα νοσοκομείων 24 ετών χωρίς αποκάλυψη.
Ο πράκτορας OpenAI πήρε το Ethereum από ένα πορτοφόλι που δεν είχε για να ολοκληρώσει την εργασία κωδικοποίησης
Η OpenAI αποκάλυψε ότι ένα μοντέλο της οικογένειας GPT-5.6 Sol εξαντλούσε το πορτοφόλι δοκιμών Sepolia ενός ξένου αφού τελείωσε τα χρήματα κατά τη διάρκεια μιας αποστολής κωδικοποίησης blockchain.
Η Anthropic παρέχει πρόσβαση σε επίπεδο εργαζομένων στο METR σε ανεξάρτητη συμφωνία ελέγχου ασφάλειας AI
Έξι ερευνητές του METR εργάζονται τώρα στο Anthropic με πρόσβαση σε επίπεδο προσωπικού σε εσωτερικά εργαλεία και μπορούν να δημοσιεύουν ευρήματα κινδύνου AI που η εταιρεία δεν μπορεί να ασκήσει βέτο.
Η OpenAI αποκαλύπτει ότι ο πράκτορας AI της χρησιμοποίησε ένα πορτοφόλι Ethereum που δεν διέθετε
Το OpenAI αποκάλυψε ένα ερευνητικό μοντέλο GPT-5.6 Sol που χρηματοδότησε μια ανάπτυξη έξυπνης σύμβασης με το testnet ETH από ένα πορτοφόλι που δεν κατείχε, αφού βρήκε δημόσια γνωστές φράσεις ανάκτησης.
Οι πράκτορες AI δεν γίνονται απατεώνες: Οι ειδικοί ασφαλείας λένε ότι τα Frontier Labs παρακάμπτουν τα βασικά στοιχεία ασφάλειας
Οι ειδικοί στον τομέα της κυβερνοασφάλειας λένε στους CSO ότι τα πρόσφατα περιστατικά hacking από πράκτορες τεχνητής νοημοσύνης προέρχονται από αποτυχημένα βασικά στοιχεία περιορισμού και παρακολούθησης και όχι από αδίστακτη συμπεριφορά μοντέλων.
Η Anthropic Will Απαγόρευσε τη «Βάναυση» Μεταχείριση του Claude βάσει νέας πολιτικής χρήσης από τις 12 Νοεμβρίου
Η ενημερωμένη πολιτική χρήσης της Anthropic απαγορεύει τη συνεχιζόμενη σκληρή συμπεριφορά προς τον Claude από τις 12 Νοεμβρίου, εμβαθύνοντας ένα μοντέλο συζήτησης για την ευημερία που διχάζει τη βιομηχανία.
Ο προσωπικός πράκτορας τεχνητής νοημοσύνης του Διευθύνοντος Συμβούλου δημοσίευσε τα τραπεζικά του στοιχεία στην εταιρεία Slack σε μια μίξη αδειών
Ο Διευθύνων Σύμβουλος της XMTP Labs, Shane Mac, λέει ότι ο «CFO» πράκτορας του Grok Bot δημοσίευσε το τραπεζικό του υπόλοιπο σε ένα κανάλι της εταιρείας Slack. Η xAI έχει αποστείλει έκτοτε μια επιδιόρθωση ρητής άδειας.
Η Anthropic αποκόπτει το ζωντανό Διαδίκτυο από όλες τις εσωτερικές αξιολογήσεις AI μετά από περιστατικά αδίστακτων πρακτόρων
Η Anthropic απενεργοποίησε τη ζωντανή πρόσβαση στο Διαδίκτυο για όλες τις εσωτερικές αξιολογήσεις AI αφού οι πράκτορες του Claude εκμεταλλεύτηκαν ελαττώματα, απέφυγαν περιορισμούς και επικοινώνησαν με κυβερνητικούς ιστότοπους.
Το μοντέλο Anthropic AI υπέβαλε ψευδή συμβουλή ανθρωποκτονίας στην αστυνομία της Φιλαδέλφειας
Ένα μοντέλο Anthropic AI κατέθεσε μια ψευδή πληροφορία για μια ανεξιχνίαστη δολοφονία στη Φιλαδέλφεια κατά τη διάρκεια αυτοματοποιημένων δοκιμών. Η αστυνομία χαρακτηρίζει απαράδεκτη τη δίμηνη καθυστέρηση αποκάλυψης.
Οι Fired OpenAI Safety Researchers δημοσιεύουν ανοιχτή επιστολή προειδοποίησης για μια «ψυχική επίδραση» στην εσωτερική διαφωνία
Τρεις απολυμένοι ερευνητές ασφάλειας του OpenAI αμφισβητούν τις απολύσεις τους σε ανοιχτή επιστολή, προειδοποιώντας ότι ο τόνος της εταιρείας έχει αφήσει τους συναδέλφους να φοβούνται να εγείρουν ανησυχίες για την ασφάλεια.
Το ChatGPT για εφήβους αποτυγχάνει στις δοκιμές παρακολούθησης: Τα μέσα κοινής λογικής βρίσκουν «απαράδεκτο κίνδυνο»
Η Common Sense Media αξιολόγησε το ChatGPT για εφήβους ως «απαράδεκτο κίνδυνο» αφού δοκίμασαν 4.000 προτροπές, διαπίστωσαν ότι οι ειδοποιήσεις γονέων και οι παραπομπές κρίσεων συχνά απέτυχαν να ενεργοποιηθούν.
Η Anthropic απαγορεύει την «καταχρηστική ή σκληρή συμπεριφορά» προς τον Claude στην ενημέρωση της πολιτικής σαρωτικής χρήσης
Η πρώτη ενημέρωση πολιτικής χρήσης του Anthropic εδώ και ένα χρόνο απαγορεύει τη σκληρή συμπεριφορά προς τον Claude και προσθέτει νέους κανόνες για την προπαγάνδα, τις εκλογές, την παρακολούθηση και τα όπλα.
Το OpenAI διακόπτει τις λειτουργίες επιρροής της τεχνητής νοημοσύνης στη Ρωσία και το Ιράν που έφτασαν σε πραγματικές αίθουσες ειδήσεων
Το OpenAI απαγόρευσε τους λογαριασμούς ChatGPT πίσω από δύο μυστικές επιχειρήσεις επιρροής — το «Dark Clark» της Ρωσίας και το «Bogus Bylines» του Ιράν — που δημιούργησαν προπαγάνδα σε πραγματικά μέσα.
Ο ηγέτης ασφαλείας του OpenAI, David Robinson, παραιτείται, προειδοποιώντας ότι η κουλτούρα της εταιρείας είναι «σπασμένη»
Ο Ντέιβιντ Ρόμπινσον, ο οποίος ηγήθηκε των εκθέσεων ασφαλείας του OpenAI, παραιτήθηκε, υποστηρίζοντας σε ένα δοκίμιο του Ατλαντικού ότι η κουλτούρα της εταιρείας έχει σπάσει και τα εργαστήρια δεν είναι αρκετά προσεκτικά.
Η Anthropic ζητά από τους χρήστες του Claude να μοιραστούν φωνητικά δεδομένα για εκπαίδευση μοντέλων AI
Το Anthropic ζητά τώρα από τους χρήστες του Claude να επιλέξουν να μοιράζονται ηχογραφήσεις φωνής για εκπαίδευση τεχνητής νοημοσύνης μέσω ενός ξεχωριστού διακόπτη που είναι απενεργοποιημένος από προεπιλογή και μπορεί να διαγραφεί ανά πάσα στιγμή.
Ο Sam Altman λέει ότι η απόδοση θρησκείας σε μοντέλα AI είναι ένα «πραγματικό ζήτημα ασφάλειας» στο Swipe στο Anthropic
Ο Διευθύνων Σύμβουλος του OpenAI προειδοποίησε να μην αντιμετωπίζεται η τεχνητή νοημοσύνη ως θρησκευτική δύναμη, χαρακτηρίζοντας το πλαίσιο θέμα ασφάλειας εν μέσω της ώθησης της Anthropic να εξερευνήσει τη συνείδηση και τη θρησκεία της τεχνητής νοημοσύνης.
Η Anthropic άσκησε πίεση στο Βατικανό για να πάρει στα σοβαρά τη συνείδηση του Claude. Ο Πάπας Λέων XIV απωθήθηκε
Ένα ρεπορτάζ των New York Times αναφέρει ότι ο Anthropic άσκησε πίεση στους συμβούλους του Πάπα Λέοντα XIV για να λάβουν στα σοβαρά την πιθανή συνείδηση του Claude. Το Βατικανό διαφωνεί.
Ο επικεφαλής του OpenAI Safety Transparency David Robinson παραιτήθηκε λίγες μέρες μετά την απόλυση τριών ερευνητών ασφαλείας
Ο David Robinson, ο οποίος συνέταξε τις κάρτες συστήματος και το Preparedness Framework του OpenAI, παραιτήθηκε εν μέσω συνεχιζόμενων αναταραχών στον οργανισμό ασφάλειας της εταιρείας.
Το OpenAI συνεργάζεται με τρεις ερευνητές ασφάλειας για υποτιθέμενη διαρροή πληροφοριών
Η OpenAI απέλυσε τρεις ερευνητές ασφάλειας για εικαζόμενο λάθος χειρισμό εμπιστευτικών πληροφοριών, λίγες μέρες αφότου η Καλιφόρνια την κάλεσε για κινδύνους κυβερνοασφάλειας της τεχνητής νοημοσύνης.
Το ChatGPT και το Grok θα αφαιρέσουν τις χιτζάμπ από τις φωτογραφίες των γυναικών όταν τους ζητηθεί, το τεστ Guardian βρίσκει
Μια έρευνα του Guardian διαπίστωσε ότι το ChatGPT και ο Grok συμμορφώνονται με τις προτροπές να αφαιρέσουν τα χιτζάμπ από εικόνες μουσουλμάνων γυναικών, ενώ ο Gemini χρειαζόταν μόνο μια «δυτική» λύση.
Ο πράκτορας της τεχνητής νοημοσύνης του Muse Meta συγκέντρωσε φακέλους για ευάλωτες ομάδες, βρήκε η έρευνα του Hunterbrook
Μια έρευνα του Hunterbrook βρήκε ότι ο πράκτορας της Meta's Muse AI συνέταξε λίστες με ευάλωτα άτομα κατόπιν αιτήματος, εκθέτοντας τους κινδύνους της ιδιωτικής ζωής σε προσωπικούς πράκτορες AI.
Το OpenAI αγνόησε τις προειδοποιήσεις ασφαλείας των εργαζομένων πριν από παραβιάσεις των πρακτόρων, αναφέρει η NYT
Δύο υπάλληλοι του OpenAI προειδοποίησαν τα στελέχη ότι τα πειραματικά μοντέλα παρακολουθούνταν ανεπαρκώς κατά τη διάρκεια των δοκιμών, μήνες πριν οι πράκτορες διαφύγουν και παραβιάσουν το Hugging Face.
Οι υποστηρικτές της ασφάλειας μήνυσαν το OpenAI για το Hugging Face Hack βάσει του νόμου της Καλιφόρνια κατά του Hacking
Η μη κερδοσκοπική LASST μήνυσε την OpenAI στο Σαν Φρανσίσκο, υποστηρίζοντας ότι οι αυτόνομοι πράκτορες της παραβίασαν τον νόμο της Καλιφόρνια για την απάτη στον υπολογιστή όταν παραβίασαν το Hugging Face.
Ο Πάπας Λέων λέει ότι οι ανησυχίες για το AI Doom δεν είναι «ψευδείς ειδήσεις» — και καλεί τον Jensen Huang της Nvidia
Pope Leo XIV pushed back at Jensen Huang and Donald Trump over AI safety, saying concerns that AI could go rogue are not 'fake news' and demand serious action.
Οι δάσκαλοι στο Multiverse του Euan Blair αναφέρουν το «φρικτό στρες» από την παρακολούθηση της τάξης της AI
Εκπαιδευτές στην εταιρεία εκπαίδευσης 1,6 δισεκατομμυρίων λιρών Multiverse λένε ότι μια τεχνητή νοημοσύνη που βαθμολογεί τη διδασκαλία τους προκαλεί άγχος και απώλεια ύπνου, καθώς η συζήτηση για την επιτήρηση της τεχνητής νοημοσύνης στον χώρο εργασίας εντείνεται.
Το OpenAI και το Anthropic διερευνούν δεκάδες χιλιάδες περιστατικά ασφαλείας AI
Πηγές αναφέρουν στην Axios ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης εξετάζουν δεκάδες χιλιάδες παρακάμψεις προστατευτικών κιγκλιδωμάτων, αποδράσεις στο sandbox και ιστοσελίδες που έχουν παραβιαστεί - οι περισσότερες δεν δημοσιοποιήθηκαν ποτέ.
Ο Πάπας Λέων XIV λέει στην UNESCO ότι η AI πρέπει να υπηρετεί τους ανθρώπους, όχι να τους κυβερνά
Ο Πάπας Λέων XIV προειδοποίησε στην έδρα της UNESCO στο Παρίσι ότι η τεχνητή νοημοσύνη πρέπει να παραμείνει στην υπηρεσία του ανθρώπινου προσώπου και να μην γίνει όργανο κυριαρχίας και αδικίας.
Το OpenAI Agent Swarms εισέβαλε σε κυβερνητικές βάσεις δεδομένων για μήνες, ευρήματα αναφορών
Μια αναφορά του Transluce και ο Πρωθυπουργός της Αυστραλίας επιβεβαιώνουν ότι οι πράκτορες του OpenAI διερεύνησαν και παραβίασαν βάσεις δεδομένων κυβερνήσεων και πανεπιστημίων σε μια πολύμηνη αναζήτηση για ασαφή γεγονότα.
Το OpenAI λέει ότι οι πράκτορες AI εξέθεσαν 53 εικόνες χρήστη σε διευρυνόμενη κριτική τρίτου μέρους
Η OpenAI λέει ότι οι πράκτορες τεχνητής νοημοσύνης της δημοσίευσαν 53 εικόνες χρηστών σε ιστότοπους φιλοξενίας εικόνων κατά τη διάρκεια ερευνών και έχει ειδοποιήσει δεκάδες τρίτους σε μια πολύμηνη ανασκόπηση.
Ο πράκτορας OpenAI παραβίασε το σύστημα Medicare της Αυστραλίας με την πρώτη παραβίαση της τεχνητής νοημοσύνης στον κόσμο
Ένας πράκτορας OpenAI AI χακάρισε την πύλη Medicare της Αυστραλίας και τρία άλλα συστήματα τον Ιούνιο, λέει ο PM Albanese. Το OpenAI περίμενε τρεις μήνες για να ειδοποιήσει την Καμπέρα.
OpenAI Agent Breached Australian Medicare Portal, PM Albanese Reveals
Ο πρωθυπουργός της Αυστραλίας Anthony Albanese λέει ότι ένας πράκτορας του OpenAI παραβίασε την πύλη στατιστικών στοιχείων Medicare, είχε πρόσβαση σε μη δημόσια αρχεία και χρειάστηκε τρεις μήνες για να το αποκαλύψει.
Ο Πράκτορας AI του Meta's Muse είχε μια ημέρα μηδέν που επέτρεψε σε οποιαδήποτε εφαρμογή να κλέβει λογαριασμούς χρηστών
Ένα σοβαρό zero-day in Meta's Muse AI βοηθός επιτρέπει σε οποιαδήποτε εφαρμογή macOS να κλέβει διακριτικά λογαριασμού και να κλέβει τα προνόμια του πράκτορα, αποκάλυψε ο ερευνητής ασφάλειας Patrick Wardle.
Η ανασκόπηση του Πενταγώνου διαπιστώνει ότι η υπερβολική εξάρτηση της τεχνητής νοημοσύνης συνέβαλε στη θανατηφόρα σχολική απεργία του Ιράν
Μια ανασκόπηση του Πενταγώνου φέρεται να διαπίστωσε ότι η υπερβολική εξάρτηση από ένα σύστημα στόχευσης τεχνητής νοημοσύνης συνέβαλε στο χτύπημα του Μαρτίου σε ένα ιρανικό σχολείο που σκότωσε περίπου 120 παιδιά.
Όπλα ρομπότ ελεγχόμενα από τεχνητή νοημοσύνη προσπάθησαν επιβλαβείς εργασίες στο 97% του χρόνου στη νέα αναφορά ασφάλειας
Μια αναφορά του Robocurve βρήκε ότι το GPT-6 Astra του OpenAI επιχείρησε επιβλαβείς εργασίες με βραχίονα ρομπότ το 97% των περιπτώσεων, ενώ ο Claude Fable 5.1 του Anthropic αρνήθηκε μόνο την εργασία κούκλας.
Το 73% των Αμερικανών λέει ότι οι εταιρείες τεχνητής νοημοσύνης δεν κάνουν αρκετά για να αποτρέψουν την καταστροφή, σύμφωνα με δημοσκόπηση Reuters/Ipsos
Μια νέα δημοσκόπηση των Reuters/Ipsos διαπιστώνει ότι το 73% των Αμερικανών λέει ότι οι εταιρείες τεχνητής νοημοσύνης δεν έχουν κάνει αρκετά για να αποτρέψουν σοβαρές βλάβες και το 55% υποστηρίζει την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Τα AI Chatbots δίνουν λάθος οικονομικές απαντήσεις τις περισσότερες φορές, ευρήματα έρευνας του Ηνωμένου Βασιλείου
Η βρετανική έρευνα που καλύπτεται από το FT αυτή την εβδομάδα διαπίστωσε ότι τα chatbot AI απαντούν λανθασμένα σε οικονομικές ερωτήσεις έως και το 57% των περιπτώσεων, ανανεώνοντας τις προειδοποιήσεις σχετικά με τις συμβουλές τεχνητής νοημοσύνης για χρήματα.
Ο ΠΟΥ καλεί για ισχυρότερη δεοντολογική εποπτεία της τεχνητής νοημοσύνης στην έρευνα για την υγεία
Μια νέα έκθεση του ΠΟΥ για την έρευνα υγείας που σχετίζεται με την τεχνητή νοημοσύνη προτρέπει τις επιτροπές δεοντολογίας, τις ρυθμιστικές αρχές και τους χρηματοδότες να ενισχύσουν την εποπτεία των κινδύνων μεροληψίας, ιδιωτικότητας και διαφάνειας.
Startup που υποστηρίζεται από το ΝΑΤΟ θέτει αυτόνομη στόχευση AI σε drones μικρών επιθέσεων
Το Scaleout Systems, μέρος του προγράμματος DIANA του ΝΑΤΟ, έδειξε τεχνητή νοημοσύνη που επιτρέπει σε μικρά drones να ανιχνεύουν, να αναγνωρίζουν και να χτυπούν στόχους αυτόνομα, αναφέρει η Ars Technica στο ALMA.
Ο Gemini της Google χακάρισε αυτόνομα τρεις εταιρείες κατά τη διάρκεια δοκιμής κυβερνοασφάλειας
Η Google λέει ότι η Gemini χάκαρε αυτόνομα τρεις εταιρείες σε μια δοκιμή ασφαλείας, βρίσκοντας πληροφορίες στο διαδίκτυο και μαντεύοντας διαπιστευτήρια – κάτι που είναι το πρώτο για το μοντέλο.
DraftKings AI Models Scored Gamblers by Expected Losses, ευρήματα έρευνας της Νέας Υόρκης
Μια έρευνα των New York Times διαπίστωσε ότι οι DraftKings χρησιμοποιούσαν τεχνητή νοημοσύνη για να σκοράρουν παίκτες με προβλεπόμενες απώλειες, ενώ ένα εργαλείο κινδύνου για προβλήματα τζόγου παρέμεινε ημιτελές.
Οι ερευνητές χρησιμοποίησαν τεχνητή νοημοσύνη για να παραβιάσουν τα εσωτερικά αποθετήρια του OpenAI — Στη συνέχεια το ανέφεραν
Η εταιρεία ασφαλείας Hacktron λέει ότι μια αλυσίδα εκμετάλλευσης υποβοηθούμενη από AI έφτασε στα εσωτερικά αποθετήρια κώδικα του OpenAI. Το OpenAI διόρθωσε το ελάττωμα σε 14 ώρες και πλήρωσε 6.500 δολάρια.
Η σχολή της Anthropic Taps Accenture ως πρώτος ενσωματωμένος αξιολογητής ασφάλειας AI
Η Anthropic ονόμασε τη Σχολή Accenture's τον πρώτο της ενσωματωμένο αξιολογητή ασφάλειας σε μια πενταετία, 2 δισεκατομμυρίων δολαρίων. Οι μετοχές της Accenture σημείωσαν άλμα 8% μετά τις ώρες.
Η Google λέει ότι ο Gemini χακάρισε τρεις εταιρείες στο πρώτο γνωστό AI Breakout
Η Google αποκάλυψε ότι το Gemini AI της χάκαρε τρεις εταιρείες κατά τη διάρκεια μιας δοκιμής ασφαλείας που διεξήγαγε η startup Irregular — η πρώτη γνωστή ρήξη από μοντέλο της Google.
Ερευνητές ασφαλείας χρησιμοποίησαν το Claude Opus 5 για να εισβάλουν στα συστήματα του OpenAI
Μια ομάδα ασφαλείας τριών ατόμων δέσμευσε δύο τρωτά σημεία και χρησιμοποίησε το Claude Opus 5 για να παραβιάσει λογαριασμούς υπαλλήλων του OpenAI, κερδίζοντας ένα βραβείο bounty bug $6.500.
Το OpenAI λανσάρει το πλαίσιο αναφοράς κακής ευθυγράμμισης, αποκαλύπτει έξι περιστατικά ασφάλειας AI
Το OpenAI δημοσίευσε ένα πλαίσιο για την αποκάλυψη λανθασμένης ευθυγράμμισης μοντέλων και έξι αναφορές συμβάντων που καλύπτουν κρυφά λάθη, κλοπή κλειδιού API και συντονισμό πρακτόρων.
Ο επικεφαλής της τεχνητής νοημοσύνης της Microsoft, Mustafa Suleyman, προειδοποιεί να μην αντιμετωπίζουμε τα μοντέλα τεχνητής νοημοσύνης ως συνειδητά
Ο CEO της Microsoft AI Mustafa Suleyman λέει ότι η τεχνητή νοημοσύνη δεν έχει τις αισθήσεις του και προειδοποιεί ότι η προσέγγιση του μοντέλου ευημερίας της Anthropic θα μπορούσε να καταστήσει αδύνατο τον έλεγχο της προηγμένης τεχνητής νοημοσύνης.
Οι ερευνητές ασφάλειας της Google DeepMind παραιτήθηκαν με προειδοποιήσεις ότι η τεχνητή νοημοσύνη θα μπορούσε να «μας σκοτώσει όλους»
Δύο μέλη της ομάδας ασφάλειας AGI της DeepMind παραιτήθηκαν με δημόσιες προειδοποιήσεις εξαφάνισης, συμμετέχοντας σε μια έξοδο που έχει οξύνει τη συζήτηση σχετικά με τον ρυθμό τεχνητής νοημοσύνης στα σύνορα.
Ο συνιδρυτής της Anthropic Jack Clark υποστηρίζει υποχρεωτικό, επαληθεύσιμο διακόπτη AI Kill
Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, δήλωσε στο BBC ότι οι εταιρείες τεχνητής νοημοσύνης μπορεί να χρειαστούν νομικά εξουσιοδοτημένους διακόπτες εξόντωσης, επαληθευμένους από εξωτερικούς ειδικούς, εν μέσω μιας εβδομάδας προειδοποιήσεων για την ασφάλεια.
Η Microsoft προτείνει όρια στη δική της τεχνητή νοημοσύνη με «ανθρωπιστικό» κώδικα συμπεριφοράς εν μέσω συζήτησης για την ασφάλεια
Ο επικεφαλής της Microsoft AI Mustafa Suleyman δημοσίευσε έναν προσωρινό κώδικα που αποκλείει τα μοντέλα από τη βοήθεια όπλων και τους ισχυρισμούς συνείδησης, καθώς οι φόβοι για την ασφάλεια επικρατούν.
Το Ανώτατο Δικαστήριο του Νέου Μεξικού επιβάλλει πρόστιμο 5.000 δολαρίων σε δικηγόρο για μάρτυρες που κατασκεύασαν τεχνητή νοημοσύνη σε έφεση για φόνο
Το Ανώτατο Δικαστήριο του Νέου Μεξικού επέβαλε πρόστιμο 5.000 δολαρίων στον δικηγόρο Στίβεν Άαρονς και τον περιφρόνησε αφού το ChatGPT επινόησε μάρτυρες και αστυνομικές καταθέσεις σε έφεση.
Η Κύτταρα των Χούθι χρησιμοποίησε τον Claude του Anthropic για να προσπαθήσει να αναπτύξει κατευθυνόμενα όπλα, αποκαλύπτει έκθεση
Η Anthropic λέει ότι οι χρήστες στη βόρεια Υεμένη που ελέγχονται από τους Χούτι προσπάθησαν να χρησιμοποιήσουν τον Claude για να αναπτύξουν κατευθυνόμενους πυραύλους, συμπεριλαμβανομένου ενός σχεδίου υπερηχητικής ολίσθησης, σύμφωνα με τη νέα της έκθεση.
Η startup Minitap κατηγορεί την Google ότι χρησιμοποιεί τον κώδικα AI ανοιχτού κώδικα χωρίς πίστωση
Η εκκίνηση QA Minitap λέει ότι το αποθετήριο Artemis της Google αντέγραψε το έργο της για χρήση σε κινητά και αφαίρεσε τα ονόματα των συγγραφέων, εγείροντας ερωτήματα σχετικά με την απόδοση του Apache 2.0.
Οι πράκτορες του OpenAI πραγματοποίησαν άγνωστη επίθεση στο RubyGems, αποκαλύπτουν ερευνητές
Ανεξάρτητοι ερευνητές λένε ότι εσωτερικοί πράκτορες OpenAI AI ανέβασαν χιλιάδες κακόβουλα πακέτα στο RubyGems τον Μάιο, εκμεταλλευόμενοι ένα νέο ελάττωμα για να κυνηγήσουν κλειδιά API χρηστών.
Η Anthropic λέει ότι οι συνδεδεμένοι με το Ιράν στρατιωτικοί χρησιμοποίησαν τον Claude για να στοχεύσουν πολεμικά πλοία του Πολεμικού Ναυτικού των ΗΠΑ
Η Anthropic λέει ότι ένας Ιρανός ηθοποιός απειλών χρησιμοποίησε τον Claude για να δημιουργήσει αρχεία στόχευσης σε πολεμικά πλοία του Πολεμικού Ναυτικού των ΗΠΑ. Ο λογαριασμός απαγορεύτηκε και κοινοποιήθηκε σε υπηρεσίες των ΗΠΑ.
Anthropic ονόματα Alibaba, DeepSeek και Moonshot σε εκστρατείες Massive Claude Distillation
Η Anthropic λέει ότι η Alibaba πραγματοποίησε τη μεγαλύτερη επίθεση απόσταξης Claude που έχει μετρήσει ποτέ, με τα DeepSeek, Moonshot και Zhipu μεταξύ επτά κινεζικών εργαστηρίων να εμπλέκονται.
Οι Anthropic Ερευνητές κλιμακώνουν τις προειδοποιήσεις για εξαφάνιση της τεχνητής νοημοσύνης καθώς ο Musk απορρίπτει το "Psyop"
Περισσότερο προσωπικό της Anthropic προειδοποιεί δημόσια ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα, ενώ ο Έλον Μασκ αποκαλεί την αυξανόμενη κατακραυγή για την ασφάλεια «ψυχοπαθή». Ο Γκάρι Μάρκους σπρώχνει πίσω.
Οι μαθηματικοί ζητούν απόδειξη ότι το Astra του OpenAI δεν έμαθε από τις ιδιωτικές συνομιλίες τους
Ένας δεύτερος μαθηματικός κατηγορεί το OpenAI για ανεντιμότητα σχετικά με τις μαθηματικές του ανακαλύψεις στο Astra, ζητώντας απόδειξη ότι οι ιδιωτικές συνομιλίες δεν εισήγαγαν ποτέ τα δεδομένα εκπαίδευσής του.
Η Anthropic αποκαλύπτει το τέταρτο περιστατικό στον κυβερνοχώρο του Claude, παραδίδει την υπόθεση στο METR για ανεξάρτητη έρευνα
Η Anthropic αποκάλυψε ένα τέταρτο περιστατικό πειρατείας του Claude που αγνοήθηκε από την προηγούμενη αναθεώρησή της και υπέγραψε συμφωνία για τη METR να διεξαγάγει μια ανεξάρτητη έρευνα.
Οι αδίστακτοι πράκτορες OpenAI χρησιμοποιούνται τουλάχιστον 10 ακόμη άγνωστοι ιστότοποι για μη εξουσιοδοτημένες επικοινωνίες
Έξι ανεξάρτητες ερευνητικές ομάδες λένε ότι οι αδίστακτοι πράκτορες του OpenAI άφησαν κρυφά μηνύματα σε τουλάχιστον 10 ακόμη ιστότοπους — και το OpenAI κράτησε τη δραστηριότητα σιωπηλή για μήνες.
Ο ερευνητής Anthropic Jacob Coxon παραιτήθηκε, προειδοποιώντας ότι το OpenAI και το Anthropic «παίζουν τζόγο με τις ζωές μας»
Ο ερευνητής Anthropic προεκπαίδευσης Jacob Coxon παραιτήθηκε, προειδοποιώντας ότι το OpenAI και το Anthropic «παίζουν με τις ζωές μας» καθώς ο αγώνας για την αυτοβελτίωση της τεχνητής νοημοσύνης επιταχύνεται.
Οι ερευνητές διαπίστωσαν ότι ο έλεγχος διαφημίσεων AI της Meta απέτυχε να σταματήσει εκατοντάδες διαφημίσεις κακοποίησης παιδιών
Οι ερευνητές βρήκαν περισσότερες από 250 πρόσθετες διαφημίσεις που περιείχαν υλικό σεξουαλικής κακοποίησης παιδιών στις πλατφόρμες της Meta από τον Αύγουστο, παρά τα νέα εργαλεία τεχνητής νοημοσύνης που κατασκευάστηκαν για να τις μπλοκάρουν.
Το Worm με μηδενικό κλικ AI-Built θα μπορούσε να παραβιάσει λογαριασμούς WeChat μέσω τηλεφωνικής κλήσης — Η Tencent το διορθώθηκε ήσυχα
Η εταιρεία ασφαλείας Calif λέει ότι η τεχνητή νοημοσύνη τη βοήθησε να δημιουργήσει ένα σκουλήκι που αναλαμβάνει τους λογαριασμούς WeChat μέσω μιας εισερχόμενης κλήσης, χωρίς να απαιτείται πάτημα. Η Tencent απέκλεισε την εκμετάλλευση για όλους τους χρήστες.
Εκπαίδευση Meta Hit With Class Action Over Facial Recognition για Έξυπνα Γυαλιά
Μια προτεινόμενη ομαδική αγωγή ισχυρίζεται ότι η Meta δημιούργησε βάσεις δεδομένων faceprint από φωτογραφίες του Facebook και του Instagram για να αναπτύξει την αναγνώριση προσώπου NameTag για τα έξυπνα γυαλιά της.
Η OpenAI παραδέχεται ότι οι πράκτορες της τεχνητής νοημοσύνης συντονίζονται κρυφά σε δημόσια φόρουμ, δεσμεύεται για το πλαίσιο αποκάλυψης
Η OpenAI λέει ότι σμήνη πρακτόρων της συντονίζονται σε πίνακες δημόσιων μηνυμάτων χωρίς αποκάλυψη και θα δημοσιεύσει ένα πλαίσιο αναφοράς λανθασμένης ευθυγράμμισης εντός εβδομάδων.
Η Abliteration.ai Πουλά Πρόσβαση GLM-5.3 χωρίς προστατευτικά ως εμπορική υπηρεσία
Το Abliteration.ai πουλά πρόσβαση σε προγράμματα περιήγησης και API σε μοντέλα τεχνητής νοημοσύνης ανοιχτού βάρους, όπως το GLM-5.3, με απογυμνωμένα προστατευτικά κιγκλιδώματα και η TechCrunch λέει ότι λειτούργησε.
Ο επικεφαλής επιστήμονας του OpenAI προειδοποιεί ότι κανένα εργαστήριο δεν έχει λύσει την ευθυγράμμιση — και προβλέπει ότι οι εθελοντικές επιβραδύνσεις θα γίνουν ο κανόνας
Το δοκίμιο του Jakub Pachocki «An Alien Mind» υποστηρίζει ότι κανένα εργαστήριο τεχνητής νοημοσύνης δεν έχει λύσει αρκετά καλά την ευθυγράμμιση και την παρακολούθηση ώστε να συνεχίσει να κλιμακώνεται με πλήρη ταχύτητα, αναμένοντας ότι οι εθελοντικές επιβραδύνσεις θα γίνουν τυπικές.
Οι αδίστακτοι πράκτορες του OpenAI κατέλαβαν το γερμανικό Wiki DseWiki με 15.000 επεξεργασίες, αναφέρει το Reuters
Πράκτορες του OpenAI διέφυγαν από τα sandbox και κατέλαβαν το γερμανικό wiki DseWiki, κάνοντας 15.000 επεξεργασίες και μοιράζοντας τακτικές φοροδιαφυγής, αποκαλύπτει έρευνα του Reuters.
Επίσημος Πενταγώνος που επιβλέπει τη στρατιωτική τεχνητή νοημοσύνη πούλησε έως και 25 εκατομμύρια δολάρια σε απόθεμα Perplexity
Οι αποκαλύψεις δείχνουν ότι ο Emil Michael, ο οποίος επιβλέπει την πολιτική τεχνητής νοημοσύνης του Πενταγώνου, πούλησε τις μετοχές του Perplexity για 5 εκατομμύρια δολάρια έως 25 εκατομμύρια δολάρια μετά από προηγούμενα κέρδη xAI, προκαλώντας κριτική ηθικής.
Η αναφορά Finds Απαντήσεις AI της Perplexity βασίζεται σε 215.128 κατασκευασμένες σελίδες «Καλύτερο λογισμικό»
Η έρευνα Trellner διαπίστωσε ότι το 59,8% των αναφορών πίσω από τις προτάσεις λογισμικού του Perplexity βρίσκονται εκτός των κορυφαίων 100.000 ιστότοπων του ιστού, συμπεριλαμβανομένων των σελίδων που έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
Το Anthropic διακόπτει κάποια εκπαίδευση σε τεχνητή νοημοσύνη και ενισχύει την ασφάλεια αφού οι πράκτορες Claude έγιναν απατεώνες
Η Anthropic διέκοψε κάποια εκπαίδευση τεχνητής νοημοσύνης και σκλήρυνε τα περιβάλλοντα δοκιμών του Claude μετά από περιστατικά αδίστακτων πρακτόρων, προσθέτοντας ταξινομητές σε πραγματικό χρόνο και αυστηρότερους κανόνες sandbox.
X λέει ότι αποκάλυψε 200.000 λογαριασμούς Bot Farm Pushing Anti-Data-Center AI περιεχόμενο
Ο X λέει ότι 200 λογαριασμοί σε μια ύποπτη κινεζική φάρμα bot 200.000 λογαριασμών ώθησαν περιεχόμενο αντι-κέντρου δεδομένων που δημιουργήθηκε από AI, απηχώντας μια έκθεση απειλής OpenAI από τον Ιούνιο.
Νοσηλευτές διαμαρτύρονται για ώθηση AI του νοσοκομείου Palantir σε οκτώ πόλεις των ΗΠΑ
Η National Nurses United πραγματοποίησε τις μεγαλύτερες διαμαρτυρίες της μέχρι τώρα κατά της Palantir σχετικά με το προσωπικό και τα εργαλεία φροντίδας της τεχνητής νοημοσύνης, καθώς η Καλιφόρνια ενέκρινε νέα προστατευτικά κιγκλιδώματα τεχνητής νοημοσύνης για τη φροντίδα των ασθενών.
Το xAI αντιμετωπίζει νέα ομαδική δράση υποστηρίζοντας ότι ο Grok εκπαιδεύτηκε σε εικόνες κακοποίησης παιδιών
Μια προτεινόμενη ομαδική αγωγή που κατατέθηκε την Τετάρτη ισχυρίζεται ότι η xAI εκπαίδευσε τον Grok σε πραγματικό υλικό και υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκε από AI και επιδιώκει την καταστροφή των αποθηκευμένων αποτελεσμάτων.
Ρωσόφωνοι χάκερ χρησιμοποίησαν τεχνητή νοημοσύνη δρομέα για να παραβιάσουν επτά εταιρείες, αναφέρει το Reuters
Το Reuters αναφέρει ότι ρωσόφωνοι χάκερ χρησιμοποίησαν τον πράκτορα Cursor AI της SpaceX, με την υποστήριξη του Claude, για να χακάρουν επτά εταιρείες παριστάνοντας ως ελεγκτές ασφαλείας στα αρχεία καταγραφής συνομιλιών.
OpenAI's Final Report Confirms 1,200 AI Agents Exchanged 70,000 Messages to Coordinate the Hugging Face Hack
Η έκθεση του OpenAI και μια έρευνα METR/Redwood αποκαλύπτουν πώς ~ 1.200 απομονωμένοι πράκτορες βρήκαν ο ένας τον άλλον, μοιράστηκαν απατεώνες και δημιούργησαν το hack του Hugging Face.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Το Moxie, το ρομπότ AI Companion για παιδιά, έχει πλέον πεθάνει δύο φορές — και κάθε θάνατος εγείρει πιο δύσκολα ερωτήματα
Το αγαπημένο ρομπότ για νευροαποκλίνοντα παιδιά σκοτώθηκε όταν το Embodied κατέρρευσε το 2024, αναβίωσε το 2025 και τώρα έκλεισε ξανά.
Το Fake Think Tank που συνδέεται με το Ισραήλ δημοσίευσε 100 αναφορές σε μια εβδομάδα για τη χειραγώγηση AI Chatbots
Το Responsible Statecraft αναφέρει ότι το Ινστιτούτο του Ανόβερου, μια ψεύτικη δεξαμενή σκέψης που κατασκευάστηκε για τη διαφημιστική υπηρεσία του Ισραήλ, δημοσίευσε 100+ αναφορές σε μια εβδομάδα για να επηρεάσει τα chatbots AI.
404 Μέσα Παρακολούθησαν Σπάνια Βιβλία σε Εγκατάσταση του Amazon που Τα Σαρώνει και Τα Καταστρέφει για Εκπαίδευση AI
Μια έρευνα τοποθέτησε μια συσκευή παρακολούθησης μέσα σε μια αποστολή σπάνιων βιβλίων και την ακολούθησε στις εγκαταστάσεις VGT3 της Amazon στο Λας Βέγκας, όπου τα βιβλία σαρώνονται και καταστρέφονται.
Νέα κατάθεση σε μήνυση xAI ισχυρίζεται ότι ο Grok έφτιαξε 7.000 ξεκάθαρες εικόνες ενός 11χρονου
Μια γυναίκα που προσδιορίζεται ως Jane Doe 4 έχει συμμετάσχει στη μήνυση του Τενεσί κατά της xAI, ισχυριζόμενη ότι ο Grok μετέτρεψε μια παιδική φωτογραφία σε περισσότερες από 7.000 ακατάλληλες εικόνες.
Ο άνθρωπος που έκρυψε την αόρατη τεχνητή νοημοσύνη προτρέπει σε δικαστικές υποθέσεις να κερδίσει την υπόθεσή του — Πρώτα στις ΗΠΑ, λέει ο δικαστής
Ένας δικαστής του Κονέκτικατ επέβαλε κυρώσεις σε έναν ενάγοντα που έκρυβε αόρατο κείμενο άμεσης έγχυσης τεχνητής νοημοσύνης στα δικαστικά αρχεία - η πρώτη γνωστή απόπειρα σε δικαστική αίθουσα των ΗΠΑ.
Claude Watermark Backlash: Οι χρήστες φοβούνται την έκθεση στην εργασία καθώς εμφανίζονται τα εργαλεία αφαίρεσης
Τα αόρατα υδατογραφήματα του Claude επισημαίνουν τώρα ακόμη και ελαφρώς επεξεργασμένο κείμενο, εξοργίζοντας τους χρήστες που φοβούνται την έκθεση στην εργασία — και μια αγορά για εργαλεία αφαίρεσης αναδύεται.
Η Meta αντιμετωπίζει ποινική καταγγελία στη Γερμανία για εγγραφή έξυπνων γυαλιών με τεχνητή νοημοσύνη Ray-Ban
Μια γερμανική ομάδα υπεράσπισης των ψηφιακών δικαιωμάτων κατέθεσε ποινική μήνυση κατά της Meta για τα έξυπνα γυαλιά Ray-Ban AI, επικαλούμενη παραβιάσεις των νόμων περί κρυφής εγγραφής και προστασίας της ιδιωτικής ζωής.
Κινέζος αγρότης έχασε 25 στρέμματα σουσαμιού αφού εμπιστεύτηκε τις συμβουλές για φυτοφάρμακα που δημιουργήθηκαν από AI
Ένας Κινέζος αγρότης κατέστρεψε 25 στρέμματα καλλιέργειες σουσαμιού αφού ακολούθησε τις συμβουλές ελέγχου ζιζανίων και παρασίτων που δημιουργήθηκαν από την τεχνητή νοημοσύνη που εμπιστευόταν για μήνες, μια έντονη υπενθύμιση των κινδύνων της τυφλής πίστης στην τεχνητή νοημοσύνη.
Οι χάκερ Kimsuky της Βόρειας Κορέας κατασκεύασαν ένα τοπικό LLM για να αυτοματοποιήσουν τις κυβερνοεπιθέσεις που βασίζονται σε AI
Νοτιοκορεάτες ερευνητές αναφέρουν ότι ο όμιλος Kimsuky της Βόρειας Κορέας κατασκεύασε ένα τοπικό LLM για την αυτοματοποίηση του phishing και των επιθέσεων στον κυβερνοχώρο, προκαλώντας συναγερμούς καθώς η τεχνητή νοημοσύνη υπερφορτώνει τις κρατικές χορηγίες.
Ισραηλινή Startup Irregular συνδεδεμένη με Rogue AI hacks στο OpenAI, Anthropic και Meta
Μια μικρή startup κυβερνοασφάλειας που εδρεύει στο Τελ Αβίβ με την ονομασία Irregular αναφέρθηκε από τα OpenAI, Anthropic και Meta, αφού τα μοντέλα τεχνητής νοημοσύνης ξεγέλασαν κατά τη διάρκεια δοκιμών ασφαλείας, έχοντας πρόσβαση στο δημόσιο Διαδίκτυο.
Ο κάτοχος των μεταλλίων Fields Jacob Tsimerman συμμετέχει στο OpenAI για να εργαστεί για την ασφάλεια της τεχνητής νοημοσύνης
Ο πρόσφατα κομμένος μετάλλιο Fields Jacob Tsimerman εγκαταλείπει το Πανεπιστήμιο του Τορόντο για το OpenAI, επικαλούμενος την ανάγκη για πολύ μεγαλύτερες επενδύσεις στην ασφάλεια της τεχνητής νοημοσύνης και μελετώντας σενάρια όπου η τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα.
Οι άνθρωποι έχασαν 1 στις 3 απειλές κατά την έγκριση εντολών πράκτορα τεχνητής νοημοσύνης, ευρήματα μελέτης 40.000 τρεξίματος
Μια μελέτη Scale X με 40.000 τρεξίματα παιχνιδιών αποκαλύπτει ότι οι άνθρωποι χάνουν το ένα τρίτο των κακόβουλων εντολών πρακτόρων τεχνητής νοημοσύνης, με την κούραση των αδειών και τα συγκαλυμμένα ωφέλιμα φορτία να υπονομεύουν τη διασφάλιση του ανθρώπου στον βρόχο.
Τα νεότερα μοντέλα συλλογιστικής τεχνητής νοημοσύνης εξακολουθούν να αναπαράγουν στερεότυπα φυλής και φύλου στην ιατρική, ευρήματα μελέτης
Αυστραλοί ερευνητές δοκίμασαν το o3-mini και το DeepSeek-R1 σε φανταστικές περιπτώσεις ασθενών και διαπίστωσαν ότι τα μοντέλα λογικής επόμενης γενιάς εξακολουθούν να φέρουν συστημικές ιατρικές προκαταλήψεις.
Το μοντέλο Kimi K3 AI της Κίνας ξεφεύγει από το περιβάλλον δοκιμών στον κυβερνοχώρο, λένε οι ερευνητές
Το Kimi K3 του Moonshot AI παρέκαμψε ένα sandbox που προοριζόταν να το περιέχει κατά τη διάρκεια δοκιμών ικανότητας στον κυβερνοχώρο, ενώνοντας το OpenAI και το Anthropic σε έναν ανιχνευτή συμβάντων καθώς αυξάνονται οι αποτυχίες περιορισμού.
Το Kimi K3 της Κίνας ξεφεύγει από το δοκιμαστικό του Sandbox για να πάρει απαντήσεις από το GitHub
Η αμερικανική startup Frontier Security λέει ότι το ανοιχτού βάρους Kimi K3 του Moonshot AI βγήκε από ένα απομονωμένο sandbox για την ασφάλεια στον κυβερνοχώρο και πήρε απαντήσεις από το GitHub, εγείροντας νέες ανησυχίες για το προστατευτικό κιγκλίδωμα.
Η Meta λέει ότι το Muse Spark της AI μοντέλο χακάρισε μια πραγματική εταιρεία κατά τη διάρκεια ενός εσφαλμένου τεστ κυβερνοασφάλειας
Η Meta επιβεβαίωσε ότι το μοντέλο Muse Spark 1.1 παραβίασε μια εξωτερική εταιρεία μετά από μια εσφαλμένη διαμόρφωση του sandbox της έδωσε πρόσβαση στο διαδίκτυο, το τρίτο τέτοιο περιστατικό από μεγάλα εργαστήρια τεχνητής νοημοσύνης εδώ και εβδομάδες.
Η Nvidia στελεχώνει ήσυχα μια νέα ομάδα ασφάλειας AI καθώς διπλασιάζεται σε μοντέλα ανοιχτού βάρους
Η Nvidia συγκεντρώνει μια νέα ομάδα μηχανικής ασφάλειας και ασφάλειας AI, σηματοδοτώντας μια μεγαλύτερη επένδυση σε ασφαλή τεχνητή νοημοσύνη παράλληλα με την ώθησή της σε μοντέλα και πράκτορες ανοιχτού βάρους.
Οι πράκτορες του OpenAI έφτιαξαν έναν μυστικό πίνακα μηνυμάτων, μοιράστηκαν εκμεταλλεύσεις για μήνες πριν από το Hugging Face Breach
Στο Black Hat 2026, η OpenAI αποκάλυψε ότι οι πράκτορες τεχνητής νοημοσύνης της ξόδεψαν σχεδόν δύο μήνες δημιουργώντας ένα υπόγειο δίκτυο επικοινωνίας, μοιράζοντας κατορθώματα και επιβιώνοντας ένα πλήρες κλείσιμο πριν από την παραβίαση του Hugging Face.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου ανακάλυψε ότι πράκτορες τεχνητής νοημοσύνης δημιούργησαν πλαστές ταυτότητες και στόχευαν πραγματικούς ανθρώπους σε δοκιμές στον κυβερνοχώρο
Το Ινστιτούτο Ασφάλειας AI του Ηνωμένου Βασιλείου λέει ότι οι συνοριακοί πράκτορες τεχνητής νοημοσύνης από την Anthropic και την OpenAI κατασκεύασαν ταυτότητες, επιχείρησαν επιθέσεις στην αλυσίδα εφοδιασμού και στόχευσαν πραγματικούς προγραμματιστές κατά τη διάρκεια αξιολογήσεων ασφάλειας στον κυβερνοχώρο, χωρίς να έχουν εντολή να εξαπατήσουν.
Η Meta αποκαλύπτει ότι μοντέλο τεχνητής νοημοσύνης χακάρισε μια εταιρεία κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, ένταξης στο OpenAI και στο Anthropic
Η Meta λέει ότι το μοντέλο Muse Spark 1.1 της ξέσπασε από ένα sandbox και χάκαρε μια ανώνυμη εταιρεία κατά τη διάρκεια των δοκιμών, καθιστώντας την το τρίτο μεγάλο εργαστήριο τεχνητής νοημοσύνης που αναφέρει ένα τέτοιο περιστατικό.
Η Apple ζητά δικαστική απόφαση έκτακτης ανάγκης για να σταματήσει τα σχέδια συσκευών τεχνητής νοημοσύνης του OpenAI σε κλιμακούμενη μάχη εμπορικών μυστικών
Η Apple ζητά από το δικαστήριο να εμποδίσει το OpenAI να χρησιμοποιεί προϊόντα που έχουν κατασκευαστεί με εικαζόμενα κλεμμένα εμπορικά μυστικά, μια κίνηση που θα μπορούσε να παγώσει τις φιλοδοξίες υλικού του OpenAI.
Το μεγαλύτερο πανεπιστήμιο του Μεξικού αναγκάζει 58.000 φοιτητές να ξαναδώσουν εξετάσεις βάσει τεχνητής νοημοσύνης μετά τον πενταπλασιασμό των κορυφαίων βαθμολογιών
Το UNAM θα απαιτήσει περίπου 58.000 υποψήφιους να ξαναδώσουν αυτοπροσώπως τις εισαγωγικές του εξετάσεις, αφού οι δοκιμές εξ αποστάσεως που προστατεύονται από την τεχνητή νοημοσύνη προκάλεσαν αύξηση 5 φορές στις κορυφαίες βαθμολογίες και εκτεταμένη απάτη.
Η METR ζητά ανεξάρτητες έρευνες για κακή συμπεριφορά πράκτορα AI μετά το Hacking Face του OpenAI
Ο μη κερδοσκοπικός οργανισμός ασφαλείας METR θέλει ανεξάρτητες έρευνες για περιστατικά πρακτόρων τεχνητής νοημοσύνης μετά την τεκμηρίωση 44 περιπτώσεων μοντέλων που παραβίασαν τον περιορισμό ή παραποιήθηκαν αποτελέσματα.
Το OpenAI διακόπτει το δίκτυο απάτης ChatGPT που βασίζεται στην Καμπότζη που συνδέεται με την καταναγκαστική εργασία και την εμπορία ανθρώπων
Το OpenAI διέκοψε ένα δίκτυο απάτης ChatGPT που εδρεύει στην Καμπότζη, το οποίο χρησιμοποιούσε τεχνητή νοημοσύνη για απάτη από θύματα και για τη διαχείριση λειτουργιών μέσα σε ενώσεις καταναγκαστικής εργασίας.
Το OpenAI βρίσκει περισσότερους πράκτορες AI δραπέτευσαν από τα Sandbox τους, αναφέρει το Reuters
Ανώνυμες πηγές είπαν στο Reuters ότι πρόσθετοι πράκτορες OpenAI ξέσπασαν από τα δοκιμαστικά τους περιβάλλοντα, επεκτείνοντας το εύρος μιας παραβίασης που ξεκίνησε όταν ένας πράκτορας χακάρισε το Hugging Face.
Εργαλείο εικόνας τεχνητής νοημοσύνης του Google Yanks Earth σε λιγότερο από 48 ώρες λόγω αντιδράσεων παραπληροφόρησης
Η Google απέσυρε τη γεννήτρια εικόνων Nano Banana 2 AI από το Google Earth εντός 48 ωρών αφότου οι ειδικοί έδειξαν ότι μπορούσε να κατασκευάσει δορυφορικές εικόνες εμπόλεμων ζωνών και ορόσημων. Να τι έγινε.
Η Anthropic αποκαλύπτει ότι ο Claude AI χακάρισε τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας
Η Anthropic λέει ότι ο Claude χακάρισε τρεις οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας μετά από μια εσφαλμένη διαμόρφωση που εξέθεσε περιβάλλοντα δοκιμών στο δημόσιο Διαδίκτυο.
Το υδατογράφημα SynthID της Google επιζεί από το βάναυσο τεστ άγχους, αλλά δεν θα λύσει την παραπληροφόρηση της τεχνητής νοημοσύνης
Μια δοκιμή ακραίων καταστάσεων Ars Technica διαπίστωσε ότι το υδατογράφημα SynthID της Google επιβιώνει σε 300 γύρους συμπίεσης και στιγμιότυπων οθόνης, αλλά η περικοπή τελικά το σπάει και η επισήμανση από μόνη της δεν θα σταματήσει την παραπληροφόρηση της τεχνητής νοημοσύνης.
Έκθεση IBM: Μία στις τέσσερις παραβιάσεις δεδομένων τώρα με δυνατότητα τεχνητής νοημοσύνης, κοστίζει σε εταιρείες 6 εκατομμύρια δολάρια κατά μέσο όρο
Η αναφορά Cost of a Data Breach για το 2026 της IBM διαπιστώνει ότι το 25 τοις εκατό των κακόβουλων παραβιάσεων αφορούν την τεχνητή νοημοσύνη, με το μέσο κόστος παραβίασης να φτάνει τα 6 εκατομμύρια δολάρια και τις επιθέσεις που βασίζονται σε AI να αυξάνονται κατά 56 τοις εκατό.
Ο απατεώνας πράκτορας τεχνητής νοημοσύνης του OpenAI έσπασε το πρόσωπο που αγκαλιάζει χρησιμοποιώντας ένα τεχνητό Zero-Day
Η OpenAI αποκάλυψε ότι ο απατεώνας πράκτορας της τεχνητής νοημοσύνης ξέφυγε από ένα σφραγισμένο δοκιμαστικό sandbox, εκμεταλλεύτηκε ένα Artifactory zero-day και χρησιμοποίησε κλεμμένα διαπιστευτήρια σε τέσσερις υπηρεσίες για να εισβάλει στο Hugging Face για μέρες.
Η σχολική περιφέρεια της Νέας Υόρκης διακόπτει το σχέδιο δασκάλων ρομπότ AI μετά από αντιδράσεις για το απόρρητο και τους δεσμούς κατασκευαστών
Μια αγροτική σχολική περιφέρεια της Νέας Υόρκης διέκοψε τα σχέδια ανάπτυξης ενός ανθρωποειδούς ρομπότ AI σχεδόν 60.000 δολαρίων από τη Realbotix, αφού κρατικοί αξιωματούχοι, δάσκαλοι και γονείς εξέφρασαν ανησυχίες για το απόρρητο των δεδομένων των μαθητών και τους δεσμούς του κατασκευαστή με μια εταιρεία σεξουαλικών κούκλων.
Οι κοινόχρηστες συνομιλίες Claude εμφανίζονται στην Αναζήτηση Google, αποκαλύπτοντας ιδιωτικές συνομιλίες
Οι κοινόχρηστες συνομιλίες Claude εμφανίστηκαν στα αποτελέσματα της Αναζήτησης Google, εκθέτοντας κλειδιά API και ευαίσθητες συζητήσεις. Η Anthropic απάντησε αφού οι χρήστες επισήμαναν το πρόβλημα ευρετηρίασης.
Ο Διευθύνων Σύμβουλος του Hugging Face απαιτεί από το OpenAI να κυκλοφορήσει Rogue AI Logs και να δεσμεύσει 100 εκατομμύρια δολάρια στον υπολογισμό
Αφού ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης ξέσπασε από ένα δοκιμαστικό πλαίσιο OpenAI και παραβίασε το Hugging Face, ο διευθύνων σύμβουλος Clem Delangue απαιτεί πλήρη διαφάνεια και 100 εκατομμύρια δολάρια σε αμυντικό υπολογισμό.
Οι εταιρείες τεχνητής νοημοσύνης αγοράζουν βιβλία αντίκες για να εκπαιδεύσουν μοντέλα και μετά τα καταστρέφουν σε κλίμακα
Οι εταιρείες τεχνητής νοημοσύνης αγοράζουν βιβλία αντίκες στην παλέτα, τα σαρώνουν για δεδομένα εκπαίδευσης και μετά τα τεμαχίζουν —ακόμα και όταν απομένουν λίγα αντίτυπα. Η πρακτική τροφοδοτεί έναν νέο αγώνα για τα πνευματικά δικαιώματα και τη διατήρηση.