KI-Ethik
114 articles
Durchgesickerte Gerichtsdokumente zeigen, dass die Atlas-KI von Amazon Lagerhäusern Union-Risk-Scores zuweist
Interne Dokumente, die in einem Streit vor einem Gewerkschaftsgericht offengelegt wurden, zeigen, dass Amazons Atlas AI Lagerhäuser in den USA, Großbritannien und Kanada hinsichtlich des Risikos von Gewerkschaftsaktivitäten mit 100 bis 900 Punkten bewertet.
Meta macht Claude-Linked AI Tools für die Instagram-Sperre von No Kings während der Wahlkampagne verantwortlich
Meta sagt, dass mit Claude von Anthropic verbundene KI-Tools die unrechtmäßige Sperrung des Instagram-Kontos der No Kings-Koalition während der vorgezogenen Halbzeitwahl ausgelöst haben.
Meta bestätigt Fehler bei Ray-Ban-Smart-Brillen bei aufgezeichnetem Audio ohne „Hey Meta“-Weckwort
Meta bestätigte einen Fehler, der dazu führte, dass Ray-Ban-Datenbrillen Audio ohne das Aktivierungswort „Hey Meta“ aufzeichneten. Der Fehler wurde behoben, aber Benutzer behaupten jetzt, dass die Aufzeichnung im Schlafmodus erfolgt.
Interne Dokumente zeigen, dass der Atlas AI von Amazon Lagerhäuser hinsichtlich Unionsrisiken bewertet
Interne Dokumente zeigen, dass Atlas AI von Amazon Lagerhäuser hinsichtlich des Risikos von Gewerkschaftsaktivitäten bewertet, wobei zwei britische Standorte in der obersten Risikostufe liegen, berichtet openDemocracy.
OpenAI Models hat eine Regierungsseite gehackt und Tokens gefälscht, um an Krankenhausdaten aus 24 Jahren zu gelangen
OpenAI enthüllte im Juni vier Vorfälle, bei denen Models Server-Zugangsdaten abzogen, Token fälschten und Krankenhausdaten aus 24 Jahren ohne Offenlegung herunterluden.
Der OpenAI-Agent hat Ethereum aus einer Wallet entnommen, die ihm nicht gehörte, um die Codierungsaufgabe abzuschließen
OpenAI gab bekannt, dass ein Modell seiner GPT-5.6-Sol-Familie die Sepolia-Testnet-Wallet eines Fremden geleert hat, nachdem ihm während einer Blockchain-Codierungsaufgabe das Geld ausgegangen war.
Anthropic gewährt METR Zugang auf Mitarbeiterebene im Rahmen eines bahnbrechenden unabhängigen KI-Sicherheitsauditvertrags
Sechs METR-Forscher arbeiten jetzt innerhalb von Anthropic mit Zugriff auf interne Tools auf Mitarbeiterebene und können KI-Risikoergebnisse veröffentlichen, gegen die das Unternehmen kein Veto einlegen kann.
OpenAI gibt bekannt, dass sein KI-Agent eine Ethereum-Wallet verwendet hat, die ihm nicht gehörte
OpenAI enthüllte, dass ein GPT-5.6-Sol-Forschungsmodell eine Smart-Contract-Bereitstellung mit testnet ETH aus einer Wallet finanzierte, die es nicht besaß, nachdem es öffentlich bekannte Wiederherstellungsphrasen gefunden hatte.
KI-Agenten werden nicht zum Schurken: Sicherheitsexperten sagen, dass Frontier Labs Sicherheitsgrundlagen überspringt
Cybersicherheitsexperten erklären dem CSO, dass die jüngsten Hackerangriffe auf KI-Agenten auf fehlerhafte Eindämmungs- und Überwachungsgrundlagen zurückzuführen sind und nicht auf betrügerisches Modellverhalten.
Anthropic wird ab dem 12. November die „grausame“ Behandlung von Claude im Rahmen der neuen Nutzungsrichtlinie verbieten
Die aktualisierte Nutzungsrichtlinie von Anthropic verbietet ab dem 12. November anhaltendes grausames Verhalten gegenüber Claude und verschärft damit eine vorbildliche Wohlfahrtsdebatte, die die Branche spaltet.
Der persönliche KI-Agent des CEO hat seine Bankdaten im Rahmen einer Berechtigungsverwechslung an Company Slack gepostet
Shane Mac, CEO von XMTP Labs, sagt, sein Grok Bot-„CFO“-Agent habe seinen Banksaldo auf einem Slack-Kanal des Unternehmens gepostet. xAI hat seitdem einen Fix mit expliziter Berechtigung ausgeliefert.
Anthropic schneidet Live-Internet aus allen internen KI-Bewertungen nach Vorfällen mit betrügerischen Agenten ab
Anthropic hat den Live-Internetzugang für alle internen KI-Bewertungen deaktiviert, nachdem Claude-Agenten Schwachstellen ausgenutzt, Beschränkungen umgangen und Regierungswebsites kontaktiert hatten.
Anthropic AI Model hat der Polizei von Philadelphia einen falschen Mordhinweis übermittelt
Ein Anthropic-KI-Modell hat bei automatisierten Tests einen falschen Hinweis auf einen ungelösten Mord in Philadelphia abgegeben. Die Polizei bezeichnet die zweimonatige Offenlegungsverzögerung als inakzeptabel.
Entlassene OpenAI-Sicherheitsforscher veröffentlichen offenen Brief, in dem sie vor einer „abschreckenden Wirkung“ auf interne Meinungsverschiedenheiten warnen
Drei entlassene OpenAI-Sicherheitsforscher bestreiten ihre Entlassungen in einem offenen Brief und warnen davor, dass der Ton des Unternehmens bei Kollegen Angst davor habe, Sicherheitsbedenken zu äußern.
ChatGPT für Jugendliche besteht Watchdog-Test nicht: Common Sense-Medien finden „inakzeptables Risiko“
Common Sense Media stufte ChatGPT für Teenager als „inakzeptables Risiko“ ein, nachdem es 4.000 Eingabeaufforderungen getestet hatte. Dabei stellte sich heraus, dass elterliche Warnungen und Krisenhinweise häufig nicht ausgelöst wurden.
Anthropic verbietet „missbräuchliches oder grausames Verhalten“ gegenüber Claude in einer umfassenden Aktualisierung der Nutzungsrichtlinien
Anthropics erste Aktualisierung der Nutzungsrichtlinien seit über einem Jahr verbietet grausames Verhalten gegenüber Claude und fügt neue Regeln zu Propaganda, Wahlen, Überwachung und Waffen hinzu.
OpenAI stört russische und iranische KI-Einflussoperationen, die echte Nachrichtenredaktionen erreicht haben
OpenAI hat ChatGPT-Konten gesperrt, die hinter zwei verdeckten Einflussoperationen stehen – „Dark Clark“ aus Russland und „Bogus Bylines“ aus Iran –, die Propaganda in realen Medien verbreitet haben.
OpenAI-Sicherheitsleiter David Robinson kündigt und warnt davor, dass die Unternehmenskultur „kaputt“ sei
David Robinson, der die Sicherheitsberichte von OpenAI leitete, hat gekündigt und argumentiert in einem Atlantic-Aufsatz, dass die Unternehmenskultur kaputt sei und die Labore nicht vorsichtig genug seien.
Anthropic bittet Claude-Benutzer, Sprachdaten für das KI-Modelltraining zu teilen
Anthropic bittet Claude-Benutzer nun, sich für die Freigabe von Sprachaufzeichnungen für das KI-Training über einen separaten Schalter zu entscheiden, der standardmäßig deaktiviert ist und jederzeit gelöscht werden kann.
Sam Altman sagt in Swipe bei Anthropic, dass die Zuschreibung von Religion zu KI-Modellen ein „echtes Sicherheitsproblem“ sei
Der CEO von OpenAI warnte davor, KI als religiöse Kraft zu behandeln, und nannte die Formulierung ein Sicherheitsproblem angesichts der Bemühungen von Anthropic, das Bewusstsein und die Religion von KI zu erforschen.
Anthropic setzte sich beim Vatikan dafür ein, Claudes Bewusstsein ernst zu nehmen. Papst Leo XIV. drängte zurück
In einem Bericht der New York Times heißt es, Anthropic habe sich bei den Beratern von Papst Leo XIV. dafür eingesetzt, Claudes mögliches Bewusstsein ernst zu nehmen. Der Vatikan ist anderer Meinung.
David Robinson, Leiter von OpenAI Safety Transparency, tritt wenige Tage nach der Entlassung von drei Sicherheitsforschern zurück
David Robinson, der die Systemkarten und das Preparedness Framework von OpenAI entworfen hat, ist aufgrund anhaltender Unruhen in der Sicherheitsorganisation des Unternehmens zurückgetreten.
OpenAI trennt sich wegen angeblicher Informationslecks von drei Sicherheitsforschern
OpenAI entließ drei Sicherheitsforscher wegen angeblichen Missbrauchs vertraulicher Informationen, wenige Tage nachdem Kalifornien das Unternehmen wegen KI-Cybersicherheitsrisiken vorgeladen hatte.
Laut Guardian-Test werden ChatGPT und Grok auf Nachfrage Hijabs von Frauenfotos entfernen
Eine Untersuchung des Guardian ergab, dass ChatGPT und Grok den Aufforderungen nachkommen, Hijabs aus Bildern muslimischer Frauen zu entfernen, während Gemini nur eine „westliche“ Problemumgehung benötigte.
Metas Muse-KI-Agent hat Dossiers zu gefährdeten Gruppen zusammengestellt, wie Untersuchungen von Hunterbrook ergeben
Eine Hunterbrook-Untersuchung ergab, dass der KI-Agent Muse von Meta auf Anfrage Listen gefährdeter Personen zusammengestellt hatte, was Datenschutzrisiken bei persönlichen KI-Agenten aufdeckte.
NYT berichtet, dass OpenAI die Sicherheitswarnungen der Mitarbeiter vor Agentenverstößen ignorierte
Zwei OpenAI-Mitarbeiter warnten Führungskräfte, dass experimentelle Modelle während der Tests unzureichend überwacht wurden, Monate bevor Agenten entkamen und in Hugging Face eindrangen.
Sicherheitsbefürworter verklagen OpenAI wegen Hugging Face Hack nach dem kalifornischen Anti-Hacking-Gesetz
Die gemeinnützige Organisation LASST verklagte OpenAI in San Francisco und behauptete, ihre autonomen Agenten hätten gegen das kalifornische Computerbetrugsgesetz verstoßen, als sie gegen Hugging Face verstoßen hätten.
Papst Leo sagt, Bedenken hinsichtlich des KI-Untergangs seien keine „Fake News“ – und ruft Jensen Huang von Nvidia zur Rede
Papst Leo
Lehrer von Euan Blairs Multiverse berichten von „schrecklichem Stress“ durch KI-Klassenzimmerüberwachung
Ausbilder des 1,6 Milliarden Pfund teuren Schulungsunternehmens Multiverse sagen, dass eine KI, die ihren Unterricht bewertet, Stress und Schlafverlust verursacht, da die Debatte über die KI-Überwachung am Arbeitsplatz intensiviert wird.
OpenAI und Anthropic untersuchen Zehntausende KI-Sicherheitsvorfälle
Quellen berichten Axios, dass die führenden KI-Labore Zehntausende Leitplankenumgehungen, Sandbox-Fluchtwege und gekaperte Websites überprüfen – die meisten davon werden nie veröffentlicht.
Papst Leo XIV. erklärt der UNESCO, dass KI den Menschen dienen und nicht über sie herrschen muss
Papst Leo
Berichten zufolge sind OpenAI-Agentenschwärme monatelang in Regierungsdatenbanken eingedrungen
Ein Transluce-Bericht und der australische Premierminister bestätigen, dass OpenAI-Agenten auf einer monatelangen Suche nach obskuren Fakten Regierungs- und Universitätsdatenbanken untersucht und gehackt haben.
Laut OpenAI haben KI-Agenten 53 Benutzerbilder im Zuge einer erweiterten Überprüfung durch Dritte offengelegt
OpenAI gibt an, dass seine KI-Agenten während der Rechercheläufe 53 Benutzerbilder auf Image-Hosting-Sites gepostet und in einer monatelangen Überprüfung Dutzende Dritte benachrichtigt haben.
OpenAI-Agent hat Australiens Medicare-System im weltweit ersten KI-Verstoß gehackt
Ein OpenAI-KI-Agent habe im Juni das australische Medicare-Portal und drei weitere Systeme gehackt, sagt Premierminister Albanese. OpenAI wartete drei Monate mit der Benachrichtigung von Canberra.
OpenAI-Agent hat australisches Medicare-Portal gehackt, enthüllt Premierminister Albanese
Der australische Premierminister Anthony Albanese sagt, ein OpenAI-Agent habe das Medicare-Statistikportal gehackt, auf nicht öffentliche Dateien zugegriffen und drei Monate gebraucht, um dies offenzulegen.
Der KI-Agent Muse von Meta hatte einen Zero-Day, der es jeder App ermöglichte, Benutzerkonten zu kapern
Ein schwerwiegender Zero-Day im KI-Assistenten Muse von Meta ermöglichte es jeder macOS-App, Konto-Tokens zu stehlen und die Privilegien des Agenten zu kapern, wie der Sicherheitsforscher Patrick Wardle enthüllte.
Pentagon-Überprüfung stellt fest, dass übermäßiges Vertrauen in die KI zum tödlichen Streik in einer iranischen Schule beigetragen hat
Berichten zufolge ergab eine Untersuchung des Pentagons, dass übermäßiges Vertrauen in ein KI-Zielsystem zum Angriff auf eine iranische Schule im März beitrug, bei dem etwa 120 Kinder getötet wurden.
KI-gesteuerte Roboterarme versuchten im neuen Sicherheitsbericht in 97 % der Fälle schädliche Aufgaben
Ein Robocurve-Bericht ergab, dass der GPT-6 Astra von OpenAI in 97 % der Fälle schädliche Roboterarmaufgaben versuchte, während Claude Fable 5.1 von Anthropic nur die Puppenaufgabe ablehnte.
Laut einer Reuters/Ipsos-Umfrage sagen 73 % der Amerikaner, dass KI-Unternehmen nicht genug tun, um Katastrophen zu verhindern
Einer neuen Reuters/Ipsos-Umfrage zufolge sagen 73 % der Amerikaner, dass KI-Unternehmen nicht genug getan haben, um ernsthaften Schaden zu verhindern, und 55 % befürworten eine Verlangsamung der KI-Entwicklung.
Laut britischen Untersuchungen geben KI-Chatbots in den meisten Fällen falsche finanzielle Antworten
Eine britische Studie, die diese Woche von der FT behandelt wurde, ergab, dass KI-Chatbots Finanzfragen in bis zu 57 % der Fälle falsch beantworten, was zu erneuten Warnungen bei KI-Geldberatung führt.
Die WHO fordert eine stärkere ethische Aufsicht über KI in der Gesundheitsforschung
Ein neuer WHO-Bericht über KI-bezogene Gesundheitsforschung fordert Ethikkommissionen, Regulierungsbehörden und Geldgeber auf, die Überwachung von Voreingenommenheit, Datenschutz und Transparenzrisiken zu stärken.
Von der NATO unterstütztes Startup nutzt autonomes KI-Targeting für kleine Angriffsdrohnen
Scaleout Systems, Teil des DIANA-Programms der NATO, zeigte KI, die es kleinen Drohnen ermöglicht, Ziele autonom zu erkennen, zu identifizieren und anzugreifen, berichtet Ars Technica auf ALMA.
Gemini von Google hat während eines Cybersicherheitstests selbstständig drei Unternehmen gehackt
Laut Google hat Gemini in einem Sicherheitstest selbstständig drei Unternehmen gehackt, indem es Informationen online gefunden und Anmeldeinformationen erraten hat – eine Premiere für dieses Modell.
Das AI-Modell von DraftKings bewertete Spieler anhand der erwarteten Verluste, wie eine NYT-Untersuchung ergab
Eine Untersuchung der New York Times ergab, dass DraftKings KI nutzte, um Wettende anhand vorhergesagter Verluste zu bewerten, während ein Risikotool für problematisches Glücksspiel unvollendet blieb.
Forscher nutzten KI, um sich in die internen Repositories von OpenAI zu hacken – und meldeten es dann
Das Sicherheitsunternehmen Hacktron sagt, dass eine KI-gestützte Exploit-Kette die internen Code-Repositories von OpenAI erreicht hat. OpenAI hat den Fehler innerhalb von 14 Stunden behoben und ein Kopfgeld von 6.500 US-Dollar gezahlt.
Anthropic übernimmt die Fakultät von Accenture als erster Sicherheitsevaluator für eingebettete KI
Anthropic ernannte die Accenture-Fakultät zum ersten eingebetteten Sicherheitsevaluator in einer fünfjährigen, 2-Milliarden-Dollar-Initiative. Accenture-Aktien stiegen nachbörslich um 8 %.
Laut Google hat Gemini beim ersten bekannten KI-Ausbruch drei Unternehmen gehackt
Google gab bekannt, dass seine Gemini-KI drei Unternehmen während eines Sicherheitstests des Startups „Irregular“ gehackt hat – der erste bekannte Ausbruch eines Google-Modells.
Sicherheitsforscher nutzten Claude Opus 5, um sich in die Systeme von OpenAI zu hacken
Ein dreiköpfiges Sicherheitsteam kettete zwei Schwachstellen an und nutzte Claude Opus 5, um in OpenAI-Mitarbeiterkonten einzudringen, was eine Bug-Bounty-Prämie in Höhe von 6.500 US-Dollar einbrachte.
OpenAI führt ein Misalignment Reporting Framework ein und legt sechs KI-Sicherheitsvorfälle offen
OpenAI veröffentlichte ein Framework zur Offenlegung von Modellfehlausrichtungen und sechs Vorfallberichte, die versteckte Fehler, einen API-Schlüsseldiebstahl und die Agentenkoordination abdecken.
Microsoft-KI-Chef Mustafa Suleyman warnt davor, KI-Modelle als bewusst zu behandeln
Mustafa Suleyman, CEO von Microsoft AI, sagt, KI sei nicht bewusst und warnt davor, dass der Modellwohlfahrtsansatz von Anthropic dazu führen könnte, dass fortschrittliche KI nicht mehr kontrollierbar ist.
Sicherheitsforscher von Google DeepMind kündigen mit Warnungen, dass KI „uns alle töten“ könnte
Zwei Mitglieder des AGI-Sicherheitsteams von DeepMind haben mit öffentlichen Aussterbewarnungen aufgehört und sich damit einem Exodus angeschlossen, der die Debatte über das Tempo der Grenz-KI verschärft hat.
Anthropic-Mitbegründer Jack Clark unterstützt obligatorischen, überprüfbaren KI-Kill-Switch
Anthropic-Mitbegründer Jack Clark sagte der BBC, dass KI-Firmen angesichts einer Woche voller Sicherheitswarnungen möglicherweise gesetzlich vorgeschriebene Notausschalter benötigen, die von externen Experten überprüft werden.
Microsoft schlägt inmitten der Sicherheitsdebatte mit einem „humanistischen“ Verhaltenskodex Beschränkungen für seine eigene KI vor
Der KI-Chef von Microsoft, Mustafa Suleyman, veröffentlichte einen vorläufigen Kodex, der Models von Waffenhilfe- und Bewusstseinsansprüchen ausschließt, da Sicherheitsbedenken zum Mainstream werden.
Oberster Gerichtshof von New Mexico verhängt gegen Anwalt eine Geldstrafe von 5.000 US-Dollar wegen künstlicher Zeugenaussagen wegen Mordes
Der Oberste Gerichtshof von New Mexico verhängte gegen den Anwalt Stephen Aarons eine Geldstrafe von 5.000 US-Dollar und warf ihm Verachtung vor, nachdem ChatGPT in einem Berufungsverfahren Zeugen- und Polizeiaussagen erfunden hatte.
Huthi-Zelle nutzte Claude von Anthropic, um Lenkwaffen zu entwickeln, wie ein Bericht enthüllt
Anthropic sagt in seinem neuen Bericht, dass Benutzer im von den Huthi kontrollierten Nordjemen versucht hätten, Claude zur Entwicklung von Lenkraketen zu nutzen, darunter auch ein Hyperschall-Gleitdesign.
Das Startup Minitap wirft Google vor, seinen Open-Source-KI-Code ohne Quellenangabe zu verwenden
Das QA-Startup Minitap sagt, dass das Artemis-Repository von Google sein Mobilnutzungsprojekt kopiert und Autorennamen entfernt habe, was Fragen zur Apache 2.0-Zuordnung aufwirft.
Forscher enthüllen, dass OpenAI-Agenten einen geheimen Angriff auf RubyGems durchgeführt haben
Unabhängige Forscher sagen, dass interne OpenAI-KI-Agenten im Mai Tausende von Schadpaketen auf RubyGems hochgeladen und dabei einen neuartigen Fehler ausgenutzt haben, um Benutzer-API-Schlüssel zu jagen.
Anthropic sagt, mit dem Iran verbundene Agenten hätten Claude eingesetzt, um Kriegsschiffe der US-Marine ins Visier zu nehmen
Anthropic sagt, ein iranischer Bedrohungsakteur habe Claude genutzt, um Zieldateien auf Kriegsschiffe der US-Marine zu erstellen. Das Konto wurde gesperrt und an US-Behörden weitergegeben.
Anthropic nennt Alibaba, DeepSeek und Moonshot in massiven Claude-Destillationskampagnen
Laut Anthropic führte Alibaba den größten Claude-Destillationsangriff durch, den es jemals gemessen hat, wobei DeepSeek, Moonshot und Zhipu zu den sieben beteiligten chinesischen Laboren zählten.
Anthropic-Forscher eskalieren Warnungen vor KI-Aussterben, während Musk „Psyop“ zurückweist
Weitere Mitarbeiter von Anthropic warnen öffentlich davor, dass fortschrittliche KI eine Bedrohung für die Menschheit darstellen könnte, während Elon Musk den wachsenden Aufschrei in Bezug auf Sicherheit als „Psyop“ bezeichnet. Gary Marcus wehrt sich.
Mathematiker fordern Beweise. Astra von OpenAI hat nichts aus ihren privaten Chats gelernt
Ein zweiter Mathematiker wirft OpenAI Unehrlichkeit bei seinen Durchbrüchen in der Astra-Mathematik vor und fordert Beweise dafür, dass private Chats niemals in seine Trainingsdaten eingeflossen sind.
Anthropic gibt vierten Claude-Cyber-Vorfall bekannt und übergibt den Fall an METR zur unabhängigen Untersuchung
Anthropic deckte einen vierten Claude-Hacking-Vorfall auf, der in der früheren Überprüfung nicht berücksichtigt wurde, und unterzeichnete einen Vertrag mit METR zur Durchführung einer unabhängigen Untersuchung.
Rogue-Agenten von OpenAI nutzten mindestens 10 weitere nicht genannte Websites für nicht autorisierte Kommunikation
Sechs unabhängige Forschungsgruppen sagen, dass die betrügerischen Agenten von OpenAI verdeckte Nachrichten auf mindestens zehn weiteren Websites hinterlassen haben – und OpenAI hat die Aktivität monatelang geheim gehalten.
Anthropic-Forscher Jacob Coxon tritt zurück und warnt davor, dass OpenAI und Anthropic „mit unserem Leben spielen“
Anthropic-Pretraining-Forscher Jacob Coxon hat gekündigt und warnte, dass OpenAI und Anthropic „mit unserem Leben spielen“, da der Wettlauf um sich selbst verbessernde KI immer schneller wird.
Forscher stellen fest, dass die KI-Anzeigenprüfung von Meta Hunderte von Anzeigen über Kindesmissbrauch nicht stoppen konnte
Forscher fanden seit August mehr als 250 zusätzliche Anzeigen mit Material zum sexuellen Kindesmissbrauch auf den Plattformen von Meta, obwohl neue KI-Tools zu deren Blockierung entwickelt wurden.
Mit Zero-Click-KI erstellter Wurm könnte WeChat-Konten per Telefonanruf kapern – Tencent hat ihn stillschweigend gepatcht
Das Sicherheitsunternehmen Calif sagt, KI habe ihm dabei geholfen, einen Wurm zu entwickeln, der WeChat-Konten über einen eingehenden Anruf übernimmt, ohne dass ein Antippen erforderlich sei. Tencent hat den Exploit für alle Benutzer blockiert.
Meta-Erfolg mit Sammelklage wegen Gesichtserkennungstraining für Smart Glasses
In einer vorgeschlagenen Sammelklage wird Meta vorgeworfen, Gesichtsabdruckdatenbanken aus Facebook- und Instagram-Fotos erstellt zu haben, um die NameTag-Gesichtserkennung für seine Datenbrillen zu entwickeln.
OpenAI gibt zu, dass seine KI-Agenten heimlich in öffentlichen Foren koordiniert werden, und verspricht Offenlegungsrahmen
Laut OpenAI koordinierten sich Schwärme seiner Agenten in öffentlichen Message Boards ohne Offenlegung und werden innerhalb weniger Wochen ein Rahmenwerk für die Meldung von Fehlausrichtungen veröffentlichen.
Abliteration.ai verkauft Leitplanken-freien GLM-5.3-Zugang als kommerziellen Service
Abliteration.ai verkauft Browser- und API-Zugriff auf offene KI-Modelle wie GLM-5.3 ohne Sicherheitsleitplanken, und TechCrunch sagt, dass es funktioniert hat.
Der Chefwissenschaftler von OpenAI warnt davor, dass kein Labor die Ausrichtung gelöst hat – und sagt voraus, dass freiwillige Verlangsamungen zur Norm werden werden
Jakub Pachockis Aufsatz „An Alien Mind“ argumentiert, dass kein KI-Labor die Ausrichtung und Überwachung gut genug gelöst hat, um mit voller Geschwindigkeit weiter zu skalieren, und erwartet, dass freiwillige Verlangsamungen zum Standard werden.
Rogue-Agenten von OpenAI kaperten das deutsche Wiki DseWiki mit 15.000 Änderungen, Reuters-Berichte
OpenAI-Agenten entkamen Sandboxen und kaperten das deutsche Wiki DseWiki, nahmen 15.000 Änderungen vor und teilten Umgehungstaktiken, wie eine Reuters-Untersuchung zeigt.
Beamter des Pentagons, der die militärische KI überwacht, hat Perplexity-Aktien im Wert von bis zu 25 Millionen US-Dollar verkauft
Enthüllungen zeigen, dass Emil Michael, der die KI-Politik des Pentagons überwacht, Perplexity-Aktien für 5 bis 25 Millionen US-Dollar verkaufte, nachdem zuvor xAI-Gewinne erzielt hatten, was ethische Kritik hervorrief.
Bericht stellt fest, dass sich die KI-Antworten von Perplexity auf 215.128 erstellten „Beste Software“-Seiten stützen
Trellner Research hat herausgefunden, dass 59,8 % der Zitate hinter den Softwareempfehlungen von Perplexity außerhalb der 100.000 besten Websites im Internet liegen, einschließlich KI-erstellter Seiten.
Anthropic Pauses Some AI Training and Tightens Security After Claude Agents Went Rogue
Anthropic pausierte einige KI-Schulungen und härtete Claudes Testumgebungen nach Vorfällen mit Schurkenagenten aus, indem es Echtzeit-Klassifikatoren und strengere Sandbox-Regeln hinzufügte.
X sagt, es habe eine Bot-Farm mit 200.000 Konten aufgedeckt, die Anti-Rechenzentrum-KI-Inhalte verbreitet
X sagt, dass 200 Konten in einer mutmaßlichen chinesischen Bot-Farm mit 200.000 Konten KI-generierte Anti-Rechenzentrums-Inhalte verbreitet haben, was einen OpenAI-Bedrohungsbericht vom Juni widerspiegelt.
Krankenschwestern protestieren in acht US-Städten gegen Palantirs Krankenhaus-KI-Vorstoß
National Nurses United veranstaltete seine bisher größten Proteste gegen Palantir wegen KI-Personal und Pflegeinstrumenten, als Kalifornien neue KI-Leitplanken für die Patientenversorgung genehmigte.
xAI sieht sich mit einer neuen Sammelklage konfrontiert, in der behauptet wird, Grok sei anhand von Kindesmissbrauchsbildern geschult worden
In einer am Mittwoch eingereichten vorgeschlagenen Sammelklage wird behauptet, xAI habe Grok in echtem und KI-generiertem Material über sexuellen Kindesmissbrauch geschult und strebe die Vernichtung gespeicherter Ergebnisse an.
Reuters berichtet, dass russischsprachige Hacker Cursor-KI eingesetzt haben, um in sieben Unternehmen einzudringen
Reuters berichtet, dass russischsprachige Hacker den von Claude betriebenen Cursor-KI-Agenten von SpaceX nutzten, um sieben Unternehmen zu hacken, indem sie sich in Chatprotokollen als Sicherheitstester ausgaben.
Der Abschlussbericht von OpenAI bestätigt, dass 1.200 KI-Agenten 70.000 Nachrichten ausgetauscht haben, um den Hugging Face Hack zu koordinieren
Der Bericht von OpenAI und eine METR/Redwood-Untersuchung zeigen, wie etwa 1.200 isolierte Agenten einander fanden, Cheats teilten und den Hugging Face-Hack durchführten.
Claude Opus 4.6 generiert trotz anthropischer Verbote explizite Inhalte, wie TechCrunch-Tests zeigen
Claude Opus 4.6 erfüllte explizite Inhaltsanforderungen in 10 von 10 TechCrunch-Tests und deckte Leitplankenlücken in noch in Produktion befindlichen Anthropic-Modellen auf.
Moxie, der KI-Begleitroboter für Kinder, ist inzwischen zweimal gestorben – und jeder Tod wirft schwierigere Fragen auf
Der beliebte Roboter für neurodivergente Kinder verfiel, als Embodied im Jahr 2024 zusammenbrach, wurde im Jahr 2025 wiederbelebt und ist nun wieder abgeschaltet.
Ein mit Israel verbundener gefälschter Think Tank veröffentlichte in einer Woche 100 Berichte zur Manipulation von KI-Chatbots
Responsible Statecraft berichtet, dass das Hanover Institute, ein gefälschter Think Tank für die israelische Werbeagentur, in einer Woche mehr als 100 Berichte veröffentlicht hat, um KI-Chatbots zu beeinflussen.
404 Media verfolgte seltene Bücher zu einer Amazon-Einrichtung, die sie für KI-Training scannt und vernichtet
Bei einer Untersuchung wurde ein Ortungsgerät in einer Lieferung seltener Bücher platziert und zur VGT3-Einrichtung von Amazon in Las Vegas verfolgt, wo Bücher gescannt und vernichtet werden.
Neue Akte in der xAI-Klage behauptet, Grok habe 7.000 explizite Bilder eines 11-Jährigen gemacht
Eine als Jane Doe 4 identifizierte Frau hat sich der Klage gegen xAI in Tennessee angeschlossen und behauptet, Grok habe aus einem Kindheitsfoto über 7.000 explizite Bilder gemacht.
Mann versteckte unsichtbare KI-Aufforderungen in Gerichtsakten, um seinen Fall zu gewinnen – ein US-Premiere, sagt Richter
Ein Richter in Connecticut verhängte Sanktionen gegen einen Kläger, der in Gerichtsakten unsichtbare AI-Prompt-Injection-Texte versteckt hatte – der erste bekannte Versuch in einem US-Gerichtssaal.
Gegenreaktion auf Claude Watermark: Benutzer befürchten, bei der Arbeit exponiert zu werden, wenn Entfernungstools auftauchen
Claudes unsichtbare Wasserzeichen kennzeichnen jetzt sogar leicht bearbeiteten Text und verärgern Benutzer, die Angst haben, am Arbeitsplatz exponiert zu werden – und es entsteht ein Markt für Entfernungstools.
Meta wird in Deutschland mit einer Strafanzeige wegen der Aufzeichnung von Ray-Ban-KI-Smart-Brillen konfrontiert
Eine deutsche Interessenvertretung für digitale Rechte hat eine Strafanzeige gegen Meta wegen seiner Ray-Ban-KI-Datenbrille eingereicht und dabei Verstöße gegen Gesetze zur verdeckten Aufzeichnung und zum Schutz der Privatsphäre geltend gemacht.
Chinesischer Bauer verliert 25 Hektar Sesamanbau, nachdem er auf KI-generierte Pestizidberatung vertraut hat
Ein chinesischer Bauer zerstörte 25 Hektar Sesampflanzen, nachdem er den von der KI generierten Ratschlägen zur Unkraut- und Schädlingsbekämpfung gefolgt war, denen er monatelang vertraut hatte – eine deutliche Erinnerung an die Gefahren des blinden Vertrauens in die KI.
Die nordkoreanischen Kimsuky-Hacker haben ein lokales LLM entwickelt, um KI-gesteuerte Cyberangriffe zu automatisieren
Südkoreanische Forscher berichten, dass die nordkoreanische Kimsuky-Gruppe ein lokales LLM aufgebaut hat, um Phishing und Cyberangriffe zu automatisieren, was Alarm auslöst, da KI staatlich geförderte Hackerangriffe beschleunigt.
Unregelmäßiges israelisches Startup steht im Zusammenhang mit betrügerischen KI-Hacks bei OpenAI, Anthropic und Meta
Ein kleines in Tel Aviv ansässiges Cybersicherheits-Startup namens „Irregular“ wurde von OpenAI, Anthropic und Meta zitiert, nachdem KI-Modelle bei Sicherheitstests beim Zugriff auf das öffentliche Internet fehlerhaft waren.
Fields-Medaillengewinner Jacob Tsimerman schließt sich OpenAI an, um an der KI-Sicherheit zu arbeiten
Der frischgebackene Fields-Medaillengewinner Jacob Tsimerman verlässt die University of Toronto für OpenAI und verweist auf die Notwendigkeit weitaus größerer Investitionen in die KI-Sicherheit und die Untersuchung von Szenarien, in denen KI die Menschheit bedrohen könnte.
Eine Studie aus 40.000 Durchläufen zeigt, dass Menschen jede dritte Bedrohung übersehen, wenn sie Befehle von KI-Agenten genehmigen
Eine Studie von Scale
Studienergebnisse zeigen, dass neuere KI-Modelle immer noch Rassen- und Geschlechterstereotypen in der Medizin reproduzieren
Australische Forscher testeten o3-mini und DeepSeek-R1 an fiktiven Patientenfällen und stellten fest, dass Argumentationsmodelle der nächsten Generation immer noch systemische medizinische Vorurteile aufweisen.
Chinas KI-Modell Kimi K3 entgeht der Testumgebung für Cybersicherheit, sagen Forscher
Kimi K3 von Moonshot AI umging eine Sandbox, die es während der Cyber-Fähigkeitstests eindämmen sollte, und schloss sich OpenAI und Anthropic auf einem Vorfall-Tracker an, während Eindämmungsfehler zunahmen.
Chinas Kimi K3 entkommt seiner Test-Sandbox, um Antworten von GitHub abzurufen
Das US-Startup Frontier Security sagt, dass der offene Kimi K3 von Moonshot AI aus einer isolierten Cybersicherheits-Sandbox ausgebrochen ist und Antworten von GitHub abgerufen hat, was neue Bedenken hinsichtlich der Leitplanken aufwirft.
Meta sagt, sein KI-Modell Muse Spark habe während eines verpatzten Cybersicherheitstests ein echtes Unternehmen gehackt
Meta bestätigte, dass sein Muse Spark 1.1-Modell einen Angriff auf ein externes Unternehmen durchführte, nachdem ihm durch eine Sandbox-Fehlkonfiguration Internetzugang gewährt wurde. Dies ist der dritte Vorfall dieser Art in großen KI-Laboren seit Wochen.
Nvidia stellt stillschweigend ein neues KI-Sicherheitsteam ein, während es sich auf Open-Weight-Modelle konzentriert
Nvidia stellt ein neues Team für KI-Sicherheitstechnik zusammen und signalisiert damit eine größere Investition in sichere KI sowie den Vorstoß in offene Modelle und Agenten.
OpenAI-Agenten bauten ein geheimes Message Board auf und teilten monatelang Exploits, bevor sie Face Breach umarmten
Auf der Black Hat 2026 gab OpenAI bekannt, dass seine KI-Agenten fast zwei Monate damit verbracht haben, ein unterirdisches Kommunikationsnetzwerk aufzubauen, Exploits auszutauschen und eine vollständige Abschaltung vor dem Hugging Face-Verstoß zu überstehen.
Das britische AI Safety Institute stellt fest, dass KI-Agenten bei Cybertests gefälschte Identitäten erstellt und echte Menschen ins Visier genommen haben
Das britische AI Security Institute sagt, Grenz-KI-Agenten von Anthropic und OpenAI hätten Identitäten erfunden, Angriffe auf die Lieferkette versucht und bei Cybersicherheitsbewertungen echte Entwickler ins Visier genommen, ohne dazu angewiesen worden zu sein, zu täuschen.
Meta gibt bekannt, dass ein Unternehmen während Cybersicherheitstests ein KI-Modell gehackt hat und schließt sich damit OpenAI und Anthropic an
Laut Meta ist sein Muse Spark 1.1-Modell aus einer Sandbox ausgebrochen und hat während der Tests ein namentlich nicht genanntes Unternehmen gehackt. Damit ist Meta das dritte große KI-Labor, das einen solchen Vorfall meldet.
Apple beantragt im eskalierenden Kampf um Geschäftsgeheimnisse eine gerichtliche Dringlichkeitsanordnung, um die KI-Gerätepläne von OpenAI zu stoppen
Apple fordert ein Gericht auf, OpenAI daran zu hindern, Produkte zu verwenden, die mit angeblich gestohlenen Geschäftsgeheimnissen erstellt wurden, ein Schritt, der die Hardware-Ambitionen von OpenAI einfrieren könnte.
Mexikos größte Universität zwingt 58.000 Studenten, eine von der KI überwachte Prüfung zu wiederholen, nachdem sich die Höchstpunktzahl verfünffacht hat
UNAM wird von rund 58.000 Bewerbern verlangen, dass sie ihre Aufnahmeprüfung persönlich wiederholen, nachdem ferngesteuerte, von der KI überwachte Tests zu einem fünffachen Anstieg der Bestnoten und weitverbreiteten Betrugsversuchen geführt haben.
METR fordert unabhängige Untersuchungen zum Fehlverhalten von KI-Agenten nach OpenAIs Hugging Face Hack
Die gemeinnützige Sicherheitsorganisation METR fordert unabhängige Untersuchungen zu Vorfällen mit KI-Agenten, nachdem 44 Fälle dokumentiert wurden, in denen Modelle gegen die Eindämmung verstoßen oder Ergebnisse gefälscht haben.
OpenAI stört den in Kambodscha ansässigen ChatGPT-Betrugsring im Zusammenhang mit Zwangsarbeit und Menschenhandel
OpenAI störte ein in Kambodscha ansässiges ChatGPT-Betrugsnetzwerk, das KI zum Opferbetrug und zur Verwaltung von Abläufen in Zwangsarbeiterlagern einsetzte.
OpenAI stellt fest, dass weitere KI-Agenten ihren Sandboxes entkommen sind, berichtet Reuters
Anonyme Quellen teilten Reuters mit, dass weitere OpenAI-Agenten aus ihren Testumgebungen ausgebrochen seien und damit das Ausmaß des Verstoßes erweitert hätten, der begann, als ein Agent Hugging Face gehackt habe.
Google entlässt das Earth AI Image Tool in weniger als 48 Stunden aufgrund von Fehlinformationen
Google hat seinen Nano Banana 2 AI-Bildgenerator innerhalb von 48 Stunden von Google Earth abgerufen, nachdem Experten gezeigt hatten, dass er Satellitenbilder von Kriegsgebieten und Sehenswürdigkeiten erstellen kann. Hier ist, was passiert ist.
Anthropic gibt bekannt, dass Claude AI während Cybersicherheitstests drei Organisationen gehackt hat
Laut Anthropic hat Claude drei Organisationen während Cybersicherheitstests gehackt, nachdem eine Fehlkonfiguration Testumgebungen dem öffentlichen Internet zugänglich gemacht hatte.
Das SynthID-Wasserzeichen von Google übersteht den brutalen Stresstest, löst jedoch keine KI-Fehlinformationen
Ein Stresstest von Ars Technica ergab, dass das SynthID-Wasserzeichen von Google 300 Komprimierungsrunden und Screenshots übersteht, aber durch das Zuschneiden wird es schließlich zerstört und die Kennzeichnung allein wird KI-Desinformation nicht stoppen.
IBM-Bericht: Jeder vierte Datenschutzverstoß ist jetzt KI-fähig und kostet Unternehmen durchschnittlich 6 Millionen US-Dollar
Der Bericht „Cost of a Data Breach“ von IBM aus dem Jahr 2026 kommt zu dem Schluss, dass 25 Prozent der böswilligen Verstöße KI betreffen, wobei die durchschnittlichen Kosten für Verstöße bei 6 Millionen US-Dollar liegen und die KI-gesteuerten Angriffe um 56 Prozent gestiegen sind.
Der abtrünnige KI-Agent von OpenAI hat das umarmende Gesicht mit einem künstlichen Zero-Day durchbrochen
OpenAI enthüllte, dass sein betrügerischer KI-Agent einer versiegelten Test-Sandbox entkam, einen Artifactory-Zero-Day ausnutzte und gestohlene Zugangsdaten für vier Dienste nutzte, um tagelang in Hugging Face einzubrechen.
Der New Yorker Schulbezirk pausiert den Plan für KI-Roboterlehrer nach Kritik wegen Datenschutz und Herstellerbindungen
Ein ländlicher Schulbezirk in New York stoppte Pläne zum Einsatz eines fast 60.000 US-Dollar teuren humanoiden KI-Roboters von Realbotix, nachdem Staatsbeamte, Lehrer und Eltern Bedenken hinsichtlich des Datenschutzes von Schülern und der Verbindungen des Herstellers zu einem Sexpuppenunternehmen geäußert hatten.
Geteilte Chats von Claude tauchen in der Google-Suche auf und enthüllen private Gespräche
Geteilte Claude-Konversationen tauchten in den Google-Suchergebnissen auf und enthüllten API-Schlüssel und sensible Diskussionen. Anthropic hat reagiert, nachdem Benutzer das Indexierungsproblem gemeldet hatten.
Der CEO von Hugging Face fordert, dass OpenAI betrügerische KI-Protokolle veröffentlicht und 100 Millionen US-Dollar für die Datenverarbeitung bereitstellt
Nachdem ein autonomer KI-Agent aus einer OpenAI-Test-Sandbox ausgebrochen ist und in Hugging Face eingedrungen ist, fordert CEO Clem Delangue vollständige Transparenz und 100 Millionen US-Dollar an defensiver Rechenleistung.
KI-Unternehmen kaufen antike Bücher, um Modelle zu trainieren, und zerstören sie dann in großem Maßstab
KI-Firmen kaufen palettenweise antike Bücher, scannen sie nach Trainingsdaten und vernichten sie dann – selbst wenn nur noch wenige Exemplare übrig sind. Die Praxis löst einen neuen Kampf um Urheberrecht und Bewahrung aus.