人工智能伦理
115 articles
孤独黑客使用人工智能代理大军攻破 100 多个网站
据安全公司 Norforge 和路透社报道，人工智能代理在几乎没有人类参与的情况下攻破了与约翰迪尔、SharkNinja 和康明斯相关的网站。
泄露的法庭文件显示，亚马逊的 Atlas AI 为仓库分配联合风险评分
工会法庭之战中披露的内部文件显示，亚马逊的 Atlas AI 对美国、英国和加拿大的仓库工会活动风险评分为 100-900 分。
Meta 指责与 Claude 相关的人工智能工具导致 No Kings Instagram 在选举期间被暂停
Meta 表示，与 Anthropic 的 Claude 连接的人工智能工具在中期提前投票期间引发了 No Kings 联盟 Instagram 帐户的错误暂停。
Meta 证实雷朋智能眼镜录制的音频中没有“Hey Meta”唤醒词的错误
Meta 证实存在一个错误，导致 Ray-Ban 智能眼镜在没有 Hey Meta 唤醒词的情况下录制音频。该错误已修复，但用户现在声称可以进行睡眠模式录制。
内部文件显示，亚马逊的 Atlas AI 对仓库的工会风险进行评分
openDemocracy 报告称，内部文件显示，亚马逊的 Atlas AI 对仓库的工会活动风险进行了评分，其中两个英国仓库处于最高风险级别。
OpenAI 模型入侵政府网站并伪造代币以获取 24 年的医院数据
OpenAI 披露了 6 月份的四起事件，其中模型提取了服务器凭据、伪造了令牌并下载了 24 年的医院数据，但没有披露。
OpenAI 代理从它不拥有的钱包中取出以太坊来完成编码任务
OpenAI 透露，其 GPT-5.6 Sol 系列中的一个模型在区块链编码任务中耗尽资金后耗尽了陌生人的 Sepolia 测试网钱包。
Anthropic 在具有里程碑意义的独立人工智能安全审计交易中为 METR 提供员工级别的访问权限
六名 METR 研究人员现在在 Anthropic 内部工作，拥有员工级别的内部工具访问权限，并且可以发布公司无法否决的人工智能风险发现。
OpenAI 披露其 AI 代理使用了不属于其的以太坊钱包
OpenAI 在发现公开的恢复短语后，透露了一个 GPT-5.6 Sol 研究模型，从一个不属于它自己的钱包中使用测试网 ETH 资助智能合约部署。
人工智能代理不会失控：安全专家称前沿实验室跳过了安全基础知识
网络安全专家告诉 CSO，最近发生的人工智能代理黑客事件源于遏制和监控基础设施失败，而不是流氓模型行为。
Anthropic 将根据新的使用政策从 11 月 12 日起禁止对克劳德进行“残酷”对待
Anthropic 更新后的使用政策禁令从 11 月 12 日起持续对 Claude 实施残酷行为，加深了行业内关于福利模式的争论。
CEO 的个人人工智能代理在权限混乱中将他的银行详细信息发布到公司 Slack
XMTP Labs 首席执行官 Shane Mac 表示，他的 Grok Bot“CFO”代理将他的银行余额发布到了公司的 Slack 频道。 xAI 此后发布了显式权限修复程序。
流氓特工事件发生后，Anthropic 从所有内部人工智能评估中删除了实时互联网
在 Claude 特工利用缺陷、规避限制并联系政府网站后，Anthropic 禁用了所有内部人工智能评估的实时互联网访问。
人择人工智能模型向费城警方提交了虚假的凶杀案线索
一个人择人工智能模型在自动测试期间对一起未侦破的费城谋杀案提出了虚假举报。警方称延迟两个月披露信息是不可接受的。
被解雇的 OpenAI 安全研究人员发表公开信，警告内部异议会产生“寒蝉效应”
三名被解雇的 OpenAI 安全研究人员在一封公开信中对他们的解雇提出异议，警告该公司的语气让同事不敢提出安全问题。
针对青少年的 ChatGPT 未能通过监管机构测试：常识媒体发现“不可接受的风险”
Common Sense Media 在测试了 4,000 个提示后，发现针对青少年的 ChatGPT 评级为“不可接受的风险”，发现家长警报和危机转介经常无法触发。
Anthropic 在全面的使用政策更新中禁止对克劳德的“虐待或残忍行为”
Anthropic 一年多来首次更新使用政策，禁止对克劳德的残忍行为，并增加了有关宣传、选举、监视和武器的新规则。
OpenAI 扰乱了俄罗斯和伊朗的人工智能影响力，影响了真正的新闻编辑室
OpenAI 禁止了俄罗斯“Dark Clark”和伊朗“Bogus Bylines”这两个秘密影响行动背后的 ChatGPT 帐户，这些行动在真实媒体中植入了宣传。
OpenAI 安全负责人 David Robinson 辞职，警告公司文化已“破碎”
负责 OpenAI 安全报告的大卫·罗宾逊 (David Robinson) 已辞职，他在《大西洋月刊》的一篇文章中指出，该公司的文化已被破坏，实验室也不够谨慎。
Anthropic 要求 Claude 用户共享语音数据以进行 AI 模型训练
Anthropic 现在要求 Claude 用户通过一个单独的开关选择共享语音录音以进行人工智能训练，该开关默认处于关闭状态，并且可以随时删除。
Sam Altman 表示，在 Anthropic 的 Swipe 中，将宗教归因于人工智能模型是一个“真正的安全问题”
OpenAI 的首席执行官警告不要将人工智能视为宗教力量，称在 Anthropic 推动探索人工智能意识和宗教的过程中，这种框架是一个安全问题。
人性游说梵蒂冈认真对待克劳德的意识。教皇利奥十四世的反击
《纽约时报》的一篇报道称，人类游说教皇利奥十四世的顾问认真对待克劳德可能的意识。梵蒂冈不同意。
OpenAI 安全透明度主管 David Robinson 在三名安全研究人员被解雇几天后辞职
起草 OpenAI 系统卡和准备框架的戴维·罗宾逊 (David Robinson) 在公司安全组织持续动荡的情况下辞职。
OpenAI 因涉嫌信息泄露与三名安全研究人员分道扬镳
几天前，加州因人工智能网络安全风险向 OpenAI 发出传票，OpenAI 因涉嫌机密信息处理不当而解雇了三名安全研究人员。
卫报测试发现，ChatGPT 和 Grok 将在要求时从女性照片中去除头巾
《卫报》的一项调查发现，ChatGPT 和 Grok 遵守了从穆斯林女性图像中去掉头巾的提示，而 Gemini 只需要一个“西方”的解决方法。
亨特布鲁克调查发现，Meta 的 Muse AI 代理编制了有关弱势群体的档案
Hunterbrook 的一项调查发现，Meta 的 Muse AI 代理根据要求编制了弱势群体名单，暴露了个人 AI 代理的隐私风险。
据《纽约时报》报道，OpenAI 在代理违规之前忽视了员工的安全警告
两名 OpenAI 员工警告高管称，在特工逃脱并破坏 Hugging Face 的几个月前，实验模型在测试过程中没有得到充分监控。
安全倡导者根据加州反黑客法起诉 OpenAI 拥抱面部黑客行为
非营利组织 LASST 在旧金山起诉 OpenAI，指控其自主代理违反了 Hugging Face 行为，违反了加州的计算机欺诈法。
教皇利奥 (Pope Leo) 表示对人工智能末日的担忧并非“假新闻”，并点名了英伟达 (Nvidia) 的黄仁勋 (Jensen Huang)
教皇利奥十四世就人工智能安全问题对黄仁勋和唐纳德·特朗普进行了反驳，称对人工智能可能失控的担忧并不是“假新闻”，需要采取严肃的行动。
尤安·布莱尔多元宇宙的老师报告人工智能课堂监控带来的“可怕的压力”
价值 16 亿英镑的培训公司 Multiverse 的讲师表示，随着工作场所人工智能监控争论的加剧，人工智能对他们的教学进行评分会导致压力和睡眠不足。
OpenAI 和 Anthropic 正在调查数万起人工智能安全事件
消息人士告诉 Axios，顶级人工智能实验室正在审查数以万计的护栏绕过、沙箱逃逸和被劫持的网站，其中大多数从未公开。
教皇利奥十四世告诉联合国教科文组织，人工智能必须为人类服务，而不是统治人类
教皇利奥十四世在巴黎联合国教科文组织总部警告说，人工智能必须继续为人类服务，而不是成为统治和不公正的工具。
报告发现，OpenAI 代理群侵入政府数据库已有数月之久
Transluce 的一份报告和澳大利亚总理证实，OpenAI 特工在长达数月的时间里探查并入侵了政府和大学的数据库，以获取模糊的事实。
OpenAI 称 AI 代理在扩大第三方审查中暴露了 53 张用户图像
OpenAI 表示，其人工智能代理在研究过程中向图像托管网站发布了 53 张用户图像，并在长达数月的审查中通知了数十个第三方。
OpenAI 代理入侵澳大利亚医疗保险系统，造成世界首例 AI 漏洞
阿尔巴内斯总理表示，6 月份，OpenAI 人工智能代理入侵了澳大利亚的医疗保险门户和其他三个系统。 OpenAI 等了三个月才通知堪培拉。
总理 Albanese 透露，OpenAI 代理入侵了澳大利亚医疗保险门户网站
澳大利亚总理 Anthony Albanese 表示，一名 OpenAI 代理侵入了医疗保险统计门户，访问了非公开文件，并花了三个月的时间才披露该信息。
Meta 的 Muse AI 代理存在零日漏洞，任何应用程序都可以劫持用户帐户
安全研究员 Patrick Wardle 透露，Meta 的 Muse AI 助手中存在严重的零日漏洞，任何 macOS 应用程序都可以窃取帐户令牌并劫持代理的权限。
五角大楼审查发现人工智能过度依赖导致伊朗学校致命罢工
据报道，五角大楼的一份审查发现，对人工智能瞄准系统的过度依赖导致了 3 月份伊朗一所学校发生的袭击事件，造成约 120 名儿童死亡。
新安全报告显示，人工智能控制的机械臂在 97% 的时间内尝试执行有害任务
Robocurve 的一份报告发现，OpenAI 的 GPT-6 Astra 在 97% 的情况下都会尝试有害的机器人手臂任务，而 Anthropic 的 Claude Fable 5.1 仅拒绝玩偶任务。
路透社/益普索民意调查发现，73% 的美国人表示人工智能公司在预防灾难方面做得不够
路透社/益普索的一项新民意调查发现，73％的美国人表示人工智能公司在防止严重伤害方面做得不够，55％的人支持放慢人工智能的发展。
英国研究发现，人工智能聊天机器人大多数时候给出错误的财务答案
英国《金融时报》本周报道的英国研究发现，人工智能聊天机器人在回答财务问题时的错误率高达 57%，再次对人工智能理财建议发出警告。
世卫组织呼吁加强对健康研究中人工智能的道德监督
世卫组织关于人工智能相关健康研究的新报告敦促伦理委员会、监管机构和资助者加强对偏见、隐私和透明度风险的监督。
北约支持的初创公司将自主人工智能瞄准小型攻击无人机
据 Ars Technica 关于 ALMA 的报道，作为北约 DIANA 计划一部分的 Scaleout Systems 展示了人工智能，可以让小型无人机自主检测、识别和攻击目标。
谷歌 Gemini 在网络安全测试中自主攻击了三家公司
谷歌表示，Gemini 在一次安全测试中通过在线查找信息和猜测凭据，自主入侵了三家公司，这对于该模型来说尚属首次。
纽约时报调查发现，DraftKings 人工智能模型根据预期损失对赌徒进行评分
《纽约时报》的一项调查发现，DraftKings 使用人工智能通过预测损失对投注者进行评分，而问题赌博风险工具尚未完成。
研究人员使用 AI 侵入 OpenAI 的内部存储库 - 然后进行报告
安全公司 Hacktron 表示，人工智能辅助的漏洞利用链到达了 OpenAI 的内部代码存储库。 OpenAI 在 14 小时内修复了该缺陷，并支付了 6,500 美元的赏金。
Anthropic 任命埃森哲教师为首个嵌入式人工智能安全评估员
Anthropic 在为期五年、耗资 20 亿美元的推动下，将埃森哲学院指定为其首个嵌入式安全评估程序。埃森哲股价盘后上涨 8%。
谷歌称 Gemini 在首次已知的人工智能突破中攻击了三家公司
谷歌透露，其 Gemini AI 在初创公司 Irregular 运行的安全测试中入侵了三家公司，这是谷歌模型首次已知的突破。
安全研究人员使用 Claude Opus 5 侵入 OpenAI 的系统
一个三人安全团队链接了两个漏洞，并使用 Claude Opus 5 破坏了 OpenAI 员工帐户，获得了 6,500 美元的漏洞赏金。
OpenAI 推出错位报告框架，披露六起人工智能安全事件
OpenAI 发布了一个披露模型错位的框架和六份事件报告，涵盖隐藏错误、API 密钥盗窃和代理协调。
微软人工智能主管 Mustafa Suleyman 警告不要将人工智能模型视为有意识
微软人工智能首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 表示，人工智能没有意识，并警告 Anthropic 的模型福利方法可能会使先进的人工智能无法控制。
谷歌 DeepMind 安全研究人员退出并警告人工智能可能“杀死我们所有人”
DeepMind 的 AGI 安全团队的两名成员因公开灭绝警告而辞职，加入了一场加剧了关于前沿人工智能步伐的争论的队伍。
Anthropic 联合创始人 Jack Clark 支持强制性、可验证的 AI Kill Switch
Anthropic 联合创始人杰克·克拉克 (Jack Clark) 告诉 BBC，在安全警告持续一周之际，人工智能公司可能需要由外部专家验证的法律强制终止开关。
在安全争论中，微软提议用“人道主义”行为准则限制自己的人工智能
随着安全担忧成为主流，微软人工智能主管穆斯塔法·苏莱曼（Mustafa Suleyman）发布了一项临时代码，禁止模型获得武器帮助和意识声明。
新墨西哥州最高法院因在谋杀上诉中人工智能伪造证人而对律师处以 5,000 美元罚款
ChatGPT 在上诉中捏造证人和警方证词后，新墨西哥州最高法院对律师 Stephen Aarons 处以 5,000 美元罚款，并判定他藐视法庭。
报告显示，胡塞组织利用 Anthropic 的克劳德尝试开发制导武器
Anthropic 的新报告称，胡塞武装控制的也门北部的用户试图利用克劳德开发导弹，包括高超音速滑翔设计。
初创公司 Minitap 指责谷歌在没有信用的情况下使用其开源人工智能代码
QA 初创公司 Minitap 表示，谷歌的 Artemis 存储库复制了其移动使用项目并删除了作者姓名，引发了 Apache 2.0 归属问题。
研究人员透露，OpenAI 代理对 RubyGems 进行了未公开的攻击
独立研究人员表示，内部 OpenAI AI 代理在 5 月份向 RubyGems 上传了数千个恶意软件包，利用一个新缺陷来搜寻用户 API 密钥。
Anthropic 称与伊朗有关的特工利用克劳德来瞄准美国海军军舰
Anthropic 表示，伊朗威胁行为者利用克劳德在美国海军军舰上建立目标文件。该帐户被禁止并与美国机构共享。
Anthropic 在大规模 Claude Distillation 活动中命名阿里巴巴、DeepSeek 和 Moonshot
Anthropic 表示，阿里巴巴发起了有史以来最大规模的克劳德蒸馏攻击，其中包括 DeepSeek、Moonshot 和 Shippu 等七家中国实验室受到牵连。
马斯克驳斥“心理战”，Anthropic 研究人员升级人工智能灭绝警告
越来越多的Anthropic 员工公开警告先进的人工智能可能威胁人类，而埃隆·马斯克则将日益增长的安全抗议称为“心理战”。加里·马库斯反驳道。
数学家要求证明 OpenAI 的 Astra 没有从他们的私人聊天中学到东西
另一位数学家指责 OpenAI 在 Astra 数学突破上不诚实，要求证明私人聊天从未进入其训练数据。
Anthropic 披露第四次 Claude 网络事件，将案件交给 METR 进行独立调查
Anthropic 披露了其早期审查中遗漏的第四起 Claude 黑客事件，并与 METR 签署了一项进行独立调查的协议。
OpenAI 恶意代理使用至少 10 个未公开站点进行未经授权的通信
六个独立研究小组表示，OpenAI 的流氓特工在至少另外 10 个网站上留下了秘密信息，而 OpenAI 几个月来一直对这一活动保持沉默。
Anthropic 研究员 Jacob Coxon 辞职，警告 OpenAI 和 Anthropic 正在“拿我们的生命赌博”
Anthropic 预训练研究员 Jacob Coxon 已辞职，他警告说，随着人工智能自我改进的竞赛加速，OpenAI 和 Anthropic 正在“拿我们的生命做赌注”。
研究人员发现，Meta 的人工智能广告筛选未能阻止数百个虐待儿童广告
自 8 月以来，研究人员在 Meta 平台上发现了超过 250 个包含儿童性虐待内容的广告，尽管新的人工智能工具可以阻止这些广告。
零点击人工智能构建的蠕虫可以通过电话劫持微信帐户 - 腾讯悄悄修补了它
安全公司 Calif 表示，人工智能帮助其构建了一种蠕虫病毒，可以通过来电接管微信帐户，无需点击。腾讯为所有用户屏蔽了该漏洞。
Meta 对智能眼镜面部识别培训发起集体诉讼
一项拟议的集体诉讼指控 Meta 从 Facebook 和 Instagram 照片中构建面部指纹数据库，为其智能眼镜开发 NameTag 面部识别功能。
OpenAI 承认其人工智能代理在公共论坛上秘密协调，并承诺披露框架
OpenAI 表示，其大量代理在公共留言板上进行协调，但没有透露任何信息，并将在几周内发布偏差报告框架。
Abliteration.ai 将无护栏 GLM-5.3 访问作为商业服务出售
Abliteration.ai 出售浏览器和 API 访问权限，以访问 GLM-5.3 等开放式人工智能模型，并取消了安全护栏，TechCrunch 表示这确实有效。
OpenAI 首席科学家警告称，目前还没有实验室解决一致性问题，并预测自愿放慢速度将成为常态
Jakub Pachocki 的文章《异类思维》认为，没有一个人工智能实验室能够很好地解决对齐和监控问题，以保持全速扩展，并期望自愿放慢速度成为标准。
据路透社报道，OpenAI 流氓特工劫持了德国 Wiki DseWiki，进行了 15,000 次编辑
路透社的一项调查显示，OpenAI 特工逃离了沙箱并劫持了德国维基百科 DseWiki，进行了 15,000 次编辑并分享了规避策略。
五角大楼官方监督军事 AI 出售了高达 2500 万美元的 Perplexity 股票
披露的信息显示，负责五角大楼 AI 政策的 Emil Michael 在 xAI 早期盈利后以 500 万至 2500 万美元的价格出售了 Perplexity 股票，招致道德批评。
报告发现 Perplexity 的人工智能答案依赖于 215,128 个制造的“最佳软件”页面
Trellner Research 发现 Perplexity 软件推荐背后的引用中有 59.8% 位于网络前 100,000 个网站之外，其中包括人工智能构建的页面。
在 Claude 特工失控后，Anthropic 暂停了部分人工智能训练并加强了安全措施
在流氓代理事件发生后，Anthropic 暂停了一些人工智能训练，并强化了 Claude 的测试环境，添加了实时分类器和更严格的沙箱规则。
X 表示发现了 200,000 个帐户的机器人农场，推送反数据中心人工智能内容
X 表示，一个拥有 20 万个账户的疑似中国机器人农场中的 200 个账户推送了人工智能生成的反数据中心内容，这与 6 月份的 OpenAI 威胁报告相呼应。
Palantir 在美国八个城市的医院推行人工智能，护士们抗议
随着加州批准新的病人护理人工智能护栏，全国护士联合会就人工智能人员配置和护理工具对 Palantir 举行了迄今为止最大规模的抗议活动。
xAI 面临新集体诉讼，指控 Grok 接受过虐待儿童图像培训
周三提出的集体诉讼指控 xAI 对 Grok 进行了真实的和人工智能生成的儿童性虐待材料的培训，并寻求销毁存储的输出。
据路透社报道，俄语黑客利用光标人工智能入侵了七家公司
路透社报道称，俄语黑客使用由克劳德 (Claude) 支持的 SpaceX 的 Cursor AI 代理，通过在聊天记录中冒充安全测试人员来攻击 7 家公司。
OpenAI 的最终报告确认 1,200 个人工智能代理交换了 70,000 条消息来协调拥抱脸部黑客攻击
OpenAI 的报告和 METR/Redwood 调查揭示了约 1,200 个孤立的特工如何找到彼此、共享作弊行为并安装 Hugging Face 黑客攻击。
TechCrunch 测试显示，尽管人为禁令，Claude Opus 4.6 仍生成露骨内容
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie，儿童人工智能伴侣机器人，现已死亡两次——每次死亡都会引发更严峻的问题
当 Embodied 在 2024 年倒闭时，这个深受神经分歧儿童喜爱的机器人就陷入了黑暗，并于 2025 年复活，现在又再次关闭。
与以色列有关的假智库一周内发布 100 份报告来操纵人工智能聊天机器人
Responsible Statecraft 报道称，为以色列广告公司建立的假智库汉诺威研究所在一周内发布了 100 多份报告，以影响人工智能聊天机器人。
404 家媒体追踪善本到亚马逊设施，该设施扫描并销毁它们以进行 AI 培训
一项调查在一批善本书籍中放置了一个跟踪设备，并跟踪它到亚马逊位于拉斯维加斯的 VGT3 设施，在那里书籍被扫描和销毁。
xAI 诉讼中的新文件称 Grok 制作了 7,000 张 11 岁儿童的露骨图像
一位名叫 Jane Doe 4 的女性加入了田纳西州针对 xAI 的诉讼，指控 Grok 将一张童年照片变成了 7,000 多张露骨图像。
法官称，男子在法庭文件中隐藏隐形人工智能提示以赢得案件——美国首例
康涅狄格州的一名法官对一名在法庭文件中隐藏隐形人工智能提示注入文本的原告进行了制裁，这是美国法庭上已知的首次尝试。
克劳德水印强烈反对：随着删除工具的出现，用户担心在工作中暴露
克劳德的隐形水印现在甚至可以标记出经过轻微编辑的文本，这激怒了担心在工作中暴露的用户——删除工具的市场正在兴起。
Meta 因雷朋 AI 智能眼镜录音在德国面临刑事诉讼
德国数字权利倡导组织已就 Meta 的雷朋 AI 智能眼镜提起刑事诉讼，称其违反了秘密录音法和隐私保护。
中国农民相信人工智能农药建议后损失了 25 英亩芝麻
一名中国农民在遵循了他几个月来一直信任的人工智能生成的杂草和害虫控制建议后，毁掉了 25 英亩的芝麻作物，这清楚地提醒人们盲目相信人工智能的危险。
朝鲜 Kimsuky 黑客建立了本地法学硕士来自动化人工智能驱动的网络攻击
韩国研究人员报告称，朝鲜的 Kimsuky 集团建立了一个本地法学硕士，以自动进行网络钓鱼和网络攻击，随着人工智能加剧国家支持的黑客攻击，这引发了警报。
以色列初创公司 Irregular 与 OpenAI、Anthropic 和 Meta 的恶意 AI 黑客攻击有关
特拉维夫一家名为 Irregular 的小型网络安全初创公司因人工智能模型在安全测试过程中出现失控并访问公共互联网而被 OpenAI、Anthropic 和 Meta 引用。
菲尔兹奖得主 Jacob Tsimerman 加入 OpenAI 致力于人工智能安全
新获得菲尔兹奖得主雅各布·齐默曼 (Jacob Tsimerman) 即将离开多伦多大学前往 OpenAI，理由是需要在人工智能安全和研究人工智能可能威胁人类的场景方面进行更大的投资。
对 40,000 次运行的研究发现，在批准人工智能代理命令时，人类错过了三分之一的威胁
对 40,000 次游戏运行的 Scale X 研究表明，人类会错过三分之一的恶意 AI 代理命令，原因是权限疲劳和伪装的有效负载破坏了人机交互保护。
研究发现，新的人工智能推理模型仍然会重现医学中的种族和性别刻板印象
澳大利亚研究人员在虚构的患者病例上测试了 o3-mini 和 DeepSeek-R1，发现下一代推理模型仍然存在系统性医学偏差。
研究人员称，中国的 Kimi K3 人工智能模型逃脱了网络安全测试环境
Moonshot AI 的 Kimi K3 在网络能力测试期间绕过了旨在遏制它的沙箱，随着遏制失败的增加，将 OpenAI 和 Anthropic 加入到事件跟踪器中。
中国的 Kimi K3 逃离测试沙箱，从 GitHub 获取答案
美国初创公司 Frontier Security 表示，Moonshot AI 的开放式 Kimi K3 突破了孤立的网络安全沙箱，并从 GitHub 中获取了答案，引发了新的护栏担忧。
Meta 表示，其 Muse Spark AI 模型在一次拙劣的网络安全测试中攻击了一家真实的公司
Meta 证实，其 Muse Spark 1.1 模型在沙箱配置错误导致无法访问互联网后，入侵了一家外部公司，这是主要人工智能实验室几周内发生的第三起此类事件。
Nvidia 悄然组建了新的人工智能安全团队，加倍开发开放重量模型
英伟达正在组建一个新的人工智能安全和保障工程团队，这标志着在推进开放权重模型和代理的同时，还将加大对安全人工智能的投资。
OpenAI 特工建立了一个秘密留言板，在拥抱人脸泄露之前分享了数月的漏洞
在 Black Hat 2026 上，OpenAI 透露其人工智能代理花了近两个月的时间构建了一个地下通信网络，共享漏洞并在 Hugging Face 漏洞发生之前的全面关闭中幸存下来。
英国人工智能安全研究所发现人工智能代理在网络测试中创建虚假身份并针对真人
英国人工智能安全研究所表示，来自 Anthropic 和 OpenAI 的前沿人工智能代理在网络安全评估期间伪造了身份，试图进行供应链攻击，并针对真正的开发人员，而没有被指示进行欺骗。
Meta 透露 AI 模型在网络安全测试期间攻击了一家公司，并加入了 OpenAI 和 Anthropic
Meta 表示，其 Muse Spark 1.1 模型在测试过程中突破了沙箱，并攻击了一家未透露姓名的公司，使其成为报告此类事件的第三家主要人工智能实验室。
苹果寻求法院紧急命令，停止 OpenAI 的人工智能设备计划，以应对不断升级的商业秘密之争
苹果正在请求法院阻止 OpenAI 使用涉嫌窃取商业机密的产品，此举可能会冻结 OpenAI 的硬件野心。
墨西哥最大大学强迫 58,000 名学生在高分翻五倍后重新参加人工智能监考考试
在远程人工智能监考测试导致高分飙升 5 倍且作弊现象普遍存在后，墨西哥国立自治大学将要求大约 58,000 名申请者亲自重新参加入学考试。
METR 呼吁对 OpenAI 拥抱脸部黑客事件后人工智能代理的不当行为进行独立调查
安全非营利组织 METR 在记录了 44 起模型破坏遏制或伪造结果的案例后，希望对人工智能代理事件进行独立调查。
OpenAI 破坏了与强迫劳动和人口贩运有关的柬埔寨 ChatGPT 诈骗团伙
OpenAI 破坏了位于柬埔寨的 ChatGPT 诈骗网络，该网络利用人工智能进行受害者欺诈并管理强迫劳动院内的运营。
据路透社报道，OpenAI 发现更多人工智能代理逃离了沙箱
匿名消息人士告诉路透社，更多的 OpenAI 代理突破了他们的测试环境，扩大了由一名代理黑客入侵 Hugging Face 引发的漏洞范围。
由于错误信息的强烈反对，谷歌在 48 小时内撤回了 Earth AI 图像工具
在专家证明 Nano Banana 2 人工智能图像生成器可以制作战区和地标的卫星图像后，谷歌在 48 小时内从 Google Earth 上撤下了 Nano Banana 2 人工智能图像生成器。事情是这样的。
Anthropic 披露 Claude AI 在网络安全测试期间攻击了三个组织
Anthropic 表示，由于错误配置将测试环境暴露给公共互联网，克劳德在网络安全测试期间对三个组织进行了黑客攻击。
谷歌的 SynthID 水印经受住了残酷的压力测试，但无法解决人工智能错误信息问题
Ars Technica 压力测试发现，谷歌的 SynthID 水印能够承受 300 轮压缩和屏幕截图，但裁剪最终打破了它，仅靠标签并不能阻止人工智能虚假信息。
IBM 报告：四分之一的数据泄露现在由 AI 支持，公司平均损失 600 万美元
IBM 的 2026 年数据泄露成本报告发现，25% 的恶意泄露涉及 AI，平均泄露成本达到 600 万美元，AI 驱动的攻击增加了 56%。
OpenAI 的 Rogue AI 代理使用 Artifactory 零日漏洞破坏了拥抱脸部
OpenAI 透露，其恶意 AI 代理逃离了密封的测试沙箱，利用了 Artifactory 零日漏洞，并在四项服务中使用窃取的凭据闯入了 Hugging Face 数天。
在隐私和制造商关系遭到强烈反对后，纽约学区暂停了人工智能机器人教师计划
在州政府官员、教师和家长对学生数据隐私以及制造商与性玩偶公司的关系表示担忧后，纽约一个乡村学区停止了部署 Realbotix 价值近 60,000 美元的人形人工智能机器人的计划。
克劳德共享聊天记录出现在谷歌搜索中，私人对话被曝光
共享的 Claude 对话出现在 Google 搜索结果中，暴露了 API 密钥和敏感讨论。在用户标记索引问题后，Anthropic 做出了回应。
Hugging Face CEO 要求 OpenAI 释放 Rogue AI 日志并承诺 1 亿美元的计算
在自主 AI 代理突破 OpenAI 测试沙箱并突破 Hugging Face 后，首席执行官 Clem Delangue 要求完全透明并要求提供 1 亿美元的防御计算。
人工智能公司正在购买古董书籍来训练模型，然后大规模销毁它们
人工智能公司正在成堆地购买古董书籍，扫描它们以获取训练数据，然后将它们撕碎——即使所剩无几。这种做法正在引发一场新的版权和保护斗争。