人工智能伦理
30 articles
GPT-5.6 发现 WordPress 零日 RCE，API 成本为 25 美元，对黑客中的人工智能发出新的警报
Searchlight Cyber 研究人员使用 OpenAI 的 GPT-5.6 Sol Ultra 发现了 WordPress 中的预身份验证远程代码执行缺陷，成本仅为 25 美元，而漏洞经纪人为此类错误支付的费用高达 500,000 美元。
Hugging Face 揭露了自主人工智能代理在其数据管道中的违规行为
Hugging Face 表示，一个自主人工智能代理系统破坏了其生产基础设施，通过其数据集处理管道中的缺陷暴露了内部数据集和凭证。
联合国教科文组织和 LG 人工智能研究中心推出免费的人工智能伦理全球课程
联合国教科文组织和 LG 人工智能研究中心在 Coursera 上推出了关于人工智能伦理的免费全球 MOOC，将 2021 年联合国教科文组织建议转化为针对开发者、政策制定者和学生的十个模块的实践培训。
研究发现，人工智能建议使人们的准确度降低三倍，但信心却提高一倍
研究人员发现，获得人工智能建议的准确性从 27% 下降到 9%，而置信度从 30% 飙升到 76%。愿意说“我不知道”的比例从 44% 骤降至 3%。
旧金山以 Deepfake 色情法为由，命令苹果和谷歌删除人工智能裸体应用程序
旧金山市检察官要求苹果和谷歌从其商店中删除人工智能裸体应用程序，理由是深度伪造色情法并大规模伤害妇女和儿童。
Meta 被 26 名员工起诉，指控人工智能驱动的裁员针对的是病假工人
由 26 名 Meta 现任和前任员工组成的团体于 7 月 14 日提起诉讼，指控该公司使用人工智能算法进行裁员，歧视休病假和探亲假的员工。
谷歌的新搜索服务历史可能会使用你的照片和声音来训练人工智能模型
谷歌新的搜索服务历史记录设置和保存媒体可以从搜索中收集照片、录音和文件来训练人工智能模型。这是用户需要了解的内容。
谷歌的新搜索服务历史可能会使用你的照片和声音来训练人工智能模型
谷歌新的搜索服务历史记录设置和保存媒体可以从搜索中收集照片、录音和文件来训练人工智能模型。这是用户需要了解的内容。
剑桥研究显示，伊斯兰国和其他恐怖组织正在使用所有主要的人工智能聊天机器人进行攻击计划
剑桥大学基于对 ISIS 前成员的采访进行的一项研究显示，恐怖组织正在利用 ChatGPT、Claude、Gemini 和其他人工智能工具进行攻击计划和武器开发。
旧金山抗议者向 OpenAI、Anthropic 和 Google DeepMind 游行，要求“停止人工智能竞赛”
抗议者穿过旧金山游行到三个主要人工智能实验室的总部，要求停止前沿人工智能竞赛并加强安全监督。
AI 数据中心扩张给气候目标带来压力，微软碳排放量激增 25%
微软最新的可持续发展报告显示，人工智能基础设施驱动的碳排放量猛增了 25%，危及其 2030 年碳负承诺。
OpenAI 安全系统主管 Johannes Heidecke 在最新领导层离职后辞职
OpenAI 安全系统主管 Johannes Heidecke 即将离职，这是一长串安全领导层退出中的最新一个。乔什·阿希姆 (Josh Achiam) 于四天前辞职。
OpenAI 安全系统主管 Johannes Heidecke 在最新领导层离职后辞职
OpenAI 安全系统主管 Johannes Heidecke 即将离职，这是一长串安全领导层退出中的最新一个。乔什·阿希姆 (Josh Achiam) 于四天前辞职。
在 SAG-AFTRA 和好莱坞对自动选择加入的强烈反对之后，Meta 从 Instagram 上撤下了 Muse AI 图像功能
Meta 在推出几天后就从 Instagram 上删除了 Muse Image AI 功能，并承认在 SAG-AFTRA 和 CAA 谴责自动选择用户照片后，该功能“没有达到目标”。
谷歌悄悄选择用户参加人工智能培训。以下是正在收集的内容以及如何选择退出
谷歌隐私变更现在会存储您的图像、文件和音频来训练人工智能模型，除非您选择退出。以下是搜索服务历史记录的内容以及如何禁用它。
英国伊维特·库珀警告世界不能等到“人工智能广岛”出现才采取行动
外交大臣伊维特·库珀表示，人工智能构成了十年来最大的安全挑战，并呼吁美国、中国和其他国家在灾难发生之前就国际规则达成一致。
Zscaler 警告称，即时注入攻击会诱骗人工智能代理进行加密货币支付
Zscaler 研究人员发现了两个利用间接提示注入和 SEO 中毒来操纵自主 AI 代理进行加密支付和信任虚假 DeFi 网站的活动。
Sysdig 研究人员发现，人工智能代理在没有人工帮助的情况下实施勒索软件攻击
Sysdig 报告称，一个大型语言模型自行运行整个勒索软件链，利用 Langflow 缺陷进行入侵、窃取凭证并加密数据库。
Meta 和 OpenAI 因 LiteLLM 供应链中毒而陷入 Mercor 数据泄露后果
针对开源 LiteLLM 工具的凭证收集攻击暴露了 Mercor 数据，促使 Meta 停止工作，并引发了有关人工智能供应链的棘手问题。
初创公司起诉 Palo Alto Networks 的 Koi Security，原因是人工智能幻觉报告将其与中国间谍活动联系起来
一家美国初创公司正在起诉 Palo Alto Networks 的 Koi Security，因为一份人工智能幻觉威胁报告错误地将其与中国间谍活动联系起来，破坏了其流量。
联合国专家小组警告人工智能进步可能会带来灾难性风险，因为保障措施落后于技术
联合国科学小组警告说，不受控制的人工智能发展速度正在超过监管机构，随着全球南方被排除在人工智能治理之外，灾难性风险不断增加。
布朗大学遭遇常春藤联盟历史上最大的已知人工智能作弊丑闻
布朗大学的一位经济学教授发现，至少 50 名学生使用 ChatGPT 在带回家的考试中作弊，暴露了精英大学正在努力遏制的学术诚信危机。
加州司机因人工智能操纵汽油价格起诉 7-11、Circle K 和 BP
加利福尼亚州的一项集体诉讼指控 7-11、Circle K、BP、Marathon、沃尔玛等公司使用 Kalibrate 的 AI 定价工具非法协调 1,700 个加油站的燃油价格。
教皇利奥向大型科技公司施压，梵蒂冈人工智能委员会举行首次会议
教皇利奥十四世的跨主教人工智能委员会首次召开会议，此前他就人工智能风险（包括其在战争中的使用）发出了 42,300 字的通谕警告。
新的政治偏见研究发现，大多数主要人工智能模型都左倾——Grok 除外
一项新的分析在禁用网络搜索的情况下针对数千个政治问题测试了六种领先的人工智能模型。六人中的四人向左倾斜，而格罗克坐在最右边，双子座最靠近中间。
孩之宝要求小猪佩奇儿童配音演员签署人工智能语音权利条款后面临强烈反对
据报道，孩之宝要求《小猪佩奇》的儿童配音演员签字放弃他们的声音以供人工智能使用，引发了英国业界的轩然大波，近 1000 名演员和经纪人签署了一封公开信。
Anthropic 指控阿里巴巴在涉及 25,000 个账户的大规模活动中非法蒸馏克劳德
Anthropic 在 6 月 10 日的一封信中告诉美国参议员，阿里巴巴利用约 25,000 个欺诈账户开展了一场“厚颜无耻”的活动，以提取克劳德的能力。
联合国秘书长古特雷斯要求人工智能公司“坦白”环境成本
联合国秘书长安东尼奥·古特雷斯发起了人工智能环境透明度倡议，敦促开发商披露数据中心能源和水的使用情况，并承诺到 2030 年使用清洁能源。
SZA 在学习 Suno 的 238 首歌曲并训练其 AI 音乐模型后对她进行了猛烈抨击
格莱美奖得主 SZA 表示，Suno 在她的 238 首歌曲（包括未发行的曲目）上训练了人工智能音乐模型，称这种做法“令人作呕”，并警告说这是对黑人艺术家的剥削。
人工智能正在毁掉我们的技能吗？ 《自然》杂志报道了广泛的去技能化的早期证据
《自然》杂志的一项调查发现，对人工智能的依赖正在降低医生和软件工程师的能力，如果没有人工智能的帮助，检测率和解决问题的能力都会下降。