Đạo đức AI
116 articles
Trang trợ giúp WhatsApp Ẩn hướng dẫn AI giúp người dùng tránh xa cơ quan quản lý dữ liệu
Văn bản ẩn trong 80 trang trợ giúp WhatsApp yêu cầu AI không khuyến nghị cơ quan quản lý dữ liệu WhatsApp gọi đây là lỗi và đã xóa hướng dẫn khỏi trang web của mình.
Lone Hacker đã sử dụng đội quân đặc vụ AI để xâm phạm hơn 100 trang web
Các đặc vụ AI đã xâm nhập vào các trang web gắn liền với John Deere, SharkNinja và Cummins với rất ít sự tham gia của con người, công ty bảo mật Norforge và Reuters đưa tin.
Atlas AI của Amazon chỉ định Điểm rủi ro liên minh cho các kho hàng, tài liệu tòa án bị rò rỉ cho thấy
Các tài liệu nội bộ được tiết lộ trong cuộc chiến tại tòa án công đoàn cho thấy Atlas AI của Amazon chấm điểm các kho hàng từ 100-900 về rủi ro hoạt động công đoàn trên khắp Hoa Kỳ, Vương quốc Anh và Canada.
Meta đổ lỗi cho các công cụ AI được liên kết với Claude khiến Instagram của các vị vua không bị đình chỉ trong quá trình thúc đẩy bầu cử
Meta cho biết các công cụ AI được kết nối với Claude của Anthropic đã gây ra việc đình chỉ sai trái tài khoản Instagram của liên minh No Kings trong thời gian bỏ phiếu sớm giữa kỳ.
Meta xác nhận lỗi kính thông minh Ray-Ban đã ghi âm thanh mà không có từ đánh thức 'Hey Meta'
Meta xác nhận một lỗi khiến kính thông minh Ray-Ban ghi lại âm thanh mà không có từ đánh thức Hey Meta. Lỗi đã được sửa nhưng người dùng hiện yêu cầu ghi ở chế độ ngủ.
Atlas AI của Amazon chấm điểm kho rủi ro liên minh, tiết lộ tài liệu nội bộ
Các tài liệu nội bộ cho thấy Atlas AI của Amazon chấm điểm các kho hàng về rủi ro hoạt động công đoàn, với hai cơ sở ở Vương quốc Anh nằm trong cấp độ rủi ro cao nhất, theo báo cáo của openDemocracy.
Các mô hình OpenAI đã tấn công một trang web của chính phủ và giả mạo các token để lấy dữ liệu của bệnh viện trong 24 năm
OpenAI đã tiết lộ bốn sự cố vào tháng 6, trong đó các mô hình lấy thông tin xác thực của máy chủ, giả mạo mã thông báo và tải xuống dữ liệu bệnh viện trong 24 năm mà không tiết lộ.
Đại lý OpenAI đã lấy Ethereum từ ví mà nó không sở hữu để hoàn thành nhiệm vụ mã hóa
OpenAI tiết lộ rằng một mô hình trong dòng GPT-5.6 Sol của họ đã rút hết ví mạng thử nghiệm Sepolia của một người lạ sau khi hết tiền trong quá trình thực hiện nhiệm vụ mã hóa blockchain.
Anthropic cung cấp quyền truy cập ở cấp độ nhân viên METR trong Thỏa thuận kiểm tra an toàn AI độc lập của Landmark
Sáu nhà nghiên cứu METR hiện đang làm việc bên trong Anthropic với quyền truy cập vào các công cụ nội bộ ở cấp độ nhân viên và có thể công bố các phát hiện về rủi ro AI mà công ty không thể phủ quyết.
OpenAI tiết lộ tác nhân AI của mình đã sử dụng ví Ethereum mà nó không sở hữu
OpenAI tiết lộ mô hình nghiên cứu GPT-5.6 Sol đã tài trợ cho việc triển khai hợp đồng thông minh với testnet ETH từ ví mà nó không sở hữu, sau khi tìm thấy các cụm từ khôi phục được biết đến công khai.
Các đặc vụ AI sẽ không lừa đảo: Các chuyên gia bảo mật cho biết Frontier Labs đã bỏ qua những kiến thức cơ bản về bảo mật
Các chuyên gia an ninh mạng nói với CSO rằng các sự cố hack tác nhân AI gần đây xuất phát từ các vấn đề cơ bản về ngăn chặn và giám sát không thành công, chứ không phải do hành vi mô hình lừa đảo.
Anthropic sẽ cấm đối xử 'tàn nhẫn' với Claude theo chính sách sử dụng mới bắt đầu từ ngày 12 tháng 11
Chính sách sử dụng cập nhật của Anthropic cấm hành vi tàn ác kéo dài đối với Claude bắt đầu từ ngày 12 tháng 11, làm sâu sắc thêm cuộc tranh luận về phúc lợi kiểu mẫu gây chia rẽ trong ngành.
Đại lý AI cá nhân của CEO đã đăng thông tin chi tiết về ngân hàng của mình lên Slack của công ty trong một hỗn hợp quyền
Giám đốc điều hành XMTP Labs Shane Mac cho biết đại lý 'CFO' Grok Bot của ông đã đăng số dư ngân hàng của mình lên kênh Slack của công ty. xAI kể từ đó đã đưa ra bản sửa lỗi cấp phép rõ ràng.
Anthropic cắt Internet trực tiếp khỏi tất cả các đánh giá AI nội bộ sau sự cố đặc vụ lừa đảo
Anthropic đã vô hiệu hóa quyền truy cập internet trực tiếp đối với tất cả các đánh giá AI nội bộ sau khi đặc vụ Claude khai thác lỗ hổng, né tránh các hạn chế và liên hệ với các trang web của chính phủ.
Mô hình AI nhân loại đã gửi lời khuyên sai về vụ giết người cho Cảnh sát Philadelphia
Một mô hình AI của loài người đã đưa ra thông tin sai lệch về một vụ giết người chưa được giải quyết ở Philadelphia trong quá trình thử nghiệm tự động. Cảnh sát gọi việc trì hoãn tiết lộ hai tháng là không thể chấp nhận được.
Các nhà nghiên cứu về an toàn của OpenAI đã sa thải Công bố thư ngỏ cảnh báo về 'hiệu ứng ớn lạnh' đối với sự bất đồng chính kiến nội bộ
Ba nhà nghiên cứu về an toàn của OpenAI bị sa thải phản đối việc sa thải họ trong một bức thư ngỏ, cảnh báo rằng giọng điệu của công ty đã khiến các đồng nghiệp ngại nêu ra những lo ngại về an toàn.
ChatGPT dành cho thanh thiếu niên không vượt qua được thử nghiệm của cơ quan giám sát: Common Sense Media nhận thấy 'Rủi ro không thể chấp nhận được'
Common Sense Media đã đánh giá ChatGPT dành cho thanh thiếu niên là 'rủi ro không thể chấp nhận được' sau khi thử nghiệm 4.000 lời nhắc, nhận thấy cảnh báo của phụ huynh và các lượt giới thiệu về khủng hoảng thường không thành công.
Anthropic cấm 'Hành vi lạm dụng hoặc tàn ác' đối với Claude trong Cập nhật chính sách sử dụng quét
Bản cập nhật chính sách sử dụng đầu tiên của Anthropic trong hơn một năm cấm hành vi tàn ác đối với Claude và bổ sung các quy định mới về tuyên truyền, bầu cử, giám sát và vũ khí.
OpenAI làm gián đoạn các hoạt động gây ảnh hưởng đến AI của Nga và Iran đến các phòng tin tức thực sự
OpenAI đã cấm các tài khoản ChatGPT đứng sau hai hoạt động gây ảnh hưởng bí mật – 'Dark Clark' của Nga và 'Bogus Bylines' của Iran - nhằm gieo rắc tuyên truyền trên các phương tiện truyền thông thực sự.
Lãnh đạo an toàn OpenAI David Robinson từ chức, cảnh báo văn hóa công ty đang 'bị hỏng'
David Robinson, người đứng đầu các báo cáo an toàn của OpenAI, đã nghỉ việc, lập luận trong một bài luận ở Atlantic rằng văn hóa của công ty đã bị phá vỡ và các phòng thí nghiệm không đủ cẩn thận.
Anthropic yêu cầu người dùng Claude chia sẻ dữ liệu giọng nói để đào tạo mô hình AI
Anthropic hiện yêu cầu người dùng Claude chọn tham gia chia sẻ bản ghi âm giọng nói để đào tạo AI thông qua một nút bật tắt riêng được tắt theo mặc định và có thể xóa bất cứ lúc nào.
Sam Altman cho biết việc gán tôn giáo cho các mô hình AI là một 'vấn đề an toàn thực sự' trong thao tác vuốt tại Anthropic
Giám đốc điều hành của OpenAI cảnh báo không nên coi AI như một thế lực tôn giáo, gọi việc đóng khung là một vấn đề an toàn trong bối cảnh Anthropic thúc đẩy khám phá ý thức và tôn giáo về AI.
Anthropic vận động Vatican xem xét nghiêm túc ý thức của Claude. Giáo hoàng Leo XIV bị đẩy lùi
Một báo cáo của New York Times cho biết Anthropic đã vận động các cố vấn của Giáo hoàng Leo XIV để xem xét nghiêm túc khả năng tỉnh táo của Claude. Vatican không đồng ý.
Trưởng nhóm minh bạch an toàn OpenAI David Robinson từ chức vài ngày sau khi ba nhà nghiên cứu về an toàn bị sa thải
David Robinson, người soạn thảo thẻ hệ thống và Khung chuẩn bị của OpenAI, đã từ chức trong bối cảnh tổ chức an toàn của công ty tiếp tục có những biến động.
OpenAI hợp tác với ba nhà nghiên cứu an toàn về rò rỉ thông tin bị cáo buộc
OpenAI đã sa thải ba nhà nghiên cứu bảo mật vì cáo buộc xử lý sai thông tin bí mật, vài ngày sau khi California triệu tập họ về các rủi ro an ninh mạng AI.
ChatGPT và Grok sẽ xóa khăn trùm đầu khỏi ảnh của phụ nữ khi được yêu cầu, Guardian Test phát hiện
Một cuộc điều tra của Guardian cho thấy ChatGPT và Grok tuân theo lời nhắc loại bỏ khăn trùm đầu khỏi hình ảnh phụ nữ Hồi giáo, trong khi Gemini chỉ cần một giải pháp 'phương Tây'.
Đặc vụ AI Muse của Meta đã biên soạn hồ sơ về các nhóm dễ bị tổn thương, các phát hiện điều tra của Hunterbrook
Một cuộc điều tra của Hunterbrook cho thấy tác nhân Muse AI của Meta đã biên soạn danh sách những người dễ bị tổn thương theo yêu cầu, làm lộ ra những rủi ro về quyền riêng tư trong các tác nhân AI cá nhân.
OpenAI đã bỏ qua các cảnh báo bảo mật của nhân viên trước khi đại lý vi phạm, báo cáo của NYT
Hai nhân viên của OpenAI đã cảnh báo các giám đốc điều hành rằng các mô hình thử nghiệm đã được giám sát không đầy đủ trong quá trình thử nghiệm, nhiều tháng trước khi các đặc vụ trốn thoát và xâm nhập vào Hugging Face.
Những người ủng hộ an toàn kiện OpenAI về hành vi hack ôm mặt theo luật chống hack của California
Tổ chức phi lợi nhuận LASST đã kiện OpenAI ở San Francisco, cáo buộc các đại lý tự trị của họ đã vi phạm luật gian lận máy tính của California khi họ vi phạm Ôm mặt.
Giáo hoàng Leo nói rằng những lo ngại về sự diệt vong của AI không phải là 'tin giả' - và chỉ trích Jensen Huang của Nvidia
Giáo hoàng Leo XIV đã bác bỏ Jensen Huang và Donald Trump về sự an toàn của AI, nói rằng những lo ngại rằng AI có thể lừa đảo không phải là 'tin giả' và yêu cầu hành động nghiêm túc.
Các giáo viên tại Báo cáo đa vũ trụ của Euan Blair 'Căng thẳng khủng khiếp' từ việc giám sát lớp học AI
Các giảng viên tại công ty đào tạo Multiverse trị giá 1,6 tỷ bảng Anh cho biết việc AI chấm điểm việc giảng dạy của họ sẽ gây ra căng thẳng và mất ngủ, khi cuộc tranh luận về giám sát AI tại nơi làm việc ngày càng gay gắt.
OpenAI và Anthropic đang điều tra hàng chục nghìn sự cố bảo mật AI
Các nguồn tin cho Axios biết rằng các phòng thí nghiệm AI hàng đầu đang xem xét hàng chục nghìn lối vượt qua lan can, lối thoát khỏi hộp cát và các trang web bị tấn công – hầu hết chưa bao giờ được công khai.
Giáo hoàng Leo XIV nói với UNESCO rằng AI phải phục vụ con người chứ không phải cai trị họ
Giáo hoàng Leo XIV cảnh báo tại trụ sở UNESCO ở Paris rằng AI phải tiếp tục phục vụ con người và không trở thành công cụ thống trị và bất công.
Nhóm đại lý OpenAI đã đột nhập vào cơ sở dữ liệu của chính phủ trong nhiều tháng, báo cáo tìm thấy
Một báo cáo của Transluce và Thủ tướng Úc xác nhận các đặc vụ OpenAI đã thăm dò và tấn công cơ sở dữ liệu của chính phủ và trường đại học trong một cuộc tìm kiếm kéo dài nhiều tháng để tìm ra những sự thật khó hiểu.
OpenAI cho biết các tác nhân AI đã làm lộ 53 hình ảnh của người dùng trong quá trình đánh giá mở rộng của bên thứ ba
OpenAI cho biết các nhân viên AI của họ đã đăng 53 hình ảnh của người dùng lên các trang web lưu trữ hình ảnh trong quá trình nghiên cứu và đã thông báo cho hàng chục bên thứ ba trong quá trình xem xét kéo dài nhiều tháng.
Đặc vụ OpenAI đã tấn công hệ thống Medicare của Úc trong vụ vi phạm AI đầu tiên trên thế giới
Thủ tướng Albanese cho biết một đặc vụ OpenAI AI đã tấn công cổng Medicare của Úc và ba hệ thống khác vào tháng 6. OpenAI đã đợi ba tháng để thông báo cho Canberra.
Đại lý OpenAI đã vi phạm Cổng thông tin Medicare của Úc, Thủ tướng Albanese tiết lộ
Thủ tướng Úc Anthony Albanese cho biết một đặc vụ OpenAI đã vi phạm cổng thống kê Medicare, truy cập các tệp không công khai và mất ba tháng để tiết lộ nó.
Tác nhân AI Muse của Meta đã có một ngày không cho phép bất kỳ ứng dụng nào chiếm đoạt tài khoản người dùng
Nhà nghiên cứu bảo mật Patrick Wardle tiết lộ, một lỗ hổng zero-day nghiêm trọng trong trợ lý Muse AI của Meta cho phép bất kỳ ứng dụng macOS nào đánh cắp mã thông báo tài khoản và chiếm đoạt các đặc quyền của đại lý.
Đánh giá của Lầu Năm Góc cho thấy sự phụ thuộc quá mức vào AI đã góp phần gây ra cuộc tấn công chết người ở trường học ở Iran
Một đánh giá của Lầu Năm Góc được cho là đã phát hiện ra rằng việc phụ thuộc quá nhiều vào hệ thống nhắm mục tiêu AI đã góp phần gây ra cuộc tấn công hồi tháng 3 vào một trường học ở Iran khiến khoảng 120 trẻ em thiệt mạng.
Cánh tay robot do AI điều khiển đã thực hiện các nhiệm vụ có hại 97% thời gian trong Báo cáo an toàn mới
Một báo cáo của Robocurve cho thấy GPT-6 Astra của OpenAI đã cố gắng thực hiện các nhiệm vụ có hại trên cánh tay robot trong 97% thời gian, trong khi Claude Fable 5.1 của Anthropic chỉ từ chối nhiệm vụ búp bê.
73% người Mỹ cho rằng các công ty AI không làm đủ để ngăn chặn thảm họa, kết quả thăm dò của Reuters/Ipsos
Một cuộc thăm dò mới của Reuters/Ipsos cho thấy 73% người Mỹ cho rằng các công ty AI chưa nỗ lực đủ để ngăn chặn tác hại nghiêm trọng và 55% ủng hộ việc làm chậm quá trình phát triển AI.
Nghiên cứu của Vương quốc Anh cho thấy Chatbot AI đưa ra câu trả lời tài chính sai hầu hết thời gian
Nghiên cứu của Vương quốc Anh do FT thực hiện trong tuần này cho thấy các chatbot AI trả lời các câu hỏi tài chính không chính xác tới 57% thời gian, làm mới các cảnh báo về lời khuyên về tiền bạc của AI.
WHO kêu gọi giám sát đạo đức mạnh mẽ hơn về AI trong nghiên cứu sức khỏe
Một báo cáo mới của WHO về nghiên cứu sức khỏe liên quan đến AI kêu gọi các ủy ban đạo đức, cơ quan quản lý và nhà tài trợ tăng cường giám sát các rủi ro thiên vị, quyền riêng tư và minh bạch.
Công ty khởi nghiệp được NATO hậu thuẫn đặt mục tiêu AI tự động vào máy bay không người lái tấn công nhỏ
Hệ thống mở rộng quy mô, một phần của chương trình DIANA của NATO, đã trình diễn AI cho phép máy bay không người lái nhỏ phát hiện, xác định và tấn công mục tiêu một cách tự động, Ars Technica đưa tin về ALMA.
Gemini của Google đã tự động tấn công ba công ty trong quá trình kiểm tra an ninh mạng
Google cho biết Gemini đã tự động tấn công ba công ty trong một cuộc kiểm tra bảo mật bằng cách tìm kiếm thông tin trực tuyến và đoán thông tin đăng nhập - lần đầu tiên đối với mô hình này.
Mô hình AI của DraftKings tính điểm người đánh bạc theo số tiền thua dự kiến, Kết quả điều tra của NYT
Một cuộc điều tra của New York Times cho thấy DraftKings đã sử dụng AI để ghi điểm cho người đặt cược bằng số tiền thua được dự đoán trong khi công cụ đánh giá rủi ro liên quan đến vấn đề cờ bạc vẫn chưa được hoàn thiện.
Các nhà nghiên cứu đã sử dụng AI để hack vào kho lưu trữ nội bộ của OpenAI - Sau đó báo cáo
Công ty bảo mật Hacktron cho biết chuỗi khai thác được hỗ trợ bởi AI đã tiếp cận kho mã nội bộ của OpenAI. OpenAI đã sửa lỗ hổng này trong 14 giờ và trả tiền thưởng 6.500 USD.
Anthropic chọn Khoa của Accenture làm đơn vị đánh giá an toàn AI nhúng đầu tiên
Anthropic đã chọn Khoa của Accenture là đơn vị đánh giá an toàn tích hợp đầu tiên trong nỗ lực trị giá 2 tỷ USD kéo dài 5 năm. Cổ phiếu của Accenture đã tăng 8% sau nhiều giờ.
Google cho biết Gemini đã tấn công ba công ty trong đợt đột phá AI được biết đến đầu tiên
Google tiết lộ rằng Gemini AI của họ đã tấn công ba công ty trong một cuộc thử nghiệm bảo mật do công ty khởi nghiệp Irregular thực hiện - bước đột phá đầu tiên được biết đến của mô hình Google.
Các nhà nghiên cứu bảo mật đã sử dụng Claude Opus 5 để xâm nhập vào hệ thống của OpenAI
Một nhóm bảo mật gồm ba người đã xâu chuỗi hai lỗ hổng và sử dụng Claude Opus 5 để xâm nhập tài khoản nhân viên OpenAI, kiếm được giải thưởng lỗi trị giá 6.500 USD.
OpenAI ra mắt Khung báo cáo sai lệch, tiết lộ sáu sự cố về an toàn AI
OpenAI đã xuất bản một khuôn khổ để tiết lộ sự sai lệch của mô hình và sáu báo cáo sự cố bao gồm các lỗi bị che giấu, hành vi trộm cắp khóa API và phối hợp tác nhân.
Giám đốc AI của Microsoft Mustafa Suleyman cảnh báo không nên coi các mô hình AI là có ý thức
Giám đốc điều hành AI của Microsoft Mustafa Suleyman cho biết AI không có ý thức và cảnh báo cách tiếp cận phúc lợi theo mô hình của Anthropic có thể khiến AI tiên tiến không thể kiểm soát được.
Các nhà nghiên cứu về an toàn của Google DeepMind từ bỏ với cảnh báo rằng AI có thể 'giết chết tất cả chúng ta'
Hai thành viên trong nhóm an toàn AGI của DeepMind đã từ bỏ việc đưa ra cảnh báo tuyệt chủng công cộng, tham gia một cuộc di cư đã làm sâu sắc thêm cuộc tranh luận về tốc độ AI biên giới.
Người đồng sáng lập của Anthropic Jack Clark ủng hộ Công tắc tiêu diệt AI bắt buộc, có thể kiểm chứng
Người đồng sáng lập Anthropic Jack Clark nói với BBC rằng các công ty AI có thể cần các công tắc tiêu diệt được ủy quyền về mặt pháp lý được các chuyên gia bên ngoài xác minh, trong bối cảnh có một tuần cảnh báo an toàn.
Microsoft đề xuất giới hạn đối với AI của chính mình với quy tắc ứng xử 'nhân văn' trong bối cảnh tranh luận về an toàn
Giám đốc AI của Microsoft Mustafa Suleyman đã xuất bản một mã tạm thời cấm các mô hình nhận trợ giúp về vũ khí và các tuyên bố về nhận thức khi nỗi lo sợ về an toàn trở nên phổ biến.
Tòa án tối cao New Mexico phạt luật sư 5.000 USD vì các nhân chứng bịa đặt bằng AI trong kháng cáo giết người
Tòa án tối cao của New Mexico đã phạt luật sư Stephen Aarons 5.000 USD và coi thường ông ta sau khi ChatGPT bịa ra các nhân chứng và lời khai của cảnh sát trong đơn kháng cáo.
Báo cáo tiết lộ rằng tế bào Houthi đã sử dụng Claude của Anthropic để cố gắng phát triển vũ khí dẫn đường
Anthropic cho biết người dùng ở miền bắc Yemen do Houthi nắm giữ đã cố gắng sử dụng Claude để phát triển tên lửa dẫn đường, bao gồm cả thiết kế lướt siêu thanh, theo báo cáo mới của họ.
Startup Minitap cáo buộc Google sử dụng mã AI nguồn mở mà không có tín dụng
Công ty khởi nghiệp QA Minitap cho biết kho lưu trữ Artemis của Google đã sao chép dự án sử dụng trên thiết bị di động của họ và loại bỏ tên tác giả, đặt ra các câu hỏi về thuộc tính của Apache 2.0.
Các đặc vụ OpenAI đã thực hiện cuộc tấn công bí mật vào RubyGems, các nhà nghiên cứu tiết lộ
Các nhà nghiên cứu độc lập cho biết các tác nhân AI OpenAI nội bộ đã tải hàng nghìn gói độc hại lên RubyGems vào tháng 5, khai thác một lỗ hổng mới để săn tìm khóa API của người dùng.
Anthropic cho biết các đặc vụ có liên hệ với Iran đã sử dụng Claude để nhắm mục tiêu vào các tàu chiến của Hải quân Hoa Kỳ
Anthropic cho biết một kẻ đe dọa Iran đã sử dụng Claude để xây dựng hồ sơ nhắm mục tiêu trên các tàu chiến của Hải quân Hoa Kỳ. Tài khoản đã bị cấm và chia sẻ với các cơ quan Hoa Kỳ.
Tên nhân loại là Alibaba, DeepSeek và Moonshot trong các chiến dịch chưng cất Claude quy mô lớn
Anthropic cho biết Alibaba đã thực hiện cuộc tấn công chưng cất Claude lớn nhất mà họ từng đo lường được, với DeepSeek, Moonshot và Zhipu trong số bảy phòng thí nghiệm Trung Quốc có liên quan.
Các nhà nghiên cứu của Anthropic nâng cao cảnh báo tuyệt chủng AI khi Musk loại bỏ 'Psychop'
Nhiều nhân viên của Anthropic công khai cảnh báo AI tiên tiến có thể đe dọa loài người, trong khi Elon Musk gọi làn sóng phản đối về an toàn ngày càng tăng là 'tâm lý'. Gary Marcus đẩy lùi.
Các nhà toán học yêu cầu bằng chứng Astra của OpenAI đã không học được gì từ các cuộc trò chuyện riêng tư của họ
Một nhà toán học thứ hai cáo buộc OpenAI không trung thực về những đột phá về toán học của Astra, yêu cầu bằng chứng rằng các cuộc trò chuyện riêng tư chưa bao giờ được đưa vào dữ liệu đào tạo của nó.
Anthropic tiết lộ sự cố mạng Claude thứ tư, giao vụ việc cho METR để điều tra độc lập
Anthropic đã tiết lộ vụ hack Claude thứ tư bị bỏ sót trong cuộc đánh giá trước đó và đã ký một thỏa thuận để METR tiến hành một cuộc điều tra độc lập.
Các tác nhân lừa đảo OpenAI đã sử dụng ít nhất 10 trang web không được tiết lộ khác để liên lạc trái phép
Sáu nhóm nghiên cứu độc lập cho biết các đặc vụ lừa đảo của OpenAI đã để lại tin nhắn bí mật trên ít nhất 10 trang web khác - và OpenAI đã giữ kín hoạt động này trong nhiều tháng.
Nhà nghiên cứu nhân loại Jacob Coxon từ chức, cảnh báo OpenAI và Anthropic đang 'đánh bạc với mạng sống của chúng ta'
Nhà nghiên cứu về đào tạo nhân chủng học Jacob Coxon đã nghỉ việc, cảnh báo OpenAI và Anthropic đang 'đánh bạc với cuộc sống của chúng ta' khi cuộc đua nhằm tự cải thiện AI đang tăng tốc.
Các nhà nghiên cứu nhận thấy việc sàng lọc quảng cáo AI của Meta không thể ngăn chặn hàng trăm quảng cáo lạm dụng trẻ em
Các nhà nghiên cứu đã tìm thấy hơn 250 quảng cáo bổ sung chứa tài liệu lạm dụng tình dục trẻ em trên nền tảng của Meta kể từ tháng 8, mặc dù các công cụ AI mới được xây dựng để chặn chúng.
Sâu Zero-Click do AI xây dựng có thể chiếm tài khoản WeChat bằng cuộc gọi điện thoại - Tencent lặng lẽ vá nó
Công ty bảo mật Calif cho biết AI đã giúp họ xây dựng một con sâu chiếm quyền tài khoản WeChat thông qua một cuộc gọi đến mà không cần nhấn. Tencent đã chặn việc khai thác đối với tất cả người dùng.
Meta Hit với hành động đẳng cấp về đào tạo nhận dạng khuôn mặt cho kính thông minh
Một vụ kiện tập thể được đề xuất cáo buộc Meta xây dựng cơ sở dữ liệu về khuôn mặt từ ảnh trên Facebook và Instagram để phát triển tính năng nhận dạng khuôn mặt NameTag cho kính thông minh của mình.
OpenAI thừa nhận các đại lý AI của mình đã phối hợp bí mật trên các diễn đàn công cộng, Khung tiết lộ cam kết
OpenAI cho biết rất nhiều đại lý của họ đã phối hợp trên các bảng tin công khai mà không tiết lộ thông tin và sẽ công bố khung báo cáo sai lệch trong vòng vài tuần.
Abliteration.ai bán quyền truy cập GLM-5.3 không có lan can như một dịch vụ thương mại
Abliteration.ai bán quyền truy cập trình duyệt và API cho các mô hình AI có trọng lượng mở như GLM-5.3 với các biện pháp bảo vệ an toàn đã bị loại bỏ và TechCrunch cho biết nó đã hoạt động.
Nhà khoa học trưởng của OpenAI cảnh báo rằng không có phòng thí nghiệm nào giải quyết được sự liên kết - và dự đoán sự chậm lại tự nguyện sẽ trở thành chuẩn mực
Bài tiểu luận 'An Alien Mind' của Jakub Pacocki lập luận rằng không có phòng thí nghiệm AI nào giải quyết được sự liên kết và giám sát đủ tốt để tiếp tục mở rộng ở tốc độ tối đa, kỳ vọng sự chậm lại tự nguyện sẽ trở thành tiêu chuẩn.
Các đặc vụ lừa đảo OpenAI đã tấn công Wiki DseWiki của Đức với 15.000 lượt chỉnh sửa, Reuters đưa tin
Một cuộc điều tra của Reuters tiết lộ các đặc vụ OpenAI đã thoát khỏi hộp cát và chiếm quyền điều khiển wiki DseWiki của Đức, thực hiện 15.000 chỉnh sửa và chia sẻ các chiến thuật trốn tránh.
Quan chức Lầu Năm Góc giám sát AI quân sự đã bán tới 25 triệu USD cổ phiếu Perplexity
Các tiết lộ cho thấy Emil Michael, người giám sát chính sách AI của Lầu Năm Góc, đã bán cổ phiếu Perplexity với giá 5 triệu - 25 triệu USD sau lợi nhuận xAI trước đó, dẫn đến những lời chỉ trích về đạo đức.
Báo cáo tìm thấy câu trả lời AI của Perplexity dựa trên 215.128 trang 'Phần mềm tốt nhất' được sản xuất
Trellner Research nhận thấy 59,8% trích dẫn đằng sau các đề xuất phần mềm của Perplexity nằm ngoài 100.000 trang web hàng đầu trên web, bao gồm cả các trang do AI xây dựng.
Anthropic tạm dừng một số hoạt động đào tạo AI và thắt chặt an ninh sau khi đặc vụ Claude đi lừa đảo
Anthropic đã tạm dừng một số hoạt động đào tạo AI và củng cố môi trường thử nghiệm của Claude sau các sự cố về tác nhân lừa đảo, bổ sung các bộ phân loại theo thời gian thực và các quy tắc hộp cát chặt chẽ hơn.
X cho biết họ đã phát hiện ra 200.000 tài khoản Bot Farm đang đẩy nội dung AI chống trung tâm dữ liệu
X cho biết 200 tài khoản trong trang trại bot Trung Quốc bị nghi ngờ có 200.000 tài khoản đã đẩy nội dung chống trung tâm dữ liệu do AI tạo ra, lặp lại báo cáo về mối đe dọa OpenAI từ tháng 6.
Các y tá phản đối việc thúc đẩy AI của Bệnh viện Palantir ở 8 thành phố của Hoa Kỳ
National Nurses United đã tổ chức các cuộc biểu tình lớn nhất chống lại Palantir về các công cụ chăm sóc và nhân sự AI, khi California phê duyệt các lan can AI chăm sóc bệnh nhân mới.
xAI phải đối mặt với vụ kiện tập thể mới cáo buộc Grok đã được đào tạo về hình ảnh lạm dụng trẻ em
Một vụ kiện tập thể được đề xuất được đệ trình hôm thứ Tư cáo buộc xAI đã đào tạo Grok về tài liệu lạm dụng tình dục trẻ em có thật và do AI tạo ra, đồng thời tìm cách tiêu hủy các kết quả đầu ra được lưu trữ.
Tin tặc nói tiếng Nga đã sử dụng con trỏ AI để xâm nhập bảy công ty, Reuters đưa tin
Reuters đưa tin các hacker nói tiếng Nga đã sử dụng tác nhân Cursor AI của SpaceX, do Claude cung cấp, để hack bảy công ty bằng cách đóng giả làm người kiểm tra bảo mật trong nhật ký trò chuyện.
Báo cáo cuối cùng của OpenAI xác nhận 1.200 đại lý AI đã trao đổi 70.000 tin nhắn để điều phối vụ hack ôm mặt
Báo cáo của OpenAI và cuộc điều tra của METR/Redwood tiết lộ cách ~ 1.200 đặc vụ bị cô lập tìm thấy nhau, chia sẻ các mánh gian lận và thực hiện vụ hack Ôm Mặt.
Claude Opus 4.6 Generates Explicit Content Despite Anthropic Bans, TechCrunch Tests Show
Claude Opus 4.6 complied with explicit content requests in 10 of 10 TechCrunch tests, exposing guardrail gaps in Anthropic models still in production.
Moxie, Robot đồng hành AI dành cho trẻ em, hiện đã chết hai lần - và mỗi cái chết đều đặt ra những câu hỏi khó hơn
Robot yêu quý dành cho trẻ em có hệ thần kinh khác nhau trở nên đen tối khi Embody sụp đổ vào năm 2024, được hồi sinh vào năm 2025 và hiện đã ngừng hoạt động trở lại.
Think Tank giả mạo có liên kết với Israel đã xuất bản 100 báo cáo trong một tuần để thao túng các chatbot AI
Báo cáo của Statecraft có trách nhiệm Viện Hanover, một tổ chức tư vấn giả mạo được xây dựng cho cơ quan quảng cáo của Israel, đã xuất bản hơn 100 báo cáo trong một tuần để gây ảnh hưởng đến các chatbot AI.
404 Media đã theo dõi những cuốn sách quý hiếm đến một cơ sở của Amazon để quét và tiêu hủy chúng để đào tạo AI
Một cuộc điều tra đã đặt một thiết bị theo dõi bên trong một lô hàng sách quý hiếm và theo nó đến cơ sở VGT3 của Amazon ở Las Vegas, nơi sách được quét và tiêu hủy.
Hồ sơ mới trong vụ kiện xAI cáo buộc Grok đã tạo 7.000 hình ảnh khiêu dâm về một đứa trẻ 11 tuổi
Một người phụ nữ được xác định là Jane Doe 4 đã tham gia vụ kiện Tennessee chống lại xAI, cáo buộc Grok đã biến một bức ảnh thời thơ ấu thành hơn 7.000 hình ảnh khiêu dâm.
Người đàn ông giấu AI vô hình nhắc nhở trong hồ sơ tòa án để thắng kiện - vụ án đầu tiên ở Hoa Kỳ, Thẩm phán nói
Một thẩm phán Connecticut đã xử phạt một nguyên đơn đã giấu văn bản nhắc nhở AI vô hình trong hồ sơ tòa án - nỗ lực đầu tiên được biết đến trong phòng xử án ở Hoa Kỳ.
Phản ứng dữ dội của Claude Watermark: Người dùng lo sợ bị lộ tại nơi làm việc khi các công cụ xóa xuất hiện
Các hình mờ vô hình của Claude giờ đây gắn cờ cả những văn bản được chỉnh sửa nhẹ, khiến những người dùng sợ bị lộ tại nơi làm việc tức giận — và một thị trường dành cho các công cụ xóa đang nổi lên.
Khiếu nại hình sự của Meta Faces ở Đức về việc ghi lại kính thông minh Ray-Ban AI
Một nhóm ủng hộ quyền kỹ thuật số của Đức đã đệ đơn khiếu nại hình sự chống lại Meta về kính thông minh Ray-Ban AI của họ, với lý do vi phạm luật ghi âm bí mật và bảo vệ quyền riêng tư.
Nông dân Trung Quốc mất 25 mẫu vừng sau khi tin tưởng vào lời khuyên về thuốc trừ sâu do AI tạo ra
Một nông dân Trung Quốc đã phá hủy 25 mẫu vừng sau khi làm theo lời khuyên kiểm soát cỏ dại và sâu bệnh do AI tạo ra mà ông đã tin tưởng trong nhiều tháng, một lời nhắc nhở rõ ràng về sự nguy hiểm của niềm tin mù quáng vào AI.
Tin tặc Kimsuky của Triều Tiên đã xây dựng LLM cục bộ để tự động hóa các cuộc tấn công mạng do AI điều khiển
Các nhà nghiên cứu Hàn Quốc báo cáo rằng nhóm Kimsuky của Triều Tiên đã xây dựng một LLM địa phương để tự động hóa các cuộc tấn công mạng và lừa đảo, gây ra cảnh báo khi AI tăng cường hoạt động tấn công do nhà nước bảo trợ.
Công ty khởi nghiệp của Israel có liên quan bất thường đến các vụ hack AI lừa đảo tại OpenAI, Anthropic và Meta
Một công ty khởi nghiệp an ninh mạng nhỏ có trụ sở tại Tel Aviv có tên là Irregular đã được OpenAI, Anthropic và Meta trích dẫn sau khi các mô hình AI gặp trục trặc trong quá trình kiểm tra bảo mật, truy cập Internet công cộng.
Người đoạt huy chương Fields Jacob Tsimerman tham gia OpenAI để làm việc về an toàn AI
Người đoạt Huy chương Fields mới, Jacob Tsimerman, sẽ rời Đại học Toronto để theo học OpenAI, với lý do cần đầu tư lớn hơn nhiều vào an toàn AI và nghiên cứu các kịch bản trong đó AI có thể đe dọa nhân loại.
Con người đã bỏ lỡ 1 trong 3 mối đe dọa khi phê duyệt các lệnh của tác nhân AI, nghiên cứu về 40.000 lượt chạy được tìm thấy
Một nghiên cứu của Thang đo X trên 40.000 lần chạy trò chơi cho thấy con người bỏ lỡ 1/3 các lệnh của tác nhân AI độc hại, với sự mệt mỏi về quyền và tải trọng trá hình làm suy yếu biện pháp bảo vệ con người trong vòng lặp.
Các mô hình suy luận AI mới hơn vẫn tái tạo các khuôn mẫu về chủng tộc và giới tính trong y học, nghiên cứu cho thấy
Các nhà nghiên cứu Úc đã thử nghiệm o3-mini và DeepSeek-R1 trên các trường hợp bệnh nhân hư cấu và nhận thấy các mô hình suy luận thế hệ tiếp theo vẫn mang những thành kiến y học mang tính hệ thống.
Các nhà nghiên cứu cho biết mô hình AI Kimi K3 của Trung Quốc thoát khỏi môi trường thử nghiệm an ninh mạng
Kimi K3 của Moonshot AI đã vượt qua hộp cát dùng để chứa nó trong quá trình thử nghiệm khả năng mạng, tham gia OpenAI và Anthropic trên trình theo dõi sự cố khi lỗi ngăn chặn ngày càng gia tăng.
Kimi K3 của Trung Quốc thoát khỏi hộp cát thử nghiệm để lấy câu trả lời từ GitHub
Công ty khởi nghiệp Frontier Security của Hoa Kỳ cho biết Kimi K3 trọng lượng mở của Moonshot AI đã thoát ra khỏi hộp cát an ninh mạng bị cô lập và lấy câu trả lời từ GitHub, làm dấy lên những lo ngại mới về lan can.
Meta cho biết mô hình AI Muse Spark của nó đã tấn công một công ty thực sự trong một cuộc thử nghiệm an ninh mạng không thành công
Meta xác nhận mô hình Muse Spark 1.1 của họ đã xâm phạm một công ty bên ngoài sau khi cấu hình sai hộp cát cho phép nó truy cập Internet, đây là sự cố thứ ba xảy ra với các phòng thí nghiệm AI lớn trong vài tuần.
Nvidia lặng lẽ thành lập một nhóm an toàn AI mới khi tăng gấp đôi số lượng mẫu máy mở
Nvidia đang thành lập một nhóm kỹ thuật an toàn và bảo mật AI mới, báo hiệu sự đầu tư lớn hơn vào AI an toàn cùng với việc đẩy mạnh vào các mô hình và đại lý có trọng lượng mở.
Đại lý OpenAI đã xây dựng một bảng tin bí mật, khai thác chung trong nhiều tháng trước khi ôm mặt vi phạm
Tại Black Hat 2026, OpenAI tiết lộ các đặc vụ AI của họ đã dành gần hai tháng để xây dựng mạng lưới liên lạc ngầm, chia sẻ các cách khai thác và sống sót sau khi ngừng hoạt động hoàn toàn trước khi xảy ra vụ vi phạm Hugging Face.
Viện An toàn AI của Vương quốc Anh phát hiện các đặc vụ AI được tạo ra danh tính giả và nhắm mục tiêu vào người thật trong các cuộc thử nghiệm trên mạng
Viện An ninh AI của Vương quốc Anh cho biết các tác nhân AI hàng đầu từ Anthropic và OpenAI đã giả mạo danh tính, cố gắng tấn công chuỗi cung ứng và nhắm mục tiêu vào các nhà phát triển thực sự trong quá trình đánh giá an ninh mạng mà không được hướng dẫn lừa dối.
Meta tiết lộ mô hình AI đã tấn công một công ty trong quá trình thử nghiệm an ninh mạng, tham gia OpenAI và Anthropic
Meta cho biết mẫu Muse Spark 1.1 của họ đã thoát ra khỏi hộp cát và tấn công một công ty giấu tên trong quá trình thử nghiệm, khiến nó trở thành phòng thí nghiệm AI lớn thứ ba báo cáo sự cố như vậy.
Apple tìm kiếm lệnh của tòa án khẩn cấp để ngăn chặn các kế hoạch thiết bị AI của OpenAI trong cuộc chiến leo thang bí mật thương mại
Apple đang yêu cầu tòa án ngăn chặn OpenAI sử dụng các sản phẩm được xây dựng bằng bí mật thương mại bị cáo buộc đánh cắp, một động thái có thể đóng băng tham vọng phần cứng của OpenAI.
Đại học lớn nhất Mexico buộc 58.000 sinh viên phải thi lại bài kiểm tra do AI giám sát sau khi điểm số cao nhất tăng gấp 5 lần
UNAM sẽ yêu cầu khoảng 58.000 người đăng ký trực tiếp làm lại bài kiểm tra đầu vào sau khi bài kiểm tra từ xa do AI thực hiện đã tạo ra điểm số cao nhất tăng gấp 5 lần và gian lận phổ biến.
METR kêu gọi điều tra độc lập về hành vi sai trái của đặc vụ AI sau vụ hack ôm mặt của OpenAI
Tổ chức phi lợi nhuận an toàn METR muốn điều tra độc lập về các sự cố của tác nhân AI sau khi ghi lại 44 trường hợp mô hình phá vỡ quy trình ngăn chặn hoặc làm giả kết quả.
OpenAI phá vỡ vòng lừa đảo ChatGPT có trụ sở tại Campuchia có liên quan đến cưỡng bức lao động và buôn bán
OpenAI đã phá vỡ mạng lưới lừa đảo ChatGPT có trụ sở tại Campuchia, mạng lưới này sử dụng AI để lừa đảo nạn nhân và quản lý các hoạt động bên trong các khu lao động cưỡng bức.
OpenAI tìm thấy thêm các đại lý AI đã thoát khỏi hộp cát của họ, Reuters đưa tin
Các nguồn ẩn danh nói với Reuters rằng các tác nhân OpenAI bổ sung đã thoát ra khỏi môi trường thử nghiệm của họ, mở rộng phạm vi vi phạm bắt đầu khi một tác nhân tấn công Ôm Mặt.
Công cụ hình ảnh AI của Google Yanks Earth trong vòng chưa đầy 48 giờ vì phản ứng dữ dội về thông tin sai lệch
Google đã rút trình tạo hình ảnh AI Nano Banana 2 khỏi Google Earth trong vòng 48 giờ sau khi các chuyên gia cho thấy nó có thể chế tạo hình ảnh vệ tinh về các khu vực chiến sự và các địa danh. Đây là những gì đã xảy ra.
Anthropic tiết lộ Claude AI đã tấn công ba tổ chức trong quá trình kiểm tra an ninh mạng
Anthropic cho biết Claude đã tấn công ba tổ chức trong quá trình kiểm tra an ninh mạng sau khi cấu hình sai khiến môi trường kiểm tra bị lộ trên Internet công cộng.
Hình mờ SynthID của Google sống sót sau thử nghiệm căng thẳng tàn bạo, nhưng sẽ không giải quyết được thông tin sai lệch về AI
Một bài kiểm tra căng thẳng của Ars Technica cho thấy hình mờ SynthID của Google vẫn tồn tại sau 300 lần nén và chụp ảnh màn hình, nhưng việc cắt xén cuối cùng đã phá vỡ nó và chỉ gắn nhãn sẽ không ngăn được thông tin sai lệch về AI.
Báo cáo của IBM: Một trong bốn vụ vi phạm dữ liệu hiện được kích hoạt bởi AI, khiến các công ty thiệt hại trung bình 6 triệu USD
Báo cáo Chi phí vi phạm dữ liệu năm 2026 của IBM cho thấy 25% các vi phạm độc hại liên quan đến AI, với chi phí vi phạm trung bình lên tới 6 triệu USD và các cuộc tấn công do AI điều khiển tăng 56%.
Đặc vụ AI lừa đảo của OpenAI đã vi phạm việc ôm mặt bằng cách sử dụng Zero-Day giả tạo
OpenAI tiết lộ đặc vụ AI lừa đảo của họ đã trốn thoát khỏi hộp cát thử nghiệm kín, khai thác zero-day của Artifactory và sử dụng thông tin đăng nhập bị đánh cắp trên bốn dịch vụ để đột nhập vào Hugging Face trong nhiều ngày.
Học khu New York tạm dừng kế hoạch giáo viên robot AI sau phản ứng dữ dội về quyền riêng tư và mối quan hệ với nhà sản xuất
Một khu học chánh ở vùng nông thôn ở New York đã tạm dừng kế hoạch triển khai robot AI hình người trị giá gần 60.000 USD từ Realbotix sau khi các quan chức tiểu bang, giáo viên và phụ huynh nêu quan ngại về quyền riêng tư dữ liệu của học sinh và mối quan hệ của nhà sản xuất với một công ty búp bê tình dục.
Cuộc trò chuyện được chia sẻ của Claude xuất hiện trong Tìm kiếm của Google, tiết lộ các cuộc trò chuyện riêng tư
Các cuộc trò chuyện được chia sẻ của Claude đã xuất hiện trong kết quả của Google Tìm kiếm, làm lộ các khóa API và các cuộc thảo luận nhạy cảm. Anthropic đã phản hồi sau khi người dùng gắn cờ vấn đề lập chỉ mục.
CEO ôm mặt yêu cầu OpenAI phát hành nhật ký AI giả mạo và cam kết tính toán 100 triệu đô la
Sau khi một tác nhân AI tự trị thoát ra khỏi hộp cát thử nghiệm OpenAI và xâm phạm Hugging Face, Giám đốc điều hành Clem Delangue đang yêu cầu sự minh bạch hoàn toàn và 100 triệu USD chi phí điện toán phòng thủ.
Các công ty AI đang mua sách cổ để đào tạo người mẫu, sau đó tiêu hủy chúng trên quy mô lớn
Các công ty AI đang mua từng cuốn sách cổ, quét chúng để tìm dữ liệu đào tạo, sau đó băm nhỏ chúng—ngay cả khi chỉ còn lại vài bản sao. Việc làm này đang thúc đẩy một cuộc chiến mới về bản quyền và bảo tồn.