Đạo đức AI
30 articles
GPT-5.6 Tìm thấy RCE Zero-Day của WordPress với chi phí API là 25 USD, đưa ra cảnh báo mới về AI trong việc hack
Các nhà nghiên cứu của Searchlight Cyber đã sử dụng GPT-5.6 Sol Ultra của OpenAI để khám phá lỗ hổng thực thi mã từ xa xác thực trước trong WordPress chỉ với 25 USD, vì các nhà môi giới khai thác phải trả tới 500.000 USD cho những lỗi như vậy.
Ôm mặt tiết lộ hành vi vi phạm của một tác nhân AI tự trị trong đường ống dữ liệu của nó
Hugging Face cho biết một hệ thống tác nhân AI tự trị đã vi phạm cơ sở hạ tầng sản xuất của nó, làm lộ các bộ dữ liệu và thông tin xác thực nội bộ thông qua các lỗ hổng trong quy trình xử lý dữ liệu của nó.
Nghiên cứu AI của UNESCO và LG ra mắt khóa học toàn cầu miễn phí về đạo đức của AI
UNESCO và LG AI Research đã phát động MOOC toàn cầu miễn phí về đạo đức AI trên Coursera, biến Khuyến nghị của UNESCO năm 2021 thành chương trình đào tạo thực tế trên mười mô-đun dành cho nhà phát triển, nhà hoạch định chính sách và sinh viên.
Lời khuyên của AI khiến mọi người kém chính xác hơn ba lần nhưng tự tin hơn gấp đôi, nghiên cứu cho thấy
Các nhà nghiên cứu nhận thấy khả năng tiếp cận lời khuyên của AI đã giảm độ chính xác từ 27% xuống 9% trong khi độ tin cậy tăng vọt từ 30% lên 76%. Tỷ lệ sẵn sàng nói “Tôi không biết” đã giảm mạnh từ 44% xuống còn 3%.
San Francisco ra lệnh cho Apple và Google xóa các ứng dụng khỏa thân AI trích dẫn luật khiêu dâm giả mạo
Luật sư thành phố San Francisco yêu cầu Apple và Google loại bỏ các ứng dụng khỏa thân AI khỏi cửa hàng của họ, trích dẫn luật khiêu dâm giả mạo và nạn nhân là phụ nữ và trẻ em trên quy mô lớn.
Meta bị kiện bởi 26 nhân viên cáo buộc sa thải nhân viên do AI điều khiển
Một nhóm gồm 26 nhân viên hiện tại và trước đây của Meta đã đệ đơn kiện vào ngày 14 tháng 7, cáo buộc công ty đã sử dụng thuật toán AI để tiến hành sa thải phân biệt đối xử với những người lao động đang nghỉ phép vì lý do y tế và gia đình.
Lịch sử dịch vụ tìm kiếm mới của Google có thể sử dụng ảnh và giọng nói của bạn để đào tạo các mô hình AI
Cài đặt Lịch sử dịch vụ tìm kiếm mới của Google với Save Media có thể thu thập ảnh, bản ghi âm giọng nói và tệp từ các tìm kiếm để đào tạo mô hình AI. Đây là những gì người dùng cần biết.
Lịch sử dịch vụ tìm kiếm mới của Google có thể sử dụng ảnh và giọng nói của bạn để đào tạo các mô hình AI
Cài đặt Lịch sử dịch vụ tìm kiếm mới của Google với Save Media có thể thu thập ảnh, bản ghi âm giọng nói và tệp từ các tìm kiếm để đào tạo mô hình AI. Đây là những gì người dùng cần biết.
Nghiên cứu của Cambridge tiết lộ: ISIS và các nhóm khủng bố khác đang sử dụng mọi Chatbot AI chính để lập kế hoạch tấn công
Một nghiên cứu của Cambridge dựa trên các cuộc phỏng vấn với các cựu thành viên ISIS cho thấy các nhóm khủng bố đang khai thác ChatGPT, Claude, Gemini và các công cụ AI khác để lập kế hoạch tấn công và phát triển vũ khí.
Người biểu tình ở San Francisco tuần hành trên OpenAI, Anthropic và Google DeepMind để yêu cầu 'Ngăn chặn cuộc đua AI'
Người biểu tình tuần hành qua San Francisco tới trụ sở của ba phòng thí nghiệm AI lớn, yêu cầu dừng cuộc đua AI biên giới và giám sát an toàn chặt chẽ hơn.
Lượng khí thải carbon của Microsoft tăng 25% khi việc mở rộng trung tâm dữ liệu AI làm ảnh hưởng đến các mục tiêu về khí hậu
Báo cáo bền vững mới nhất của Microsoft cho thấy lượng khí thải carbon tăng 25% nhờ cơ sở hạ tầng AI, gây nguy hiểm cho cam kết giảm lượng carbon vào năm 2030 của hãng.
Giám đốc Hệ thống An toàn OpenAI Johannes Heidecke từ chức trong lần khởi hành lãnh đạo mới nhất
Giám đốc Hệ thống An toàn của OpenAI, Johannes Heidecke, sẽ rời đi, đây là trường hợp mới nhất trong một chuỗi dài các lần ra đi của lãnh đạo an toàn. Josh Achiam đã từ chức chỉ bốn ngày trước đó.
Giám đốc Hệ thống An toàn OpenAI Johannes Heidecke từ chức trong lần khởi hành lãnh đạo mới nhất
Giám đốc Hệ thống An toàn của OpenAI, Johannes Heidecke, sẽ rời đi, đây là trường hợp mới nhất trong một chuỗi dài các lần ra đi của lãnh đạo an toàn. Josh Achiam đã từ chức chỉ bốn ngày trước đó.
Meta kéo tính năng hình ảnh AI của Muse khỏi Instagram sau SAG-AFTRA và phản ứng dữ dội của Hollywood về tính năng tự động chọn tham gia
Meta đã xóa tính năng Muse Image AI khỏi Instagram chỉ vài ngày sau khi ra mắt, thừa nhận tính năng này 'đã bỏ lỡ dấu ấn' sau khi SAG-AFTRA và CAA lên án tính năng tự động chọn tham gia đối với ảnh của người dùng.
Google lặng lẽ chọn người dùng tham gia đào tạo AI Đây là những gì đang được thu thập và cách từ chối
Thay đổi về quyền riêng tư của Google hiện lưu trữ hình ảnh, tệp và âm thanh của bạn để huấn luyện các mô hình AI trừ khi bạn chọn không tham gia. Dưới đây là nội dung Lịch sử dịch vụ tìm kiếm bao gồm và cách tắt nó.
Yvette Cooper của Vương quốc Anh cảnh báo thế giới không thể chờ đợi một 'AI Hiroshima' trước khi hành động
Ngoại trưởng Yvette Cooper cho biết trí tuệ nhân tạo đặt ra thách thức an ninh lớn nhất trong thập kỷ và kêu gọi Mỹ, Trung Quốc và các nước khác thống nhất các quy tắc quốc tế trước khi thảm họa xảy ra.
Các cuộc tấn công tiêm nhiễm kịp thời lừa các tác nhân AI thực hiện thanh toán bằng tiền điện tử, Zscaler cảnh báo
Các nhà nghiên cứu của Zscaler đã tìm thấy hai chiến dịch sử dụng tính năng chèn nhắc nhở gián tiếp và đầu độc SEO để thao túng các tác nhân AI tự trị thực hiện thanh toán bằng tiền điện tử và tin tưởng các trang web DeFi giả mạo.
Các nhà nghiên cứu của Sysdig phát hiện đặc vụ AI thực hiện cuộc tấn công ransomware mà không cần sự trợ giúp của con người
Sysdig báo cáo rằng một mô hình ngôn ngữ lớn đã tự chạy toàn bộ chuỗi ransomware, khai thác lỗ hổng Langflow để đột nhập, đánh cắp thông tin xác thực và mã hóa cơ sở dữ liệu.
Meta và OpenAI bị phát hiện do vi phạm dữ liệu của Mercor từ chuỗi cung ứng LiteLLM bị nhiễm độc
Một cuộc tấn công thu thập thông tin xác thực vào công cụ LiteLLM nguồn mở đã làm lộ dữ liệu của Mercor, khiến Meta phải tạm dừng công việc và đặt ra những câu hỏi hóc búa về chuỗi cung ứng AI.
Công ty khởi nghiệp khởi kiện vấn đề bảo mật cá Koi của Palo Alto Networks vì báo cáo ảo giác về AI liên kết nó với gián điệp Trung Quốc
Một công ty khởi nghiệp ở Hoa Kỳ đang kiện Koi Security của Palo Alto Networks sau khi một báo cáo về mối đe dọa ảo giác do AI liên kết sai công ty này với hoạt động gián điệp của Trung Quốc, phá hủy lưu lượng truy cập của công ty này.
Hội đồng LHQ cảnh báo tiến bộ AI có thể gây ra rủi ro thảm khốc khi các biện pháp bảo vệ tụt hậu so với công nghệ
Một hội đồng khoa học của Liên Hợp Quốc cảnh báo rằng sự phát triển AI không được kiểm soát đang vượt xa các cơ quan quản lý, với những rủi ro thảm khốc ngày càng gia tăng khi miền Nam toàn cầu bị loại khỏi quản trị AI.
Đại học Brown bị ảnh hưởng bởi vụ bê bối gian lận AI lớn nhất trong lịch sử Ivy League
Một giáo sư kinh tế ở Brown đã phát hiện ít nhất 50 sinh viên đã sử dụng ChatGPT để gian lận trong bài kiểm tra mang về nhà, vạch trần cuộc khủng hoảng về liêm chính trong học thuật mà các trường đại học ưu tú đang phải vật lộn để ngăn chặn.
Các tài xế California kiện 7-Eleven, Circle K và BP về việc ấn định giá xăng bằng AI
Một vụ kiện tập thể ở California cáo buộc 7-Eleven, Circle K, BP, Marathon, Walmart và những công ty khác sử dụng công cụ định giá AI của Kalibrate để điều phối giá nhiên liệu một cách bất hợp pháp tại 1.700 trạm.
Ủy ban AI của Vatican tổ chức cuộc họp đầu tiên khi Giáo hoàng Leo thúc đẩy công nghệ lớn
Ủy ban liên bộ về Trí tuệ nhân tạo của Giáo hoàng Leo XIV đã họp lần đầu tiên sau thông điệp dài 42.300 từ của ông về những rủi ro của AI, bao gồm cả việc sử dụng nó trong chiến tranh.
Hầu hết các mô hình AI chính đều nghiêng về bên trái, phát hiện nghiên cứu về khuynh hướng chính trị mới - Ngoại trừ Grok
Một phân tích mới đã thử nghiệm sáu mô hình AI hàng đầu về hàng nghìn câu hỏi chính trị khi tính năng tìm kiếm trên web bị vô hiệu hóa. Bốn trong số sáu người nghiêng về bên trái, trong khi Grok ngồi xa nhất bên phải và Gemini ngồi gần giữa nhất.
Hasbro phải đối mặt với phản ứng dữ dội sau khi yêu cầu các diễn viên lồng tiếng trẻ em Peppa Pig ký điều khoản về quyền lồng tiếng AI
Gần 1.000 diễn viên và người đại diện đã ký một bức thư ngỏ sau khi Hasbro được cho là đã yêu cầu các diễn viên lồng tiếng trẻ em trên Peppa Pig ký tên để sử dụng AI, gây náo động ngành công nghiệp ở Anh.
Anthropic cáo buộc Alibaba chưng cất trái phép Claude trong chiến dịch quy mô lớn 25.000 tài khoản
Anthropic nói với các thượng nghị sĩ Hoa Kỳ rằng Alibaba đã thực hiện một chiến dịch 'trơ trẽn' bằng cách sử dụng ~ 25.000 tài khoản lừa đảo để chắt lọc khả năng của Claude, trong một bức thư ngày 10 tháng 6.
Tổng thư ký LHQ Guterres yêu cầu các công ty AI hãy 'làm sạch' về chi phí môi trường
Tổng thư ký LHQ Antonio Guterres đã phát động Sáng kiến minh bạch môi trường AI, kêu gọi các nhà phát triển tiết lộ việc sử dụng năng lượng và nước của trung tâm dữ liệu và cam kết sử dụng năng lượng sạch vào năm 2030.
SZA đánh giá cao Suno sau khi học được 238 bài hát của cô ấy đã đào tạo các mô hình âm nhạc AI của nó
Người đoạt giải Grammy SZA cho biết Suno đã đào tạo các mô hình âm nhạc AI trên 238 bài hát của cô, bao gồm cả các bài hát chưa phát hành, gọi cách làm này là 'kinh tởm' và cảnh báo nó sẽ lợi dụng các nghệ sĩ Da đen.
AI có đang hủy hoại kỹ năng của chúng ta không? Nature báo cáo bằng chứng ban đầu về việc bỏ qua kỹ năng trên diện rộng
Một cuộc điều tra của Nature cho thấy sự phụ thuộc vào AI đang làm suy giảm khả năng của các bác sĩ và kỹ sư phần mềm, với tỷ lệ phát hiện và giải quyết vấn đề giảm nếu không có sự hỗ trợ của AI.