AI 윤리
30 articles
GPT-5.6은 API 비용으로 25달러의 WordPress Zero-Day RCE를 발견하여 해킹에서 AI에 대한 새로운 경각심을 불러일으킵니다.
Searchlight Cyber 연구원들은 OpenAI의 GPT-5.6 Sol Ultra를 사용하여 단 25달러에 WordPress의 사전 인증 원격 코드 실행 결함을 발견했습니다. 익스플로잇 브로커는 이러한 버그에 대해 최대 500,000달러를 지불하기 때문입니다.
Hugging Face는 데이터 파이프라인에서 자율 AI 에이전트에 의한 침해를 공개했습니다.
Hugging Face는 자율 AI 에이전트 시스템이 생산 인프라를 침해하여 데이터 세트 처리 파이프라인의 결함을 통해 내부 데이터 세트와 자격 증명을 노출했다고 말했습니다.
유네스코와 LG AI리서치, AI 윤리에 관한 무료 글로벌 강좌 개설
유네스코와 LG AI 리서치는 Coursera에서 AI 윤리에 대한 무료 글로벌 MOOC를 시작하여 2021년 유네스코 권고안을 개발자, 정책 입안자, 학생을 위한 10개 모듈에 걸친 실무 교육으로 전환했습니다.
AI 조언은 사람들을 3배 덜 정확하지만 2배 더 확신하게 만든다는 연구 결과가 나왔습니다.
연구원들은 AI 조언에 대한 접근이 정확도가 27%에서 9%로 감소한 반면 신뢰도는 30%에서 76%로 치솟았다는 사실을 발견했습니다. '모르겠다'고 답하려는 의향은 44%에서 3%로 급락했다.
샌프란시스코, 애플과 구글에 딥페이크 포르노 법을 인용한 AI 누드 앱을 제거하라고 명령
샌프란시스코 시 검사는 애플과 구글이 딥페이크 포르노 관련법을 인용하고 여성과 어린이를 대규모로 희생시킨다는 이유로 매장에서 AI 누드화 앱을 제거할 것을 요구했습니다.
AI 기반 해고가 병가 중인 근로자를 표적으로 삼았다고 주장하는 26명의 직원이 메타 소송을 제기함
메타 전·현직 직원 26명은 회사가 AI 알고리즘을 사용해 병가 및 가족휴가 중인 근로자를 차별하는 정리해고를 실시했다고 주장하며 지난 7월 14일 소송을 제기했다.
Google의 새로운 검색 서비스 기록은 AI 모델 교육을 위해 사진과 음성을 사용할 수 있습니다.
미디어 저장을 포함한 Google의 새로운 검색 서비스 기록 설정을 사용하면 검색에서 사진, 음성 녹음 및 파일을 수집하여 AI 모델을 교육할 수 있습니다. 사용자가 알아야 할 사항은 다음과 같습니다.
Google의 새로운 검색 서비스 기록은 AI 모델 교육을 위해 사진과 음성을 사용할 수 있습니다.
미디어 저장을 포함한 Google의 새로운 검색 서비스 기록 설정을 사용하면 검색에서 사진, 음성 녹음 및 파일을 수집하여 AI 모델을 교육할 수 있습니다. 사용자가 알아야 할 사항은 다음과 같습니다.
ISIS 및 기타 테러리스트 그룹은 공격 계획을 위해 모든 주요 AI 챗봇을 사용하고 있다고 Cambridge 연구에서 밝혀졌습니다.
전 ISIS 회원과의 인터뷰를 기반으로 한 케임브리지 연구에 따르면 테러리스트 그룹은 ChatGPT, Claude, Gemini 및 기타 AI 도구를 공격 계획 및 무기 개발에 활용하고 있는 것으로 나타났습니다.
샌프란시스코 시위대, OpenAI, Anthropic, Google DeepMind에 행진하며 'AI 경주 중단' 요구
시위자들은 샌프란시스코를 거쳐 주요 AI 연구소 3곳의 본부까지 행진하며 최첨단 AI 경주 중단과 안전 감독 강화를 요구했습니다.
AI 데이터 센터 확장으로 인해 기후 목표가 어려워짐에 따라 Microsoft의 탄소 배출량이 25% 급증
Microsoft의 최신 지속 가능성 보고서는 AI 인프라로 인해 탄소 배출량이 25% 증가하여 2030년 탄소 부정적인 약속을 위태롭게 한다는 사실을 보여줍니다.
OpenAI 안전 시스템 책임자 Johannes Heidecke, 최근 리더십 출발로 사임
OpenAI의 안전 시스템 책임자인 Johannes Heidecke가 오랜 안전 리더십 퇴장 중 가장 최근에 퇴임합니다. Josh Achiam은 불과 나흘 전에 사임했습니다.
OpenAI 안전 시스템 책임자 Johannes Heidecke, 최근 리더십 출발로 사임
OpenAI의 안전 시스템 책임자인 Johannes Heidecke가 오랜 안전 리더십 퇴장 중 가장 최근에 퇴임합니다. Josh Achiam은 불과 나흘 전에 사임했습니다.
Meta는 자동 옵트인에 대한 SAG-AFTRA 및 할리우드 반발 이후 Instagram에서 Muse AI 이미지 기능을 가져옵니다.
Meta는 SAG-AFTRA와 CAA가 사용자 사진에 대한 자동 선택 기능을 비난한 후 '표시를 놓쳤다'고 인정하면서 출시 불과 며칠 만에 Instagram에서 Muse Image AI 기능을 제거했습니다.
Google은 조용히 사용자를 AI 교육에 참여시켰습니다. 수집되는 항목과 수신 거부 방법은 다음과 같습니다.
이제 Google 개인 정보 보호 변경 사항은 귀하가 선택하지 않는 한 AI 모델을 교육하기 위해 이미지, 파일 및 오디오를 저장합니다. 검색 서비스 기록에서 다루는 내용과 이를 비활성화하는 방법은 다음과 같습니다.
영국의 이베트 쿠퍼, 세계가 행동하기 전에 'AI 히로시마'를 기다릴 수 없다고 경고
이베트 쿠퍼 외무장관은 인공지능이 지난 10년간 가장 큰 안보 과제를 안고 있다고 말하면서 미국, 중국 등이 재난이 닥치기 전에 국제 규칙에 합의할 것을 촉구했습니다.
프롬프트 주입 공격으로 AI 에이전트를 속여 암호화폐 결제를 하게 한다고 Zscaler 경고
Zscaler 연구원들은 자율 AI 에이전트를 조작하여 암호화폐 결제를 하고 가짜 DeFi 사이트를 신뢰하도록 간접 프롬프트 주입과 SEO 중독을 사용하는 두 가지 캠페인을 발견했습니다.
AI 에이전트가 사람의 도움 없이 랜섬웨어 공격을 수행하는 것으로 Sysdig 연구원이 밝혀냈습니다.
대규모 언어 모델이 전체 랜섬웨어 체인을 자체적으로 실행하여 Langflow 결함을 악용하여 침입하여 자격 증명을 훔치고 데이터베이스를 암호화했다고 Sysdig가 보고했습니다.
Meta 및 OpenAI가 Mercor 데이터 침해로 적발되어 LiteLLM 공급망에 문제가 발생했습니다.
오픈 소스 LiteLLM 도구에 대한 자격 증명 수집 공격으로 인해 Mercor 데이터가 노출되어 Meta가 작업을 중단하고 AI 공급망에 대한 어려운 질문이 제기되었습니다.
스타트업, 중국 스파이 활동과 연관시키는 AI 환각 보고서에 대해 Palo Alto Networks의 Koi Security를 고소
미국의 한 스타트업이 AI 환각에 의한 위협 보고서가 중국 스파이 활동과 허위로 연결되어 트래픽을 파괴한 후 Palo Alto Networks의 Koi Security를 고소했습니다.
UN 패널, 보호 조치가 기술에 뒤처져 있어 AI 발전이 치명적인 위험을 초래할 수 있다고 경고
유엔 과학 패널은 확인되지 않은 AI 개발이 규제 기관을 앞지르고 있으며, 남반구가 AI 거버넌스에서 제외됨에 따라 치명적인 위험이 증가하고 있다고 경고합니다.
아이비리그 역사상 최대 규모의 AI 부정행위 스캔들로 브라운 대학교 타격
브라운 경제학 교수는 최소 50명의 학생이 ChatGPT를 사용하여 집에서 치르는 시험에서 부정 행위를 함으로써 명문 대학이 억제하기 위해 고군분투하고 있는 학업 정직성 위기를 폭로했다는 사실을 발견했습니다.
캘리포니아 운전자, AI 가스 가격 담합에 대해 세븐일레븐, 서클 K, BP 고소
캘리포니아 집단 소송에서는 7-Eleven, Circle K, BP, Marathon, Walmart 등이 Kalibrate의 AI 가격 책정 도구를 사용하여 1,700개 주유소에서 불법적으로 연료 가격을 조정했다고 비난했습니다.
교황 레오가 빅테크를 압박하자 바티칸 AI위원회, 첫 회의 개최
교황 레오 14세의 인공 지능에 관한 부서간 위원회는 전쟁에서의 AI 위험에 대한 42,300 단어의 회칙 경고 이후 처음으로 회의를 열었습니다.
대부분의 주요 AI 모델은 좌파 성향, 새로운 정치적 편견 연구 결과 — Grok 제외
새로운 분석에서는 웹 검색을 비활성화한 상태에서 수천 개의 정치적 질문에 대해 6개의 주요 AI 모델을 테스트했습니다. 6개 중 4개는 왼쪽으로 기울었고 Grok은 가장 오른쪽에 앉았고 Gemini는 중앙에 가장 가깝게 앉았습니다.
Hasbro는 Peppa Pig 아동 성우에게 AI 음성 권리 조항에 서명하도록 요청한 후 반발에 직면했습니다.
Hasbro가 Peppa Pig의 아역 성우들에게 AI 사용을 위한 목소리 서명을 요청한 후 거의 1,000명의 배우와 에이전트가 공개 서한에 서명하여 영국 업계의 소란을 불러일으켰습니다.
Anthropic, 알리바바가 대규모 25,000개 계정 캠페인에서 클로드를 불법적으로 증류했다고 비난
Anthropic은 6월 10일자 서한에서 Alibaba가 Claude의 능력을 증류하기 위해 최대 25,000개의 사기 계정을 사용하여 ' 뻔뻔스러운' 캠페인을 벌였다고 미국 상원 의원에게 말했습니다.
구테헤스 유엔 사무총장, AI 기업들에게 환경 비용에 대해 '청정'하라고 지시
안토니오 구테헤스 유엔 사무총장은 AI 환경 투명성 이니셔티브(AI Environmental Transparency Initiative)를 시작하여 개발자들에게 2030년까지 데이터 센터 에너지와 물 사용을 공개하고 청정 에너지를 약속할 것을 촉구했습니다.
SZA는 AI 음악 모델을 교육한 후 자신의 노래 238곡을 학습한 후 Suno를 폭파했습니다.
그래미상 수상자 SZA는 Suno가 미공개 트랙을 포함해 자신의 노래 238곡에 대해 AI 음악 모델을 교육했으며 이러한 관행이 '역겹다'고 말하고 흑인 아티스트를 착취한다고 경고했다고 밝혔습니다.
AI가 우리의 기술을 망치고 있습니까? 자연은 광범위한 탈숙련화의 초기 증거를 보고합니다
Nature 조사에서는 AI 의존이 의사와 소프트웨어 엔지니어의 능력을 저하시키고 AI 지원 없이는 탐지율과 문제 해결 속도가 떨어지는 것으로 나타났습니다.