AI倫理
30 articles
GPT-5.6 で WordPress のゼロデイ RCE が API コスト 25 ドルで見つかることが判明、AI のハッキングに新たな警鐘を鳴らす
Searchlight Cyber の研究者は、OpenAI の GPT-5.6 Sol Ultra を使用して、WordPress の認証前リモート コード実行の欠陥をわずか 25 ドルで発見しました。エクスプロイト ブローカーはそのようなバグに対して最大 50 万ドルを支払います。
ハグフェイスによりデータパイプラインにおける自律型 AI エージェントによる侵害が明らかに
ハギング・フェイス氏は、自律型 AI エージェント システムが本番インフラストラクチャに侵入し、データセット処理パイプラインの欠陥を通じて内部データセットと認証情報が暴露されたと述べた。
ユネスコとLG AI ResearchがAI倫理に関する無料のグローバルコースを開始
ユネスコとLG AI Researchは、CourseraでAI倫理に関する無料のグローバルMOOCを開始し、2021年のユネスコ勧告を開発者、政策立案者、学生向けの10モジュールにわたる実践的なトレーニングに変換しました。
AI によるアドバイスは人々の正確性を 3 倍低くするが、自信を 2 倍にすることが研究で判明
研究者らは、AI アドバイスへのアクセスにより精度が 27% から 9% に低下する一方で、信頼性が 30% から 76% に上昇することを発見しました。 「分からない」と答える意欲は44％から3％に急減した。
サンフランシスコ市、ディープフェイクポルノ法を理由にAppleとGoogleにAI Nudifyアプリの削除を命令
サンフランシスコ市の弁護士は、ディープフェイクポルノ法と大規模な女性と子供への被害を理由に、アップルとグーグルに対し、ストアからAIを無効にするアプリを削除するよう要求した。
メタ社、医療休暇中の労働者を標的としたAI主導のレイオフを主張して従業員26名から訴訟を起こされる
Metaの現従業員と元従業員26人からなるグループは7月14日、同社がAIアルゴリズムを利用して医療休暇や家族休暇中の労働者を差別する一時解雇を実施したとして訴訟を起こした。
Google の新しい検索サービスの歴史では、AI モデルのトレーニングに写真と音声が使用される可能性があります
Google の新しい [検索サービスの履歴] 設定と [メディアの保存] では、検索から写真、音声録音、ファイルを収集して AI モデルをトレーニングできます。ユーザーが知っておくべきことは次のとおりです。
Google の新しい検索サービスの歴史では、AI モデルのトレーニングに写真と音声が使用される可能性があります
Google の新しい [検索サービスの履歴] 設定と [メディアの保存] では、検索から写真、音声録音、ファイルを収集して AI モデルをトレーニングできます。ユーザーが知っておくべきことは次のとおりです。
ISISとその他のテロリストグループはあらゆる主要なAIチャットボットを攻撃計画に使用していることがケンブリッジ調査で明らかに
元ISISメンバーへのインタビューに基づいたケンブリッジの調査では、テログループがChatGPT、Claude、Gemini、その他のAIツールを攻撃計画や兵器開発に悪用していることが明らかになった。
サンフランシスコのデモ参加者が「AI競争の停止」を求めてOpenAI、Anthropic、Google DeepMindで行進
デモ参加者はフロンティアAI競争の停止と安全監視の強化を要求し、サンフランシスコを通って3つの主要なAI研究所の本社まで行進した。
AI データセンターの拡張が気候変動目標を圧迫し、マイクロソフトの二酸化炭素排出量が 25% 急増
Microsoft の最新の持続可能性レポートでは、AI インフラストラクチャによって炭素排出量が 25% 増加し、2030 年のカーボン ネガティブの公約が危うくなっていることが明らかになりました。
OpenAIの安全システム責任者、ヨハネス・ハイデッケ氏が最近のリーダーシップ辞任で辞任
OpenAIの安全システム責任者であるヨハネス・ハイデッケ氏が退職するが、これは安全性リーダーの長期にわたる一連の辞任の最新例となる。ジョシュ・アチアム氏はわずか4日前に辞任した。
OpenAIの安全システム責任者、ヨハネス・ハイデッケ氏が最近のリーダーシップ辞任で辞任
OpenAI's Head of Safety Systems Johannes Heidecke is leaving, the latest in a long string of safety leadership exits. Josh Achiam resigned just four days earlier.
SAG-AFTRAとハリウッドの自動オプトインに対する反発を受け、MetaがInstagramからMuse AI画像機能を削除
Metaは、SAG-AFTRAとCAAがユーザー写真の自動オプトインを非難したことを受けて、サービス開始からわずか数日後にInstagramからMuse Image AI機能を削除し、「的外れだった」と認めた。
Google はユーザーをひそかに AI トレーニングにオプトインしました。収集される内容とオプトアウト方法は次のとおりです
Google のプライバシーに関する変更により、オプトアウトしない限り、AI モデルをトレーニングするために画像、ファイル、音声が保存されるようになりました。ここでは、検索サービスの履歴の内容と、それを無効にする方法について説明します。
英国のイベット・クーパー氏、世界は行動する前に「AIヒロシマ」を待つことはできないと警告
イベット・クーパー外務大臣は、人工知能がこの10年間で最大の安全保障上の課題を引き起こしていると述べ、米国、中国などに対し、災害が起こる前に国際ルールに合意するよう求めている。
プロンプトインジェクション攻撃はAIエージェントをだまして仮想通貨での支払いをさせる、とゼットスケーラーが警告
Zscalerの研究者らは、間接プロンプトインジェクションとSEOポイズニングを利用して、自律型AIエージェントを操作して仮想通貨決済を実行させたり、偽のDeFiサイトを信頼させたりする2つのキャンペーンを発見した。
AI エージェントが人間の助けなしでランサムウェア攻撃を実行、Sysdig 研究者が発見
Sysdig の報告によると、大規模な言語モデルがランサムウェア チェーン全体を独自に実行し、Langflow の欠陥を悪用して侵入し、認証情報を盗み、データベースを暗号化していました。
Meta と OpenAI が Mercor のデータ侵害で捕らえられ、汚染された LiteLLM サプライチェーンから流出
オープンソースの LiteLLM ツールに対する認証情報収集攻撃により Mercor データが漏洩し、Meta は作業を停止することになり、AI サプライ チェーンに関する厳しい疑問が生じました。
新興企業、パロアルトネットワークスのKoiセキュリティを中国スパイ活動と関連付けるAI幻覚報告を巡り訴訟を起こす
AI幻覚脅威報告書が同社を中国のスパイ活動と誤って結び付け、同社のトラフィックを破壊したとして、米国の新興企業がパロアルトネットワークスのKoi Securityを訴えている。
国連パネル、安全対策がテクノロジーに後れをとっているため、AIの進歩は壊滅的なリスクを引き起こす可能性があると警告
国連の科学委員会は、チェックされていないAI開発が規制当局のペースを上回っており、グローバル・サウスがAIガバナンスから除外されることで壊滅的なリスクが高まっていると警告している。
ブラウン大学、アイビーリーグ史上最大規模のAI不正行為スキャンダルに見舞われる
ブラウンの経済学教授は、少なくとも 50 人の学生が ChatGPT を使用して持ち帰り試験で不正行為を行っていたことを発見し、エリート大学が抑制に苦戦している学術的誠実性の危機を暴露しました。
カリフォルニア州の運転手らがAIによるガソリン価格操作をめぐりセブンイレブン、サークルK、BPを提訴
カリフォルニア州の集団訴訟は、セブンイレブン、サークルK、BP、マラソン、ウォルマートなどが、KalibrateのAI価格設定ツールを使用して1,700のステーションで違法に燃料価格を調整したとして告発している。
ローマ法王レオがビッグテックに圧力をかける中、バチカンのAI委員会が初会合を開催
教皇レオ14世の人工知能に関するディカステリア委員会は、戦争での使用を含むAIのリスクについての4万2300語の回勅警告を受けて初めて会合した。
主要な AI モデルのほとんどが左派、新たな政治的偏見研究で判明 - Grok を除く
新しい分析では、Web 検索を無効にして、数千の政治的質問について 6 つの主要な AI モデルをテストしました。 6人中4人は左に傾き、グロクは一番右に座り、ジェミニは中央近くに座った。
ハスブロ社、ペッパピッグの子役声優にAI音声権条項への署名を求め反発に直面
ハスブロ社が『ペッパピッグ』の子役声優たちにAI利用のために声をサインオフするよう求めたと伝えられ、英国の業界騒動を引き起こしたことを受け、1,000人近くの俳優とエージェントが公開書簡に署名した。
Anthropic、大規模な 25,000 アカウントキャンペーンでクロードを違法に蒸留したとしてアリババを告発
アンスロピック氏は6月10日付の書簡で、アリババがクロード氏の能力を搾取するために約2万5000の不正アカウントを利用した「厚かましい」キャンペーンを実施したと米上院議員らに述べた。
グテレス国連事務総長、AI企業に環境コストを「潔白にする」よう指示
アントニオ・グテーレス国連事務総長はAI環境透明性イニシアチブを立ち上げ、開発者に対しデータセンターのエネルギーと水の使用量を公開し、2030年までにクリーンエネルギーに取り組むよう求めた。
SZA、238曲をAI音楽モデルでトレーニングしたことを知り、スノを激怒
グラミー賞受賞者のSZAは、スノが未発表曲を含む238曲についてAI音楽モデルを訓練したと述べ、この行為を「不快」なものと呼び、黒人アーティストを搾取するものだと警告した。
AI は私たちのスキルを台無しにするのか? Nature が広範な非スキル化の初期の証拠を報告
Nature の調査によると、AI への依存により医師やソフトウェア エンジニアの能力が低下しており、AI の支援がないと検出率と問題解決が低下していることが判明しています。