AI倫理

AI倫理

米陸軍が兵士の意図を汲む会話型AIを開発

米陸軍の研究部門は、兵士が特定のコマンドを使うのではなく、自然な会話をすることで小型ロボット車に命令を与えることができるシステムを開発している。ロボットは兵士の意図を理解し、与えられたタスクを完了させることができるようになるという。システムは、地域の偵察や捜索救助に使われるだろう。

AI倫理

研究者が顔の表情のデータセットにバイアスがある証拠を発見

研究者らは、幸福、怒り、驚きなどの表現を検出するためにAIシステムを訓練するためによく使用されるデータセットが、特定の人口集団に対して偏っていると主張している。ケンブリッジ大学と中東工科大学の共著者は、2つのオープンソースのデータセットでバイアス（偏り）の証拠を見つけました。

コンピュータビジョン

MITの研究者が ImageNet データセットに「系統的な」欠点を発見

MITの研究者は、よく知られているImageNetデータセットには「系統的なアノテーションの問題」があり、ベンチマークデータセットとして使用した場合には、根拠となる真実や直接観測との間にずれが生じると結論付けています。

AI

インペリアル・カレッジ・ロンドンの研究者ら、精度とプライバシーを両立させる音声解析フレームワークを提案

インペリアル・カレッジ・ロンドンの研究者たちは、感情、性別、健康状態などのセンシティブな属性を除去しながら、音声認識や識別などのアプリケーションをサポートする音声分析手法を開発したと主張しています。このフレームワークは、音声データとプライバシー設定を補助情報として受け取り、その設定を使用して、録音された音声から抽出される可能性のある機密性の高い属性をフィルタリングします。

AI倫理

名前から性別を識別するAIサービスが炎上

名前、メールアドレス、ユーザー名をAIの助けを借りて分析することで、誰かの性別を特定することを約束した新サービス、Genderifyが混乱を引き起こしている。同社は先週、Product Huntでローンチしたが、ユーザーがそのアルゴリズムに偏りや不正確さを発見したことから、ソーシャルメディア上で多くの注目を集めた。

AI倫理

バイアスを取り除いた「より公平な」製品推薦アルゴリズム

ラトガース大学、カリフォルニア大学、ワシントン大学の研究者たちは、製品推薦アルゴリズムにおける「不公平問題」として特徴づけられているものを緩和するアプローチを提案した。彼らのアルゴリズムは、最先端の実世界のデータセット上で高品質の説明可能な推奨を提供し、いくつかの重要な側面で推奨の不公平性を軽減すると述べている。

AI

協調フィルタリングの推薦アルゴリズムにバイアスを発見

アイントホーフェン工科大学などの研究者らは、ストリーミングで映画を紹介するような推薦システムにバイアスがある証拠を発見した。ユーザーがレコメンデーションに基づいて行動し、その行動がシステムに追加されると、バイアスが増幅され、集合的な多様性の低下、好みの表現の変化、ユーザー体験の均質化などの別の問題につながる。

AI倫理

活況を呈する中国の医療AI市場に隠された課題

問診において人間の医師を上回る可能性を示すなど、中国の医療AIシステム開発は活況を呈している。医療業界は積極的な政府資本の投入と雨後の筍のような新興企業の参入という中国的状況の最中だ。AI倫理やデータ保護に関する規制が未整備で成長の機運に水を指しかねない。

AI倫理

デトロイト警察の顔認識システムが二度目の黒人男性の誤認逮捕を招く

デトロイト警察が使用した顔認識ソフトによって窃盗犯と間違えられた男が起訴された。デトロイトに住むマイケル・オリバーは、昨年、犯してもいない犯罪で逮捕された。彼は車の窓に手を伸ばし、携帯電話をひったくり破壊したと告訴された。

AI倫理

全米の警察が"誤ったデータ"から犯罪予測AIを訓練していた

犯罪予測アルゴリズムは、アメリカ全土の都市で一般的になってきている。大手ベンダーの製品である「PredPol」は不釣り合いなほどに、人種的マイノリティ、英語を母国語としない人、LGBTQの人を標的にし、女性に対する暴力への対処を怠っていた。汚れたデータによるAIのトレーニングが誤った思想を警察に植え付けていた。

AI倫理

マイクロソフト、OpenAI、OECDがAI倫理原則をどう実践しているか

5月上旬に発表されたUC Berkeley Center for Long-Terminal Cybersecurity (CLTC)のケーススタディでは、組織がAIの倫理原則をどのように実践しているかを検証している。倫理原則はしばしば漠然とした言い回しのルールだが、原則を実践に転換することが急務となっている。

AI倫理

DeepMind研究者が"反植民地的AI"の概念を提唱

グーグルのDeepMindとオックスフォード大学の研究者たちは、AIの実践者たちが脱植民地主義に基づいて業界を改革し、アルゴリズムによる更なる搾取や抑圧を回避することを推奨する。「反植民地的AI」の概念は、AIによって影響を受けた人々からのフィードバックを含めることの重要性を強調する研究の増加に基づくものだ。

AI倫理

欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした

欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした。デトロイト警察の顔認識システムの運用方法が、規定のルールから外れており、「一致」したことだけを根拠に誤った人物を逮捕・起訴してしまった。米国での顔認識の社会実装のモラトリアムを決定づける出来事のひとつとなった。

AI倫理

顔から犯罪性を「予測」するアルゴリズムが非難轟々

ハリスバーグ科学技術大学の教授と大学院生は顔を基に人の犯罪性を「予測」するアルゴリズムを提案し非難轟々となった。彼らのような「人種科学」を行う試みは、機械学習の分野で散見されており、社会への影響は、研究の際の必要不可欠なチェックポイントとなりそうだ。

AI倫理

AIを騙すことはそんなに難しくなかった

AI（人工知能）は最近、言語の理解において大きな進歩を遂げているが、とても低いコストでAIを騙す攻撃手法がいくつも見つかっている。言葉を一宇改変することで自然言語処理（NLP）を誤らせたり、少しのピクセルの細工で画像認識を狂わすことができる。機械学習の社会実装が進んでいく中、これらの穴を塞がないといけない。

AI倫理

アルゴリズムが私たちを過激主義者にするのを止める方法

社会に対して適用されるアルゴリズムは人間社会のなかに内在するバイアスを強化する可能性がある。マシンが行う最適化の目的は、利益の最大化にほかならず、そのフィードバックループが社会を狂ったものにするリスクがある。