AI倫理
研究者が顔の表情のデータセットにバイアスがある証拠を発見
研究者らは、幸福、怒り、驚きなどの表現を検出するためにAIシステムを訓練するためによく使用されるデータセットが、特定の人口集団に対して偏っていると主張している。ケンブリッジ大学と中東工科大学の共著者は、2つのオープンソースのデータセットでバイアス（偏り）の証拠を見つけました。
AI倫理
人工知能の倫理は、ロボットやその他の人工知能に固有の技術の倫理の一部です。 それは通常、人間が彼らを設計、構築、使用、治療する際の人間の道徳的行動に関する懸念であるロボ倫理と、人工的な道徳的行為者の道徳的行動に関する懸念である機械倫理に分けられます。
コンピュータビジョン
MITの研究者が ImageNet データセットに「系統的な」欠点を発見
MITの研究者は、よく知られているImageNetデータセットには「系統的なアノテーションの問題」があり、ベンチマークデータセットとして使用した場合には、根拠となる真実や直接観測との間にずれが生じると結論付けています。
AI
インペリアル・カレッジ・ロンドンの研究者ら、精度とプライバシーを両立させる音声解析フレームワークを提案
インペリアル・カレッジ・ロンドンの研究者たちは、感情、性別、健康状態などのセンシティブな属性を除去しながら、音声認識や識別などのアプリケーションをサポートする音声分析手法を開発したと主張しています。このフレームワークは、音声データとプライバシー設定を補助情報として受け取り、その設定を使用して、録音された音声から抽出される可能性のある機密性の高い属性をフィルタリングします。
AI倫理
名前から性別を識別するAIサービスが炎上
名前、メールアドレス、ユーザー名をAIの助けを借りて分析することで、誰かの性別を特定することを約束した新サービス、Genderifyが混乱を引き起こしている。同社は先週、Product Huntでローンチしたが、ユーザーがそのアルゴリズムに偏りや不正確さを発見したことから、ソーシャルメディア上で多くの注目を集めた。
AI倫理
バイアスを取り除いた「より公平な」製品推薦アルゴリズム
ラトガース大学、カリフォルニア大学、ワシントン大学の研究者たちは、製品推薦アルゴリズムにおける「不公平問題」として特徴づけられているものを緩和するアプローチを提案した。彼らのアルゴリズムは、最先端の実世界のデータセット上で高品質の説明可能な推奨を提供し、いくつかの重要な側面で推奨の不公平性を軽減すると述べている。
AI
協調フィルタリングの推薦アルゴリズムにバイアスを発見
アイントホーフェン工科大学などの研究者らは、ストリーミングで映画を紹介するような推薦システムにバイアスがある証拠を発見した。ユーザーがレコメンデーションに基づいて行動し、その行動がシステムに追加されると、バイアスが増幅され、集合的な多様性の低下、好みの表現の変化、ユーザー体験の均質化などの別の問題につながる。
AI倫理
活況を呈する中国の医療AI市場に隠された課題
問診において人間の医師を上回る可能性を示すなど、中国の医療AIシステム開発は活況を呈している。医療業界は積極的な政府資本の投入と雨後の筍のような新興企業の参入という中国的状況の最中だ。AI倫理やデータ保護に関する規制が未整備で成長の機運に水を指しかねない。
AI倫理
デトロイト警察の顔認識システムが二度目の黒人男性の誤認逮捕を招く
デトロイト警察が使用した顔認識ソフトによって窃盗犯と間違えられた男が起訴された。デトロイトに住むマイケル・オリバーは、昨年、犯してもいない犯罪で逮捕された。彼は車の窓に手を伸ばし、携帯電話をひったくり破壊したと告訴された。
AI倫理
全米の警察が"誤ったデータ"から犯罪予測AIを訓練していた
犯罪予測アルゴリズムは、アメリカ全土の都市で一般的になってきている。大手ベンダーの製品である「PredPol」は不釣り合いなほどに、人種的マイノリティ、英語を母国語としない人、LGBTQの人を標的にし、女性に対する暴力への対処を怠っていた。汚れたデータによるAIのトレーニングが誤った思想を警察に植え付けていた。
AI倫理
マイクロソフト、OpenAI、OECDがAI倫理原則をどう実践しているか
5月上旬に発表されたUC Berkeley Center for Long-Terminal Cybersecurity (CLTC)のケーススタディでは、組織がAIの倫理原則をどのように実践しているかを検証している。倫理原則はしばしば漠然とした言い回しのルールだが、原則を実践に転換することが急務となっている。
AI倫理
DeepMind研究者が"反植民地的AI"の概念を提唱
グーグルのDeepMindとオックスフォード大学の研究者たちは、AIの実践者たちが脱植民地主義に基づいて業界を改革し、アルゴリズムによる更なる搾取や抑圧を回避することを推奨する。「反植民地的AI」の概念は、AIによって影響を受けた人々からのフィードバックを含めることの重要性を強調する研究の増加に基づくものだ。
AI倫理
欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした
欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした。デトロイト警察の顔認識システムの運用方法が、規定のルールから外れており、「一致」したことだけを根拠に誤った人物を逮捕・起訴してしまった。米国での顔認識の社会実装のモラトリアムを決定づける出来事のひとつとなった。