ML 与信審査アルゴリズムの改善要求を飲んでも融資は得られない ハーバード大学とマイクロソフトの研究者による最新研究では、リコース生成アルゴリズムが結果を改善しないという強い証拠が見つかった。それは、銀行や金融機関などの利害関係者がモデルを再教育して更新したり、データの新しいパターンに適応するためにフレームワークを使用したりすると、アルゴリズムによって生成されたリコースが無効になる傾向があるからだ。
AI Ethics Google AI研究者ら、機械学習のデータセットには文化の変化が必要と主張 機械学習コミュニティ、特にコンピュータビジョンと言語処理の分野では、データセットの収集と利用において深刻な文化の問題を抱えている、と今月初めに発表された、Google ResearchのリサーチサイエンティストEmily Dentonらが共著した論文は主張している。
AI Ethics GoogleのAI倫理研究者解雇は「不都合な真実」を隠蔽したいがためか？ GoogleがAI倫理学者Timnit Gebruを解雇したとされる係争で、Gebruらが執筆した大規模言語モデルのリスクを指摘する論文がその発端となったと彼女は主張している。論文はモデルが適用されているGoogleの検索やクラウド製品、また、Transformer、BERT等のAI研究チームの主要な業績に疑問を投げかけるものであり、Googleがビジネス上の利益を倫理に対して優先したかという疑問に回答しないといけない。
AI Ethics Google AI倫理チームの共同リーダー、AIのバイアスを強調する論文を投稿したため解雇されたと主張 有名なAI倫理研究者の一人であり、GoogleのAI倫理チームの共同リーダーでもあるティムニット・ゲブル（Timnit Gebru）は、GoogleのAIのバイアスを強調する論文を執筆したせいで解雇されたと主張した。Google AI側は辞意を受理したと反論しており、双方の主張が食い違っている。
AI Ethics 英Uber運転手が「AIによる解雇」を違法として提訴 英国のUberの運転手を代表する労働組合が、Uberを相手取って2度目の提訴を行った。今回の提訴、Uberの「ロボットによる解雇」行為が、自動化された意思決定から個人を保護することを求めるEU一般データ保護規則（GDPR）の第22条に違反していると主張している。
Computer Vision 物議を醸すピーター・ティール出資の顔認識システム新興企業「Clearview AI」 米国の主要な移民法執行機関である司法省、ベストバイやメイシーズなどの小売業者、アラブ首長国連邦の政府系ファンドは、ソーシャルメディアやウェブ上の数十億枚の写真をスクレイピングしてデータベース化し、物議を醸している顔認識スタートアップClearview AIの顧客として世界中の数千の政府機関や民間企業の中にリストアップされている。
ML 「暴力性検知」のロシア製顔認識監視システムが圧政に利用される恐れ ロシアの広範囲なリアルタイム顔認識監視システムのメーカーであるNTechLabは、「攻撃性検知」と「暴力性検知」の機能を2021年から展開する予定だ。
AI Ethics 物理学者が「AIの公平性」に挑み始めた 物理学者は、AIの理解と制御において重要な役割を果たす機会を得ている。物理学の研究では、アルゴリズムの偏りや解釈可能性の慎重な分析が必要となることが多く、これはAIシステムの公平性を向上させるための重要な方法だ。
AI Ethics 生体認証による市民監視は不可避 「バイオメトリクスの規制」と題したAI倫理研究機関「AI Now」の新しい報告書では、「バイオメトリクスの規制。グローバルなアプローチと緊急の質問」と題された新しい報告書の中で、AI Now Instituteは、規制擁護派がバイオメトリクスの監視状態は避けられないと考え始めていると述べています。
AI Ethics Google、AI倫理のコンサルティングを提供へ グーグルは年末までに、新たなAI倫理サービスを開始する予定だ。最初は、グーグルは、コンピュータビジョンシステムにおける人種的偏見の発見、またはAIプロジェクトを管理する倫理的なガイドラインの開発などのタスクについて、コンサルティングを提供する予定だ。
Fake News GPT-3生成のブログ、ハッカーニュースで1位に カルフォルニア大学バークリー校の大学生のLiam Porrが言語生成AIツール「GPT-3」を使って偽のブログ記事を作成したところ、ハッカーニュースで1位になった。Porrは、GPT-3によって生成されたコンテンツが人間によって書かれたものだと信じ込ませることができることを実証した。
AI Ethics 言語モデルは倫理を学習できるか？ モデルの倫理的な拙さを強調するための努力として、マイクロソフト、カリフォルニア大学バークレー校、コロンビア大学、シカゴ大学の研究者が、言語モデルの道徳的概念の知識を評価する論文を共著した。彼らが考案したベンチマーク（ETHICSと呼ばれる）は、人間の価値観に沿ったよりAIへの足がかりになると主張している。
AI Ethics 米陸軍が兵士の意図を汲む会話型AIを開発 米陸軍の研究部門は、兵士が特定のコマンドを使うのではなく、自然な会話をすることで小型ロボット車に命令を与えることができるシステムを開発している。ロボットは兵士の意図を理解し、与えられたタスクを完了させることができるようになるという。システムは、地域の偵察や捜索救助に使われるだろう。
AI Ethics 研究者が顔の表情のデータセットにバイアスがある証拠を発見 研究者らは、幸福、怒り、驚きなどの表現を検出するためにAIシステムを訓練するためによく使用されるデータセットが、特定の人口集団に対して偏っていると主張している。ケンブリッジ大学と中東工科大学の共著者は、2つのオープンソースのデータセットでバイアス（偏り）の証拠を見つけました。
Computer Vision MITの研究者が ImageNet データセットに「系統的な」欠点を発見 MITの研究者は、よく知られているImageNetデータセットには「系統的なアノテーションの問題」があり、ベンチマークデータセットとして使用した場合には、根拠となる真実や直接観測との間にずれが生じると結論付けています。
ML インペリアル・カレッジ・ロンドンの研究者ら、精度とプライバシーを両立させる音声解析フレームワークを提案 インペリアル・カレッジ・ロンドンの研究者たちは、感情、性別、健康状態などのセンシティブな属性を除去しながら、音声認識や識別などのアプリケーションをサポートする音声分析手法を開発したと主張しています。このフレームワークは、音声データとプライバシー設定を補助情報として受け取り、その設定を使用して、録音された音声から抽出される可能性のある機密性の高い属性をフィルタリングします。
AI Ethics 名前から性別を識別するAIサービスが炎上 名前、メールアドレス、ユーザー名をAIの助けを借りて分析することで、誰かの性別を特定することを約束した新サービス、Genderifyが混乱を引き起こしている。同社は先週、Product Huntでローンチしたが、ユーザーがそのアルゴリズムに偏りや不正確さを発見したことから、ソーシャルメディア上で多くの注目を集めた。
AI Ethics バイアスを取り除いた「より公平な」製品推薦アルゴリズム ラトガース大学、カリフォルニア大学、ワシントン大学の研究者たちは、製品推薦アルゴリズムにおける「不公平問題」として特徴づけられているものを緩和するアプローチを提案した。彼らのアルゴリズムは、最先端の実世界のデータセット上で高品質の説明可能な推奨を提供し、いくつかの重要な側面で推奨の不公平性を軽減すると述べている。
ML 協調フィルタリングの推薦アルゴリズムにバイアスを発見 アイントホーフェン工科大学などの研究者らは、ストリーミングで映画を紹介するような推薦システムにバイアスがある証拠を発見した。ユーザーがレコメンデーションに基づいて行動し、その行動がシステムに追加されると、バイアスが増幅され、集合的な多様性の低下、好みの表現の変化、ユーザー体験の均質化などの別の問題につながる。
AI Ethics 活況を呈する中国の医療AI市場に隠された課題 問診において人間の医師を上回る可能性を示すなど、中国の医療AIシステム開発は活況を呈している。医療業界は積極的な政府資本の投入と雨後の筍のような新興企業の参入という中国的状況の最中だ。AI倫理やデータ保護に関する規制が未整備で成長の機運に水を指しかねない。
AI Ethics デトロイト警察の顔認識システムが二度目の黒人男性の誤認逮捕を招く デトロイト警察が使用した顔認識ソフトによって窃盗犯と間違えられた男が起訴された。デトロイトに住むマイケル・オリバーは、昨年、犯してもいない犯罪で逮捕された。彼は車の窓に手を伸ばし、携帯電話をひったくり破壊したと告訴された。
AI Ethics 全米の警察が"誤ったデータ"から犯罪予測AIを訓練していた 犯罪予測アルゴリズムは、アメリカ全土の都市で一般的になってきている。大手ベンダーの製品である「PredPol」は不釣り合いなほどに、人種的マイノリティ、英語を母国語としない人、LGBTQの人を標的にし、女性に対する暴力への対処を怠っていた。汚れたデータによるAIのトレーニングが誤った思想を警察に植え付けていた。
AI Ethics マイクロソフト、OpenAI、OECDがAI倫理原則をどう実践しているか 5月上旬に発表されたUC Berkeley Center for Long-Terminal Cybersecurity (CLTC)のケーススタディでは、組織がAIの倫理原則をどのように実践しているかを検証している。倫理原則はしばしば漠然とした言い回しのルールだが、原則を実践に転換することが急務となっている。
AI Ethics DeepMind研究者が"反植民地的AI"の概念を提唱 グーグルのDeepMindとオックスフォード大学の研究者たちは、AIの実践者たちが脱植民地主義に基づいて業界を改革し、アルゴリズムによる更なる搾取や抑圧を回避することを推奨する。「反植民地的AI」の概念は、AIによって影響を受けた人々からのフィードバックを含めることの重要性を強調する研究の増加に基づくものだ。
AI Ethics 欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした 欠陥のある顔認識システムが黒人男性の誤認逮捕を引き起こした。デトロイト警察の顔認識システムの運用方法が、規定のルールから外れており、「一致」したことだけを根拠に誤った人物を逮捕・起訴してしまった。米国での顔認識の社会実装のモラトリアムを決定づける出来事のひとつとなった。
