顔から犯罪性を「予測」するアルゴリズムが非難轟々

ハリスバーグ科学技術大学の教授と大学院生は顔を基に人の犯罪性を「予測」するアルゴリズムを提案し非難轟々となった。彼らのような「人種科学」を行う試みは、機械学習の分野で散見されており、社会への影響は、研究の際の必要不可欠なチェックポイントとなりそうだ。

顔から犯罪性を「予測」するアルゴリズムが非難轟々

要点

ハリスバーグ科学技術大学の教授と大学院生は顔を基に人の犯罪性を「予測」するアルゴリズムを提案し非難轟々となった。彼らのような「人種科学」を行う試みは、機械学習の分野で散見されており、社会への影響は、研究の際の必要不可欠なチェックポイントとなりそうだ。

「誰かが犯罪者になるかどうかを予測できる顔認識プログラム」

5月上旬、ハリスバーグ科学技術大学からのプレスリリースでは、2人の教授と大学院生が、誰かが犯罪者になるかどうかを予測できる顔認識プログラムを開発したと主張していた。リリースによると、この論文は大手学術出版社である『Springer Nature』誌に掲載されるという。

論文「A Deep Neural Network Model to Predict Criminality Using Image Processing」は、そのアルゴリズムは、「80%の精度と人種的な偏りをともなわずして、彼らの顔の写真だけに基づいて、誰かが犯罪者であるかどうかを予測することができる」と主張した。プレスリリースは、大学のウェブサイトから削除された。

1,000人以上の機械学習研究者、社会学者、歴史家、倫理学者がこの論文を非難する公開書簡を発表し、Springer Natureはツイッターでこの研究を出版しないことを確認した。

しかし、研究者たちは問題はそれだけではないと言う。書簡の署名者は、総称して「重要技術連合(CCT)」と名乗り、この論文の主張は「根拠のない科学的な前提、研究、方法に基づいており、それは長年に渡って否定されてきた」と述べている。書簡は、人種的な偏見なしに犯罪性を予測することは不可能であると主張している。なぜなら、「犯罪性」というカテゴリー自体が人種的に偏っているからだ。

データサイエンスや機械学習の進歩により、近年では犯罪や犯罪性を予測することを目的としたアルゴリズムが数多く登場している。しかし、それらのアルゴリズムを構築するために使用されるデータに偏りがあれば、アルゴリズムの予測も偏ってしまう。米国では人種に偏った取り締まりが行われているため、犯罪性をモデル化した予測アルゴリズムは、刑事司法制度にすでに反映されているバイアスを再現するだけである、と書簡は主張している。

このような偏見を顔認識にマッピングすることは、頭の大きさや鼻の幅などの測定値で人種間の違いを識別する技術を使って、その人種の生来の知性、徳、犯罪性を証明すると称していた何世紀も前の忌まわしい「人種科学」を思い起こさせるものだった。

人種科学はすでに論破されたが、機械学習を使って生得的な属性を「予測」したり、診断を提供したりする論文は、微妙ではあるが憂慮すべき復活を遂げつつある。

「人種科学」を唱えたチェーザレ・ロンブローゾ。ロンブローゾが根拠とした論理はほぼ現代科学が否定している。(CC BY 4.0)

「人工知能が誰かの顔をもとにゲイかストレートかを見分ける」

2016年、上海交通大学の研究者たちは、自分たちのアルゴリズムが顔の分析を使って犯罪性を予測できると主張した。スタンフォード大学とグーグルのエンジニアは、このアプローチを、誰かの頭の形から人格属性を推測する、優生論者の間で人気のある論破された人種科学である新しい「人相学」と呼び、論文の主張に反論した。

2017年、スタンフォード大学の研究者の2人組は、人工知能が誰かの顔をもとにゲイかストレートかを見分けることができると主張した。LGBTQ団体はこの研究を非難し、自動化されたセクシュアリティ識別の概念が同性愛を犯罪化している国ではどれほど有害なものになり得るかを指摘した。2019年、イギリスのキール大学の研究者たちは、子供たちのYouTubeの動画で訓練されたアルゴリズムが自閉症を予測できると主張した。今年の初めには、『Journal of Big Data』誌に掲載された論文は、「顔の画像から性格の特徴を推測する」ことを試みただけでなく、チェーザレ・ロンブローゾを引用し、犯罪性は遺伝するという考え方を支持した。

これらの論文はそれぞれ反発を巻き起こしたが、どれも新製品や医療ツールには結びつかなかった。しかし、ハリスバーグ科学技術大学の論文の著者たちは、そのアルゴリズムは法執行機関が使用するために特別に設計されたと主張した。

「犯罪は現代社会における最も顕著な問題の一つである」と、ハリスバーグ科学技術大学の博士課程の学生で元ニューヨーク警察の警察官であるジョナサン・コーンは、削除されたプレスリリースからの引用で述べている。「顔の画像から[人物]の犯罪性を識別するなどの認知作業を行うことができる機械が開発されれば、法執行機関や他の諜報機関が指定された地域での犯罪を未然に防ぐ上で大きなアドバンテージを得ることが可能になる」。

2018年、ACLUは、Amazonの顔認識製品「Rekognition」が議員を犯罪者と誤認し、白人よりも黒人の役人を誤認することが多かったことを明らかにした。アマゾンは最近、この製品を警察に販売することを1年間のモラトリアムと発表した。

Read more

米国のEV革命は失速?[英エコノミスト]

米国のEV革命は失速?[英エコノミスト]

米国人は自動車が大好きだ。バッテリーで走らない限りは。ピュー・リサーチ・センターが7月に発表した世論調査によると、電気自動車(EV)の購入を検討する米国人は5分の2以下だった。充電網が絶えず拡大し、選べるEVの車種がますます増えているにもかかわらず、このシェアは前年をわずかに下回っている。 この言葉は、相対的な無策に裏打ちされている。2023年第3四半期には、バッテリー電気自動車(BEV)は全自動車販売台数の8%を占めていた。今年これまでに米国で販売されたEV(ハイブリッド車を除く)は100万台に満たず、自動車大国でない欧州の半分強である(図表参照)。中国のドライバーはその4倍近くを購入している。

By エコノミスト(英国)
労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

労働者の黄金時代:雇用はどう変化しているか[英エコノミスト]

2010年代半ばは労働者にとって最悪の時代だったという点では、ほぼ誰もが同意している。ロンドン・スクール・オブ・エコノミクスの人類学者であるデイヴィッド・グレーバーは、「ブルシット・ジョブ(どうでもいい仕事)」という言葉を作り、無目的な仕事が蔓延していると主張した。2007年から2009年にかけての世界金融危機からの回復には時間がかかり、豊かな国々で構成されるOECDクラブでは、労働人口の約7%が完全に仕事を失っていた。賃金の伸びは弱く、所得格差はとどまるところを知らない。 状況はどう変わったか。富裕国の世界では今、労働者は黄金時代を迎えている。社会が高齢化するにつれて、労働はより希少になり、より良い報酬が得られるようになっている。政府は大きな支出を行い、経済を活性化させ、賃上げ要求を後押ししている。一方、人工知能(AI)は労働者、特に熟練度の低い労働者の生産性を向上させており、これも賃金上昇につながる可能性がある。例えば、労働力が不足しているところでは、先端技術の利用は賃金を上昇させる可能性が高い。その結果、労働市場の仕組みが一変する。 その理由を理解するために、暗

By エコノミスト(英国)
中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

中国は地球を救うのか、それとも破壊するのか?[英エコノミスト]

脳腫瘍で余命いくばくもないトゥー・チャンワンは、最後の言葉を残した。その中国の気象学者は、気候が温暖化していることに気づいていた。1961年、彼は共産党の機関紙『人民日報』で、人類の生命を維持するための条件が変化する可能性があると警告した。 しかし彼は、温暖化は太陽活動のサイクルの一部であり、いつかは逆転するだろうと考えていた。トゥーは、化石燃料の燃焼が大気中に炭素を排出し、気候変動を引き起こしているとは考えなかった。彼の論文の数ページ前の『人民日報』のその号には、ニヤリと笑う炭鉱労働者の写真が掲載されていた。中国は欧米に経済的に追いつくため、工業化を急いでいた。 今日、中国は工業大国であり、世界の製造業の4分の1以上を擁する。しかし、その進歩の代償として排出量が増加している。過去30年間、中国はどの国よりも多くの二酸化炭素を大気中に排出してきた(図表1参照)。調査会社のロディウム・グループによれば、中国は毎年世界の温室効果ガスの4分の1以上を排出している。これは、2位の米国の約2倍である(ただし、一人当たりで見ると米国の方がまだひどい)。

By エコノミスト(英国)