アルゴリズムが私たちを過激主義者にするのを止める方法
社会に対して適用されるアルゴリズムは人間社会のなかに内在するバイアスを強化する可能性がある。マシンが行う最適化の目的は、利益の最大化にほかならず、そのフィードバックループが社会を狂ったものにするリスクがある。
人工知能（AI）の研究者であるロバート・エリオット・スミスは、コンピュータとそれを動かすアルゴリズムに対する私たちの盲信は間違っていると言います。AIに携わってきた30年の経験をもとにした著書 "Rage Inside the Machine" は、今日のテクノロジーがいかに我々が評価するよりも非道徳的でなく、偏見に満ちたものであるかを示すために、読者をコンピュータの歴史をさかのぼって説明してくれます。
シリコンウェハーの上では、コンピュータはただの大きな数値計算機です。このため、コンピュータは人間とは対照的に、偏りがあるはずのない合理的な機械であるという暗黙の思い込みが生まれてきました。しかし、これは間違いだとスミスは言います。今日のアルゴリズムを生み出した理論と発見は数世紀前にさかのぼり、その時代の産物であり、この歴史的背景は現代の議論ではしばしば無視されています。したがって、"Rage Inside the Machine" の大部分は、歴史を旅しているようなものです。
最初の歴史的な出来事は、1290年にさかのぼります。キリスト教の学者ラモン・リュルが、キリスト教が唯一の真の信仰であるという反論の余地のない証拠を与える機械装置を作ろうとしたときのことです。これは今ではおかしな話に聞こえるかもしれませんが、それは彼が数学のサブディシプリンである組合せ論について書くきっかけとなり、何世紀にもわたって学者や哲学者に影響を与えました。
組合せ論とは、簡単に言えば、与えられた数の部品を使って、どれだけ多くの組み合わせが可能かを研究することである。それが現実について明らかにしてくれるのは、非常に複雑な問題）は、実際にはありふれていることである。巡回セールスマン問題は、可能な解の数が急速に膨らむ問題の最もよく知られた例でしょう。 このように、アルゴリズムは答えを提供するために、実世界のプロセスを単純化し、その性質上、還元主義的（多様で複雑な事象は単一の基本的要素に還元して説明できるとする考え方）なものとなっています。
そのことをしっかりと念頭に置いて、スミスは方程式およびベン図への時折の探りで、AIを支えるさまざまな面の歴史的な前兆を見るために進む。彼はこうして複雑なデータを分析するために確率論の背景の歴史を論じる。そして彼は自然選択による進化のダーウィンの理論が急速に充当され、社会的な文脈に適用された方法を示す。進化論は、フリードリヒ・ガウスのベルカーブ（正規分布）の概念と組み合わせることで、統計的な外れ値を排除することで人類の向上を目指した優生学の実践の正当化として使用された、スミスは論じます。
今日でも私たちと一緒にいる「社会ダーウィニズム」のこの形式から出てきた最も悪名高いツールの一つは、知能指数（IQ）テストです。これは何十年もの間、人種差別や性差別を支持するために使用されてきました。あまり知られていないのは、他の統計ツールは、優生学と精神病院の両方にリンクして、同様にあまり塩漬けの起源を持っていたということです。
他の重要な人物は、アラン・チューリング、クロード・シャノン、ノーム・チョムスキーである。チューリングと彼にちなんで名付けられたテストは、脳は単なるコンピュータであるという考えを生み出しました。シャノンの情報理論は、今日のすべての電子通信の根底にあります。そして、チョムスキーは人間の言語、特にその構文を研究しており、彼の貢献は、人間の言語をすべての機微で本当に理解しようとするアルゴリズムの現在の闘いに今でも関連している。皮肉なことに、AIに関する多くの一般の議論は混乱しており、結果的には、計算現象を擬人化する矛盾したものになっています。GoogleのAlphaGoプログラムは、囲碁を打つときに次の手を本当に「直感的」に決めるのか、とスミスは尋ねています。
スミスが繰り返し行うメッセージは、私たちがアルゴリズムに組み込んだ仮定や単純化は、歴史的な偏見に縛られている、ということです。容赦のない最適化器としてのその性質上、アルゴリズムはこれらを強化し、人種差別主義者や女嫌いのAIが現れ、そのバイアスを人間社会にフィードバックします。
シリコンバレーは、AIが人間の知性を食いつぶす「シンギュラリティ」の夢であふれているが、スミスは、コンピュータがより多く、強力になり、接続されるようになっただけで、あまり変わったことはないと主張している。スミスは、彼が科学主義、計算、および商業主義の不浄な三位一体と呼ぶものにはるかに差し迫った問題を見ている。私たちは、フェイスブックのような大企業が採用した強力なアルゴリズムを知らず知らずのうちに信頼しており、それは私たちの日常生活の隅々まで浸透している。そして、彼らの目的はただ一つ、利益を最大化することであることを忘れがちである。そしてそれは、ロボットの黙示録という悪夢のようなビジョンよりも、人類にとってはるかに危険なことだとスミスは主張している。
参照文献
- Robert Elliott Smith. ”Rage Inside the Machine, The Prejudice of Algorithms, and How to Stop the Internet Making Bigots of Us All" Bloomsbury Business. June 2019.
- Ray Jiang, Silvia Chiappa, Tor Lattimore, Andras Gyorgy, Pushmeet Kohli. Degenerate Feedback Loops in Recommender Systems. Proceedings of AAAI/ACM Conference on AI, Ethics, and Society, Honolulu, HI, USA, January 27-28, 2019 (AIES '19).
Photo by Noah Buscher on Unsplash
