アルゴリズムが私たちを過激主義者にするのを止める方法

社会に対して適用されるアルゴリズムは人間社会のなかに内在するバイアスを強化する可能性がある。マシンが行う最適化の目的は、利益の最大化にほかならず、そのフィードバックループが社会を狂ったものにするリスクがある。

アルゴリズムが私たちを過激主義者にするのを止める方法

人工知能(AI)の研究者であるロバート・エリオット・スミスは、コンピュータとそれを動かすアルゴリズムに対する私たちの盲信は間違っていると言います。AIに携わってきた30年の経験をもとにした著書 "Rage Inside the Machine" は、今日のテクノロジーがいかに我々が評価するよりも非道徳的でなく、偏見に満ちたものであるかを示すために、読者をコンピュータの歴史をさかのぼって説明してくれます。

シリコンウェハーの上では、コンピュータはただの大きな数値計算機です。このため、コンピュータは人間とは対照的に、偏りがあるはずのない合理的な機械であるという暗黙の思い込みが生まれてきました。しかし、これは間違いだとスミスは言います。今日のアルゴリズムを生み出した理論と発見は数世紀前にさかのぼり、その時代の産物であり、この歴史的背景は現代の議論ではしばしば無視されています。したがって、"Rage Inside the Machine" の大部分は、歴史を旅しているようなものです。

最初の歴史的な出来事は、1290年にさかのぼります。キリスト教の学者ラモン・リュルが、キリスト教が唯一の真の信仰であるという反論の余地のない証拠を与える機械装置を作ろうとしたときのことです。これは今ではおかしな話に聞こえるかもしれませんが、それは彼が数学のサブディシプリンである組合せ論について書くきっかけとなり、何世紀にもわたって学者や哲学者に影響を与えました。

組合せ論とは、簡単に言えば、与えられた数の部品を使って、どれだけ多くの組み合わせが可能かを研究することである。それが現実について明らかにしてくれるのは、非常に複雑な問題)は、実際にはありふれていることである。巡回セールスマン問題は、可能な解の数が急速に膨らむ問題の最もよく知られた例でしょう。 このように、アルゴリズムは答えを提供するために、実世界のプロセスを単純化し、その性質上、還元主義的(多様で複雑な事象は単一の基本的要素に還元して説明できるとする考え方)なものとなっています。

そのことをしっかりと念頭に置いて、スミスは方程式およびベン図への時折の探りで、AIを支えるさまざまな面の歴史的な前兆を見るために進む。彼はこうして複雑なデータを分析するために確率論の背景の歴史を論じる。そして彼は自然選択による進化のダーウィンの理論が急速に充当され、社会的な文脈に適用された方法を示す。進化論は、フリードリヒ・ガウスのベルカーブ(正規分布)の概念と組み合わせることで、統計的な外れ値を排除することで人類の向上を目指した優生学の実践の正当化として使用された、スミスは論じます。

今日でも私たちと一緒にいる「社会ダーウィニズム」のこの形式から出てきた最も悪名高いツールの一つは、知能指数(IQ)テストです。これは何十年もの間、人種差別や性差別を支持するために使用されてきました。あまり知られていないのは、他の統計ツールは、優生学と精神病院の両方にリンクして、同様にあまり塩漬けの起源を持っていたということです。

他の重要な人物は、アラン・チューリング、クロード・シャノン、ノーム・チョムスキーである。チューリングと彼にちなんで名付けられたテストは、脳は単なるコンピュータであるという考えを生み出しました。シャノンの情報理論は、今日のすべての電子通信の根底にあります。そして、チョムスキーは人間の言語、特にその構文を研究しており、彼の貢献は、人間の言語をすべての機微で本当に理解しようとするアルゴリズムの現在の闘いに今でも関連している。皮肉なことに、AIに関する多くの一般の議論は混乱しており、結果的には、計算現象を擬人化する矛盾したものになっています。GoogleのAlphaGoプログラムは、囲碁を打つときに次の手を本当に「直感的」に決めるのか、とスミスは尋ねています。

スミスが繰り返し行うメッセージは、私たちがアルゴリズムに組み込んだ仮定や単純化は、歴史的な偏見に縛られている、ということです。容赦のない最適化器としてのその性質上、アルゴリズムはこれらを強化し、人種差別主義者や女嫌いのAIが現れ、そのバイアスを人間社会にフィードバックします。

シリコンバレーは、AIが人間の知性を食いつぶす「シンギュラリティ」の夢であふれているが、スミスは、コンピュータがより多く、強力になり、接続されるようになっただけで、あまり変わったことはないと主張している。スミスは、彼が科学主義、計算、および商業主義の不浄な三位一体と呼ぶものにはるかに差し迫った問題を見ている。私たちは、フェイスブックのような大企業が採用した強力なアルゴリズムを知らず知らずのうちに信頼しており、それは私たちの日常生活の隅々まで浸透している。そして、彼らの目的はただ一つ、利益を最大化することであることを忘れがちである。そしてそれは、ロボットの黙示録という悪夢のようなビジョンよりも、人類にとってはるかに危険なことだとスミスは主張している。

参照文献

Photo by Noah Buscher on Unsplash

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)