人類は自律兵器システムを正しく扱えるか 『無人の兵団――AI、ロボット、自律型兵器と未来の戦争』

人工知能、機械学習、およびマシンビジョンの最近の進歩の意味はとても深いものです。軍隊は、知能と自律性のレベルを上げながら、無人偵察機、船、潜水艦、戦車、軍需品、およびロボット部隊を開発し始めました。Paul Scharre（ポール・シャーレ）の『無人の兵団――AI、ロボット、自律型兵器と未来の戦争』はこの問題をめぐる状況を詳らかに説明し、予期される危険性に対して警鐘をならした素晴らしい書籍です。ビル・ゲイツも、本書を2018年のベスト書籍のひとつに挙げています。

人工知能の使用は現状、民間人の死傷者を減らし、より多くの軍隊を危険から守ることに貢献しています。しかし、注意を怠ると、意図しない結果を招く可能性があります。

自律兵器は、民間人の命を救う可能性があります。Scharreは、ロボットの専門家を引用し、「自律兵器は戦争の法則を決して破らないようにプログラムできる」と主張しています。「彼らは復讐を求めません。彼らは怒ったり怖がったりしません。彼らはアルゴリズムのなかに感情を宿しません。必要なときに（敵を）殺すことができ、その後すぐに（敵を）殺すことができます」（筆者抄訳）。

軍事指導者は、主要な技術革新を採用する可能性が高いのと同じ理由で、自律兵器システムの役割を増やしたいと考えています。彼らは、自律兵器システムが戦闘で有利になると予想しています。このようなシステムは、人員であろうと設備であろうと、敵の資産の特定と除去を支援する、と広く信じられています。 「ロボットには、従来の人間が搭乗する車両と比べて戦場で多くの利点があります」とScharreは主張します。無人車両は小さく、軽く、速く、操縦しやすい。彼らは休むことなく長く戦場にとどまることができ、どのような危険をも冒すことができるのです。

現在の軍事調達慣行からの著しい変化の中で、AIと機械学習の重要な進歩のほとんどは、確立された武器業界からではなく、シリコンバレーやマサチューセッツ州ケンブリッジなどのテクノロジーセンターにある新興企業から来ています。

たとえば、本書では言及されていませんが、Googleはペンタゴン（米国防総省）に対し、軍事ドローンへの最先端の人工知能技術を提供する契約を結んでいました。調査報道デジタル出版社のInterceptは、契約の存在が従業員に知れ渡り、約12人のGoogle従業員が抗議で辞任し、数千人が契約の終了を求める請願書に署名した、と報じました。このプロジェクトは軍によって「Project Maven」と命名され、ドローンオペレーターがイスラム国に対する空爆をより的確に標的とするために軍隊の1,100のドローンから集められた膨大な画像データを深層学習を活用した画像認識で解析するためのものでした。

これは、兵器そのものではなく兵器システムの革命です。機械学習は2012年以降、驚異的な速度で発達し、コンピュータビジョン、言語処理、制御システム、戦略、音声認識等はすべて、兵器システムの高度化のために応用が効きます。

我々は脅威の自律殺人システムを作る力を獲得しつつあり、それをどう活用するのか、どう制御するのかを真剣に検討しないといけなくなりました。Axionでよく取り扱うフェイクニュースやソーシャルメディアの兵器化の問題も同じ種類のものです。人々が生み出す情報からコンテクストを抜き出し、人間のような文書を生成することは可能になっており、人々の考え方が、機械を悪用する人々に操らえている未来はすでに来ています。

Image Via Den ProHD, "Top 5 Military Drones in the World ( HD Videos )"