public

人類は自律兵器システムを正しく扱えるか 『無人の兵団――AI、ロボット、自律型兵器と未来の戦争』

機械学習と軍事技術の相性は非常に良く兵器システムの革命が起きています。我々は脅威の自律殺人システムをどう制御するのかを真剣に検討しないといけなくなりました。

5 months ago

Latest Post 欧州サッカークラブのAI活用が活発化 by Takushi Yoshida public

人工知能、機械学習、およびマシンビジョンの最近の進歩の意味はとても深いものです。軍隊は、知能と自律性のレベルを上げながら、無人偵察機、船、潜水艦、戦車、軍需品、およびロボット部隊を開発し始めました。Paul Scharre(ポール・シャーレ)の『無人の兵団――AI、ロボット、自律型兵器と未来の戦争』はこの問題をめぐる状況を詳らかに説明し、予期される危険性に対して警鐘をならした素晴らしい書籍です。ビル・ゲイツも、本書を2018年のベスト書籍のひとつに挙げています。

人工知能の使用は現状、民間人の死傷者を減らし、より多くの軍隊を危険から守ることに貢献しています。しかし、注意を怠ると、意図しない結果を招く可能性があります。

自律兵器は、民間人の命を救う可能性があります。Scharreは、ロボットの専門家を引用し、「自律兵器は戦争の法則を決して破らないようにプログラムできる」と主張しています。「彼らは復讐を求めません。彼らは怒ったり怖がったりしません。彼らはアルゴリズムのなかに感情を宿しません。必要なときに(敵を)殺すことができ、その後すぐに(敵を)殺すことができます」(筆者抄訳)。

軍事指導者は、主要な技術革新を採用する可能性が高いのと同じ理由で、自律兵器システムの役割を増やしたいと考えています。彼らは、自律兵器システムが戦闘で有利になると予想しています。このようなシステムは、人員であろうと設備であろうと、敵の資産の特定と除去を支援する、と広く信じられています。 「ロボットには、従来の人間が搭乗する車両と比べて戦場で多くの利点があります」とScharreは主張します。無人車両は小さく、軽く、速く、操縦しやすい。彼らは休むことなく長く戦場にとどまることができ、どのような危険をも冒すことができるのです。

現在の軍事調達慣行からの著しい変化の中で、AIと機械学習の重要な進歩のほとんどは、確立された武器業界からではなく、シリコンバレーやマサチューセッツ州ケンブリッジなどのテクノロジーセンターにある新興企業から来ています。

たとえば、本書では言及されていませんが、Googleはペンタゴン(米国防総省)に対し、軍事ドローンへの最先端の人工知能技術を提供する契約を結んでいました。調査報道デジタル出版社のInterceptは、契約の存在が従業員に知れ渡り、約12人のGoogle従業員が抗議で辞任し、数千人が契約の終了を求める請願書に署名した、と報じました。このプロジェクトは軍によって「Project Maven」と命名され、ドローンオペレーターがイスラム国に対する空爆をより的確に標的とするために軍隊の1,100のドローンから集められた膨大な画像データを深層学習を活用した画像認識で解析するためのものでした。

これは、兵器そのものではなく兵器システムの革命です。機械学習は2012年以降、驚異的な速度で発達し、コンピュータビジョン、言語処理、制御システム、戦略、音声認識等はすべて、兵器システムの高度化のために応用が効きます。

我々は脅威の自律殺人システムを作る力を獲得しつつあり、それをどう活用するのか、どう制御するのかを真剣に検討しないといけなくなりました。Axionでよく取り扱うフェイクニュースソーシャルメディアの兵器化の問題も同じ種類のものです。人々が生み出す情報からコンテクストを抜き出し、人間のような文書を生成することは可能になっており、人々の考え方が、機械を悪用する人々に操らえている未来はすでに来ています。

Image Via Den ProHD, "Top 5 Military Drones in the World ( HD Videos )"

Takushi Yoshida

Published 5 months ago