イスラエル、致命的な軍事作戦にAIシステムを組み込み始める［ブルームバーグ］

(ブルームバーグ) -- イスラエル国防軍は、占領地や宿敵イランとの緊張が高まる中、空爆の標的選定や戦時兵站の編成に人工知能を活用し始めている。

軍は具体的な作戦についてはコメントしないが、関係者によれば、現在、空爆の標的を選定するために膨大な量のデータを解析できるAI推薦システムを使用しているという。「Fire Factory (ファイアー・ファクトリー)」と呼ばれる別の人工知能モデルは、軍が承認した目標に関するデータを使って弾薬の装填量を計算し、何千もの目標に優先順位をつけて航空機や無人機に割り当て、スケジュールを提案する。

どちらのシステムも、個々の標的と空襲計画を吟味し承認する人間のオペレーターによって監督されているが、イスラエル国防軍関係者によれば、このテクノロジーはまだ国際的あるいは国家レベルの規制の対象にはなっていないという。推進派は、高度なアルゴリズムは人間の能力を凌駕し、軍の犠牲者を最小限に抑えるのに役立つと主張する一方、批判派は、ますます自律的なシステムに頼ることが致命的な結果を招く可能性があると警告している。

エルサレム・ヘブライ大学の国際法講師で、軍の元顧問弁護士であるタル・ミムランは言う。「一つのミスをもとに一族を全滅させてしまうかもしれない」。

軍によるAIの運用の詳細は、ほとんど機密扱いのままだが、イスラエルがロケット弾攻撃に対応して空爆を頻繁に行うガザ地区での定期的な暴動を通じて、IDFが論争の的になっているシステムの戦場での経験を積んできたことを、軍当局者の声明は示唆している。2021年、イスラエル国防軍は11日間にわたるガザ紛争を世界初の「AI戦争」と表現し、人工知能を使ってロケット弾発射基地を特定し、ドローン群を展開したことを挙げている。イスラエルはシリアとレバノンでも空襲を行い、ヒズボラのようなイランが支援する民兵組織への武器輸送を標的にしている。

ここ数カ月、イスラエルはイランのウラン濃縮に対してほぼ毎日警告を発しており、いかなる状況下でもイランの核兵器保有を許さないと宣言している。両者が軍事衝突に至った場合、イスラエル国防軍は、ガザ、シリア、レバノンにいるイランの代理人が報復し、50年前のエジプトとシリアによる奇襲攻撃で第四次中東戦争（ヨム・キプール戦争）が勃発して以来、イスラエルにとって初の深刻な多面的衝突の舞台となると予想している。

イスラエル国防軍関係者によれば、ファイア・ファクトリーのようなAIベースのツールは、このようなシナリオのために調整されているという。「以前は数時間かかっていたものが、今では数分で済むようになり、さらに人間のレビューに数分かかるようになった」と、軍のデジタル変革部隊を率いるウリ大佐は、テルアビブのIDF本部で、セキュリティ上の理由からファーストネームのみを使用することを条件に語った。「同じ人数で、はるかに多くのことを行っています」。

これらの関係者は、このシステムは全面戦争用に設計されていると強調した。

諜報活動の拡大？

イスラエル国防軍は以前からAIを活用してきたが、近年は自律型兵器の世界的リーダーとしての地位を確立するため、さまざまな部隊にこれらのシステムを拡大している。これらのシステムのいくつかは、イスラエルの防衛請負業者によって構築されたものである。また、何千時間もの映像から人物や物体を識別するために訓練されたスタートラック国境管理カメラのように、軍が開発したものもある。これらを総称して、膨大な量のドローンやCCTVの映像、衛星画像、電子信号、オンライン通信、その他のデータを軍事利用するために解釈することに特化した、巨大なデジタル・アーキテクチャを構成している。

この情報の奔流を処理するのが、陸軍の8200部隊が運営するデータサイエンス・人工知能センターの目的だ。パロアルトネットワークスのニル・ズックやチェック・ポイント・ソフトウェア・テクノロジーズの創業者ギル・シュウェドなど、この国のハイテク界の大富豪の多くが、新興企業を立ち上げて成功する前に兵役に就いている。広報担当者によると、同センターは「自衛隊における標的の概念全体を変えた」システムの開発を担当したという。

このようなツールの開発には秘密主義的な性質があるため、半自律的なシステムと完全に自動化された殺人マシンの差が一夜にして縮まるのではないかという深刻な懸念がある。そのようなシナリオでは、機械は標的の位置を特定することも攻撃することもできるようになり、人間は意思決定の立場から完全に排除されることになる。

ヒューマン・ライツ・ウォッチやアムネスティ・インターナショナルを含む非政府組織の連合であるストップ・キラー・ロボッツの自動意思決定研究者、キャサリン・コノリーは、「半自律的ではなく、完全に自律的なものにするためのソフトウェアの変更に過ぎない」と言う。イスラエルは、今後数年のうちに人間の監視をなくす計画はないという。

もうひとつの懸念は、AIの急速な普及がその内部構造の研究を追い越していることだ。多くのアルゴリズムは、適切な情報を開示しない民間企業や軍隊によって開発されており、批評家たちは、アルゴリズムがどのように結論に達するかについて、組み込みの透明性の欠如を強調している。イスラエル国防軍はこの問題を認めつつも、出力は兵士によって注意深く確認され、軍事AIシステムは技術的な痕跡を残し、人間のオペレーターがその手順を再現できるようにしていると述べた。

より複雑なAIコンポーネント、ニューラルネットワークなどを導入した場合、比喩的に言えば、何が「頭をよぎった」のかを理解するのはかなり複雑になることがある。そして時には、説明可能性ではなく、追跡可能性に満足すると言ってもいい。つまり、すべての「ニューロン」が何をしているかは理解できなくても、プロセスについて理解し、それを監視するために重要なことを理解したいのです」とウリは言った。

IDFは、人権団体から強い批判を受けている顔認識技術については言及を避けたが、女性や社会経済的背景の低い士官候補生を差別する可能性があるとの懸念から、AIを採用ソフトウェアに統合することは控えていると述べた。

一部の専門家によれば、戦場システムにAIを組み込む主な利点は、民間人の犠牲を減らす可能性があることだという。「これらの技術を正しく使うことで、効率と効果が上がると思います」と、ロンドンを拠点とする国際戦略研究所の研究員、シモーナ・R・ソアレは言う。「それは、戦闘の霧の中で、移動中に行う必要がある多くのことに役立ちます。そして、それは非常に困難なことなのです」。

「うまくいかないこともたくさんあります」と彼女は付け加えた。

倫理的懸念

イスラエルの指導者たちは、自国を「AI大国」にする意向を示しているが、その詳細については曖昧にしている。国防省はAIへの投資額についてコメントを避け、軍も具体的な防衛契約については言及しなかったが、ファイア・ファクトリーがイスラエルの防衛請負会社ラファエルによって開発されたことは確認した。さらに状況を不明瞭にしているのは、兵器の能力の詳細をリークすることが抑止力の重要な側面であった核軍拡競争の時代とは異なり、自律型システムやAI支援システムが政府、軍、民間の防衛企業によって秘密裏に開発されていることだ。

イスラエルを拠点とする国家安全保障研究所の上級研究員であるリラン・アンテビは、「米国や中国、そしておそらく他のいくつかの国も、これらの分野で先進的なシステムを持っていると考えることができます」と言う。しかし、イスラエルとは違って、「私の知る限り、これらの国々は、作戦での使用や成功を実証したことはありません」。

今のところ、何の制限もない。10年にわたる国連主催の協議にもかかわらず、民間人の死傷、事故、コンピューターが判断を誤った場合の意図しないエスカレーションについて、誰が責任を負うかを定める国際的な枠組みはない。

「テストや、これらのシステムが訓練されたデータにも問題があります」と、ストップ・キラー・ロボッツのコノリーは言う。「すでに訓練され、人間を対象にテストされたシステムでなければ、どれほど正確で精度の高いものになるのか？」

ヘブライ大学の法学講師であるミムランが、国防軍はAIを防衛目的にのみ使用すべきだと考えているのは、こうした懸念があるからだ。ミムランは軍隊に在職中、攻撃が国際法を遵守しているかどうかを確認するため、標的を手作業で吟味していた。その経験から、技術に関係なく、「価値観に基づいた決断が必要な時がある」と彼は学んだ。

「そのためにはAIに頼ることはできない」と彼は言った。

© 2023 Bloomberg L.P.

翻訳：吉田拓史、株式会社アクシオンテクノロジーズ