Google、選択的注意を模倣したAIエージェントを構築

Googleの研究者たちは「自己注意ボトルネック」を採用したAIソフトウェアエージェントの特性を調査した。研究者らは、これらのエージェントは、難解な視覚ベースのタスクを解くための適性を示すだけでなく、自分を混乱させる可能性のある詳細を無視し、タスクのわずかな変更に取り組むのが得意であると主張している。

Google、選択的注意を模倣したAIエージェントを構築

要点

Genetic and Evolutionary Computation Conference (GECCO) 2020に採択された研究では、Googleの研究者たちは「自己注意ボトルネック」(self-attention bottlenecks)を採用したAIソフトウェアエージェントの特性を調査した。研究者らは、これらのエージェントは、難解な視覚ベースのタスクを解くための適性を示すだけでなく、自分を混乱させる可能性のある詳細に対する不注意のために、タスクのわずかな変更に取り組むのが得意であると主張している。

選択的注意を再現する機械学習エージェント

非注意性盲目とは、人が目に見えるところにあるものを見落としてしまう現象である。これは「選択的注意」の結果であり、人間は意思決定に必要なコンパクトな形に情報を凝縮することができると考えられているメカニズムである。ヤン・ルカンのような著名な研究者は、これが生物の優雅さや効率性をより良く模倣したAIシステムの設計にインスピレーションを与えることができると主張している。

Googleの研究者が提案したエージェント「AttentionAgent」は、タスクに関連する要素に注意の大半を集中させることを目的としている。これを実現するために、このシステムは入力画像をパッチに分割し、自己注意アーキテクチャに依存してパッチに「投票」してサブセットを選択する。選出されたパッチがAttentionAgentの行動の指針となり、重要な要素が時間の経過とともにどのように進化していくかを追跡しながら、入力データの変化を把握していく。

実験では、AttentionAgentが画像内のさまざまな領域に注目することを学習することを示した。例えば、一人称視点シューティングゲーム「Doom」をベースに構築されたデジタル研究環境「VizDoom」内のレベルでは、これまで遭遇しなかった壁や床の質感、看板などの環境でも、AttentionAgentは生き残れるように訓練された。

DoomTakeCoverの一般化。AttentionAgentは、何も変更せずに環境の中で訓練されています(左)。高い壁(中央、左)、異なる床のテクスチャ(中央、右)、フローティングテキスト(右)など、環境の変化に適応することができます。

また、強化学習アルゴリズムの開発と比較のためのツールキットであるOpenAI's Gym内のCarRacingゲームでは、AttentionAgentは、晴れた日の運転を学習し、そのスキルを夜間、雨の日、別の車、明るい景色や暗い景色、視覚効果物の存在下での運転に応用することができました。おそらく、より印象的なことに、CarRacingでのトレーニングは、一般化に失敗する従来の方法に比べて、1,000倍少ないパラメータ(その予測を知らせるシステム内部の変数)を必要とするだけだった。

Attentionエージェントは、視覚入力の中でタスクの重要な領域に注意を払うことを学習した。車の運転タスク(CarRacing, 上段)では、主に道路の境界に注目しているが、方向転換する前のターンに注目している。火の玉避けゲーム(DoomTakeCover、下段)では、火の玉と敵のモンスターに注目している。Via Google AI Blog.

このような結果にもかかわらず、研究者たちはAttentionAgentには深刻な限界があると指摘している。例えば、「劇的な」背景の変化が関与している場合には一般化できません。例えば、緑の草の背景でCarRacingを訓練したエージェントは、背景を気が散るYouTubeの動画に置き換えたときに一般化できかった。背景を一様なノイズで置き換えると、エージェントはランダムなノイズのパッチに注意を払っていた。また、ノイズの多い背景で一から学習させたエージェントは、軌道を周回できるようになったが、その性能は平凡であった。

AttentionAgentは大幅に変更された環境への一般化に失敗します。(左)背景が突然猫になる(クリエイティブ・コモンズ動画)。(中央)背景が突然アーケードゲームになる(クリエイティブ・コモンズ動画)。(右)背景が突然アーケードゲームになる(クリエイティブ・コモンズ動画)。アテンションエージェントは、ノイズパッチを避けることで、純粋なノイズ背景での運転を学習した。

将来、選択的注意の改善された作業を動機づけるために、研究者たちは、環境の修正を伴うカーレースのタスクのセットを発表した。それは現在GitHub上のオープンソースで利用可能だ。

参考文献

Yujin Tang, Duong Nguyen. Neuroevolution of Self-Interpretable Agents. GECCO 2020.

Photo by Google Cloud

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)