MCUNet: IoT機器での深層学習を高速化する軽量ニューラルネット

MITの研究者は、「モノのインターネット」(IoT)を構成するウェアラブル医療機器、家庭用電化製品、2500億の他のオブジェクトに搭載されている小さなコンピュータチップのような、新しい場所にディープラーニング(深層学習)のニューラルネットワークをもたらすことができるシステムを開発した。

MCUNet: IoT機器での深層学習を高速化する軽量ニューラルネット

MITの研究者は、「モノのインターネット」(IoT)を構成するウェアラブル医療機器、家庭用電化製品、2500億の他のオブジェクトに搭載されている小さなコンピュータチップのような、新しい場所にディープラーニング(深層学習)のニューラルネットワークをもたらすことができるシステムを開発した。

MCUNetと呼ばれるこのシステムは、メモリや処理能力が限られているにもかかわらず、IoTデバイス上でディープラーニングを行うために、これまでにないスピードと精度を実現するコンパクトなニューラルネットワークを設計している。この技術は、省エネとデータセキュリティの向上を実現しながら、IoTの世界の拡大を促進する可能性がある。

この研究は、来月開催される「Neural Information Processing Systems Conference」で発表される予定だ。主著者は、MITの電気工学・コンピュータサイエンス学科の宋漢(Song Han)の研究室の博士課程の学生であるJi Lin。共著者には、MITのHanとYujun Lin、MITと国立台湾大学のWei-Ming Chen、MIT-IBMワトソンAIラボのJohn CohnとChuang Ganが名を連ねている。

IoT機器が増えるに従って、発現するデータ量は指数関数的に増大しており、それをエッジからクラウドまで移送するのはあまりにコストがかかる。またレイテンシーの課題もあり、エッジで深層学習を実行するアイデアは近年、あらゆるプレイヤーが追求するものだ。「ニューラルネットをこれらの小さなデバイスに直接展開するにはどうすればいいのか?」は非常にホットになってきている新しい研究分野であり、Googleやarmのような企業は皆、この方向に取り組んでいる。

HanのグループはMCUNetと共同で、マイクロコントローラ上でニューラルネットワークを動作させる「小さなディープラーニング」に必要な2つのコンポーネントをコード化した。1つは、オペレーティングシステムのようなリソース管理を指示する推論エンジンであるTinyEngineである。TinyEngineは、MCUNetのもう一つのコンポーネントによって選択された特定のニューラルネットワーク構造を実行するように最適化されている。これはMCUNetのもう一つのコンポーネントであるニューラルアーキテクチャ検索アルゴリズムであるTinyNASによって選択される。

システムアルゴリズムのコードネーム

マイクロコントローラ用のディープネットワークを設計するのは簡単ではない。既存のニューラルアーキテクチャ探索技術は、事前に定義されたテンプレートに基づいて、ネットワーク構造の可能性のある大きなプールから始めて、徐々に高精度で低コストのものを見つけていく。この方法は有効ですが、最も効率的ではない。GPUやスマートフォンでは、かなりうまく機能したが、これらの技術を小型のマイクロコントローラに直接適用することは、あまりにも小さいために困難だった。

そこでLinは、カスタムサイズのネットワークを作成するニューラルアーキテクチャの探索手法であるTinyNASを開発した。「私たちは、電力容量やメモリサイズが異なるマイクロコントローラをたくさん持っている。そこで私たちは、異なるマイクロコントローラ用に検索空間を最適化するアルゴリズム『TinyNAS』を開発した」とLinは声明の中で説明した。TinyNASのカスタマイズされた性質は、与えられたマイクロコントローラに対して最高のパフォーマンスを発揮するコンパクトなニューラルネットワークを、不要なパラメータなしで生成できることを意味する。そして、最終的な効率的なモデルをマイクロコントローラに提供する。

この小さなニューラルネットワークを実行するために、マイクロコントローラにはリーン推論エンジンも必要だ。一般的な推論エンジンは、めったに実行されないタスクのための命令などのデッドウェイトを抱えている。余分なコードはラップトップやスマートフォンでは問題にならないが、マイクロコントローラを簡単に圧倒してしまう可能性がある。オフチップメモリもディスクもない。「すべてを合わせてもわずか1メガバイトのフラッシュなので、このような小さなリソースを慎重に管理しなければならない」とHanは言った。TinyEngineの出番だった。

研究者たちは、TinyNASと連携して推論エンジンを開発した。TinyEngineは、TinyNASのカスタマイズされたニューラルネットワークを実行するために必要な重要なコードを生成する。重荷となるコードはすべて破棄され、コンパイル時間が短縮される。グループがTinyEngineをテストしたところ、コンパイルされたバイナリコードのサイズは、Googleやarmの同等のマイクロコントローラ推論エンジンよりも1.9倍から5倍小さくなっていたと説明している。また、TinyEngineには、ピーク時のメモリ使用量をほぼ半分に削減するインプレース深さ方向の畳み込みなど、ランタイムを短縮する技術革新も含まれている。TinyNASとTinyEngineをコードサインした後、HanのチームはMCUNetのテストを行った。

MCUNetの最初の課題は画像の分類でした。研究者たちはImageNetデータベースを使って、ラベル付けされた画像を使ってシステムを訓練し、次に新しい画像を分類する能力をテストした。市販のマイクロコントローラでテストしたところ、MCUNetは新規画像の70.7%を分類することに成功した。これまでの最先端のニューラルネットワークと推論エンジンの組み合わせでは54%の精度しか得られなかった。

チームは、他の3つのマイクロコントローラのImageNetテストでも同様の結果を得た。また、MCUNetは、速度と精度の両方の面で、音声と視覚による「ウェイクワード」タスクでは、ユーザーが声の合図や部屋に入るだけでコンピュータとの対話を開始するという、競争相手を打ち負かした。この実験は、MCUNetの多くのアプリケーションへの適応性を浮き彫りにしている。

巨大な可能性

この有望なテスト結果は、Hanにマイクロコントローラの新しい業界標準となることへの希望を与えている。MCUNetはまた、IoTデバイスをより安全にすることができる。主な利点はプライバシーの保護で、データをクラウドに転送する必要がなくなることだ。

データをローカルで分析することで、個人の健康データを含む個人情報が盗まれるリスクを減らすことができる。Hanは、MCUNetを搭載したスマートウォッチが、ユーザーの心拍、血圧、酸素濃度を感知するだけでなく、その情報を分析して理解を助けることを想定している。また、MCUNetは、インターネットへのアクセスが限られている自動車や農村部のIoTデバイスにディープラーニングをもたらす可能性もある。

さらに、MCUNetのスリムなコンピューティング・フットプリントは、スリムな炭素排出量にもつながる。大規模なニューラルネットワークをトレーニングすることで、自動車5台分の生涯排出量に相当する炭素を燃やしてしまう。マイクロコントローラ上のMCUNetは、そのエネルギーのごく一部を必要とする。私たちの最終目標は、より少ない計算資源、より少ない人的資源、より少ないデータで、効率的で小さなAIを可能にすることだ とHanは言う。

参考文献

  1. Ji Lin, Wei-Ming Chen, Yujun Lin, John Cohn, Chuang Gan, Song Han. MCUNet: Tiny Deep Learning on IoT Devices. submitted to arXiv, 2020 [abstract]

Special thanks to supporters !

Shogo Otani, 林祐輔, 鈴木卓也, Mayumi Nakamura, Kinoco, Masatoshi Yokota, Yohei Onishi, Tomochika Hara, 秋元 善次, Satoshi Takeda, Ken Manabe, Yasuhiro Hatabe, 4383, lostworld, ogawaa1218, txpyr12, shimon8470, tokyo_h, kkawakami, nakamatchy, wslash, TS, ikebukurou 太郎.

月額制サポーター

Axionは吉田が2年無給で、1年が高校生アルバイトの賃金で進めている「慈善活動」です。有料購読型アプリへと成長するプランがあります。コーヒー代のご支援をお願いします。個人で投資を検討の方はTwitter(@taxiyoshida)までご連絡ください。

デジタル経済メディアAxionを支援しよう
Axionはテクノロジー×経済の最先端情報を提供する次世代メディアです。経験豊富なプロによる徹底的な調査と分析によって信頼度の高い情報を提供しています。投資家、金融業界人、スタートアップ関係者、テクノロジー企業にお勤めの方、政策立案者が主要読者。運営の持続可能性を担保するため支援を募っています。

投げ銭

投げ銭はこちらから。金額を入力してお好きな額をサポートしてください。

https://paypal.me/axionyoshi?locale.x=ja_JP

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)