IoTデバイスでエッジAIを普及させる秘策とは？

GoogleのTensorFlow Microチームの元技術リーダーで、Googleが買収した深層学習技術のスタートアップJetpacの創業者のPete Wardenは、彼が創業した新しいスタートアップUseful Sensorsがステルスを脱したことを明らかにした。

「TinyML」ムーブメントの創始者の一人として広く知られているエンジニアのWardenは、最近Googleを辞め、AI対応のセンサーモジュールを開発するスタートアップを立ち上げた。TinyMLとは、リソースに制約のある環境、典型的にはマイクロコントローラで動作するAIや機械学習（ML）のことを指す。大半のMLは、推論であろうとデータセンター側の計算機の力を借りている。TinyMLはある種、究極のエッジコンピューティングと言えるだろう。

エッジの逆襲 ポストモバイル時代が視る夢はなにか

5G以降は、計算処理をクラウドに依存するのではなく、デバイスとマイクロデータセンターが分散協調するエッジコンピューティングへの移行が起きる。センサーが生成する大量のデータを処理するためには、水道のように安価な機械学習が必要となる。

アクシオン｜経済メディア吉田拓史

同社は最初の製品である人感知センサーのPerson Sensorを10ドルで販売開始した。Person Sensorは、近くの顔を検出し、その人数やデバイスとの位置関係、顔認識などの情報を返す小さなハードウェア・モジュールだ。

Wardenは、テレビをつけると最後に見ていたものが表示されたり、照明が好みに応じて適切な設定になるといったユースケースの想定を米半導体メディアEETimesに対して語っている。ジェスチャーの検出についてテレビ会社や家電メーカーから興味を持たれているという。彼のチームは、Person Sensorを使って、人の顔を追いかけるように風を送ることができる扇風機というユーモラスなものまで作っている。

Wardenは、Tiny MLのコミュニティを悩ませている問題を、Useful Sensorsで解決しようとしている。それは「有名なユースケースがほとんどないという問題」である。Wardenが訪れた家電メーカーの現場では、ソフトウェアエンジニアがおらず、Tiny MLの採用を検討すること自体ができなかった。さらにTiny MLを使いこなすには、MLエンジニアとしてのスキルも必要であり、そのような複合的なソフトウェアとハードウェアを横断するスキルセットがメーカー側で揃っていることはほぼなかった、とEETimesに対して語っている。

「例えば、中国の家電メーカーを訪問した際、TensorFlow Lite Microによってアクセスできる輝かしい未来について売り込んだところ、彼らはPythonの初歩的な使い方さえ知らないと言いました。その代わりに、音声インターフェースや、誰かがテレビの前に座ると教えてくれるようなものができないか、と言われました」と彼は自身のブログで書いている。

MLから最も恩恵を受けられる企業の多くは、TinyMLを扱うためのソフトウェアエンジニアリングのリソースを持っていない、と彼は指摘している。「ML機能を小型で安価なハードウェア・モジュールとして提供することが良い解決策になるかもしれないと思いました」。彼らがソフトウェアエンジニアを雇わずとも、ハードウェア・モジュールとして使えるという、このアイデアがUseful Sensorsの創業のもととなったようだ。

「ML実装の複雑さはすべてセンサーメーカーが引き受け、マイクロコントローラーとカメラが搭載されたハードウェアモジュール内に隠蔽されるでしょう。OEMは、センサーからの信号に反応するだけでいいのです」

長期的に見れば、Tiny MLの将来性は非常に大きいはずだ。センサー自体に機械学習を組み込むことで、エンジニアはデータセンターに依存せず、ときにはインターネット接続を必要としないスマートな製品を設計でき、電力を節約でき、データがデバイス上にローカルに残るためプライバシーを高めることができるからだ。

他のプレイヤーからTiny MLの有力な活用方法も出始めている。例えば、ポルト大学のポスドク研究員であるPedro Andradeは、自動車排出ガスの測定のため、既存のTinyMLセンサーを使う試みを提案している。センサーは、ほとんどの自動車に搭載されているOBD-IIインターフェイスを利用し、自動車からデータを取得し、さまざまな入力を処理して、時系列でCO2排出量の推定値を提供するように設計されている。これによって、ガソリン車からの二酸化炭素と有害物質の排出のデータを収集することができる、と研究者たちは主張している。

また、エッジでの学習の可能性が開かれてきていることはさらなる朗報だろう。MITの研究チームが最近発表したインテリジェントなアルゴリズムとフレームワークは、MLモデルの学習に必要な計算量を削減し、プロセスの高速化とメモリ効率を向上させる。この技術を用いれば、マイクロコントローラー上でMLモデルを数分で学習させることができる。

Useful Sensorsは、最近、500万ドルのシードラウンドを調達し、現在6人の従業員を抱えているが、そのうち3人はGoogle出身である。Wardenが共同創業者兼CEO、Manjunath Kudlurが共同創業者兼CTOとしてGoogleのTensor Flowチームから参加している。

参考文献

1. Ji Lin, Ligeng Zhu, Wei-Ming Chen, Wei-Chen Wang, Chuang Gan, Song Han. On-Device Training Under 256KB Memory. Submitted to arXiv, 2022 abstract
2. Andrade, P.; Silva, I.; Silva, M.; Flores, T.; Cassiano, J.; Costa, D.G. A TinyML Soft-Sensor Approach for Low-Cost Detection and Monitoring of Vehicular Emissions. Sensors 2022, 22, 3838. https://doi.org/10.3390/s22103838