PoC再生支援サービス
「Re-PoC(リポック)」試験導入開始

2021年10月29日までの期間限定で
モニター企業5社へ無料提供キャンペーン実施中

AIプロジェクト止まっていませんか?

AI導入のためのPoCは成功したが、なかなか次のステップには進まないという状況になってはいませんか?
PoCで高精度なAIを開発できても、それをそのままマイコンに搭載するのは困難なことが多いです。 以下に挙げる2つの課題が、AIのマイコン搭載を困難にしています。

課題① AIのモデルサイズが過大で、マイコン搭載不可

多くのAIアルゴリズムは、モデル内部に多くのパラメーターを保持しており、モデルサイズが大きくなります。 アルゴリズムの種類によりますが、数MB~数GBといったモデルサイズが一般的です。
しかし、実際に製品に搭載されるマイコンのメモリは、1MB以下のことも多いです。 そのため、パソコン上では動いていたAIモデルが、実際のマイコン上では動かないといったことが起こります。
AIのモデルサイズを小さくする、枝刈り、量子化、蒸留などの圧縮手法もあります。 しかし、精度を保ったままモデルサイズを小さくするのには限界があります。

サイズの大きいモデルはマイコンに搭載不可

課題② マイコンの計算リソースが足りない

エッジAIでは、速い推論速度が求めらることが多いです。 特に自動車の自動運転などを考えると、自動車の周辺環境は毎秒ごとに大きく変化します。 そのため、AIの推論速度にもリアルタイム性が求められています。
しかし、ディープラーニングなどのアルゴリズムの推論では多くの計算が行われるので、 高速に動かすためには大きな計算リソースが必要となります。
そのため、計算リソースが潤沢ではない多くのマイコンでは、 AIアルゴリズムをリアルタイムに動かすことができず、課題となっています。

パソコンとマイコンのAI推論時間
マイコン上では制御周期以下での推論ができない

課題解決のための手段と現状

上記の2つの課題を解決するにはどうしたらよいでしょうか?
よく利用されているのは、エッジでのAI処理に特化したマイコンです。 しかし、それらの特殊なマイコンは一般的なマイコンと比べ高価であり、予算の関係上使えないことも多いです。
また、エッジAIではなく、クラウドAIを利用するという手も考えられます。 サーバーの潤沢なリソースを利用可能なクラウドAIであれば、上記の課題は解決できますが、 通信が必要ないというエッジAIのメリットを捨てることになってしまいます。
一般的なマイコンへのAI搭載を実現するために、多くの試行錯誤が必要になります。 AIモデルのパラメータチューニングや前処理手法の変更などです。 場合によっては、データの取得し直しが発生する場合もあります。
そのように試行錯誤を繰り返すうちに、プロジェクト期限が迫ってきたり、開発予算がなくなってしまったりと、 プロジェクトが凍結してしまうケースも多く存在します。 なかなかPoCが進まない様子は、PoC疲れ、PoC地獄などと言われ、AI導入の課題の一つであるとされています。

エイシングのAIアルゴリズム“MST”により
マイコンへのAI搭載の課題を解決できます

エイシングは超軽量AIアルゴリズム"MST(Memory Saving Tree)"を提供しています。 MSTは以下2つの特徴を備えており、従来のAIアルゴリズムでは困難だった、AIのマイコン搭載を可能にします。
MSTが搭載されたマイコン

特徴① 省メモリのため、マイコンに搭載可能

MSTのモデルサイズは数KB~と非常に軽量です。そのため、メモリの小さいマイコンにも搭載できます。 具体的には、Arm社が提供する、Cortex-M0をベースとしたマイコンにも搭載可能です。
また、他のアルゴリズムと異なり、圧縮手法を用いてモデルサイズを小さくするのではなく、 始めからモデルサイズが小さくなるように設計されているのも特徴です。 そのため、省メモリであるにも関わらず、他のアルゴリズムと同等以上の精度を実現できています。

MSTはモデルサイズが小さく、マイコンに搭載可能

特徴② 計算リソースの少ないマイコン上でも高速推論

MSTは内部で行われる計算回数も少ないため、パソコン上はもちろん、 計算リソースの少ないマイコン上でも高速な推論を行うことができます。 従来のAIだと難しかった制御周期以下でのリアルタイムな推論も可能となります。
NASAによるデータセット"Airfoil Self-Noise"(※)を用いて作成した 5入力1出力のモデルを、マイコン"STM32H747"(400MHz)上で動かすと、 1データ当たりの推論時間が約62マイクロ秒となります。

※無響風洞で実施された2次元および3次元翼の翼断面の一連の空力・音響試験の結果を表すデータセット

MSTは制御周期内での推論が可能
MSTの詳細についてはこちらのページをご覧ください。 https://aising.jp/mst/

Re-PoC 無料モニター企業募集

この度エイシングでは、MSTを活用したPoC再生支援サービス「Re-PoC(リポック)」の提供を開始いたします。 Re-PoCの提供開始に伴い、モニター企業を5社募集します。モニターの応募条件に当てはまる場合、Re-PoCを無料で提供いたします。 この機会にぜひ、Re-PoCをお試しください。

募集条件

・2021年10月29日迄にRe-PoCのお問い合わせをいただくこと
・過去のPoC案件で、次の①②いずれかの課題に直面した経験をお持ちであること
 ①AIのモデルサイズが大き過ぎる
 ②ハードウェアへの実装時に推論速度が不足する
・過去のPoC案件でAIモデル作成に用いたデータ、要求される精度、モデルサイズ、推論速度などの要件を提供可能であること

※募集モニター企業5社につきましては、エントリーの上、厳正なる審査に基づいて決定いたします。

ご参考①:軽量性と精度の両立を実現

MSTの紹介でも触れましたが、一般にAIを省メモリ化するためには、精度を犠牲にする必要があります。 一度高精度なモデルを作成した後、それを圧縮してメモリ量を減らす必要があるためです。
しかし、MSTは始めから省メモリになるように設計されており、高精度かつ省メモリを実現しています。
RandomForestとMSTのメモリ量と精度の比較
このグラフは、MSTとRandomForestの2つのアルゴリズムでモデルを作成したときの、モデルサイズと精度の関係を表したものです。 モデルの作成には、NASAが公開するデータセット"Airfoil Self-Noise"を使用しています。
縦軸のRMSEは予測結果の誤差を表していて、この値が小さいほどよいモデルであるとされます。 一方、横軸のMoel Sizeは、AIモデルの大きさを表しています。
同じ精度で2つのアルゴリズムを比べた時、MSTはRandomForestと比べ、 モデルサイズが約144分の1になっており、精度が低くなることなく、省メモリになっていることが分かります。
また、2つのプロットを比べると、MSTの方が左下に位置しており、精度、軽量性がともに優れていることが分かります。

ご参考②:MSTはディープラーニングと比べ機械制御に特化

MSTとディープラーニングの比較
MSTは、ディープラーニングと比べ、軽量で処理時間が短いことを活かし、機械制御や異常検知などを得意としています。
一方ディープラーニングは、複雑なデータの処理に向いており、画像認識、行動計画、言語処理などを得意としています。
記事発行日: 2021年8月31日 最終更新日: 2021年8月31日