OKIの技術

研究開発

社会課題を解決し「社会の大丈夫をつくっていく。」ための
研究開発です。

ディープラーニングのモデル圧縮技術

エッジデバイスにも高精度なAIを実装

関連キーワード: ディープラーニング／エッジAI ／モデル圧縮／低ビット量子化

技術概要

IoT時代の到来により爆発的に増加するデータ通信量を抑制するため、クラウドサーバーではなくネットワークの末端（エッジ）で高速にAIを処理するAIエッジ技術が求められています。一方で、ディープラーニングは高精度なAI技術として活用されていますが、エッジで処理するには必要となるメモリーや消費電力が大きいという課題があります。そこで、OKIはディープラーニングをエッジデバイスで処理しやすくするために計算量とメモリ使用量を抑える技術を開発しています。これにより、エッジデバイスの限られたスペック上でもリアルタイムな処理が実現できます。

OKIならではの強みはなにか？

OKIはプルーニングと低ビット量子化の2つのアプローチで課題解決に取り組んでいます。
プルーニング技術は、ディープラーニングモデルを構成する「脳細胞」にあたるニューロンのうち、あまり使われていないものを削減して効率化する技術です。従来、どのニューロンを削減するかは専門家による分析や試行錯誤が必要でしたが、OKIのプルーニング技術「PCAS」では、学習をとおして重要度の低いニューロンを自動で特定できるためユーザーの負担が軽減でき、かつ適用後の精度も維持できます。
低ビット量子化技術は、ディープラーニングの演算で使用する数値を少ない情報量（ビット）で表すことで、処理を速くし、メモリを節約する技術です。通常ディープラーニングの演算は32ビットで行いますが、これを4ビットや2ビットに減らします。単純に低ビット化すると精度が低下しますが、OKIの低ビット量子化技術「LCQ」では、精度を維持できる値を学習して低ビット化し、重要な情報が落ちないようにすることができます。

想定される市場領域は？

ディープラーニングモデル軽量化に課題をお持ちのお客様に対し、本技術を適用した「ディープラーニングモデル圧縮サービス」、またはお客様自身で軽量化を実行できる「ディープラーニングモデル圧縮ツール」を提供する形で実用化に向けた取り組みを進めます。

今後のビジョン

自動運転などのリアルタイム性が求められる分野や、センサーといった限られたハードウェアスペックでの実行が求められる分野で、AI処理の高精度化・高速化・低電力化を実現します。

学会発表

PCAS
Yamamoto, Kohei, and Kurato Maeno. "PCAS: Pruning Channels with Attention Statistics for Deep Network Compression." Proceedings of the British Machine Vision Conference （BMVC）. 2019.

LCQ
Yamamoto, Kohei. "Learnable Companding Quantization for Accurate Low-bit Neural Networks." Proceedings of the IEEE／CVF Conference on Computer Vision and Pattern Recognition （CVPR）. 2021.