artificial intelligence AI
人工知能(AI)とは、論理的な解析を行うことで知識を獲得し、時間や状況の環境変化に適応する機械の能力であると定義されます。すでにAIは、以下のような多種多様な用途において使用されています。

  • 高度な演算処理能力を持つ高性能AIによる、膨大な患者データの分析と最適なアドバイス提示といった医師の診断サポート
  • 自動運転車があらゆる交通情報を把握し、ドライバとその他の道路利用者の安全の確保や運転の効率化
  • 人間のオペレータと見分けがつかないチャットボットが、複雑な質問にリアルタイムで回答
  • オンライン・ショッピングにおいて、コンテンツを各利用者の好みに応じて最適化
  • 急速に普及し始めているパーソナル音声アシスタントによる日常生活の利便性の向上

これらは始まりにすぎません。モノのインターネット(IoT)によって何百億ものスマート機器がインターネットに接続されるようになると、私たちの生活の利便性に加えて、生活環境や職場環境の安全性と効率性が向上します。その際には、人間と機械のより自然なコミュニケーションが必要とされます。これらのスマート機器にAIの能力が加わることで、機能性と利便性はさらに大きく向上し、とりわけ、高性能のネットワーク機器において大きな威力を発揮することになります。これは「AIオン・ザ・エッジ(AI on the Edge)」と呼ばれることも多く、1つのトレンドになっています。

AIとディープ・ラーニング

AIは、自然界から発想を得た計算手法を組み合わせることで、従来の数学的モデルが効果的ではない実世界の複雑な問題に対処できます。従来の数学的モデルでは対応できない例として、複雑すぎて解析モデルを作成できないプロセスや、ふるまいが絶えず変化するためにプロセスの一部が未知である場合などが挙げられます。実生活で生じる問題の多くは正確に描写することができず、複雑な問題に分類されるため、従来の計算方法では処理することができません。

Deep Learning Artificial Intelligence
AIは、時間をかけて構築された経験をもとに、不正確で不十分な知識から、状況に適応する形で決断を下し行動するという、人間の脳の推論方法に近似した手法を使用します。

このようなAIの基本的なコンセプトは、1950年代から考案されていましたが、最新のプログラミング技術(pythonなど)、処理可能となった膨大な量のデータ、ニューラル・ネットワークのトレーニング用オープンソース・ツール、強力な計算センター、そして常に改良されている組込みプロセッシング・システムにより、AIは世界を変える技術として急速に発達しつつあります。

機械学習(Machine Learning: ML)は、AIの一部分で、機械が、従来の明確にプログラミングされた手順によってではなく、データと経験を解析してパターンを認識することで、予測や助言を行えるように学習する技術のことです。MLは、新しいデータや経験を使用して適応し、学習時間と共に予測性能を向上させます。

Artificial Neural Network ANN


ディープ・ラーニング(DL)は、機械学習の一部分です。人間の脳における神経細胞の結びつきを模倣した多層構造を使用して、データのパターンや依存関係を学習し、ディープ・ニューラル・ネットワークを構築することを目的としています。ディープ・ラーニングは、データを解析してパターンを認識し、次のデータの特徴を予測することで、非常に大きなデータセットを処理する技術です。


ディープ・ラーニング技術が出現する以前は、問題解決用のアルゴリズムを作成してテストを行うには、その問題に関する深い専門性が要求される上、多くの場合は非常に複雑な専用プログラムを手作業で作成してデバッグを行う必要がありました。



一方、ディープ・ラーニングでは、収集された大量のデータを使用して、コンピュータが自らをトレーニングすることができます。学習段階では、ニューラル・ネットワークは異なるパターンを分類する方法を学習しますが、この段階で、あらかじめラベルの付けられたデータセットが使用される場合、このプロセスは「教師あり学習」と呼ばれます。一方、ラベルの付けられていないデータセットを使用する学習プロセスは、「教師なし学習」と呼ばれます。教師なし学習プロセスでは、ニューラル・ネットワークが、類似パターンを持つグループごとにデータセットをまとめようと試みます。

どちらの場合も、タスクの実行に必要な情報をすべて含む人工ニューラル・ネットワーク(ANN)が生成されます。ANNは、トレーニングで習得した知識を使用して、新しい入力データからデータの特徴を推論します。これは推論段階と呼ばれ、ANNのトレーニングに使用されるサーバと比較して、メモリ容量と処理能力が何桁も小さいような組込み機器にも導入することができます。


Back to top

AIオン・ザ・エッジ

Artificial Neural Network人工ニューラル・ネットワーク(Artificial Neural Network: ANN)は、さまざまなタイプ、トポロジ、複雑さの度合いによって利用できるため、幅広いアプリケーションで生じる多様な問題に対応します。住宅、オフィス、自動車および工場向けのシステムに加え、パーソナル機器に搭載されるセンサの数は爆発的に増加しており、その種類も多様化しています。ANNはこれらの大量のセンサが検知したデータを活用できます。

しかし、これらすべてのセンサの生データが、遠隔地にある強力な集中処理用のAIに送信されるモデルを考えた場合、クラウドのデータ帯域幅と演算能力を大幅に拡大する必要があります。特に、何百万もの端末から送信される音声、動画、静止画を処理する場合には、このような中央集中型システムでは遅延が生じる恐れがあります。


クラウドで行われていた解析の一部をセンサやエッジ端末のより近くへと移し、AIシステムを集中型から分散型に切り替えることにより、非常に効率的なエンド・ツー・エンドのソリューションを実現することができます。この分散型アプローチは、データ通信の帯域幅とクラウド・サーバの処理能力に要求される条件を大幅に低減します。個人情報データをあらかじめ解析し、より高度な変換を行った後にサービス・プロバイダに送ることで、データのプライバシーを確保できるというメリットもあります。

AI on the Edge

さらに、ANNは、問題の複雑さに応じて、推論ごとの演算数やメモリ要件、入力データ・レート、リアルタイム処理の必要性のほか、許容される遅延時間など、さまざまな複雑度に応じたソリューションを提供することができます。

そのため、AIとディープ・ラーニングは、ソフトウェアのみ、またはソフトウェアとハードウェアを組み合わせた低消費電力のソリューションをセンサの近くに導入できるようになり、真のエッジ・コンピューティングが実現できます。

More about AI on the Edge use cases

Back to top

AIオン・ザ・エッジの使用例


AI research and developmentST has been engaged in AI research and development for several years. As a leading supplier of high volume, broad-market, embedded-processing solutions we are focused on developing scalable, flexible products and technologies to allow AI approaches to benefit a wide variety of devices, supporting a virtually unlimited number of use cases.

AI on STM32 Microcontrollers

In the future, nearly any device with a 32-bit microcontroller will be able to use AI techniques. More concretely they will be able to run DNN (Deep Neural Networks) that have been trained to do specific tasks.

While most microcontrollers today do not have the memory and processing power to run the learning algorithms needed to create DNNs, they can run the DNNs themselves – provided that the networks are optimized for microcontrollers.

STM32CubeMx.AIST has created a tool to do that optimizing of DNNs for a microcontroller. STM32CubeMx.AI is planned for release later this year as part of the STM32 software ecosystem.

The tool takes the pre-trained neural network model output from a broad range of the most popular AI frameworks (including Caffe, CNTK, Keras, Lasagne, TensorFlow, and theano), and maps it to an optimized DNN that is adapted to the memory and processing-power capabilities of a target STM32 microcontroller.

The tool can also check the functionality of the adapted DCNN – which can be 10x smaller than the original, with negligible loss of accuracy.

Check out this video for a deeper explanation of how the tool works from one of ST’s AI experts.

Advanced R&D for Dedicated AI Processing Hardware

ST has developed an advanced System-on-Chip demonstrator that allows ultra-energy-efficient DCNN processing. It addresses the challenging requirements of image, video, and natural language processing in data rate and real-time processing performance. The demonstrator combines 8 convolutional accelerators, 8 dual-DSP clusters, and an optimized distributed-memory architecture in a 28nm FD-SOI System on Chip. It achieved an efficiency of 2.9 TOPS/W @200MHz, 0.575 V at the beginning of 2017.

ST-Published papers on Artificial Intelligence

The Orlando Project: A 28nm FD-SOI Low Memory Embedded Neural Network ASIC. ACIVS-2016, Giuseppe Desoli, Valeria Tomaselli, Emanuele Plebani, Giulio Urlini, Danilo Pau, Viviana D’Alto, Tommaso Majo, Fabio De Ambroggi, Thomas Boesch, Surinder-pal Singh, Elio Guidetti, Nitin Chawla, ACIVS2016
https://rd.springer.com/chapter/10.1007/978-3-319-48680-2_20

2.9TOPS/W Deep Convolutional Neural Network SoC in FD-SOI 28nm for Intelligent Embedded Systems. ISSCC 2017, Giuseppe Desoli, Nitin Chawla, Thomas Boesch, Surinder-pal Singh, Elio Guidetti, Fabio De Ambroggi, Tommaso Majo, Paolo Zambotti, Manuj Ayodhyawasi, Harvinder Singh, Nalin Aggarwal, Solid-State Circuits Conference (ISSCC), 2017 IEEE International
https://ieeexplore.ieee.org/document/7870349/
Also presented @ 17th INTERNATIONAL FORUM ON MPSoC
http://www.mpsoc-forum.org/previous/2017/speakers/page/Danilo_Pau.html

Detecting changes at the sensor level in cyber-physical systems: Methodology and technological implementation, Cesare Alippi, Viviana D'Alto, Mirko Falchetto, Danilo Pau, Manuel Roveri , Neural Networks (IJCNN), 2017 International Joint Conference on, 14-19 May 2017,
https://ieeexplore.ieee.org/document/7966066/

Complexity and Accuracy of Hand-Crafted Detection Methods Compared to Convolutional Neural Networks, Valeria Tomaselli, Emanuele Plebani, Mauro Strano, Danilo Pau, Proceedings of 19th International Conference on Image Analysis and Processing, ICIAP 2017, 11-15 Sept 2017
https://rd.springer.com/chapter/10.1007/978-3-319-68560-1_27

Intelligent Embedded and Real-Time ANN-based Motor Control for Multi-Rotor Unmanned Aircraft Systems, George Michael, Nectarios Efstathiou, Kyriacos Mantis, Theocharis Theocharides, Danilo Pau,   Proceedings of 25th IFIP/IEEE International Conference on Very Large Scale Integration (VLSI-SoC) Abu Dhabi, UAE October 23 - 25, 2017
https://ieeexplore.ieee.org/document/8203456/

Back to top

artificial intelligence AI
人工知能(AI)とは、論理的な解析を行うことで知識を獲得し、時間や状況の環境変化に適応する機械の能力であると定義されます。すでにAIは、以下のような多種多様な用途において使用されています。

  • 高度な演算処理能力を持つ高性能AIによる、膨大な患者データの分析と最適なアドバイス提示といった医師の診断サポート
  • 自動運転車があらゆる交通情報を把握し、ドライバとその他の道路利用者の安全の確保や運転の効率化
  • 人間のオペレータと見分けがつかないチャットボットが、複雑な質問にリアルタイムで回答
  • オンライン・ショッピングにおいて、コンテンツを各利用者の好みに応じて最適化
  • 急速に普及し始めているパーソナル音声アシスタントによる日常生活の利便性の向上

これらは始まりにすぎません。モノのインターネット(IoT)によって何百億ものスマート機器がインターネットに接続されるようになると、私たちの生活の利便性に加えて、生活環境や職場環境の安全性と効率性が向上します。その際には、人間と機械のより自然なコミュニケーションが必要とされます。これらのスマート機器にAIの能力が加わることで、機能性と利便性はさらに大きく向上し、とりわけ、高性能のネットワーク機器において大きな威力を発揮することになります。これは「AIオン・ザ・エッジ(AI on the Edge)」と呼ばれることも多く、1つのトレンドになっています。

AIとディープ・ラーニング

AIは、自然界から発想を得た計算手法を組み合わせることで、従来の数学的モデルが効果的ではない実世界の複雑な問題に対処できます。従来の数学的モデルでは対応できない例として、複雑すぎて解析モデルを作成できないプロセスや、ふるまいが絶えず変化するためにプロセスの一部が未知である場合などが挙げられます。実生活で生じる問題の多くは正確に描写することができず、複雑な問題に分類されるため、従来の計算方法では処理することができません。

Deep Learning Artificial Intelligence
AIは、時間をかけて構築された経験をもとに、不正確で不十分な知識から、状況に適応する形で決断を下し行動するという、人間の脳の推論方法に近似した手法を使用します。

このようなAIの基本的なコンセプトは、1950年代から考案されていましたが、最新のプログラミング技術(pythonなど)、処理可能となった膨大な量のデータ、ニューラル・ネットワークのトレーニング用オープンソース・ツール、強力な計算センター、そして常に改良されている組込みプロセッシング・システムにより、AIは世界を変える技術として急速に発達しつつあります。

機械学習(Machine Learning: ML)は、AIの一部分で、機械が、従来の明確にプログラミングされた手順によってではなく、データと経験を解析してパターンを認識することで、予測や助言を行えるように学習する技術のことです。MLは、新しいデータや経験を使用して適応し、学習時間と共に予測性能を向上させます。

Artificial Neural Network ANN


ディープ・ラーニング(DL)は、機械学習の一部分です。人間の脳における神経細胞の結びつきを模倣した多層構造を使用して、データのパターンや依存関係を学習し、ディープ・ニューラル・ネットワークを構築することを目的としています。ディープ・ラーニングは、データを解析してパターンを認識し、次のデータの特徴を予測することで、非常に大きなデータセットを処理する技術です。


ディープ・ラーニング技術が出現する以前は、問題解決用のアルゴリズムを作成してテストを行うには、その問題に関する深い専門性が要求される上、多くの場合は非常に複雑な専用プログラムを手作業で作成してデバッグを行う必要がありました。



一方、ディープ・ラーニングでは、収集された大量のデータを使用して、コンピュータが自らをトレーニングすることができます。学習段階では、ニューラル・ネットワークは異なるパターンを分類する方法を学習しますが、この段階で、あらかじめラベルの付けられたデータセットが使用される場合、このプロセスは「教師あり学習」と呼ばれます。一方、ラベルの付けられていないデータセットを使用する学習プロセスは、「教師なし学習」と呼ばれます。教師なし学習プロセスでは、ニューラル・ネットワークが、類似パターンを持つグループごとにデータセットをまとめようと試みます。

どちらの場合も、タスクの実行に必要な情報をすべて含む人工ニューラル・ネットワーク(ANN)が生成されます。ANNは、トレーニングで習得した知識を使用して、新しい入力データからデータの特徴を推論します。これは推論段階と呼ばれ、ANNのトレーニングに使用されるサーバと比較して、メモリ容量と処理能力が何桁も小さいような組込み機器にも導入することができます。


Back to top

AIオン・ザ・エッジ

Artificial Neural Network人工ニューラル・ネットワーク(Artificial Neural Network: ANN)は、さまざまなタイプ、トポロジ、複雑さの度合いによって利用できるため、幅広いアプリケーションで生じる多様な問題に対応します。住宅、オフィス、自動車および工場向けのシステムに加え、パーソナル機器に搭載されるセンサの数は爆発的に増加しており、その種類も多様化しています。ANNはこれらの大量のセンサが検知したデータを活用できます。

しかし、これらすべてのセンサの生データが、遠隔地にある強力な集中処理用のAIに送信されるモデルを考えた場合、クラウドのデータ帯域幅と演算能力を大幅に拡大する必要があります。特に、何百万もの端末から送信される音声、動画、静止画を処理する場合には、このような中央集中型システムでは遅延が生じる恐れがあります。

クラウドで行われていた解析の一部をセンサやエッジ端末のより近くへと移し、AIシステムを集中型から分散型に切り替えることにより、非常に効率的なエンド・ツー・エンドのソリューションを実現することができます。この分散型アプローチは、データ通信の帯域幅とクラウド・サーバの処理能力に要求される条件を大幅に低減します。個人情報データをあらかじめ解析し、より高度な変換を行った後にサービス・プロバイダに送ることで、データのプライバシーを確保できるというメリットもあります。

AI on the Edge

さらに、ANNは、問題の複雑さに応じて、推論ごとの演算数やメモリ要件、入力データ・レート、リアルタイム処理の必要性のほか、許容される遅延時間など、さまざまな複雑度に応じたソリューションを提供することができます。

そのため、AIとディープ・ラーニングは、ソフトウェアのみ、またはソフトウェアとハードウェアを組み合わせた低消費電力のソリューションをセンサの近くに導入できるようになり、真のエッジ・コンピューティングが実現できます。

More about AI on the Edge use cases

Back to top

AIオン・ザ・エッジの使用例

STは、複数年にわたりAIの研究開発に取り組んでいます。幅広い市場に多数の組込みプロセッシング・ソリューションを提供する世界的サプライヤとして、STは、非常に多岐にわたる用途やシステムにおいてAIを活用することが可能な、拡張性と柔軟性に優れた製品と技術の開発に注力しています。

AIに対応するSTM32マイコン

今後、STの32bitマイコンであるSTM32を搭載するほぼすべての機器が、AI技術を使用できるようになります。これらのマイコンは、特定の問題を解決するためにトレーニングされたDNN(ディープ・ニューラル・ネットワーク)を実行できるようになります。

現在のマイコンの大半には、DNNを構築するために必要な学習アルゴリズムを実行できるメモリと処理能力が備わっていません。しかし、DNNがマイコン用に最適化されることで、DNN自体を実行することは可能になります。

STM32CubeMx.AISTは、マイコン用にDNNを最適化するツール「STM32Cube.AI」を開発しました。

このツールは、広く使用されているAIの各種フレームワーク(Caffe、CNTK、Keras、Lasagne、TensorFlow、theanoなど)から出力される学習済みのニューラル・ネットワーク・モデルを、STM32マイコンのメモリおよび処理能力に合わせて最適化されたDNNに対応させることができます。

また、最適化されたDCNN(ディープ畳み込みニューラル・ネットワーク)の機能性チェックも可能です。このDCNNは、元のモデルの10分の1の規模で、精度低下も無視できるほどに抑えることができます。

ANNに関するSTのソリューションの詳細について

AI処理専用ハードウェアに関する先進的な研究開発
STは、非常に高い電力効率でDCNN処理を実行できる先進的なシステム・オン・チップ(SoC)の実証サンプルを開発しました。静止画、動画、自然言語のデータ・レート内でのリアルタイム処理を実現しています。この実証サンプルは、8つの畳み込みアクセラレータ、8つのデュアルDSPクラスタ、そして最適化された分散型メモリ・アーキテクチャが搭載された、28nm FD-SOIプロセスを採用したSoCです。2017年初めに、2.9TOPS/W(200MHz、0.575V)の効率を達成しました。

AIに関するSTの発表論文
The Orlando Project: A 28nm FD-SOI Low Memory Embedded Neural Network ASIC.ACIVS-2016, Giuseppe Desoli, Valeria Tomaselli, Emanuele Plebani, Giulio Urlini, Danilo Pau, Viviana D’Alto, Tommaso Majo, Fabio De Ambroggi, Thomas Boesch, Surinder-pal Singh, Elio Guidetti, Nitin Chawla, ACIVS2016
https://rd.springer.com/chapter/10.1007/978-3-319-48680-2_20

2.9TOPS/W Deep Convolutional Neural Network SoC in FD-SOI 28nm for Intelligent Embedded Systems.ISSCC 2017, Giuseppe Desoli, Nitin Chawla, Thomas Boesch, Surinder-pal Singh, Elio Guidetti, Fabio De Ambroggi, Tommaso Majo, Paolo Zambotti, Manuj Ayodhyawasi, Harvinder Singh, Nalin Aggarwal, Solid-State Circuits Conference (ISSCC), 2017 IEEE International
http://ieeexplore.ieee.org/document/7870349/

同論文は、17th INTERNATIONAL FORUM ON MPSoCでも発表されました。
http://www.mpsoc-forum.org/previous/2017/speakers/page/Danilo_Pau.html

Detecting changes at the sensor level in cyber-physical systems: Methodology and technological implementation, Cesare Alippi, Viviana D'Alto, Mirko Falchetto, Danilo Pau, Manuel Roveri, Neural Networks (IJCNN), 2017 International Joint Conference on, 14-19 May 2017,
http://ieeexplore.ieee.org/document/7966066/

Complexity and Accuracy of Hand-Crafted Detection Methods Compared to Convolutional Neural Networks, Valeria Tomaselli, Emanuele Plebani, Mauro Strano, Danilo Pau, Proceedings of 19th International Conference on Image Analysis and Processing, ICIAP 2017, 11-15 Sept 2017
https://rd.springer.com/chapter/10.1007/978-3-319-68560-1_27

Intelligent Embedded and Real-Time ANN-based Motor Control for Multi-Rotor Unmanned Aircraft Systems, George Michael, Nectarios Efstathiou, Kyriacos Mantis, Theocharis Theocharides, Danilo Pau, Proceedings of 25th IFIP/IEEE International Conference on Very Large Scale Integration (VLSI-SoC) Abu Dhabi, UAE October 23 - 25, 2017
http://ieeexplore.ieee.org/document/8203456/

Back to top

ST 最新情報