TensorRT学習・開発キットは、python,C++のプログラミング言語を使用して、mnist,nmt,rcnn,ssdなどの基本モデルの学習から物体認識、物体分類などの応用まで幅広く習得できます。Tensorflow, pytorchで作成したモデルを最大40倍に高速化し、作成したモデルをエッジデバイスに移植し、自動運転、画像認識に活用ができます。
ubuntu22.04に対応しました。(2024/2/1)
公式HPへ
https://spectrum-tech.co.jp/products/trt.htmll背景と目的
AIは、今後、自動運転、画像認識など実用段階に入りますが、今後エッジデバイスでの高速処理が必須になります。その高速化のために、Nvidiaが開発したTensorRTの学習・開発キットを提供します。AIスキルの中・上級者が対象となります。学校から企業まで幅広く、安価にご利用頂けます。これまでは、Nvidiaの専用デバイス(Jetson等)でのみ動作していましたが、今回汎用のデスクトップPC等(Ubuntu,Windows)で使用可能。
TensorRTとは?
TensorRTは、Nvidiaが開発したAIプログラムです。TensorRTベースのアプリケーションは、推論中にCPUのみのプラットフォームよりも最大40倍高速に実行されます。 TensorRTを使用すると、すべての主要なフレームワークでトレーニングされたニューラルネットワークモデルを最適化し、低精度を高精度で調整し、ハイパースケールデータセンター、組み込み、または自動車製品プラットフォームに展開できます。
なお、利用には、NvidiaのGPUが必須になります。
特徴
(1)TensorRT基本習得(python,c++)
TensorRTを使ってmnist,nmt,rcnn,ssdなどの基本モデルを動作させ、量子化、メモリの節約の原理を習得します。またプログラム言語は、python, c++の二つが使用できます。
(2)TensorRT応用例の習得。
物体認識、物体分類のTensorRTでの高速処理の体験できます。作成したモデルでtensorflowとtensorRTの比較ができ、自然言語処理、カメラを使った画像認識なども学習できます。検証済なので、安心して利用できます。応用例により自社の業務への適用が簡単にできます。
(3)汎用デスクトップ等を使用し、エッジデバイスへの移植が容易
Nvidia専用機(jetson)の準備が不要で、お持ちのGPU搭載のデクストップPC等で利用できます。本キットで開発を行いエッジデバイスに移植が簡単にできます。自動運転、画像認識へ応用可
(4)初めての方でも安心サポート
安心なマニュアルと14日間の無料サポートを行います。対象は、tensorflow,pythonの基礎を習得した方になります。
提供するプログラム
(1)TensorRT(python)
物体認識EfficientDet
物体分類EfficientNet
Tensorflow_Mnist、Pytorch_mnist、Caffe_mnist
Onnx_packnet
Tensorflow object detection
Yolov3_onnx
(2)TensorRT(c++)
Mnist(onnx,uff)
RCNN(faster,uff)
NMT
SSD(uff)
(3)応用事例
BERT(自然言語処理、ドイツ語ー英語自動翻訳)
Torch2trt:カメラを使った画像認識、分類、量子化
お客様で準備して頂くもの
・intel又はamdのGPU搭載デスクトップパソコンです。
・また指定のソフトをお客様でインストールして頂きます。
お勧めの方
・エッジデバイスを使って自動運転、画像認識の学習、開発を行っている方。
・Tensorflow、Pytorchで作成したモデルを高速化したい方
・AIプログラムの高度なスキルを習得したい方
・AI学習の実習教材として利用を考えている学校関係の方
活用事例
・エッジデバイスに搭載する自動運転、画像認識、自動翻訳など
学習するために必要なスキル
・Tensorflow,Pythonの基礎的な知識(Pythonは、弊社別売りのAIプログラム学習キットで習得できます。)
・ソースコードからインストールを行うため、中上級者向けとなります。(手順書は提供します)。インストールが不慣れな方には、ソフトのインストール・サービスも提供します。(複雑で、時間のかかる作業を短縮できます。)