TensorRT学習・開発キット

TensorRT学習・開発キットは、python,C++のプログラミング言語を使用して、mnist,nmt,rcnn,ssdなどの基本モデルの学習から物体認識、物体分類などの応用まで幅広く習得できます。Tensorflow, pytorchで作成したモデルを最大40倍に高速化し、作成したモデルをエッジデバイスに移植し、自動運転、画像認識に活用ができます。
ubuntu22.04に対応しました。(2024/2/1)
公式HPへ
https://spectrum-tech.co.jp/products/trt.htmll

背景と目的
 AIは、今後、自動運転、画像認識など実用段階に入りますが、今後エッジデバイスでの高速処理が必須になります。その高速化のために、Nvidiaが開発したTensorRTの学習・開発キットを提供します。AIスキルの中・上級者が対象となります。学校から企業まで幅広く、安価にご利用頂けます。これまでは、Nvidiaの専用デバイス(Jetson等)でのみ動作していましたが、今回汎用のデスクトップPC等(Ubuntu,Windows)で使用可能。

TensorRTとは?
 TensorRTは、Nvidiaが開発したAIプログラムです。TensorRTベースのアプリケーションは、推論中にCPUのみのプラットフォームよりも最大40倍高速に実行されます。 TensorRTを使用すると、すべての主要なフレームワークでトレーニングされたニューラルネットワークモデルを最適化し、低精度を高精度で調整し、ハイパースケールデータセンター、組み込み、または自動車製品プラットフォームに展開できます。

 なお、利用には、NvidiaのGPUが必須になります。

特徴
(1)TensorRT基本習得(python,c++)
 TensorRTを使ってmnist,nmt,rcnn,ssdなどの基本モデルを動作させ、量子化、メモリの節約の原理を習得します。またプログラム言語は、python, c++の二つが使用できます。

(2)TensorRT応用例の習得。
 物体認識、物体分類のTensorRTでの高速処理の体験できます。作成したモデルでtensorflowとtensorRTの比較ができ、自然言語処理、カメラを使った画像認識なども学習できます。検証済なので、安心して利用できます。応用例により自社の業務への適用が簡単にできます。

(3)汎用デスクトップ等を使用し、エッジデバイスへの移植が容易
 Nvidia専用機(jetson)の準備が不要で、お持ちのGPU搭載のデクストップPC等で利用できます。本キットで開発を行いエッジデバイスに移植が簡単にできます。自動運転、画像認識へ応用可

(4)初めての方でも安心サポート
 安心なマニュアルと14日間の無料サポートを行います。対象は、tensorflow,pythonの基礎を習得した方になります。

提供するプログラム
(1)TensorRT(python)
 物体認識EfficientDet
 物体分類EfficientNet
 Tensorflow_Mnist、Pytorch_mnist、Caffe_mnist
 Onnx_packnet
 Tensorflow object detection
 Yolov3_onnx

(2)TensorRT(c++)
 Mnist(onnx,uff)
 RCNN(faster,uff)
 NMT
 SSD(uff)

(3)応用事例
 BERT(自然言語処理、ドイツ語ー英語自動翻訳)
 Torch2trt:カメラを使った画像認識、分類、量子化

お客様で準備して頂くもの
・intel又はamdのGPU搭載デスクトップパソコンです。
・また指定のソフトをお客様でインストールして頂きます。

お勧めの方
・エッジデバイスを使って自動運転、画像認識の学習、開発を行っている方。
・Tensorflow、Pytorchで作成したモデルを高速化したい方
・AIプログラムの高度なスキルを習得したい方
・AI学習の実習教材として利用を考えている学校関係の方

活用事例
・エッジデバイスに搭載する自動運転、画像認識、自動翻訳など

学習するために必要なスキル
・Tensorflow,Pythonの基礎的な知識(Pythonは、弊社別売りのAIプログラム学習キットで習得できます。)
・ソースコードからインストールを行うため、中上級者向けとなります。(手順書は提供します)。インストールが不慣れな方には、ソフトのインストール・サービスも提供します。(複雑で、時間のかかる作業を短縮できます。)