これが次世代AIボードの姿！Jetson Orin Nano Superの全貌とは？

2024/12/19

NVIDIAは開発者向け小型AIボード「Jetson Orin Nano Super」開発者キットを発表しました。この新モデルは、前世代と比較してAI性能が最大70％向上しながらも、価格が約半額に抑えられており、AI開発を身近にする画期的な製品となっています。

参考文献
Jetson Orin Nano Super Developer Kit | NVIDIA
https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-orin/nano-super-developer-kit/

NVIDIA Unveils Its Most Affordable Generative AI Supercomputer | NVIDIA Blog
https://blogs.nvidia.com/blog/jetson-generative-ai-supercomputer/

Jetson Orin Nano Superの性能向上

Jetson Orin Nano Superは、生成AI、ロボティクス、画像・映像認識の分野でスキル開発を行う開発者向けの製品です。NVIDIAによると、この新型ボードは前モデルと比較して以下のような性能向上を実現しています。

AI推論性能の向上
従来のJetson Orin Nanoが40TOPS（INT8）の性能を持つのに対し、Jetson Orin Nano Superでは67TOPS（INT8）に向上。これにより、AI処理能力は約1.7倍となりました。
メモリ帯域幅の拡張
メモリ帯域幅は従来の68GB/sから102GB/sに増強され、1.5倍の性能を実現。
CPU性能の向上
新しいArm Cortex-A78AEプロセッサを搭載し、クロック速度が1.5GHzから1.7GHzへ向上。
低価格化
販売価格は前モデルの499ドル（約7万6000円）から249ドル（約3万8000円）とほぼ半額になっています。

主な仕様と特長

Jetson Orin Nano Superは、NVIDIA独自のAmpereアーキテクチャに基づくGPUを採用しており、以下のスペックが特徴です。

CPU: Arm Cortex-A78AE 64-bitプロセッサ（6コア）
GPU: NVIDIA Ampereアーキテクチャ（CUDAコア×1024＋Tensorコア×32）
メモリ: 8GB 128-bit LPDDR5
ストレージ: SDカードおよびNVMe対応
I/O: USB 3.2 Gen2 Type-Aポート×2、ギガビットイーサネット、DisplayPort 1.2など
ビデオデコード: 最大4K60fpsのH.265デコード対応
消費電力: 7～25W
サイズ: 103mm×90.5mm×34.77mm

これにより、Jetson Orin Nano Superは生成AIモデルや視覚と言語の統合モデルを含む大規模言語モデルの実行が可能となり、幅広いAIアプリケーションへの対応力を持ちます。

新機能と互換性

NVIDIAは、Jetson Orin Nano Superのパフォーマンス向上はGPU、メモリ、CPUのクロック速度を引き上げる新しい電力モードの導入によるものだと説明しています。また、既存のJetson Orin Nanoユーザーも、ソフトウェアアップデートを行うことで類似の性能向上を得ることが可能です。

さらに、このボードはHuggingFace Transformers、NVIDIA TensorRT-LLMなど、主要な機械学習フレームワークとの高い互換性を持ちます。これにより、開発者は広範なAIツールやモデルを利用して、効率的にプロジェクトを進められる環境が整っています。