AIをクラウドだけでなく、工場、店舗、車両、医療機器、ロボットなどの現場で動かしたい。

 そんな「エッジAI」を検討するとき、意外に難しいのがハードウェア選びです。

GPUを搭載すればよいのか。
NPUで十分なのか。
生成AIなら何を選ぶのか。
消費電力や設置スペースはどこまで許容できるのか。

 そこで今回は、産業用ストレージや組込み機器で知られるInnodiskの「エッジAIシステム」を題材に、製品名からではなく用途から選ぶという視点で整理してみます。

 Innodiskの特長は、単にAIアクセラレータを搭載したPCを提供するのではなく、ハードウェア、コンピューティングプラットフォーム、ソフトウェア、ファームウェアなどを統合し、用途に応じたカスタマイズまで想定している点です。


まず押さえたい「3つのAIプラットフォーム」

 現在のラインアップは大きく分けると、次の3系統で考えると分かりやすくなります。

画像
3つのAIプラットフォーム

 現在InnodiskのAIソリューションには、NVIDIAソリューションが4製品、Qualcommソリューションが2製品、Intelソリューションが1製品あります。

 重要なのは、「どのメーカーのアクセラレータが一番速いか」ではなく、「現場で何を実行するのか」から逆算することだと思います。


① NVIDIA系:AIの処理能力とGPUエコシステムを重視するなら

 NVIDIA ソリューションには、APEX-S100、APEX-X100、APEX-P100、APEX-P200という幅のあるラインアップが用意されています。

画像
APEX-P200

代表例:APEX-P200

 APEX-P200はNVIDIA RTX 2000 Adaを搭載したコンパクトなエッジAIシステムです。

  • CUDAコア:3,072
  • Tensorコア:96
  • RTコア:24
  • GPUメモリ:8GB GDDR6 ECC
  • 最大64GB DDR5
  • 512GB NVMe SSD搭載
  • 3 × 2.5GbE
  • OOBリモート管理
  • 本体サイズ:182 × 158.6 × 90mm
  • 動作温度:-20~60℃

 という構成で、医療画像解析、AGV/AMR、物体検出、動作解析などが想定されています。

 メーカーサイトでは、APEX-P200を使った鉄道安全向け異物検出も事例として紹介されています。

こんなケースで有力

✅ 複数カメラを使った画像AI
✅ 高度な画像認識・物体検出
✅ 医療画像解析
✅ ロボティクス
✅ CUDAベースの既存AI資産を利用したい
✅ GPU性能を今後も拡張したい

 といった案件なら、まずNVIDIA系から検討するのが自然でしょう。


NVIDIAには「もっと上」もある

画像
APEX-S100

 興味深いのがAPEX-S100です。

 これは一般的な小型エッジPCとはかなり性格が異なる、2U奥行き短縮型のNVIDIA MGX AI Serverです。

 最大2基のNVIDIA H200、またはRTX PRO 6000 Blackwell Server Editionをサポートし、Intel Xeon 6、NVIDIA BlueField-3 DPU、NVLinkなどにも対応。AIトレーニング、ディープラーニング、LLM/SLM、HPC、ファインチューニングまでターゲットにしています。H200の場合、1基で最大3,341 TFLOPSのFP8 AI性能とされています。

 つまり同じNVIDIA系でも、

現場推論 → APEX-P系
大型モデル・学習・HPC → APEX-S100

 というように、かなり用途が異なります。


② Qualcomm系:実は「省電力エッジ」と「オンプレ生成AI」の2方向

 Qualcomm系は特に面白いラインアップです。

 APEX-A100とAPEX-X100-Qでは、同じQualcomm系でも狙っている領域がかなり異なります。

画像
APEX-A100

APEX-A100:AMRやAGVなど、装置側のAI

 APEX-A100はQualcomm Dragonwing IQ-9075 SoCを搭載。

 最大100TOPS(Dense)/ 200TOPS(Sparse)のAI性能、最大36GBオンボードメモリ、128GB UFS 3.1ストレージを備え、ファンレス設計で動作温度は -40~70℃。AGV、AMR、VLMなどのエッジ用途が想定されています。チップセットについては2038年までの長期供給対応も掲げられています。

 そのため、

「大量のGPU電力を使うほどではない。でもカメラAIやロボティクスを現場で高速処理したい」

 という用途で面白い選択肢です。

 さらにQualcomm AI Hubでは、YOLO、ResNet、UNetSegを含む100種類以上の検証済みAIモデルが提供され、TFLite、QNN、ONNXにも対応しています。


画像
APEX-X100-Q

APEX-X100-Q:ローカルLLMなら要注目

 もう一つのAPEX-X100-Qは方向性が異なります。

 Intel Core i7-13700EとQualcomm Cloud AI 100 Ultraアクセラレータを組み合わせ、

870TOPS(INT8)
128GBアクセラレータメモリ
150W TDP

 を実現しています。ローカルのエンタープライズLLMや、オンプレミスのマルチモーダル言語モデルを想定したシステムです。

 メーカー発表のユースケースも象徴的で、AI自動コールセンターにおける音声テキスト変換が紹介されています。

 したがって、

✅ 社内LLM
✅ オンプレミス生成AI
✅ SLM
✅ RAGシステムの推論サーバー
✅ 音声認識
✅ クラウドへデータを出したくないAI

 といった案件では検討価値が高そうです。

 特にローカルLLMでは、単純なTOPSだけでなくモデルを収容できるメモリ容量が重要になります。その意味でも128GBというメモリ構成は、APEX-X100-Qを評価するときの重要なポイントです。


③ Intel系:AI専用GPUを追加せずに始めたい場合

画像
APEX-E100

 Intel ソリューションのAPEX-E100は、Intel Core Ultraを採用したAI Box PCです。

 CPU+GPU+NPUによって最大36TOPS。最大96GB DDR5、512GB NVMe SSD、2 × 2.5GbEに加え、Innodisk独自のMIPI over Type-Cカメラを2台サポートします。

 ここでポイントになるのがNPU内蔵です。

 専用GPUを追加する構成とは異なり、CPUに統合されたAIアクセラレーションを活用できるため、

✅ AOI(自動外観検査)
✅ 監視カメラAI
✅ AMR/AGV
✅ スマートシティ
✅ 比較的軽量な画像認識

 などのエッジAIに向きます。

 メーカーサイトでは、生産ラインのAOIと倉庫内AMRをユースケースとして紹介しています。

 さらにMIPI over Type-Cでは、MIPIの低遅延・低消費電力という特長を維持しながら、接続距離を最大1mまで延長できるとされています。カメラと演算装置の配置自由度が重要になる画像検査装置などでは、地味ながら実装上重要なポイントとなるでしょう。


では、どれを選べばいい?

 まず次のように切り分けるのが宜しいかと思います。

「画像AIを本格的にやりたい」

→ NVIDIA APEX-P200など

 CUDA/Tensorコアを活用するアプリケーション、画像解析、物体検出、医療画像、ロボティクスならNVIDIA系を最初の候補にします。

「AMR/AGVに載せたい。消費電力や温度条件も重要」

→ Qualcomm APEX-A100

 最大100TOPS Dense / 200TOPS Sparse、ファンレス、-40~70℃という仕様は、エッジ装置への搭載という観点で注目できます。

「オンプレミスで生成AI・LLMを動かしたい」

→ Qualcomm APEX-X100-Q

 870TOPS INT8、128GBアクセラレータメモリという構成を生かしたSLM、LLM、生成AI用途が明確です。

「AOIやカメラAIをシンプルに導入したい」

→ Intel APEX-E100

 CPU、GPU、NPUが統合されたCore Ultraを使い、最大36TOPS。大きな外付けGPUを前提にしないエッジAIでは検討しやすい構成です。

「生成AIの学習・ファインチューニングまで自社環境でおこないたい」

→ NVIDIA APEX-S100

 H200やRTX PRO 6000 Blackwell Server Editionを最大2基搭載でき、LLM/SLM、AIトレーニング、HPC、ファインチューニングまでターゲットにしています。


一目で分かる選択チャート

 やりたいことは?

├─ AIモデルの学習・LLMファインチューニング
│ └─ NVIDIA APEX-S100
│
├─ LLM / SLM / 生成AIのオンプレ推論
│ └─ Qualcomm APEX-X100-Q
│
├─ 高度な画像認識・GPU AI
│ └─ NVIDIA APEX-P系
│
├─ AMR / AGVで省電力・耐環境性を重視
│ └─ Qualcomm APEX-A100
│
└─ AOI / カメラAIをコンパクトに構成
└─ Intel APEX-E100

 ↑ これは絶対的な分類ではなく、公開されている仕様と想定アプリケーションから整理した選定の目安です。実際には処理するAIモデル、カメラ台数、FPS、消費電力、温度条件、使用するAIフレームワークなどを確認して最終選定する必要があります。


TOPSだけで比較すると失敗する

 エッジAI製品を比較すると、どうしても「○○TOPS」という数字に目が行きます。

 しかし、実際の製品選定ではTOPSだけで単純比較すべきではありません。

 たとえばAPEX-X100-Qの870TOPSはINT8、APEX-A100ではDenseとSparseが区別され、APEX-S100ではFP8/FP16/BF16など別の指標が使われています。異なる精度・アーキテクチャの数字なので、TOPSやTFLOPSの数字だけを横並びにして「大きいほど速い」と判断するのは適切ではありません。

 実案件なら、

  1.  動かしたいモデル
  2.  推論速度・FPS・レイテンシ
  3.  モデルが必要とするメモリ
  4.  使用フレームワーク
  5.  カメラ / LAN / PoEなど必要I/O
  6.  消費電力・放熱
  7.  設置寸法
  8.  動作温度・振動など環境条件
  9.  保守・遠隔管理
  10.  長期供給

 この順に条件を整理し、最後に候補機でベンチマークするのが現実的です。


Innodiskならではの面白さは「AIチップの先」にある

 InnodiskのAIシステムで注目したいのは、NVIDIA、Qualcomm、Intelという異なるAIプラットフォームを扱っていることだけではありません。

 同社は、産業用SSD、DRAMモジュール、組込み周辺機器などを含めた選択肢を持ち、ハードウェア、ソフトウェア、熱設計、ファームウェア、BIOS、I/O、システム設計まで用途別にカスタマイズできることを打ち出しています。

 エッジAIは「AIモデルが動いた」で終わりではありません。

カメラをどう接続するか。
SSDをどう交換するか。
OSが落ちたとき遠隔から復旧できるか。
真夏・真冬の現場で安定して動くか。
数年後も同じ構成で調達できるか。

 量産や実運用に入ると、むしろこうした部分が重要になります。

 Innodiskが、産業AIの課題としてストレージ、レガシーシステムとの統合、過酷な環境での信頼性、産業グレード部品などを挙げているのも、このためでしょう。


まとめ

 InnodiskのエッジAIラインアップを一言で整理するなら、

「AIの性能だけでなく、実際に現場へ実装するところまでを考えた産業向けAIシステム」

 と捉えると分かりやすそうです。

 NVIDIA、Qualcomm、Intelのどれが優れているか、という話ではありません。

  • GPU AI・画像処理・学習なら NVIDIA
  • 低消費電力なエッジAIなら Qualcomm APEX-A100
  • ローカルLLM/生成AIなら Qualcomm APEX-X100-Q
  • コンパクトなNPUベースの画像AIなら Intel APEX-E100
  • 大規模AI・HPC・ファインチューニングなら NVIDIA APEX-S100

 というように、AIワークロードから逆算してプラットフォームを選ぶことが重要です。

 AI PCを「スペック表」から選ぶのではなく、

どこで、何のAIを、何年間動かすのか。

 ここから考え始めることが、エッジAIシステム選定の第一歩ではないでしょうか。

参考ページ