月影

日々の雑感

NVIDIA比で電力効率10倍?LenzoのGPDPUがWhisper推論で示した衝撃のベンチマーク結果

Series: Lenzo's Innovation #03

NVIDIA比で電力効率10倍?Whisper加速とVOICEVOX Nemoが見せる実力

理論が正しければ、結果は自ずとついてくる。LenzoのGPDPUが叩き出したベンチマークスコアは、もはや「改善」の域を超え、既存のAIチップに対する「宣告」とも言えるものでした。

1. 衝撃のベンチマークNVIDIA RTX 4090 vs Lenzo

OpenAIの音声認識モデル「Whisper」を用いた推論テスト。最新鋭の4nmプロセスを採用したNVIDIAの怪物「RTX 4090」に対し、数世代前の28nmプロセスを想定したLenzoのチップが挑みました。

電力効率(Performance per Watt)比較

NVIDIA RTX 4090 (4nm)
 
1.0x (基準)
NVIDIA Jetson AGX Orin (エッジ最高峰)
 
5.1x
Lenzo GPDPU (28nm想定)
 
9.83x

※OpenAI Whisper Q8_0量子化モデルによる推論実行時の比較

結果は、RTX 4090に対し約10倍、エッジAI専用のJetson Orinに対しても約2倍の電力効率を達成。特筆すべきは、Lenzoが「枯れた技術」である28nmでこの数値を出しという事実です。

2. ベクトル検索を「185倍」加速する

繰り返しクエリ実行速度 54.9倍
EDP(エネルギー遅延積)削減 185.2倍

「速い」だけでなく「極めて省エネ」。この2つを掛け合わせた指標(EDP)で3桁の改善が見られるのは、設計の次元が異なる証拠です。

3. 実用化の最前線:VOICEVOX NemoとエッジAI

VOICEVOX Nemo × Lenzo

従来はクラウドで行っていた高品質な音声合成を、Lenzoのチップを積んだスマホや車載器なら「オフライン」で、しかも「瞬時」に実行可能にします。

結論:NVIDIA一強時代の終焉を日本から

2028年、NAISTの研究室が完全に企業へと統合される時。日本の「レンゾ」は、世界のAIインフラを支える新しい標準(スタンダード)になっているかもしれません。