NVIDIAのAI覇権に挑戦：伝説のアーキテクト率いるオールスターチームの躍進

伝説的な半導体アーキテクトであるJim Keller（ジム・ケラー）のほか、著名な業界の猛者が集結するスタートアップがある。彼らは、独自のIPとツールチェーンでNVIDIAのAI独占を壊すことを目論んでいる。

吉田拓史

2023年6月16日 — 5 min read

AIチップ「Grayskull™ e75」。出典：Tenstorrent

伝説的な半導体アーキテクトであるJim Keller（ジム・ケラー）のほか、著名な業界の猛者が集結するスタートアップがある。彼らは、独自のIPとツールチェーンでNVIDIAのAI独占を壊すことを目論む。

Jim Keller（ジム・ケラー）は最近のEE Timesによるビデオインタビューに対して、「今後5年から10年の間に、RISC-Vがすべてのデータセンターを支配すると考えている」と述べ、特に科学における計算と高性能コンピューティング（HPC）に当てはまると付け加えた。近年、KellerはRISC-Vの支持者となっており、インタビューでも主要な話題となった。

AI半導体スタートアップの Tenstorrentは、AMDの半導体エンジニアだったLjubisa Bajic、Milos Trajkovic、そしてIvan Hamerという3人の創設者が2016年、同時にAMDを辞めて設立した。Apple、AMD、DECなどの企業で革命的なプロセッサ・アーキテクチャの作成を指揮してきた伝説的なCPUアーキテクトである Kellerは、当初はエンジェル投資家として出資し、2年前にプレジデント就任した。今年初め、KellerがCEOに就任し、CEOだったLjubisa Bajicは、顧問的な立場で会社に残ることになるという異例の人事が発表された。

Intelの元エグゼクティブ・バイスプレジデント（EVP）兼チーフアーキテクトであるRaja M. Koduriは、4月、Intelを退社して2週間後にTenstorrentの取締役に就任。Koduriもまた著名アーキテクトであり、Apple、Intel、AMDなど、半導体業界の主要メーカーを渡り歩き、25年以上にわたりCPUとGPUのアーキテクチャ設計に携わった。Koduriを役員に加えることは、同社のロードマップに対する有望なお墨付きとなった。

少し前までIntelの幹部だったKoduriもまた、RISC-Vに価値を見出しているようである。彼は、生成AIがそれを訓練する余裕のある少数の人の手に渡ってしまうという懸念は正当なものであり、彼が創業した生成AIスタートアップで、「Tenstorrentやその他のRISC-Vエコシステムと協力してこれらの問題に対処する」予定だと述べた。

チーフCPUアーキテクトであるWei-Han Lienは、NexGen、AMD、PA-Semi、Appleで活躍した著名アーキテクトだ。AppleのA6、A7（世界初の64ビットArm SoC）、M1 CPUのアーキテクチャと実装を担当したことで最もよく知られている。PA Semiのシニアプリンシパルアーキテクトから、2008年に買収に伴ってAppleに参画し、同社のArmベースのCPU設計で主導的立場にあり、iPhoneで成功したArm SoCをMacBookに持ち込み、Intelを追い出すことに一役買った。彼はいま、Tenstorrentでは、「Ascalon」というRISC-V CPUなどを設計している。彼のプロジェクトが同社のRISC-V戦略の要だ。

機械学習（ML）担当バイスプレジデントのMatthew MattinaはArmのML研究所のDistinguished Engineerおよび上級ディレクターで、ディープラーニング推論のためのハードウェア、ソフトウェア、アルゴリズムを開発する世界の研究者とエンジニアのチームを率いていた。Mattinaは、Digital Equipment CorporationでCPUアーキテクトとしてキャリアをスタートさせた。その後、Intelに入社し、Intel Ring Uncore Architectureを発明・設計。キャリアの中でCPU設計、マルチコアプロセッサ、効率的なニューラルネットワーク、オンチップインターコネクト、キャッシュコヒーレンシに関する50以上の特許を取得し、効率的なニューラルネットワーク推論の分野で20以上の出版物を共著で発表した、と同社はMattinaの入社時のブログに書いている。

Tenstorrentは、トロント、ベイエリア、オースティン、東京にオフィスを持つ。創業から7年で初期研究開発からビジネス展開まで成長し、マーケティング、セールス、サポートなどの役職を含む280人以上のスタッフを擁する。

RISC-Vが最もイノベーティブ

一流のエンジニアが多数在籍し、彼らがx86やArmのデザインに精通している中で、TenstorrentがRISC-V CPUの開発を決定した理由は何か。チーフCPUアーキテクトのWei-Han Lienは、x86はAMDとIntelによって制御され、ArmはArm Holdingによって管理されているため、イノベーションの速度が制限されているから、と米エレクトロニクスメディアTom’s Hardwareのインタビューに答えている。

Wei-Han Lienの説明によると、x86はライセンス制限により、イノベーションは基本的に1社か2社にコントロールされている。大企業になると、官僚的な階層が形成され、イノベーションのペースが遅くなる。Armも同じようなもので、仕様を見ると、とても複雑になっている。また、Armには「1人のアーキテクトに支配されている」ようなところがあるという。Armは、アーキテクチャライセンスのパートナーにさえ、可能な限りのシナリオを指示しているようなものだ、とWei-Han Lienは主張した。

対照的に、RISC-Vは急速に開発されている。このオープンソースのISAは、特に急速に開発されているAI分野に対して、革新的なアプローチを素早く取ることができる、とWei-Han Lienは言う。

RISC-V CPUの詳細

Tenstorrentは現在、2ワイド、3ワイド、4ワイド、6ワイド、8ワイドの5種類のRISC-V CPUコアIPを保有（※筆者注：ワイドは1クロックあたりに実行できる最大命令数を指す）。ごく基本的なCPUを必要とする潜在顧客に対しては、2ワイド実行の小型コアを提供できるが、エッジ、クライアントPC、HPCなどでより高い性能を必要とする顧客に対しては、6ワイドのAlastorコアと8ワイドのAscalonコアを用意している。

同社が最大命令数ごとに異なるアーキテクチャを設計する強みは、同時にエッジ用途などのIPも同時に提供できることだろう。Tenstorrentは最近、Tensix AIアクセラレータコアIPとAscalon CPUコアIPの両方をLGエレクトロニクスにライセンスした。LGはTensix IPをスマートテレビや車載チップなどの組み込みエッジで使用する予定という。また、両社は将来世代のRISC-V CPU、AIアクセラレータ、ビデオコーデックIPやチップレットでも協業する予定だ。

Wei-Han Lienは、1クロックあたり最大8命令を実行できるAppleの「ワイド」CPUマイクロアーキテクチャを担当したチップデザイナーの1人。例えば、AppleのA14およびM1 SoCは、8ワイドの高性能Firestorm CPUコアを搭載しており、これらが発表されてから2年が経過した今でも、業界で最も電力効率の高い設計の1つとなっている。Lienは、おそらく業界屈指の「ワイド」CPUマイクロアーキテクチャのスペシャリストで、8ワイドRISC-V高性能CPUコアを開発するエンジニアチームを率いる唯一のプロセッサ設計者と考えられている。

現代のプロセッサーが一般に発売されるまでに4〜5年の開発期間を要することを考えると、今頃、誰かがゲームを変えるRISC-V CPUを開発していると考えていいかもしれない。Tenstorrentは、その急先鋒の１つと言っていいだろう。同社が取り組む最新のAscalonは2024年にリリースされる予定のRISC-Vアーキテクチャで、予測されているAMD Zen5（同じく2024年）と同様の性能を持ちながら、消費電力は低くなるとされている。

主戦場はAI、データセンター

開発チームの成果の中には、世界初の8ワイドRISC-V CPUコアや、AIだけでなくHPCアプリケーションにも使用できるシステムハードウェアアーキテクチャも含まれている。

CPUコアを同じダイの上で統合するSoCの方向性は、Intel、AMD、NVIDIAらが目指すところだ。先頭を走るのはNVIDIAで、最近も台湾でのカンファレンスでArm CPUとGPUを1モジュール上に統合した「NVIDIA GH200 Grace Hopper Superchip」とGH200を活用したスーパーコンピュータのDGX GH200の市場投入を発表した。

Tenstorrentは、大手チップ企業同様、汎用CPUとAIアクセラレータのハードウェアを自社で保有しており、これが独自の強みとなっている。一方で、RISC-V ISAを採用しているため、少なくともCPUに関しては、今のところ対応できない市場や用途が存在する。

AI戦争に参加するにはまだ欠けているピースがある。それは、NVIDIAのGPUを汎用処理へと導くCUDAのようなソフトウェアだ。EETimesによると、Jim Kellerは、最近、インドのベンガルールにおけるRISC-Vのイベントで、Tenstorrentがソフトウェア面で「苦戦」していることを認めている。「AIプロセッサのソフトウェアは、本当に難しい。私たちは苦労している。1年は遅れているだろう」と述べた。

Tenstorrentは、独自のAIソフトウェアスタックを間もなくオープンソース化する予定だ。「昨年、これを実現したかったのだが、私たちのソフトウェアスタックはあまりにも厄介で、適切な方法でパーティショニングする必要があったため、準備ができていなかった」と彼は冒頭に紹介したビデオインタビューで述べた。

RISC-Vの命令セットアーキテクチャ（ISA）のオープンソース化とともに、CUDAのようなソフトウェア基盤をオープンソース化することで、NVIDIAの独占は解けるのだろうか。レジェンドの舵取りに注目が集まる。