NVIDIAのAI覇権に挑戦:伝説のアーキテクト率いるオールスターチームの躍進

伝説的な半導体アーキテクトであるJim Keller(ジム・ケラー)のほか、著名な業界の猛者が集結するスタートアップがある。彼らは、独自のIPとツールチェーンでNVIDIAのAI独占を壊すことを目論んでいる。

NVIDIAのAI覇権に挑戦:伝説のアーキテクト率いるオールスターチームの躍進
AIチップ「Grayskull™ e75」。出典:Tenstorrent

伝説的な半導体アーキテクトであるJim Keller(ジム・ケラー)のほか、著名な業界の猛者が集結するスタートアップがある。彼らは、独自のIPとツールチェーンでNVIDIAのAI独占を壊すことを目論む。


Jim Keller(ジム・ケラー)は最近のEE Timesによるビデオインタビューに対して、「今後5年から10年の間に、RISC-Vがすべてのデータセンターを支配すると考えている」と述べ、特に科学における計算と高性能コンピューティング(HPC)に当てはまると付け加えた。近年、KellerはRISC-Vの支持者となっており、インタビューでも主要な話題となった。

AI半導体スタートアップの Tenstorrentは、AMDの半導体エンジニアだったLjubisa Bajic、Milos Trajkovic、そしてIvan Hamerという3人の創設者が2016年、同時にAMDを辞めて設立した。Apple、AMD、DECなどの企業で革命的なプロセッサ・アーキテクチャの作成を指揮してきた伝説的なCPUアーキテクトである Kellerは、当初はエンジェル投資家として出資し、2年前にプレジデント就任した。今年初め、KellerがCEOに就任し、CEOだったLjubisa Bajicは、顧問的な立場で会社に残ることになるという異例の人事が発表された。

Intelの元エグゼクティブ・バイスプレジデント(EVP)兼チーフアーキテクトであるRaja M. Koduriは、4月、Intelを退社して2週間後にTenstorrentの取締役に就任。Koduriもまた著名アーキテクトであり、Apple、Intel、AMDなど、半導体業界の主要メーカーを渡り歩き、25年以上にわたりCPUとGPUのアーキテクチャ設計に携わった。Koduriを役員に加えることは、同社のロードマップに対する有望なお墨付きとなった。

少し前までIntelの幹部だったKoduriもまた、RISC-Vに価値を見出しているようである。彼は、生成AIがそれを訓練する余裕のある少数の人の手に渡ってしまうという懸念は正当なものであり、彼が創業した生成AIスタートアップで、「Tenstorrentやその他のRISC-Vエコシステムと協力してこれらの問題に対処する」予定だと述べた

チーフCPUアーキテクトであるWei-Han Lienは、NexGen、AMD、PA-Semi、Appleで活躍した著名アーキテクトだ。AppleのA6、A7(世界初の64ビットArm SoC)、M1 CPUのアーキテクチャと実装を担当したことで最もよく知られている。PA Semiのシニアプリンシパルアーキテクトから、2008年に買収に伴ってAppleに参画し、同社のArmベースのCPU設計で主導的立場にあり、iPhoneで成功したArm SoCをMacBookに持ち込み、Intelを追い出すことに一役買った。彼はいま、Tenstorrentでは、「Ascalon」というRISC-V CPUなどを設計している。彼のプロジェクトが同社のRISC-V戦略の要だ。

機械学習(ML)担当バイスプレジデントのMatthew MattinaはArmのML研究所のDistinguished Engineerおよび上級ディレクターで、ディープラーニング推論のためのハードウェア、ソフトウェア、アルゴリズムを開発する世界の研究者とエンジニアのチームを率いていた。Mattinaは、Digital Equipment CorporationでCPUアーキテクトとしてキャリアをスタートさせた。その後、Intelに入社し、Intel Ring Uncore Architectureを発明・設計。キャリアの中でCPU設計、マルチコアプロセッサ、効率的なニューラルネットワーク、オンチップインターコネクト、キャッシュコヒーレンシに関する50以上の特許を取得し、効率的なニューラルネットワーク推論の分野で20以上の出版物を共著で発表した、と同社はMattinaの入社時のブログに書いている。

Tenstorrentは、トロント、ベイエリア、オースティン、東京にオフィスを持つ。創業から7年で初期研究開発からビジネス展開まで成長し、マーケティング、セールス、サポートなどの役職を含む280人以上のスタッフを擁する

RISC-Vが最もイノベーティブ

一流のエンジニアが多数在籍し、彼らがx86やArmのデザインに精通している中で、TenstorrentがRISC-V CPUの開発を決定した理由は何か。チーフCPUアーキテクトのWei-Han Lienは、x86はAMDとIntelによって制御され、ArmはArm Holdingによって管理されているため、イノベーションの速度が制限されているから、と米エレクトロニクスメディアTom’s Hardwareのインタビューに答えている。

Wei-Han Lienの説明によると、x86はライセンス制限により、イノベーションは基本的に1社か2社にコントロールされている。大企業になると、官僚的な階層が形成され、イノベーションのペースが遅くなる。Armも同じようなもので、仕様を見ると、とても複雑になっている。また、Armには「1人のアーキテクトに支配されている」ようなところがあるという。Armは、アーキテクチャライセンスのパートナーにさえ、可能な限りのシナリオを指示しているようなものだ、とWei-Han Lienは主張した。

対照的に、RISC-Vは急速に開発されている。このオープンソースのISAは、特に急速に開発されているAI分野に対して、革新的なアプローチを素早く取ることができる、とWei-Han Lienは言う。

RISC-V CPUの詳細

Tenstorrentは現在、2ワイド、3ワイド、4ワイド、6ワイド、8ワイドの5種類のRISC-V CPUコアIPを保有(※筆者注:ワイドは1クロックあたりに実行できる最大命令数を指す)。ごく基本的なCPUを必要とする潜在顧客に対しては、2ワイド実行の小型コアを提供できるが、エッジ、クライアントPC、HPCなどでより高い性能を必要とする顧客に対しては、6ワイドのAlastorコアと8ワイドのAscalonコアを用意している。

同社が最大命令数ごとに異なるアーキテクチャを設計する強みは、同時にエッジ用途などのIPも同時に提供できることだろう。Tenstorrentは最近、Tensix AIアクセラレータコアIPとAscalon CPUコアIPの両方をLGエレクトロニクスにライセンスした。LGはTensix IPをスマートテレビや車載チップなどの組み込みエッジで使用する予定という。また、両社は将来世代のRISC-V CPU、AIアクセラレータ、ビデオコーデックIPやチップレットでも協業する予定だ。

Wei-Han Lienは、1クロックあたり最大8命令を実行できるAppleの「ワイド」CPUマイクロアーキテクチャを担当したチップデザイナーの1人。例えば、AppleのA14およびM1 SoCは、8ワイドの高性能Firestorm CPUコアを搭載しており、これらが発表されてから2年が経過した今でも、業界で最も電力効率の高い設計の1つとなっている。Lienは、おそらく業界屈指の「ワイド」CPUマイクロアーキテクチャのスペシャリストで、8ワイドRISC-V高性能CPUコアを開発するエンジニアチームを率いる唯一のプロセッサ設計者と考えられている。

現代のプロセッサーが一般に発売されるまでに4〜5年の開発期間を要することを考えると、今頃、誰かがゲームを変えるRISC-V CPUを開発していると考えていいかもしれない。Tenstorrentは、その急先鋒の1つと言っていいだろう。同社が取り組む最新のAscalonは2024年にリリースされる予定のRISC-Vアーキテクチャで、予測されているAMD Zen5(同じく2024年)と同様の性能を持ちながら、消費電力は低くなるとされている。

主戦場はAI、データセンター

開発チームの成果の中には、世界初の8ワイドRISC-V CPUコアや、AIだけでなくHPCアプリケーションにも使用できるシステムハードウェアアーキテクチャも含まれている。

CPUコアを同じダイの上で統合するSoCの方向性は、Intel、AMD、NVIDIAらが目指すところだ。先頭を走るのはNVIDIAで、最近も台湾でのカンファレンスでArm CPUとGPUを1モジュール上に統合した「NVIDIA GH200 Grace Hopper Superchip」とGH200を活用したスーパーコンピュータのDGX GH200の市場投入を発表した。

NVIDIAが超強力AIスパコンで軍拡競争を激しく煽る
AIゴールドラッシュで「スコップ」を売るNVIDIAが、富岳に匹敵する超強力なAIスパコンを発表した。これは外販されるため、AI軍拡競争の熾烈さを著しく助長することを意味する。

Tenstorrentは、大手チップ企業同様、汎用CPUとAIアクセラレータのハードウェアを自社で保有しており、これが独自の強みとなっている。一方で、RISC-V ISAを採用しているため、少なくともCPUに関しては、今のところ対応できない市場や用途が存在する。

AI戦争に参加するにはまだ欠けているピースがある。それは、NVIDIAのGPUを汎用処理へと導くCUDAのようなソフトウェアだ。EETimesによると、Jim Kellerは、最近、インドのベンガルールにおけるRISC-Vのイベントで、Tenstorrentがソフトウェア面で「苦戦」していることを認めている。「AIプロセッサのソフトウェアは、本当に難しい。私たちは苦労している。1年は遅れているだろう」と述べた。

Tenstorrentは、独自のAIソフトウェアスタックを間もなくオープンソース化する予定だ。「昨年、これを実現したかったのだが、私たちのソフトウェアスタックはあまりにも厄介で、適切な方法でパーティショニングする必要があったため、準備ができていなかった」と彼は冒頭に紹介したビデオインタビューで述べた。

RISC-Vの命令セットアーキテクチャ(ISA)のオープンソース化とともに、CUDAのようなソフトウェア基盤をオープンソース化することで、NVIDIAの独占は解けるのだろうか。レジェンドの舵取りに注目が集まる。

Read more

新たなスエズ危機に直面する米海軍[英エコノミスト]

新たなスエズ危機に直面する米海軍[英エコノミスト]

世界が繁栄するためには、船が港に到着しなければならない。マラッカ海峡やパナマ運河のような狭い航路を通過するとき、船舶は最も脆弱になる。そのため、スエズ運河への唯一の南側航路である紅海で最近急増している船舶への攻撃は、世界貿易にとって重大な脅威となっている。イランに支援されたイエメンの過激派フーシ派は、表向きはパレスチナ人を支援するために、35カ国以上につながる船舶に向けて100機以上の無人機やミサイルを発射した。彼らのキャンペーンは、黒海から南シナ海まですでに危険にさらされている航行の自由の原則に対する冒涜である。アメリカとその同盟国は、中東での紛争をエスカレートさせることなく、この問題にしっかりと対処しなければならない。 世界のコンテナ輸送量の20%、海上貿易の10%、海上ガスと石油の8~10%が紅海とスエズルートを通過している。数週間の騒乱の後、世界の5大コンテナ船会社のうち4社が紅海とスエズ航路の航海を停止し、BPは石油の出荷を一時停止した。十分な供給があるため、エネルギー価格への影響は軽微である。しかし、コンテナ会社の株価は、投資家が輸送能力の縮小を予想している

By エコノミスト(英国)
新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

新型ジェットエンジンが超音速飛行を復活させる可能性[英エコノミスト]

1960年代以来、世界中のエンジニアが回転デトネーションエンジン(RDE)と呼ばれる新しいタイプのジェット機を研究してきたが、実験段階を超えることはなかった。世界最大のジェットエンジン製造会社のひとつであるジー・エアロスペースは最近、実用版を開発中であると発表した。今年初め、米国の国防高等研究計画局は、同じく大手航空宇宙グループであるRTX傘下のレイセオンに対し、ガンビットと呼ばれるRDEを開発するために2900万ドルの契約を結んだ。 両エンジンはミサイルの推進に使用され、ロケットや既存のジェットエンジンなど、現在の推進システムの航続距離や速度の限界を克服する。しかし、もし両社が実用化に成功すれば、超音速飛行を復活させる可能性も含め、RDEは航空分野でより幅広い役割を果たすことになるかもしれない。 中央フロリダ大学の先端航空宇宙エンジンの専門家であるカリーム・アーメッドは、RDEとは「火を制御された爆発に置き換える」ものだと説明する。専門用語で言えば、ジェットエンジンは酸素と燃料の燃焼に依存しており、これは科学者が消炎と呼ぶ亜音速の反応だからだ。それに比べてデトネーシ

By エコノミスト(英国)
ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

ビッグテックと地政学がインターネットを作り変える[英エコノミスト]

今月初め、イギリス、エストニア、フィンランドの海軍がバルト海で合同演習を行った際、その目的は戦闘技術を磨くことではなかった。その代わり、海底のガスやデータのパイプラインを妨害行為から守るための訓練が行われた。今回の訓練は、10月に同海域の海底ケーブルが破損した事件を受けたものだ。フィンランド大統領のサウリ・ニーニストは、このいたずらの原因とされた中国船が海底にいかりを引きずった事故について、「意図的なのか、それとも極めて稚拙な技術の結果なのか」と疑問を呈した。 海底ケーブルはかつて、インターネットの退屈な配管と見なされていた。現在、アマゾン、グーグル、メタ、マイクロソフトといったデータ経済の巨人たちは、中国と米国の緊張が世界のデジタルインフラを分断する危険性をはらんでいるにもかかわらず、データの流れをよりコントロールすることを主張している。その結果、海底ケーブルは貴重な経済的・戦略的資産へと変貌を遂げようとしている。 海底データパイプは、大陸間インターネットトラフィックのほぼ99%を運んでいる。調査会社TeleGeographyによると、現在550本の海底ケーブルが活動

By エコノミスト(英国)