サムスン、業界初のAI処理を統合した高帯域メモリを開発

サムスン電子は17日、人工知能(AI)処理能力を統合した業界初の高帯域幅メモリ(HBM)を開発したことを発表した。

サムスン、業界初のAI処理を統合した高帯域メモリを開発

サムスン電子は17日、人工知能(AI)処理能力を統合した業界初の高帯域幅メモリ(HBM)を開発したことを発表した。この新しいプロセッシング・イン・メモリ(PIM)アーキテクチャは、高性能メモリ内に強力なAIコンピューティング機能をもたらし、データセンターや高性能コンピューティング(HPC)システム、AI対応モバイルアプリケーションにおける大規模処理を高速化する、とサムスン電子は説明している。

サムスン電子のメモリ製品企画担当シニアバイスプレジデントであるKwangil Parkは、「当社の画期的なHBM-PIMは、HPC、トレーニング、推論などの多様なAI駆動のワークロードに対応した業界初のプログラマブルPIMソリューションです。私たちは、AIソリューションプロバイダとさらに協力して、さらに高度なPIMを搭載したアプリケーションを実現することで、この画期的な製品をさらに発展させていく予定です」と述べている。

アルゴンヌ大学のアソシエートラボラトリー・ディレクター、Rick Stevens(コンピューティング・環境・生命科学担当)は、「サムスンがHPCとAIコンピューティングのためのメモリ帯域幅と消費電力の課題に取り組んでいることを知り、大変嬉しく思っている。HBM-PIMの設計は、重要なクラスのAIアプリケーションにおいて印象的な性能と消費電力の向上を実証しているので、アルゴンヌ国立研究所が関心を持つその他の問題についても、HBM-PIMの性能を評価するために協力していくことを楽しみにしている」と述べた。

今日のコンピューティングシステムのほとんどは、何百万もの複雑なデータ処理タスクを実行するために、別々のプロセッサとメモリユニットを使用するフォン・ノイマン・アーキテクチャに基づいている。このシーケンシャルな処理アプローチでは、データを常に前後に移動させる必要があり、特に増え続けるデータ量を処理する場合には、システムの速度が低下するボトルネックとなっていた。

その代わりに、HBM-PIMは、DRAMに最適化されたAIエンジンを各メモリバンク(ストレージサブユニット)の内部に配置することで、並列処理を可能にし、データの移動を最小限に抑えることで、処理能力をデータが保存されている場所に直接もたらす。サムスンの既存のHBM2 Aquaboltソリューションに適用した場合、この新しいアーキテクチャは、エネルギー消費を70%以上削減しながら、システム性能を2倍以上に向上させることができる。また、HBM-PIMはハードウェアやソフトウェアの変更を必要としないため、既存のシステムへの迅速な統合を可能にする。

サムスンのHBM-PIMに関する論文は、2月22日まで開催されている有名な国際ソリッドステート回路仮想会議(ISSCC)での発表に選ばれた。サムスン電子のHBM-PIMは現在、主要なAIソリューションパートナーによってAIアクセラレータ内でテストされており、すべての検証は今年の上半期中に完了する予定だ。

Image by Samsung.

Read more

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

​​イオンリテール、Cloud Runでデータ分析基盤内製化 - 顧客LTV向上と従業員主導の分析体制へ

Google Cloudが9月25日に開催した記者説明会では、イオンリテール株式会社がCloud Runを活用し顧客生涯価値(LTV)向上を目指したデータ分析基盤を内製化した事例を紹介。従業員1,000人以上がデータ分析を行う体制を目指し、BIツールによる販促効果分析、生成AIによる会話分析、リテールメディア活用などの取り組みを進めている。

By 吉田拓史
Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Geminiが切り拓くAIエージェントの新時代:Google Cloud Next Tokyo '24, VPカルダー氏インタビュー

Google Cloudは、年次イベント「Google Cloud Next Tokyo '24」で、大規模言語モデル「Gemini」を活用したAIエージェントの取り組みを多数発表した。Geminiは、コーディング支援、データ分析、アプリケーション開発など、様々な分野で活用され、業務効率化や新たな価値創出に貢献することが期待されている。

By 吉田拓史