AIスタートアップ「Extropic」はこれまでステルス・モードであったが、今回同社がAI処理用に“熱力学コンピューティング”によるAIアクセラレータのプロトタイプの開発と製造を行う事を明らかにした。Extropicの主張するこの新たなプロセッサーは、従来の”デジタルプロセッサー（CPU/GPU/TPU/FPGA）よりも何桁も高速でエネルギー効率に優れた”AIアクセラレーターの実現を可能にするとしている。
同社はまた、同社が構築しようとしているフルスタックの熱力学コンピューティングに基づくアック心的なアプローチを概説する簡単な論文も公開した。
Extropic社は、元Alphabet Xの量子研究者Guillaume Verdon氏が率いており、最近1410万ドルのシード資金調達ラウンドを終了している。
Extropicは、現在利用可能なデジタルプロセッサーはAIアクセラレーションに適していないと主張している。論文の中で、Extropic社は、パラメータ化された確率的アナログ回路の開発に裏打ちされた技術を構築している。別の言い方をすれば、これらの回路は、自然界に見られるランダム性を模倣することで、幅広いタスクを処理できる高度で調整可能な電子回路のようなもので、不確実性や予測を伴う複雑なコンピューティング・タスクに特に有用である。
スケーラブルであれば、これは従来のデジタル・コンピューティングとは一線を画すものである。
Extropicの「アクセラレーター」は、複雑なエネルギーランドスケープからのサンプリングを必要とするアルゴリズムの実行時間とエネルギー効率の大幅な改善を約束する。ブラウン運動の原理にインスパイアされたこの新しいクラスのアクセラレーターは、プログラム可能なランダム性を活用するという全く新たなアプローチに基づく物だ。
生成AIの急速な進歩は、コンピューティングパワーへの追求に拍車をかけているが、半導体の進歩は物理学的な限界により、実に袋小路に近付きつつある。Extropicは、トランジスタが原子サイズに近づき、熱雑音がデジタル演算を困難にするなど、この技術の物理的限界に近づきつつあることを指摘している。研究チームはこれを “ムーアの壁”と呼んでいる。
特に、消費電力の急増により、AIデータセンターには原子力発電所が必要とまで言われる今日、Extropic社は、計算能力とAIの拡張における持続可能性の追求には、前例のないインフラとエンジニアリングの大改革が必要だと報告している。
Extropicの論文は、生物学的システムの効率性にヒントを得た彼らの代替案を垣間見せるものだ。自然界では、コンピューティングは硬直的でもなく、デジタルのみでもない。むしろ、細胞内の化学反応ネットワークに内在するランダム性と離散的な相互作用によって繁栄している、と論文は述べている。この生物学的効率性は、従来のデジタル・ロジックの限界を超える可能性を示唆している。
Extropicのアプローチの中心は、エネルギー・ベース・モデル（EBM）で、熱力学と確率論的機械学習の交差点に位置する。これらのモデル、特に指数族は、最小限のデータで確率分布を効率的にパラメータ化する方法を提示する。これは、まれではあるがインパクトのある事象をモデル化し、高度なエントロピーと目標分布の正確な反映を可能にするために極めて重要である。
Extropicでは、低温で動作し、ジョセフソン効果を利用して非ガウス確率分布にアクセスするように設計された超伝導チップの技術的実力についても掘り下げている。下の画像は、最初のExtropicチップ・ニューロン・デザインの顕微鏡画像である。このチップはアルミニウムからナノ加工され、低温で動作するため超伝導になるという。この進歩は、これらのチップのエネルギー効率を強調するだけでなく、室温動作に適した半導体デバイスを通じて技術的な範囲を広げるというExtropic社のコミットメントを強調している。
論文によると「Extropicの超伝導チップは完全に受動的であり、その状態を測定または操作するときにのみエネルギーを消費する。このため、これらのニューロンは宇宙で最もエネルギー効率が高いと思われる。これらのシステムは、規模が大きくなるほどエネルギー効率が高くなります。Extropicはこれらのシステムで、政府、銀行、プライベート・クラウドなど、少量で高価値の顧客をターゲットにしている」とのことだ。
ハードウェアにとどまらず、Extropicは抽象的なEBM仕様と実用的なハードウェア制御の橋渡しをするソフトウェア層を構築している。この取り組みは、ディープラーニングに固有のメモリ制限を超越し、AIの境界を再定義しうるAIアクセラレーションの新時代を告げることを目指している。
論文
- Extropic: Ushering in the Thermodynamic Future
参考文献
コメントを残す