Hugging Faceは、ブラウザ上でAIを効率的に実行するための207個以上のWebGPUカーネルをオープンソースで公開しました。これに合わせて、これらのカーネルを簡単にロード・実行できるライブラリ「@huggingface/kernels」もリリース。JavaScriptから直接GPUのパワーを引き出し、従来の数倍から数十倍のパフォーマンスを実現する新たなエコシステムの全貌を解説します。

背景

機械学習モデルは、行列演算や正規化といった膨大な数学的演算（オペレーション）の集合体です。ブラウザでAIを動かす際、これまではJavaScriptで処理するか、特定のフレームワークに依存する必要がありました。しかし、デバイスごとに最適なGPU処理を行うには、ハードウェアに特化した「カーネル」の実装が不可欠です。Hugging Faceは、WebGPU APIを通じて、特定のフレームワークに縛られず、あらゆるデバイスで最高のパフォーマンスを発揮できる低レイヤーの基盤を提供することを目指しています。

この動画の要点

1. 207個以上のWebGPUカーネルと専用ライブラリの提供。Hugging Face Hubで公開されたこれらのカーネルは、Jinjaテンプレート形式で配布されています。これにより、実行時にユーザーのデバイスの特性に合わせて、最も効率的なWGSL（WebGPU Shader Language）コードを動的に生成・実行することが可能になります。

2. JavaScriptから数行でGPU演算を実行可能。新ライブラリ「@huggingface/kernels」を使用すると、複雑なGPUバッファ管理やシェーダーのコンパイルを意識することなく、行列演算やSoftmaxなどの処理を非同期関数として呼び出せます。動画では、Transformerの核心であるアテンション機構をわずか20行のコードで実装する例が示されています。

3. 圧倒的なパフォーマンス向上。100万ピクセルを超える行列演算のデモでは、従来のJavaScript処理が約6〜8 FPSだったのに対し、WebGPUカーネルを使用すると60 FPS（ブラウザの制限値、理論上は400 FPS以上）に達しました。この高速化により、ブラウザ上でのリアルタイムなAI推論や高度な視覚効果が現実的になります。

4. デバイス最適化のためのベンチマークツール「Fleet」。世界中に存在する数千種類のGPUデバイスに対してカーネルを最適化するため、ユーザーが自身の環境で性能を測定できるツールを公開しました。収集されたデータはオープンソースとして還元され、あらゆる環境でのブラウザAIの安定性と速度向上に役立てられます。

なぜ重要か

今回の発表は、ブラウザAIの「民主化」と「高速化」を一段上のフェーズへ引き上げるものです。特筆すべきは、単なる静的なコードの配布ではなく、Jinjaテンプレートを用いることで「デバイスごとの最適化」を自動化した点にあります。これにより、開発者は低レイヤーのシェーダー言語を深く理解していなくても、JavaScriptの知識だけで高性能なAI機能を実装できるようになります。また、ベンチマークを通じてコミュニティ全体で最適化を進める手法は、多様なハードウェアが存在するWebプラットフォームにおいて非常に合理的なアプローチと言えます。

こんな人におすすめ

Web開発者、AIエンジニア、ブラウザ上での機械学習実装に興味がある方。JavaScriptで高速な数値計算を行いたい、あるいは特定のフレームワークに依存せずにAIモデルを動かしたいと考えている方に最適です。