Hugging Face、ブラウザ上でLLMの構造化出力を実現する『Transformers.js v4.3』を公開

何が発表されたのか

オープンソースAIプラットフォーム大手のHugging Faceは、Webブラウザ環境で機械学習モデルを実行するためのJavaScript/TypeScriptライブラリ「Transformers.js」の最新バージョン「v4.3.0」を正式リリースしました。本アップデートは研究段階のプレビューではなく、NPMを通じて一般提供（GA）が開始されています。

本リリースの最大の中核は、大規模言語モデル（LLM）のテキスト生成結果を特定のデータ構造に厳格に拘束する「構造化出力（Structured Output）」機能の導入です。これまでWebブラウザ上でローカルAIモデルを動かす際、LLMがマークダウンのコードブロック（```json）を出力したり、指定したプロパティ名を変更したりしてパースエラーを引き起こす問題が多発していました。今回のv4.3では、新パッケージ @huggingface/transformers-structured-output が提供され、開発者はモデルの出力形式をJSON Schemaや正規表現（Regex）で完全に制御できるようになりました。

発表された機能・アップデートの全容

構造化出力（Structured Output）と制約付きデコーディングの導入

従来のLLMは生成時に確率に基づいて次のトークンを選択するため、期待するJSONフォーマットから外れるリスクを常に抱えていました。Transformers.js v4.3では「制約付きデコーディング（Constrained Decoding）」という技術を採用しています。モデルが次のトークンを選択する「デコーディング段階」において、ロジットプロセッサ（Logits Processor）が介入します。あらかじめ定義されたJSON Schemaや正規表現のルールに違反するトークンを事前に除外し、ルールに適合する許可されたトークンのみに選択肢を絞り込みます。これにより、生成されたテキストは絶対に構文エラーを起こさず、指定通りのJSONオブジェクトや文字列形式になります。

新パッケージ @huggingface/transformers-structured-output とプラグイン構造

Hugging Faceは、リポジトリ構成を再設計し、新たに packages フォルダを設置しました。メインの transformers パッケージ本体を変更することなく、機能を拡張できるプラグインアプローチを採用しています。開発者は @huggingface/transformers-structured-output から StructuredOutputProcessor をインポートし、トークナイザーとスキーマ定義を渡すだけでロジットプロセッサを作成できます。これを既存の generator.current の生成パイプラインにオプションとして渡すだけで、コードの可読性を損なわずに制約付きデコーディングを組み込むことが可能です。

JSON Schemaおよび正規表現（Regex）による出力制御のデモ

動画内では、顧客サポートの問い合わせ文から顧客名や年齢といった個人情報を抽出するデモが示されました。標準のプロンプト処理では、LLMは ```json やバックティックを含めたマークダウン形式で出力しますが、JSON Schemaを指定した構造化出力プロセッサを適用すると、波括弧 { から直接始まる純粋なJSONのみが出力されます。さらに required: ["fullName", "age"] などのスキーマ条件を課すことで、プロパティ名が name ではなく fullName に強制される挙動が確認できました。また、型定義に type: "regex" を指定し、PERSON=...;AGE=... といった独自のテキストフォーマットに正規表現で固定する高度な制御も実演されています。

実務アプリケーション事例：ローカル動作の「レシピジェネレーター」

構造化出力の有用性を証明する実践的なデモとして、完全ブラウザ完結型のレシピ生成Webアプリが紹介されました。ユーザーが「自家製生地のペパロニピザ」と入力すると、ブラウザ上でキャッシュされたローカルモデル（Gemma 4など）が起動し、レシピ名・説明・人前数・材料リスト（名前・分量・単位・補足）・調理手順（ステップ番号・指示文）が生成されます。モデルが出力したJSONレスポンスは即座にJavaScriptオブジェクトとしてパースされ、Webサイトのカードデザインやチェックボックス付きリストなどのUIコンポーネントに反映されます。構造が100%保証されているため、画面レイアウトが崩れる心配なくフロントエンド構築が可能です。

Rust/WASM依存の排除とピュアJavaScriptによる完全再構築

技術的な開発ストーリーとして、初期実装での課題と解決プロセスが明確に明かされました。初期段階では、C++/Rustベースの著名な制約付き生成ライブラリ「llguidance」をWebAssembly（WASM）にコンパイルして組み込むプロトタイプを作成していました。しかし、この方式では約1MBのWASMバイナリを別途ダウンロードする必要があり、初期読み込みの遅延や複雑なアダプターレイヤーが必要という課題がありました。そこで開発チームは、AIコーディングエージェントの支援を得ながら、llguidanceの機能をピュアJavaScriptのみでゼロから完全再構築しました。これにより外部依存を全廃し、追加のネットワークダウンロードを不要にしました。

ドキュメントパイプラインの全面的改修とコミュニティ貢献

v4.3では構造化出力以外にも大きな改善が行われています。Transformers.jsのドキュメント生成プロセスが全面改修されました。これまではコード内のコメントや型システムに基づく古いライブラリ群に依存しており、複雑な型定義を完全に理解できていませんでした。今回は開発チームの手によって専用の自動生成システムが自作され、常に正確で最新のAPI仕様がドキュメントに反映される仕組みが整備されました。また、コミュニティから寄せられた数多くのバグ修正や機能追加も統合されています。