Hugging Face（Hubとライブラリ）

モデルと提供内容 #

どんな組織か

このハブはモデルをダウンロードするすべての人のためのページであり、その意味でこのサイトで最も広く使われているプラットフォームです。Hugging Faceは2016年にチャットボットの会社として始まり、2018年末にBERTが登場するとpytorch-pretrained-bertを公開し、それをTransformersへと育てました。2020年には重みのGitベースのホストとしてHubが続き、以来同社は、モデル提供者（Meta、Google、Mistral、Alibaba、NVIDIA、そして何千もの個人）とそのモデルを動かす人々との中立的な合流点として自らを位置づけてきました。

この分野での役割は配布レイヤーです。モデルはHubに載ったときに「リリースされ」、データセットはHubに載ったときに「公開され」、ファインチューニングのレシピはTransformers、PEFT、TRLに対して書かれます。Hugging FaceはSmolLMシリーズのような小さなオープンモデルを除いてフロンティアモデルを自ら学習していないため、どのモデルを選ぶかについて利害の対立がありません。

ツールとAPI

pip install transformers datasets accelerate peft trlでスタックが揃います。Transformers v5.0.0（2026年1月26日）は5年ぶりのメジャーリリースでした。TensorFlowとFlaxのモデルクラスを廃止してPyTorch専用になり、from_pretrainedはfloat32ではなく重みが保存されたdtypeで読み込むようになり、各モデルは利用可能な最速のバックエンドに支えられた1つのトークナイザファイルを持ち、apply_chat_templateはBatchEncodingを返します。リリースはおよそ毎週で、2026年11月13日のv5.23.0では6つの新アーキテクチャが追加されました。最低Pythonバージョンは3.10です。すべてPyTorchを通じてCPU、CUDA、ROCm、Apple MPSで動作し、mlx-community組織の下にあるMLX変換版についてはAppleハブで扱っています。

小さなインストラクションモデルの読み込みは4行で済みます。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

torch.manual_seed(0)
name = "HuggingFaceTB/SmolLM2-135M-Instruct"
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name)

messages = [{"role": "user", "content": "Name one use of a linear regression model."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt", return_dict=True)
out = model.generate(**inputs, max_new_tokens=24, do_sample=False)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

当サイトのマシンではOne use of a linear regression model is to predict the value of a continuous outcome variable based on one or more predictor variablesと出力され、135 Mパラメータの重みがキャッシュされていればCPUで3秒以内に完了します。SmolLM2-135M-Instructは135 Mパラメータ、8 kコンテキスト、Apache-2.0、2024年11月リリースです。

本稿執筆時点の料金（米ドル）: Hub、ライブラリ、クォータ内のパブリックおよびプライベートリポジトリ、基本CPU上のSpaces、ZeroGPUの時間は無料です。PROは月額9 USDで、Inference Providersのクレジット2 USD分を含みます。Teamはユーザーあたり月額20 USD、Enterpriseはユーザーあたり月額50 USDで、SSO、SCIM、監査ログが付きます。Inference Endpointsは時間課金で、CPUインスタンスが0.03 USDから、L4が0.80 USD、A100 80 GBが2.50 USD、H100が4.50 USD、B200が9.25 USDです。無料クォータを超えるストレージは、パブリックリポジトリで1 TBあたり月額12 USD、プライベートで18 USDです。料金とクォータは変わるので、huggingface.co/pricingを確認してください。

つまずきやすい点: Transformersは巨大（数百のアーキテクチャ）でインポート時間にそれが現れること、生成のデフォルト値がモデルごとに異なりgeneration_config.jsonの中に埋もれていること、~/.cache/huggingface以下のHubキャッシュが際限なく増えることです。同社自身のサービングスタックであるText Generation Inferenceは、リポジトリによればメンテナンスモードで、ユーザーには代わりにvLLM、SGLang、llama.cppが案内されています。

移行メモ

素のPyTorchから: Transformersのモデルはconfigオブジェクトを持つnn.Moduleなので、forwardパスに直接入ることも、自前のループでファインチューニングすることもできます。Trainerクラスとaccelerate launchが一般的な分散学習のケースをカバーします。LoRAファインチューニングのプロジェクトはこの形でPEFTを使っています。

モデル形式: safetensorsがHubのデフォルトで、どこでも読み込めます。Hubのモデルをサービングする際は通常変換は不要で、vLLMとTensorRT-LLMはHubのリポジトリを直接読みます。llama.cppやOllama向けにはllama.cppリポジトリのスクリプトでGGUFに変換しますが、多くの組織はオリジナルと並べてGGUF版やMLX版を公開しています。量子化形式のリファレンスにこれらの名称の対応表があります。

ホスト型APIから: InferenceClientとInference ProvidersのルーターはOpenAI互換のチャット補完形式を話すため、OpenAI向けに書いたコードは通常、ベースURLとモデルIDを変えるだけで済みます。

注意点

ライブラリはApache-2.0ですが、モデルはそうではありません。各リポジトリには独自のライセンス欄があり、多くはゲート付きです。Llamaと以前のGemmaのチェックポイントはダウンロード前に提供元の規約への同意が必要で、一部の研究用モデルは非商用です。派生物はライセンスを引き継ぐので、ファインチューニングの前にライセンスを読んでください。モデルのリファレンスには当サイトが追跡する各モデルのライセンスを記録しています。

trust_remote_code=Trueは読み込み元リポジトリのPythonを実行します。信頼できる組織に対してのみ使い、リビジョンを固定してください。huggingface.coで作成したトークンはベアラー資格情報です。HF_TOKENに入れ、ノートブックには決して書かないでください。Hubとライブラリはデフォルトで利用状況のテレメトリ（ダウンロード数とライブラリのバージョン）を収集します。閉じた環境ではHF_HUB_DISABLE_TELEMETRY=1とHF_HUB_OFFLINE=1を設定してください。Field Guideのパイプラインもこの設定で動いています。

匿名ダウンロードと無料のInference Providersティアにはレート制限があり、無料クレジットは少額です。Inference Endpointsはエンドポイントが稼働している間、アイドル状態でも課金されるので、scale-to-zeroを設定してください。Transformers v5はpickle化されたトークナイザとv4向けに書かれた一部のカスタムコードを壊しました。また毎週のリリースサイクルのため、Hub上のサンプルは数か月で古くなります。