LLMを組み込んだ機能を本番に出すと、問うべきことが変わります。開発中は「このプロンプトでうまく答えるか」を見ますが、運用では「昨日あのユーザーになぜああ答えたのか」を見なければなりません。ところが、アプリケーションのログにはたいてい最終的な応答の文字列しか残っていません。どのプロンプトのバージョンが使われたのか、検索ステップが何を取ってきたのか、そのリクエスト1件にいくらかかったのかは、どこにも記録されていないのです。Langfuseは、その空白を埋めるオープンソースのプラットフォームです。2023年に始まり、いまはGitHubのスターが3万4,000を超え(2026年9月時点)、コア機能はMITライセンスで公開されています。
ひと目でわかる概要
| 項目 | 内容 |
|---|---|
| 開発元 | Langfuse。2026年1月にClickHouseが買収 |
| ライセンス | ee/フォルダを除く全体がMIT |
| 提供形態 | クラウド(無料枠あり)またはセルフホスト(無料) |
| 主な機能 | トレーシング、プロンプト管理、評価、データセット、プレイグラウンド、ダッシュボード |
| 連携 | OpenTelemetryベース。Python、JS/TSのSDKと、OpenAI、LangChain、LlamaIndexとの連携 |
| 始め方 | クラウドに登録、またはdocker compose up |
呼び出し1件を丸ごと分解して見る
Langfuseの基本単位はトレースです。ユーザーのリクエスト1件がアプリケーションの中で通るステップを、入れ子の構造で記録します。LLMの呼び出しだけでなく、検索、埋め込み、エージェントのツール利用といった途中のステップもそれぞれひとつの観測項目として残るため、答えがおかしいときにモデルを疑うべきか検索結果を疑うべきかを画面ですぐに見分けられます。収集の方式がOpenTelemetryに沿っている点も、実務では重要です。すでに分散トレーシングを使っているなら、同じ概念とツールの上に載せられます。

トレースを展開すると、ステップごとに所要時間、トークン数、金額が付いてきます。モデル名やtemperatureのようなパラメーターも一緒に記録されるので、コストが跳ね上がった日に「どの機能がいくら使ったか」を推測ではなく確認できます。ユーザー単位、セッション単位でもまとめられるため、特定の顧客の利用量だけを切り出して見ることもできます。

プロンプトと評価が同じ画面につながる
プロンプト管理は、プロンプトをコードの外に出してバージョンを付け、デプロイする機能です。文言を1行直すためにデプロイをやり直す必要がなくなり、どのバージョンがいつから使われたかがそのままトレースに残ります。サーバーとクライアントの両方にキャッシュがあるので、この仕組みを使っても応答が遅くなることはありません。
評価は、その記録の上でスコアを付ける部分です。別のモデルに採点させるLLM-as-a-judge、自分で書いたコードの評価器、人がラベルを付ける手動評価、ユーザーフィードバックの収集のすべてに対応しています。ここにデータセットを組み合わせれば、プロンプトやモデルを変えたときに過去の入力セットで同じ実験を回し、スコアを比べられます。勘で「今回のほうがよさそう」と言っていたところを、数字に置き換える部分です。
ClickHouseに買収されてもMITはそのまま
2026年1月16日、分析用データベースを開発するClickHouseがLangfuseの買収を発表しました。同じ日に公表した4億ドルのシリーズDとあわせての発表でした。買収の発表文でClickHouseは、発表時点で月2,310万回のSDKインストール、600万回のDockerプル、Fortune 50のうち19社での利用を根拠に挙げています。
オープンソースのプロジェクトが買収されると、まずライセンスが気になりますが、今回はコア機能がMITのまま維持されることも同時に告知されました。実際にリポジトリのLICENSEファイルは、ee/系のフォルダだけを別の商用ライセンスとし、残りをMITにしています。著作権者の表記がClickHouseに変わっただけです。ただ、LangfuseがClickHouseをストレージに使う構成であることを考えると、両製品の結び付きが今後さらに深まる余地はあります。
Datadogとは何が違うのか
LLMの監視ツールを検討すると、ほぼ必ずDatadogも候補に挙がります。DatadogもAgent Observabilityという名前で同じ領域を扱っています。プロンプトや検索のステップ、ツール呼び出しとエージェントの判断をステップごとに追跡し、本番のトレースからデータセットを作ってプロンプトやモデルを入れ替えながら比べる実験機能までそろえています。機能の一覧だけを並べると、2つの製品はかなり似て見えます。
違いが出るのは機能ではなく、製品の性格です。LangfuseはLLMだけを見る専用ツールで、ソースが公開されています。Datadogはインフラ、APM、リアルユーザーモニタリングをすでに担っているプラットフォームで、LLMのスパンをそれらのシグナルと同じ画面で結び付けて見られるのが強みです。応答が遅くなった原因がモデル側なのか、後ろにつながるサービス側なのかを追う必要がある場面なら、後者が有利です。
| 項目 | Langfuse | Datadog Agent Observability |
|---|---|---|
| 性格 | LLM専用のプラットフォーム | 統合監視プラットフォームのAIモジュール |
| ライセンス | コア機能はMIT | 商用SaaS |
| セルフホスト | 可能、無料 | 不可 |
| 課金単位 | ユニット、月5万まで無料 | LLMスパン、既存顧客は月4万まで無料 |
| 強み | プロンプトのバージョン管理、データの管理 | APM、インフラ、リアルユーザーのデータとの相関分析 |
そのため選ぶ基準は、比較表の項目数ではなく、すでに何を使っているかになります。組織がDatadogで監視を標準化しているなら、LLMの部分だけを切り出して別のツールに入れる理由はあまりありません。逆に、監視の基盤がまだない、プロンプトを頻繁に直しながらバージョンを管理する必要がある、データを外部に出しにくいといった条件なら、Langfuseのほうが合います。
始め方
- 規模の見当がつく前なら、クラウドの無料枠から始めます。カードの登録なしで月5万ユニットまで使え、データは30日間参照できます。
- データを外部に置きにくいならセルフホストにします。リポジトリを取得して
docker compose upを実行すれば、ローカルで5分以内に立ち上がります。本番にはHelmチャートや、AWS、Azure、GCP向けのTerraformテンプレートを使います。 - SDKを組み込みます。Pythonなら
pip install langfuse openaiのあと、公開鍵と秘密鍵を環境変数に入れ、追跡したい関数に@observe()デコレーターを付けます。OpenAI連携を使えば、モデルのパラメーターまで自動で収集されます。 - 画面でトレースが届くのを確かめてから、プロンプト管理と評価を順にオンにします。一度に全部オンにすると、何が効いたのか区別できなくなります。
LLMの機能を実際のユーザーに公開していて、「なぜこう答えたのか」を後から確かめる必要があるチームなら、導入の効果ははっきりしています。逆に、まだプロトタイプの段階だったり、呼び出しが1日数十件程度だったりするなら、ダッシュボードを見る機会そのものがあまりありません。その段階ではログをきちんと残すことで十分で、トラフィックが増え始めてから載せても遅くありません。
注意点
- ユニット単位の課金を先に理解する。 クラウドの料金は呼び出し回数ではなくユニットで計算されます。無料枠は月5万ユニットで30日間の参照、有料は月29ドルからで、保持期間とサポートの範囲が上がっていきます。料金ページは米ドル表示です。トレースを細かく残すほどユニットも早く減るので、収集範囲を決めておくほうがよいでしょう。
- プロンプトと応答がそのまま保存される。 入力と出力を丸ごと記録するのがこのツールの核なので、個人情報や機密情報が入るサービスなら、マスキングの設定と保持期間を先に決める必要があります。規制が厳しいならセルフホストが安全な選択です。
- 無料と有料の境界はフォルダで分かれている。 MITが適用されるのは
ee/系フォルダの外側です。プロジェクト単位の権限管理や監査ログのような企業向け機能は別ライセンスの領域なので、必要な機能がどちらにあるかを導入前に確認しておきます。 - セルフホストには運用の負担がついてくる。 Docker Composeで立ち上げるのは簡単ですが、本番ではデータベースとストレージを自分で管理する必要があります。チームにインフラ担当がいないなら、クラウドの費用のほうがかえって安く済むこともあります。
まとめ
Langfuseは、LLMの機能を運用するなかで生まれる問い、つまり何がどれだけ遅く、いくらかかり、どのプロンプトが使われたのかに答えるためのツールです。トレーシングで記録を作り、プロンプト管理で変更履歴を付け、評価とデータセットで改善できたかを数字で確かめる流れが、ひとつの製品に収まっています。買収後もMITとセルフホストが維持されたおかげで、試験導入のハードルはいまも低いままです。ユーザーに公開したLLMの機能がひとつでもあるなら、クラウドの無料枠にトレースを1日分流してみるだけでも、いま何がわかっていなかったのかが見えてきます。
アイキャッチ画像:Langfuseのロゴ、© Langfuse。紹介目的で使用しています。