記事

llms.txt とは何か?——AI のためのウェブサイト内容説明書

llms.txt の由来、フォーマット仕様、robots.txt/sitemap.xml との違い、そして当サイトがどのように自動生成・活用して AI に引用される確率を高めているかを詳しく解説する。

ひとことで言うと

llms.txt はウェブサイトのルートディレクトリに置く Markdown ファイルで、簡潔な形式で AI に「このサイトが何なのか、どのコンテンツが最も読む価値があるのか」を伝えるもの。AI にあなたのコンテンツを優先的に引用させるための重要なインフラである。

背景:AI クローラーと人間向けウェブページの矛盾

ウェブページは人間のために設計されている。ナビゲーション、広告、ポップアップ、JavaScript によるレンダリング——これらはすべて AI にとってノイズだ。AI クローラーがページを取得する際、HTML からクリーンなテキストを抽出するのは困難で不正確であり、さらにコンテキストウィンドウには限りがあるため、サイト全体を消化することはできない。

2024 年 9 月、Answer.AI の共同創業者である Jeremy Howard が llms.txt 提案を正式に発表した(仕様は llmstxt.org で公開)。純粋な Markdown ファイルひとつで AI モデルに「サイトが何か、どの情報が最も重要か、どのページを先に読むべきか」を伝える。

llms.txt と robots.txt、sitemap.xml の違い

ファイル役割たとえ
robots.txtアクセス権限の制御(クロールしてはいけない範囲)門とゲート
sitemap.xml全 URL の一覧(ページの発見)フロアマップ
llms.txt理解と優先順位の誘導(読む価値のあるもの)プライベートガイド

robots.txt は「禁止命令」、sitemap.xml は「完全な目録」。一方 llms.txt は推奨リストであり、AI に何を見るべきかを能動的に伝える、制御ではなく協働の手段だ。

フォーマット仕様(llmstxt.org v2)

標準的な llms.txt は次の要素を順番に含む:

  1. H1 見出し:サイト名またはプロジェクト名(唯一の必須要素)。
  2. 引用ブロック:以降の内容を理解するために必要な重要情報を含む一言の紹介。
  3. 通常の段落:より詳細な背景説明(見出しは不可)。
  4. H2 でグループ化されたリンク一覧:各グループの下に Markdown リンクと簡単な説明を列挙する。

リンクの形式:

markdown
- [リンク名](https://完全なURL): リンクの簡単な説明

作成のポイント

  • 各リンクの後に、そのページが何について書かれているか、引用する価値があるかを説明する一文を必ず付ける。
  • 優先順位順に並べ、最も重要なコンテンツを先頭に置く。
  • 中核となる引用価値のあるページだけを収録する。多ければよいというものではない。

誰が使っているか

  • AI ベンダー自身:OpenAI、Anthropic、Google Gemini の開発者ドキュメントはいずれも llms.txt を公開している。
  • Chrome Lighthouse:エージェンティックブラウジング(agentic browsing)の検査で、サイトに llms.txt があるかどうかを監査する。
  • ドキュメントプラットフォーム:Mintlify などのドキュメントツールがサイト向けに llms.txt を自動生成する。

当サイトの取り組み

当サイトは vitepress-plugin-llms を使ってビルド時に /llms.txt/llms-full.txt自動生成している:

  • llms.txt:サイト全体の中核コンテンツの Markdown ナビゲーション(見出し+要約+リンク)。
  • llms-full.txt:全ページの完全な Markdown コンテンツをまとめたもの。AI は 1 回のリクエストで中核情報をすべて取得できる。

当サイトの llms.txt に直接アクセスして効果を確認できる。

公開後の検証

  1. ブラウザで https://あなたのドメイン/llms.txt に直接アクセスし、正常に開けることを確認する。
  2. Google Search Console、Bing Webmaster Tools にサイトを登録する。
  3. しばらくしてから DeepSeek、豆包、ChatGPT などで当サイトの中核キーワードを検索し、AI の回答が当サイトのコンテンツを引用しているかを確認する。

データソースと参考