ホーム › 推論とストリーミング
Grokガイド
Grok APIの推論とストリーミング:設定と注意点
Grokの推論モデルでは、推論を無効にすることはできません。強さの指定、返ってくる推論内容、使えないパラメータ、ストリーミングの扱いを整理します。
reasoning.effort
| 項目 | 内容 |
|---|---|
| 対応モデル | grok-4.7・grok-4.6・grok-4.5 |
| レベル | low・medium・high・xhigh。既定はhigh |
| xhigh | grok-4.6以降で有効。grok-4.5ではhighとして扱われる |
| マルチエージェント版 | grok-4.20-multi-agentでは、effortは推論の深さではなくエージェント数(4または16)を決める |
推論内容の返り方
grok-4.7は、要約された推論をストリームのdeltaとして取り出せます。Responses APIでinclude: ["reasoning.encrypted_content"]を指定すると、暗号化された推論内容が返り、次の会話に戻して文脈にできます。grok-4.7は指定しなくても毎回返し、その推論項目は次のリクエストのinputにそのまま戻す必要があります。ChatCompletionsには、これを入れるフィールドがありません。
使えないパラメータと課金
presencePenalty・frequencyPenalty・stopは、推論モデルで指定するとエラーになります。logprobsとtop_logprobsは、grok-4.20以降では未対応で、指定しても無視されます。推論トークンは、請求される消費量に含まれます。
ストリーミング
| 項目 | 内容 |
|---|---|
| 指定 | "stream": true。画像生成モデルでは使えない |
| 方式 | Server-Sent Events。data:行にchat.completion.chunk |
| 読み方 | choices[0].deltaのcontentをつなぐ。推論モデルではreasoning_contentが先に来る |
| 終了 | data: [DONE] |
| 使用量 | 各チャンクにusage(prompt_tokens・completion_tokens・total_tokens) |
推論モデルでは、接続が途中で切れないよう、リクエストのタイムアウトを長くします(公式の例は3,600秒)。公式はSDKでの解析を勧めています。
Responses APIへの移行で変わる項目
2026年11月18日時点の公式ヘルプでは、Chat CompletionsからResponses APIへ移る際には、会話を渡すmessagesをinputへ、出力の上限を表すmax_tokensをmax_output_tokensへ置き換える対応表があります。本文の取得位置も変わり、Chat Completionsのchoices内のmessageだけを読む構造から、種類ごとの項目が並ぶoutput配列を読む構造になります。文章はmessage項目内のoutput_textとして返るため、推論や関数呼び出しの項目と区別して扱う形式です。Responses APIには保存済みの応答をprevious_response_idで参照する会話継続の仕組みがあり、保存を制御するstoreの初期値はtrueと説明されています。従来のパーサーを使い続ける場合は、リクエストの名前と、レスポンスから文章を取り出す位置の両方が確認対象になります。
出典:SpaceXSI(x.ai)『Comparison with Chat Completions』(2026年11月18日確認)https://docs.x.ai/developers/model-capabilities/text/comparison
長い履歴をまとめるコンテキスト圧縮
2026年11月18日時点の公式ヘルプでは、コンテキスト圧縮は、システム指示、添付ファイル、過去の推論、会話の要点を、一つの暗号化された項目にまとめる仕組みです。長いツール出力や会話の往復を毎回送る代わりに、圧縮した項目を次のinputへ渡す構成が示されています。encrypted_contentは内部を解析・編集せず、そのまま扱う値です。圧縮する条件として、入力トークン量が費用や待ち時間に影響し、過去の文脈が引き続き必要で、なおモデルの上限内に収まっていることが挙げられています。すでに上限を超えたリクエストを救済する機能ではありません。POST /v1/responses/compactの応答にはcompaction型の項目が含まれ、使用量には入力・出力トークンや削除されたメッセージ数が返る構造です。
出典:SpaceXSI(x.ai)『Context Compaction』(2026年11月18日確認)https://docs.x.ai/developers/advanced-api-usage/context-compaction
評価時に残す設定と出力上限
2026年11月18日時点の公式ヘルプでは、テキストと推論モデルの推奨設定をまとめた資料では、推論の強さを各リクエストで明示し、その値を実行結果とともに記録する方法が示されています。出力上限のmax_output_tokensは、想定される最長の回答より大きくするか、資料に示された既定の128,000トークンのままにする設定です。サンプリングの推奨値としてtemperatureは0.7、top_pは0.95が挙げられています。また、ストリーミングを優先し、通常のリクエストでは少なくとも900秒、長い評価処理では1,800秒以上を許容する案内があります。同じ資料は、会話ごとにprompt_cache_keyを持たせ、会話には後から項目を追加していく構成も紹介しています。モデル名だけでなく、推論の強さ、出力上限、待機時間を含めて結果を比べる際に参照できる設定項目です。
出典:SpaceXSI(x.ai)『Best Practices Guide』(2026年11月18日確認)https://docs.x.ai/developers/model-capabilities/text/best-practices
ストリームの費用情報が届く位置
2026年11月18日時点の公式ヘルプでは、費用情報のcost_in_usd_ticksは、1米ドルを100億ticksとする整数値で、米ドルへ直す式はticksを10の10乗で割る形です。キャッシュなどの割引とトークン、サーバー側ツールの費用を含む、個々のリクエストに対する金額として説明されています。ストリーミングではSDKによって受け取り方が異なり、xAI SDKのチャンクは累積費用を持ち、最後のチャンクが最終額になります。OpenAI SDKやREST APIではstream_optionsのinclude_usageをtrueにし、choicesが空の最後のチャンクから使用量を読む案内です。途中のチャンクにはその使用量が含まれません。本文の差分だけを処理する読み方では、最後に届く会計用の情報を扱えないため、文章とusageの処理が別に示されています。
出典:SpaceXSI(x.ai)『Cost Tracking』(2026年11月18日確認)https://docs.x.ai/developers/cost-tracking
推論結果をJSONの項目へ整理する設定
2026年11月18日時点の公式ヘルプでは、Structured Outputsでは、自由文の代わりに、指定したJSON Schemaに沿う形式を要求できます。文書からの情報抽出やレポート作成が用途として挙げられています。response_formatのtypeにはjson_schema、json_object、textがあり、json_objectは特定の項目構成までは指定しないJSON形式です。PydanticやZodでスキーマを定義する例もあります。必須項目はrequiredで指定し、nullを許す項目と、省略できる項目は別の扱いです。
出典:SpaceXSI(x.ai)『Structured Outputs』(2026年11月18日確認)https://docs.x.ai/developers/model-capabilities/text/structured-outputs
確認した公式資料
上の資料は2026年11月11日に確認しました。内容は予告なく変わるため、使う前に公式のページで最新の表示を確かめてください。
あわせて読むページ
よくある質問
推論をオフにできますか?
公式は「Reasoning cannot be disabled」と書いています。強さを下げるにはlowを指定します。
ストリーミングで料金は変わりますか?
公式の資料では、ストリーミング自体の追加料金は確認できていません。
更新履歴
- 公式ドキュメントと照合して全面的に書き直しました。