ja ▾

OllamaエンドポイントAPIドキュメント

数秒で無制限LLM APIの構築を開始しましょう。このガイドでは、ベースURL、認証、およびOpenAI互換APIワークフローのためのSDK統合について解説します。

ベースURLと認証

すべてのリクエストに提供されたベースURLとAPIキーを使用します。エンドポイントは https://api.ollamaendpoint.com/v1認証 ヘッダーを Bearer トークンとして使用します。このキーは、Google またはメールでログインした直後に生成されます。キーはアカウントごとに一意であり、以前のアクティブなキーを置き換えます。

最初のリクエスト

テキスト生成のために標準的なチャット完了を送信します。モデルIDは uncensored 標準的なOpenAIクライアントと同じパラメータを受け付けます。これはNSFW LLMタスクや制限のないコンテンツ生成に適用できます。

  • 方法: POST
  • エンドポイント: /v1/chat/completions
  • モデル: uncensored
curl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

成功したレスポンスは、choices配列に生成されたテキストを返します。確認してください usage トークン数を確認するフィールド。

Python SDK統合

公式のOpenAIライブラリをインストールし、ベースURLを設定します。これにより、馴染みのあるPythonコードでuncensoredのollamaモデルを使用できます。設定するには、 base_url および api_key クライアントを初期化する前。コードは既存のOpenAI SDKと互換性を維持します。

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

呼び出す chat.completions.create GPTの場合と同様のメソッド。レスポンス構造は標準的な期待値に一致します。ストリーミングまたは完全なレスポンスを取得できます。

Node SDKの統合

Node.js OpenAIパッケージを使用してAPIと対話します。カスタムベースURLとAPIキーでクライアントを設定してください。このアプローチはサーバーサイドアプリケーションやエッジ関数で機能します。パッケージはシリアライゼーションとリトライを自動的に処理します。

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

プロンプトを使用して完了エンドポイントを呼び出します。ライブラリはレスポンスオブジェクトに解決されるプロミスを返します。エラーは標準のHTTPステータスコードに従って処理してください。

SSEによるストリーミングレスポンス

streamをtrueに設定してストリーミングを有効にする stream: true リクエスト内。サーバーはServer-Sent Events (SSE) ストリームを返します。各チャンクには部分的なテキストとトークン使用データが含まれます。最終チャンクには請求のための完全な使用状況統計が含まれます。これにより、長い出力の知覚されるレイテンシが削減されます。

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

各チャンクからのコンテンツパートを蓄積して完全な応答を再構築します。ストリームでエラーが発生した場合はそれらを処理します。最後のチャンクは、プリペイド残高に対するトークン数を確認します。

レート制限と制約

各APIキーは1分あたり300リクエストと8件の並行リクエストをサポートします。最大リクエストボディサイズは8 MBです。プロンプトとコンプリーションを合わせたコンテキストウィンドウは100,000トークンです。出力制限はリクエストあたり16,000トークンです。エラーや拒否はクレジットを消費しません。401エラーはキーが無効であることを意味します。402エラーはプリペイド残高が不足していることを示します。429エラーはレート制限に到達したことを意味します。制限内に収まるように並行度を調整してください。

FAQ

ollamaエンドポイントのベースURLは?

ベースURLは HTTPS://api.ollamaendpoint.com/v1 です。すべての API 呼び出しにこれを使用してください。標準的な OpenAI クライアントと互換性があります。

ストリーミングレスポンスを処理するにはどうすればよいですか?

streamパラメータをtrueに設定します。APIはServer-Sent Eventsを返します。各チャンクを処理して最終テキストを構築します。最後のチャンクには使用データが含まれます。

レート制限に達した場合どうなりますか?

429ステータスコードが返されます。制限はキーごとに1分あたり300リクエストです。並列数を減らすか、再試行する前に待機してください。並列リクエストは8件に制限されます。

APIキーを取得

サインアップし、キーを取得して、新しいベースURLに接続します。完了です。

今すぐ開始