Ollama 엔드포인트 API 문서

Base URL 및 인증

모든 요청에 제공된 기본 URL과 API 키를 사용하세요. 엔드포인트는 https://api.ollamaendpoint.com/v1인증 header에 Bearer 토큰으로 설정합니다. 이 키는 Google 또는 이메일로 로그인한 직후 생성됩니다. 키는 계정별로 고유하며 이전 활성 키를 대체합니다.

첫 번째 요청

텍스트 생성을 위해 표준 채팅 완료를 보내세요. 모델 ID는 uncensored 표준 OpenAI 클라이언트와 동일한 파라미터를 받아들이며, 이는 NSFW LLM 작업 또는 제약 없는 콘텐츠 생성에 적합합니다.

• 방법: POST
• 엔드포인트: /v1/chat/completions
• 모델: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

성공적인 응답은 choices 배열에 생성된 텍스트를 반환합니다. 확인하세요. usage 토큰 수를 확인하는 필드입니다.

Python SDK 통합

공식 OpenAI 라이브러리를 설치하고 기본 URL을 구성하세요. 이렇게 하면 익숙한 Python 코드로 Uncensored Ollama 모델을 사용할 수 있습니다. 다음을 설정하세요 base_url 및 api_key 클라이언트를 초기화하기 전입니다. 코드는 기존 OpenAI SDK와 호환됩니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

호출 chat.completions.create GPT를 사용할 때와 동일한 메서드입니다. 응답 구조는 표준 기대치와 일치합니다. 스트리밍하거나 전체 응답을 받을 수 있습니다.

Node SDK 통합

API와 상호 작용하려면 Node.js OpenAI 패키지를 사용하세요. 커스텀 base URL과 API 키로 클라이언트를 구성하세요. 이 접근 방식은 서버 측 애플리케이션이나 엣지 함수에 적합합니다. 패키지는 직렬화 및 재시도를 자동으로 처리합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

프롬프트와 함께 완료 엔드포인트를 호출합니다. 라이브러리는 응답 객체로 해결되는 프라미스를 반환합니다. 오류는 표준 HTTP 상태 코드에 따라 처리하세요.

SSE를 사용한 스트리밍 응답

stream을 true로 설정하여 스트리밍 활성화 stream: true 요청에 포함됩니다. 서버는 서버 전송 이벤트(SSE) 스트림을 반환합니다. 각 청크에는 부분 텍스트와 토큰 사용량 데이터가 포함됩니다. 마지막 청크에는 청구를 위한 완전한 사용량 통계가 포함됩니다. 이는 긴 출력의 지각된 지연 시간을 줄여줍니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

각 청크의 콘텐츠 부분을 축적하여 전체 응답을 복원하세요. 스트림에서 오류가 도착하는 대로 처리하세요. 마지막 청크는 사전 결제된 크레딧에 대한 토큰 수를 확인합니다.

속도 제한 및 제약 조건

각 API 키는 분당 300회 요청 및 8개의 동시 요청을 지원합니다. 최대 요청 본문 크기는 8MB입니다. 프롬프트와 완료의 합계 컨텍스트 윈도우는 100,000 토큰입니다. 출력 제한은 요청당 16,000 토큰입니다. 오류와 거부는 크레딧을 소모하지 않습니다. 401 오류는 키가 유효하지 않음을 의미합니다. 402 오류는 선불 크레딧 부족을 나타냅니다. 429 오류는 속도 제한에 도달했음을 의미합니다. 제한 내에 머무르기 위해 동시성을 조정하세요.