Ollama endpoint API Documentation
Ξεκινήστε να χτίζετε με το uncensored LLM API σε δευτερόλεπτα. Αυτή η οδηγία καλύπτει το base URL, την πιστοποίηση και την ενσωμάτωση SDK για τα OpenAI compatible API workflows σας.
Βασικό URL και Αυθεντικοποίηση
Χρησιμοποιήστε τη παρεχόμενη βάση URL και ένα API key για κάθε αίτημα. Το endpoint είναι https://api.ollamaendpoint.com/v1Εξουσιοδότηση header ως Bearer token. Δημιουργείτε αυτό το κλειδί αμέσως μετά την είσοδο με Google ή email. Το κλειδί είναι μοναδικό ανά λογαριασμό και αντικαθιστά οποιοδήποτε προηγούμενο ενεργό κλειδί.
Πρώτη αίτηση
Στείλτε μια τυπική ολοκλήρωση συνομιλίας για παραγωγή κειμένου. Το ID μοντέλου είναι uncensored and accepts the same parameters as standard OpenAI clients. This works for NSFW LLM tasks or unrestricted content generation.
- Μέθοδος: POST
- Τερματικό σημείο:
/v1/chat/completions - Μοντέλο:
uncensored
curl https://api.ollamaendpoint.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
}'Μια επιτυχής απόκριση επιστρέφει το παραγόμενο κείμενο στον πίνακα choices. Ελέγξτε το usage πεδίο για να δείτε τις μετρήσεις tokens.
Ενσωμάτωση SDK Python
Εγκαταστήστε το επίσημο βιβλιοθήκη OpenAI και διαμορφώστε τη βάση URL. Αυτό σας επιτρέπει να χρησιμοποιήσετε το μοντέλο ollama χωρίς λογοκρισία με γνωστό κώδικα Python. Ορίστε το base_url και api_key πριν αρχικοποιήσετε τον πελάτη. Ο κώδικας παραμένει συμβατός με υπάρχοντα SDK OpenAI.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Καλέστε το chat.completions.create method just like you would for GPT. The response structure matches standard expectations. You can stream or get full responses.
Node SDK Integration
Χρησιμοποιήστε το Node.js OpenAI package για να αλληλεπιδράσετε με το API. Ρυθμίστε τον πελάτη με το custom base URL και το API key σας. Αυτή η προσέγγιση λειτουργεί για server-side εφαρμογές ή edge functions. Το πακέτο διαχειρίζεται τη serialization και τα retries αυτόματα.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Καλέστε το endpoint completion με την προτροπή σας. Η βιβλιοθήκη επιστρέφει μια υπόσχεση που επιλύεται στο αντικείμενο απόκρισης. Διαχειριστείτε σφάλματα σύμφωνα με τους τυπικούς κωδικούς κατάστασης HTTP.
Streaming Αποκρίσεις με SSE
Ενεργοποιήστε streaming ρυθμίζοντας stream: true στην αίτησή σας. Ο διακομιστής επιστρέφει μια ροή Server-Sent Events (SSE). Κάθε τμήμα περιέχει μερικό κείμενο και δεδομένα χρήσης tokens. Το τελικό τμήμα περιλαμβάνει τα πλήρη στατιστικά χρήσης για χρέωση. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μακροχρόνιες εξόδους.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Συσσωρεύστε τα μέρη περιεχομένου από κάθε chunk για να ανακατασκευάσετε την πλήρη απόκριση. Επεξεργαστείτε σφάλματα καθώς φτάνουν στο stream. Το τελευταίο chunk επιβεβαιώνει τον αριθμό tokens για το προπληρωμένο υπόλοιπό σας.
Όρια Ρυθμού και Περιορισμοί
Κάθε κλειδί API υποστηρίζει 300 αιτήσεις ανά λεπτό και 8 ταυτόχρονες αιτήσεις. Το μέγιστο μέγεθος του σώματος της αίτησης είναι 8 MB. Το παράθυρο συμφραζομένων είναι 100,000 tokens για την πρόταση και την ολοκλήρωση συνδυαστικά. Τα όρια εξόδου είναι 16,000 tokens ανά αίτηση. Τα σφάλματα και οι απορρίψεις δεν καταναλώνουν πιστωτικό υπόλοιπο. Σφάλμα 401 σημαίνει ότι το κλειδί σας είναι άκυρο. Σφάλμα 402 υποδηλώνει ανεπαρκές προπληρωμένο υπόλοιπο. Σφάλμα 429 σημαίνει ότι εξαντλήσατε το όριο ρυθμού. Προσαρμόστε την ταυτόχρονη χρήση σας για να παραμείνετε εντός των ορίων.
Συχνές Ερωτήσεις
Ποια είναι η base URL για το ollama endpoint;
Η βασική διεύθυνση URL είναι HTTPS://api.ollamaendpoint.com/v1. Χρησιμοποιήστε το για όλες τις κλήσεις API. Είναι συμβατό με τυπικούς πελάτες OpenAI.
Πώς διαχειρίζομαι αποκρίσεις streaming;
Ορίστε την παράμετρο stream σε true. Το API επιστρέφει Server-Sent Events. Επεξεργαστείτε κάθε chunk για να χτίσετε το τελικό κείμενο. Το τελευταίο chunk περιλαμβάνει δεδομένα χρήσης.
Τι συμβαίνει αν φτάσω σε όριο ρυθμού;
Λαμβάνετε κωδικό κατάστασης 429. Το όριο είναι 300 αιτήσεις ανά λεπτό ανά κλειδί. Μειώστε την ταυτόχρονη χρήση ή περιμένετε πριν δοκιμάσετε ξανά. Οι ταυτόχρονες αιτήσεις περιορίζονται σε 8.
Λάβετε το API key σας
Εγγραφείτε, αποκτήστε το key, κατευθυνθείτε προς τη νέα βάση URL. Ολοκληρώθηκε.
