Perus-URL ja todennus
Kaikkien pyyntöjen base URL on https://api.veniceaiapipricing.com/v1. Autentikoit käyttämällä API-avaintasi Authorization header Bearer-tokenina. Tämä asennus toimii minkä tahansa standardin OpenAI-SDK:n kanssa. Korvaa YOUR_API_KEY tilisi hallintapaneelissa luodulla avaimella.
- Päätepiste:
POST /v1/chat/completions - Otsake:
Authorization: Bearer YOUR_API_KEY
curl https://api.veniceaiapipricing.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return server status code 200"}]
}'
Päätepiste /v1/chat/completions
Lähetä keskusteluhistoriasi /v1/chat/completions käyttäen uncensored malli-ID. API hyväksyy standardit viestiesineet role ja content kentät. Syötteiden tokenit maksavat $0,15 miljoonaa kohti ja lähtötokenit maksavat $0,50 miljoonaa kohti. Virheet ja hylkäykset eivät kuluta krediittia.
Tämä päätepiste tukee vain tekstin tuottamista. Se ei käsittele kuvia, ääntä tai upotuksia. Voit streamata vastauksia tai hakea koko tekstin yhdessä JSON-objektissa.
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceaiapipricing.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Streamausvastaukset (SSE)
Ota streamaus käyttöön asettamalla stream: true pyyntörunkossa. API palauttaa palveluntason tapahtumia (SSE) jokaiselle luodulle tokenille. Viimeinen osa sisältää kokonaistokenkäyttötilastot. Tämä menetelmä vähentää koettua viivettä pitkissä vastauksissa.
Virran käsittely on olennaista reaaliaikaisiin sovelluksiin. Voit käsitellä tokenit saapuessaan sen sijaan, että odottaisit koko täydennystä.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Funktikutsut ja JSON-tila
API tukee rakenteisia lähtöarvoja ja työkalumäärittelyjä. Käytä response_format: {"type": "json_object"} pakottaa JSON-tuloksen. Voit myös välittää tools funktiokutsuille, mikä mahdollistaa mallin palauttaa rakenteista dataa sovelluslogiikkaasi varten.
Tämä ominaisuus on hyödyllinen tiedon erottamiseen tai toimintojen käynnistämiseen. Malli palauttaa työkalukutsut standardoidussa muodossa. Voit sitten suorittaa funktiosi ja syöttää tulokset takaisin keskusteluun.
Parametrit: Lämpötila, Top P ja Seedit
Ohjaa luovuutta temperature ja top_p. The seed parametri varmistaa deterministiset tulokset testausta varten. Nämä parametrit noudattavat standardia OpenAI-käytäntöä. Niiden säätäminen vaikuttaa tuotetun tekston satunnaisuuteen.
Aseta temperature arvoon 0.7 tasapainotettuun luovuuteen. Käytä seed toistuvien tulosten saamiseksi. API hylkää tuetut parametrit sujuvasti.
Nopeusrajoitukset ja rajoitukset
Sinulla on rajoitus 300 pyyntöä minuutissa avainta kohden. Yhtä aikaa saa olla enintään 8 samanaikaista pyyntöä avainta kohden. Pyyntörungon koko on rajoitettu 8 megatavuun. Kontekstiikkuna on 100 000 tokenia syötteelle ja tulokselle yhteensä. Maksimipituus tulokselle pyyntöä kohden on 16 000 tokenia.
Näiden rajojen ylittäminen palauttaa 429-virheen. Varmista, että asiakasohjelmasi käsittelee uudelleenyritykset asianmukaisesti. API-avain on uniikki tilille; uuden avaimen luominen korvaa vanhan avaimen.
Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.veniceaiapipricing.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);