fi ▾
Kokeile kokeilukrediitillä
Kokeile kokeilukrediitillä

API-dokumentaatio ja pika-aloitus

Tässä pikaoppaassa integroit rajoittamattoman LLM-API -rajapystymme standardien OpenAI-yhteensopivien päätepisteiden avulla. Opit base URL -arvon, autentikoinnin ja streamattujen vastausten, funktion kutsumisen sekä nopeusrajoitusten käsittelyn ilman tilausmaksuja.

Perus-URL ja todennus

Kaikkien pyyntöjen base URL on https://api.veniceaiapipricing.com/v1. Autentikoit käyttämällä API-avaintasi Authorization header Bearer-tokenina. Tämä asennus toimii minkä tahansa standardin OpenAI-SDK:n kanssa. Korvaa YOUR_API_KEY tilisi hallintapaneelissa luodulla avaimella.

  • Päätepiste: POST /v1/chat/completions
  • Otsake: Authorization: Bearer YOUR_API_KEY
curl https://api.veniceaiapipricing.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return server status code 200"}]
  }'

Päätepiste /v1/chat/completions

Lähetä keskusteluhistoriasi /v1/chat/completions käyttäen uncensored malli-ID. API hyväksyy standardit viestiesineet role ja content kentät. Syötteiden tokenit maksavat $0,15 miljoonaa kohti ja lähtötokenit maksavat $0,50 miljoonaa kohti. Virheet ja hylkäykset eivät kuluta krediittia.

Tämä päätepiste tukee vain tekstin tuottamista. Se ei käsittele kuvia, ääntä tai upotuksia. Voit streamata vastauksia tai hakea koko tekstin yhdessä JSON-objektissa.

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapipricing.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamausvastaukset (SSE)

Ota streamaus käyttöön asettamalla stream: true pyyntörunkossa. API palauttaa palveluntason tapahtumia (SSE) jokaiselle luodulle tokenille. Viimeinen osa sisältää kokonaistokenkäyttötilastot. Tämä menetelmä vähentää koettua viivettä pitkissä vastauksissa.

Virran käsittely on olennaista reaaliaikaisiin sovelluksiin. Voit käsitellä tokenit saapuessaan sen sijaan, että odottaisit koko täydennystä.

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Funktikutsut ja JSON-tila

API tukee rakenteisia lähtöarvoja ja työkalumäärittelyjä. Käytä response_format: {"type": "json_object"} pakottaa JSON-tuloksen. Voit myös välittää tools funktiokutsuille, mikä mahdollistaa mallin palauttaa rakenteista dataa sovelluslogiikkaasi varten.

Tämä ominaisuus on hyödyllinen tiedon erottamiseen tai toimintojen käynnistämiseen. Malli palauttaa työkalukutsut standardoidussa muodossa. Voit sitten suorittaa funktiosi ja syöttää tulokset takaisin keskusteluun.

Parametrit: Lämpötila, Top P ja Seedit

Ohjaa luovuutta temperature ja top_p. The seed parametri varmistaa deterministiset tulokset testausta varten. Nämä parametrit noudattavat standardia OpenAI-käytäntöä. Niiden säätäminen vaikuttaa tuotetun tekston satunnaisuuteen.

Aseta temperature arvoon 0.7 tasapainotettuun luovuuteen. Käytä seed toistuvien tulosten saamiseksi. API hylkää tuetut parametrit sujuvasti.

Nopeusrajoitukset ja rajoitukset

Sinulla on rajoitus 300 pyyntöä minuutissa avainta kohden. Yhtä aikaa saa olla enintään 8 samanaikaista pyyntöä avainta kohden. Pyyntörungon koko on rajoitettu 8 megatavuun. Kontekstiikkuna on 100 000 tokenia syötteelle ja tulokselle yhteensä. Maksimipituus tulokselle pyyntöä kohden on 16 000 tokenia.

Näiden rajojen ylittäminen palauttaa 429-virheen. Varmista, että asiakasohjelmasi käsittelee uudelleenyritykset asianmukaisesti. API-avain on uniikki tilille; uuden avaimen luominen korvaa vanhan avaimen.

Node.js

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapipricing.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Yleiset kysymykset

Mikä on venice AI API -hinnoittelu syöte- ja tulostokeneille?

Syöttötokenit maksavat $0,15 miljoonaa tokenia kohti, ja tuottotokenit maksavat $0,50 miljoonaa tokenia kohti. Maksat vain todellisesta käytöstä, virheet ja hylkäykset ovat ilmaisia.

Miten käsittelemme todennusvirheitä, kuten 401 tai 402?

Virhe 401 tarkoittaa virheellistä tai puuttuvaa API-avainta. Virhe 402 tarkoittaa, että esimaksusalderasi ei riitä. Täytä saldo kryptomaksuilla palauttaaksesi pääsyn.

Mitä tapahtuu, kun saavutan nopeusrajan?

API palauttaa virhekoodin 429, kun ylität 300 pyyntöä minuutissa tai 8 samanaikaista yhteyttä. Odota hetki ennen retryä tai vähennä pyyntöjen taajuutta.

Hanki API-avain

Rekisteröidy, hanki avain ja päivitä base URL. Valmista.