Abliterated: Przewodnik szybkiego startu

Adres bazowy i uwierzytelnianie

API abliterated jest w pełni kompatybilne z OpenAI, co oznacza, że możesz używać standardowych SDK, po prostu wskazując im nasz bazowy URL. Usługa przyjmuje dane wejściowe tekstowe i zwraca dane wyjściowe tekstowe przez endpoint chat-completions. Musisz dołączyć swój klucz API w nagłówku Authorization do każdego zapytania. Twój klucz jest generowany natychmiast po zalogowaniu się za pomocą Google lub e-mail na stronie Pobierz klucz API. Nie ma subskrypcji miesięcznych; płacisz tylko za tokeny, których faktycznie zużyjesz.

• Adres bazowy: https://api.abliterated.top/v1
• Nagłówek: Authorization: Bearer YOUR_API_KEY
• Identyfikator modelu: uncensored

Pierwsze zapytanie

Wyślij proste zapytanie o uzupełnienie, aby zweryfikować łączność. Model jest dostrojony do odpowiadania bez odmów treści dla prawnego użytku dorosłego, co czyni go idealnym do bezcenzuralnych zadań LLM programistycznych lub pisania kreatywnego. Zauważ, że ID modelu to ściśle uncensored. Jest to model o otwartych wagach, a nie GPT, Claude ani żaden inny model dostawcy. Zapytania są rozliczane na podstawie liczby tokenów wejściowych i wyjściowych. Błędy i odmowy (z wyjątkiem twardego limitu treści seksualnych involving minors) są darmowe.

Integracja z Python SDK

Użyj oficjalnej biblioteki Python OpenAI do interakcji z LLM abliterated. Zainicjuj klienta swoim kluczem API i niestandardowym bazowym URL. To podejście działa bezproblemowo dla bezcenzuralnych modeli, które przestrzegają schematu czatu OpenAI. Możesz przekazywać parametry takie jak temperature lub top_p, aby kontrolować kreatywność. Obiekt odpowiedzi zawiera wygenerowany tekst w content. Ta metoda jest wydajna do przetwarzania wsadowego lub integracji API z usługami backendowymi.

Integracja z Node SDK

Dla projektów JavaScript lub TypeScript, SDK Node OpenAI działa przy minimalnej konfiguracji. Ustaw baseURL na nasz endpoint i podaj swój klucz. Jest to przydatne dla serwerów sieciowych lub funkcji brzegowych, które muszą generować tekst dynamicznie. API abliterated obsługuje standardowe parametry takie jak sekwencje stop i seed dla reprodukowalności. Pamiętaj, że ID modelu musi być uncensored. Możesz również włączyć tryb JSON, ustawiając response_format na {"type": "json_object"} dla danych strukturalnych.

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając stream: true w swoim zapytaniu. API zwraca dane za pomocą Server-Sent Events (SSE), pozwalając na wyświetlanie tokenów w miarę ich generowania. Poprawia to postrzeganą opóźnienie dla użytkowników. Ostatni fragment strumienia zawiera całkowite zużycie tokenów dla zapytania, co jest krytyczne dla dokładnego rozliczania. Strumieniowanie jest obsługiwane dla wszystkich standardowych parametrów. Ta funkcja jest niezbędna do budowania interfejsów przypominających czat, które są responsywne.

Limity zapytań, błędy i kontekst

Szanuj limity zapytań, aby uniknąć błędów 429. Każdy klucz pozwala na 300 zapytań na minutę i do 8 równoległych zapytań. Maksymalny rozmiar ciała zapytania to 8 MB. Jeśli Twój klucz jest nieprawidłowy, otrzymasz błąd 401. Jeśli masz niewystarczający kredyt, otrzymasz błąd 402. Błędy i odmowy nie zużywają tokenów. Okno kontekstu ma 100 000 tokenów łącznie (prompt + uzupełnienie). Maksymalne wyjście na zapytanie to 32 000 tokenów (lub 2 048, jeśli max_tokens nie jest ustawione). Kredyt jest przedpłacony i nigdy nie wygasa.

cURL

Copycurl https://api.abliterated.top/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliterated.top/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliterated.top/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)