OpenAI WebSocket API: 75% తక్కువ ఖర్చుతో రియల్-టైమ్ Streaming

రియల్-టైమ్, bidirectional streaming కోసం Smart AIPI ఇప్పుడు OpenAI యొక్క WebSocket API ని సపోర్ట్ చేస్తుంది. SSE కంటే తక్కువ latency, persistent connections, మరియు 75% చవక. కనెక్ట్ అవ్వడం ఎలా అనేది ఇక్కడ ఉంది.

S
Smart AIPI Team
7 నిమిషాల చదువు ·
OpenAI WebSocket API: 75% తక్కువ ఖర్చుతో రియల్-టైమ్ Streaming

సారాంశం: Smart AIPI ఇప్పుడు OpenAI యొక్క WebSocket API ని సపోర్ట్ చేస్తుంది. wss://api.smartaipi.com/v1/realtime కు కనెక్ట్ అవ్వండి, ఒక response.create event పంపండి, మరియు persistent connection పై రియల్-టైమ్ లో responses ను stream చేయండి. అదే models, అదే protocol, 75% చవక.

AI models తో ఇంటరాక్ట్ అవ్వడానికి WebSocket streaming అత్యంత వేగవంతమైన మార్గం. సాంప్రదాయ HTTP requests లేదా Server-Sent Events (SSE) కంటే భిన్నంగా, WebSocket మీ application మరియు API మధ్య persistent, bidirectional connection ను కొనసాగిస్తుంది. ప్రతి request కు connection setup అవసరం లేదు, HTTP overhead లేదు, half-duplex పరిమితులు లేవు.

Smart AIPI ఇప్పుడు ఈ protocol ను wss://api.smartaipi.com/v1/realtime వద్ద సపోర్ట్ చేస్తుంది — OpenAI యొక్క WebSocket API తో పూర్తిగా compatible గా, 75% తక్కువ ఖర్చుతో.

SSE కంటే WebSocket ఎందుకు?

AI streaming కోసం Server-Sent Events ప్రామాణికంగా ఉపయోగంలో ఉన్నాయి, కానీ వాటికి WebSocket తొలగించే కొన్ని trade-offs ఉన్నాయి:

ఫీచర్ SSE (HTTP) WebSocket
ప్రతి request కు connection ప్రతి సారి కొత్త connection Persistent (మళ్లీ ఉపయోగించవచ్చు)
దిశ Server → Client మాత్రమే Bidirectional
ఒకే connection పై అనేక requests లేదు అవును
మొదటి-token latency ఎక్కువ (కొత్త TCP + TLS) తక్కువ (connection reuse)
ఇవాటికి అనుకూలం సాధారణ integrations Agents, రియల్-టైమ్ apps, high-throughput

వరుసగా డజన్ల కొద్దీ API calls చేసే agent loops కోసం, persistent WebSocket connection వల్ల కలిగే cumulative latency savings గణనీయంగా ఉంటాయి.

ఇది ఎలా పనిచేస్తుంది

WebSocket API ఒక event-driven protocol ను అనుసరిస్తుంది. మీరు server కు JSON events పంపుతారు, మరియు తిరిగి JSON events పొందుతారు — ఇవన్నీ ఒకే persistent connection పై జరుగుతాయి.

1. కనెక్ట్ అవ్వండి మరియు Authenticate చేయండి

headers లో మీ API key తో ఒక WebSocket connection ఓపెన్ చేయండి:

wss://api.smartaipi.com/v1/realtime
Authorization: Bearer sk-proj-your-smart-aipi-key
OpenAI-Beta: realtime=v1

2. ఒక Request పంపండి

మీ prompt తో ఒక response.create event పంపండి:

{
  "type": "response.create",
  "response": {
    "model": "gpt-5.3-codex",
    "store": false,
    "instructions": "You are a helpful assistant.",
    "input": [
      {
        "type": "message",
        "role": "user",
        "content": [
          { "type": "input_text", "text": "What is WebSocket?" }
        ]
      }
    ]
  }
}

గమనిక: Smart AIPI WebSocket connections కోసం store: false parameter తప్పనిసరి.

3. Streaming Events స్వీకరించండి

response రూపొందుతున్నప్పుడు server వరుసగా events ను తిరిగి పంపుతుంది:

Event వివరణ
response.created Response object సృష్టించబడింది
response.output_item.added కొత్త output item (message) ప్రారంభమైంది
response.content_part.added ఒక output item లో content part ప్రారంభమైంది
response.output_text.delta టెక్స్ట్ chunk (నిజంగా stream అవుతున్న content)
response.output_text.done టెక్స్ట్ output పూర్తయింది
response.completed మొత్తం response పూర్తయింది (terminal event)

Code ఉదాహరణలు

Node.js

import WebSocket from "ws";

const ws = new WebSocket("wss://api.smartaipi.com/v1/realtime", {
  headers: {
    "Authorization": "Bearer sk-proj-your-key",
    "OpenAI-Beta": "realtime=v1",
  },
});

ws.on("open", () => {
  ws.send(JSON.stringify({
    type: "response.create",
    response: {
      model: "gpt-5.3-codex",
      store: false,
      input: [{
        type: "message",
        role: "user",
        content: [{ type: "input_text", text: "Hello!" }],
      }],
    },
  }));
});

ws.on("message", (data) => {
  const event = JSON.parse(data);
  if (event.type === "response.output_text.delta") {
    process.stdout.write(event.delta);
  }
  if (event.type === "response.completed") {
    console.log("\n\nDone. Usage:", event.response.usage);
    ws.close();
  }
});

Python

import asyncio
import json
import websockets

async def main():
    headers = {
        "Authorization": "Bearer sk-proj-your-key",
        "OpenAI-Beta": "realtime=v1",
    }

    async with websockets.connect(
        "wss://api.smartaipi.com/v1/realtime",
        extra_headers=headers,
    ) as ws:
        await ws.send(json.dumps({
            "type": "response.create",
            "response": {
                "model": "gpt-5.3-codex",
                "store": False,
                "input": [{
                    "type": "message",
                    "role": "user",
                    "content": [{"type": "input_text", "text": "Hello!"}],
                }],
            },
        }))

        async for message in ws:
            event = json.loads(message)
            if event["type"] == "response.output_text.delta":
                print(event["delta"], end="", flush=True)
            if event["type"] == "response.completed":
                print(f"\n\nUsage: {event['response']['usage']}")
                break

asyncio.run(main())

cURL (త్వరిత పరీక్ష)

ఒకే command తో WebSocket handshake విజయవంతమైందో లేదో ధృవీకరించండి:

curl -isN --http1.1 \
  -H "Connection: Upgrade" \
  -H "Upgrade: websocket" \
  -H "Sec-WebSocket-Version: 13" \
  -H "Sec-WebSocket-Key: dGVzdA==" \
  -H "Authorization: Bearer sk-proj-your-key" \
  -H "OpenAI-Beta: realtime=v1" \
  https://api.smartaipi.com/v1/realtime

విజయవంతమైన connection కు HTTP/1.1 101 Switching Protocols వస్తుంది.

WebSocket ని ఎప్పుడు ఉపయోగించాలి, SSE ని ఎప్పుడు ఉపయోగించాలి

రెండు protocols కూడా Smart AIPI ద్వారా పని చేస్తాయి. మీ use case ఆధారంగా ఎంచుకోండి:

  • SSE ఉపయోగించండి సాధారణ integrations, one-off requests, మరియు వీలైనంత సరళమైన implementation కావాలనుకున్నప్పుడు. ఏదైనా standard API call పై stream: true సెట్ చేయండి.
  • WebSocket ఉపయోగించండి agent loops, interactive applications, high-frequency request patterns, మరియు వరుస calls మధ్య కనిష్ట latency అవసరమైన ఏ సందర్భంలోనైనా.

ధరలు

WebSocket requests కు billing, standard API requests మాదిరిగానే — token usage ఆధారంగా ఉంటుంది. 75% discount ఇక్కడ వర్తిస్తుంది:

Model OpenAI Direct Smart AIPI సేవింగ్స్
GPT-5.3 Codex (output) $14.00 / 1M tokens $3.50 / 1M tokens 75%
GPT-5.2 (output) $10.00 / 1M tokens $2.50 / 1M tokens 75%
Codex Mini (output) $0.60 / 1M tokens $0.15 / 1M tokens 75%

ప్రారంభించడం ఎలా

  1. ఒక API key పొందండిsmartaipi.com లో sign up చేయండి (free credits ఉన్నాయి, credit card అవసరం లేదు)
  2. కనెక్ట్ అవ్వండిwss://api.smartaipi.com/v1/realtime కు ఒక WebSocket ఓపెన్ చేయండి
  3. events పంపండి — మీ model మరియు prompt తో response.create envelope ను ఉపయోగించండి
  4. responses ను stream చేయండి — వచ్చిన వెంటనే response.output_text.delta events ను process చేయండి

మీరు ఇప్పటికే OpenAI యొక్క WebSocket API ను ఉపయోగిస్తున్నట్లయితే, మార్పు చేయాల్సింది URL మాత్రమే. మిగతావన్నీ — authentication, events, payload format — పూర్తిగా ఒకే విధంగా ఉంటాయి.

తరచుగా అడిగే ప్రశ్నలు

Smart AIPI, OpenAI WebSocket API ని సపోర్ట్ చేస్తుందా?

అవును. Authorization header లో మీ API key తో wss://api.smartaipi.com/v1/realtime కు కనెక్ట్ అవ్వండి. ఈ protocol, OpenAI యొక్క WebSocket Responses API తో పూర్తిగా compatible గా ఉంటుంది.

WebSocket, SSE కంటే వేగంగా ఉంటుందా?

వరుస requests కోసం అవును. WebSocket ఒక persistent connection ను కొనసాగిస్తుంది, దీంతో SSE ప్రతి కొత్త request పై ఎదుర్కొనే TCP మరియు TLS handshake overhead తొలగిపోతుంది. ఒకే one-off request కోసం అయితే తేడా చాలా తక్కువగా ఉంటుంది.

WebSocket పై ఏ models పని చేస్తాయి?

Responses API ద్వారా అందుబాటులో ఉన్న అన్ని models: GPT-5.3 Codex, GPT-5.2, Codex Mini, మరియు ఇతరాలు. response.create event లో model ని పేర్కొనండి.

function calling మరియు tool use, WebSocket పై పని చేస్తాయా?

అవును. పూర్తి Responses API feature set అందుబాటులో ఉంటుంది — function calling, tool use, structured outputs, మరియు multi-turn conversations అన్నీ WebSocket connection పై పని చేస్తాయి.

connection time limit ఏదైనా ఉందా?

Idle connections ను 15 నిమిషాల తర్వాత మూసివేస్తారు. అవసరమైతే periodic messages పంపండి లేదా మళ్లీ reconnect అవ్వండి. data ను stream చేస్తున్న active connections కు అంతరాయం ఉండదు.

ఒకే connection పై అనేక requests పంపవచ్చా?

అవును. ఇది ప్రధాన ప్రయోజనాల్లో ఒకటి. ఒక response పూర్తైన తర్వాత, reconnect కాకుండా అదే connection పై మరో response.create event పంపండి.

WebSocket Streaming Real-Time API
S
రచయిత
Smart AIPI

OpenAI-compatible API gateway. 75% తక్కువ ఖర్చుతో frontier AI models ను యాక్సెస్ చేయండి.

ఉచితంగా ప్రారంభించండి

సందేశం పంపబడింది

మేము 2 business days లో మీకు స్పందిస్తాము.

సపోర్ట్‌ను సంప్రదించండి

ప్రశ్న ఉందా లేదా సహాయం కావాలా? మాకు ఒక సందేశం పంపండి, మేము 2 business days లో మీకు స్పందిస్తాము.