OpenAI WebSocket API: 75% తక్కువ ఖర్చుతో రియల్-టైమ్ Streaming
రియల్-టైమ్, bidirectional streaming కోసం Smart AIPI ఇప్పుడు OpenAI యొక్క WebSocket API ని సపోర్ట్ చేస్తుంది. SSE కంటే తక్కువ latency, persistent connections, మరియు 75% చవక. కనెక్ట్ అవ్వడం ఎలా అనేది ఇక్కడ ఉంది.
సారాంశం: Smart AIPI ఇప్పుడు OpenAI యొక్క WebSocket API ని సపోర్ట్ చేస్తుంది. wss://api.smartaipi.com/v1/realtime కు కనెక్ట్ అవ్వండి, ఒక response.create event పంపండి, మరియు persistent connection పై రియల్-టైమ్ లో responses ను stream చేయండి. అదే models, అదే protocol, 75% చవక.
AI models తో ఇంటరాక్ట్ అవ్వడానికి WebSocket streaming అత్యంత వేగవంతమైన మార్గం. సాంప్రదాయ HTTP requests లేదా Server-Sent Events (SSE) కంటే భిన్నంగా, WebSocket మీ application మరియు API మధ్య persistent, bidirectional connection ను కొనసాగిస్తుంది. ప్రతి request కు connection setup అవసరం లేదు, HTTP overhead లేదు, half-duplex పరిమితులు లేవు.
Smart AIPI ఇప్పుడు ఈ protocol ను wss://api.smartaipi.com/v1/realtime వద్ద సపోర్ట్ చేస్తుంది — OpenAI యొక్క WebSocket API తో పూర్తిగా compatible గా, 75% తక్కువ ఖర్చుతో.
SSE కంటే WebSocket ఎందుకు?
AI streaming కోసం Server-Sent Events ప్రామాణికంగా ఉపయోగంలో ఉన్నాయి, కానీ వాటికి WebSocket తొలగించే కొన్ని trade-offs ఉన్నాయి:
| ఫీచర్ | SSE (HTTP) | WebSocket |
|---|---|---|
| ప్రతి request కు connection | ప్రతి సారి కొత్త connection | Persistent (మళ్లీ ఉపయోగించవచ్చు) |
| దిశ | Server → Client మాత్రమే | Bidirectional |
| ఒకే connection పై అనేక requests | లేదు | అవును |
| మొదటి-token latency | ఎక్కువ (కొత్త TCP + TLS) | తక్కువ (connection reuse) |
| ఇవాటికి అనుకూలం | సాధారణ integrations | Agents, రియల్-టైమ్ apps, high-throughput |
వరుసగా డజన్ల కొద్దీ API calls చేసే agent loops కోసం, persistent WebSocket connection వల్ల కలిగే cumulative latency savings గణనీయంగా ఉంటాయి.
ఇది ఎలా పనిచేస్తుంది
WebSocket API ఒక event-driven protocol ను అనుసరిస్తుంది. మీరు server కు JSON events పంపుతారు, మరియు తిరిగి JSON events పొందుతారు — ఇవన్నీ ఒకే persistent connection పై జరుగుతాయి.
1. కనెక్ట్ అవ్వండి మరియు Authenticate చేయండి
headers లో మీ API key తో ఒక WebSocket connection ఓపెన్ చేయండి:
wss://api.smartaipi.com/v1/realtime
Authorization: Bearer sk-proj-your-smart-aipi-key
OpenAI-Beta: realtime=v1
2. ఒక Request పంపండి
మీ prompt తో ఒక response.create event పంపండి:
{
"type": "response.create",
"response": {
"model": "gpt-5.3-codex",
"store": false,
"instructions": "You are a helpful assistant.",
"input": [
{
"type": "message",
"role": "user",
"content": [
{ "type": "input_text", "text": "What is WebSocket?" }
]
}
]
}
}
గమనిక: Smart AIPI WebSocket connections కోసం store: false parameter తప్పనిసరి.
3. Streaming Events స్వీకరించండి
response రూపొందుతున్నప్పుడు server వరుసగా events ను తిరిగి పంపుతుంది:
| Event | వివరణ |
|---|---|
| response.created | Response object సృష్టించబడింది |
| response.output_item.added | కొత్త output item (message) ప్రారంభమైంది |
| response.content_part.added | ఒక output item లో content part ప్రారంభమైంది |
| response.output_text.delta | టెక్స్ట్ chunk (నిజంగా stream అవుతున్న content) |
| response.output_text.done | టెక్స్ట్ output పూర్తయింది |
| response.completed | మొత్తం response పూర్తయింది (terminal event) |
Code ఉదాహరణలు
Node.js
import WebSocket from "ws";
const ws = new WebSocket("wss://api.smartaipi.com/v1/realtime", {
headers: {
"Authorization": "Bearer sk-proj-your-key",
"OpenAI-Beta": "realtime=v1",
},
});
ws.on("open", () => {
ws.send(JSON.stringify({
type: "response.create",
response: {
model: "gpt-5.3-codex",
store: false,
input: [{
type: "message",
role: "user",
content: [{ type: "input_text", text: "Hello!" }],
}],
},
}));
});
ws.on("message", (data) => {
const event = JSON.parse(data);
if (event.type === "response.output_text.delta") {
process.stdout.write(event.delta);
}
if (event.type === "response.completed") {
console.log("\n\nDone. Usage:", event.response.usage);
ws.close();
}
});
Python
import asyncio
import json
import websockets
async def main():
headers = {
"Authorization": "Bearer sk-proj-your-key",
"OpenAI-Beta": "realtime=v1",
}
async with websockets.connect(
"wss://api.smartaipi.com/v1/realtime",
extra_headers=headers,
) as ws:
await ws.send(json.dumps({
"type": "response.create",
"response": {
"model": "gpt-5.3-codex",
"store": False,
"input": [{
"type": "message",
"role": "user",
"content": [{"type": "input_text", "text": "Hello!"}],
}],
},
}))
async for message in ws:
event = json.loads(message)
if event["type"] == "response.output_text.delta":
print(event["delta"], end="", flush=True)
if event["type"] == "response.completed":
print(f"\n\nUsage: {event['response']['usage']}")
break
asyncio.run(main())
cURL (త్వరిత పరీక్ష)
ఒకే command తో WebSocket handshake విజయవంతమైందో లేదో ధృవీకరించండి:
curl -isN --http1.1 \
-H "Connection: Upgrade" \
-H "Upgrade: websocket" \
-H "Sec-WebSocket-Version: 13" \
-H "Sec-WebSocket-Key: dGVzdA==" \
-H "Authorization: Bearer sk-proj-your-key" \
-H "OpenAI-Beta: realtime=v1" \
https://api.smartaipi.com/v1/realtime
విజయవంతమైన connection కు HTTP/1.1 101 Switching Protocols వస్తుంది.
WebSocket ని ఎప్పుడు ఉపయోగించాలి, SSE ని ఎప్పుడు ఉపయోగించాలి
రెండు protocols కూడా Smart AIPI ద్వారా పని చేస్తాయి. మీ use case ఆధారంగా ఎంచుకోండి:
- SSE ఉపయోగించండి సాధారణ integrations, one-off requests, మరియు వీలైనంత సరళమైన implementation కావాలనుకున్నప్పుడు. ఏదైనా standard API call పై
stream: trueసెట్ చేయండి. - WebSocket ఉపయోగించండి agent loops, interactive applications, high-frequency request patterns, మరియు వరుస calls మధ్య కనిష్ట latency అవసరమైన ఏ సందర్భంలోనైనా.
ధరలు
WebSocket requests కు billing, standard API requests మాదిరిగానే — token usage ఆధారంగా ఉంటుంది. 75% discount ఇక్కడ వర్తిస్తుంది:
| Model | OpenAI Direct | Smart AIPI | సేవింగ్స్ |
|---|---|---|---|
| GPT-5.3 Codex (output) | $14.00 / 1M tokens | $3.50 / 1M tokens | 75% |
| GPT-5.2 (output) | $10.00 / 1M tokens | $2.50 / 1M tokens | 75% |
| Codex Mini (output) | $0.60 / 1M tokens | $0.15 / 1M tokens | 75% |
ప్రారంభించడం ఎలా
- ఒక API key పొందండి — smartaipi.com లో sign up చేయండి (free credits ఉన్నాయి, credit card అవసరం లేదు)
- కనెక్ట్ అవ్వండి —
wss://api.smartaipi.com/v1/realtimeకు ఒక WebSocket ఓపెన్ చేయండి - events పంపండి — మీ model మరియు prompt తో
response.createenvelope ను ఉపయోగించండి - responses ను stream చేయండి — వచ్చిన వెంటనే
response.output_text.deltaevents ను process చేయండి
మీరు ఇప్పటికే OpenAI యొక్క WebSocket API ను ఉపయోగిస్తున్నట్లయితే, మార్పు చేయాల్సింది URL మాత్రమే. మిగతావన్నీ — authentication, events, payload format — పూర్తిగా ఒకే విధంగా ఉంటాయి.
తరచుగా అడిగే ప్రశ్నలు
Smart AIPI, OpenAI WebSocket API ని సపోర్ట్ చేస్తుందా?
అవును. Authorization header లో మీ API key తో wss://api.smartaipi.com/v1/realtime కు కనెక్ట్ అవ్వండి. ఈ protocol, OpenAI యొక్క WebSocket Responses API తో పూర్తిగా compatible గా ఉంటుంది.
WebSocket, SSE కంటే వేగంగా ఉంటుందా?
వరుస requests కోసం అవును. WebSocket ఒక persistent connection ను కొనసాగిస్తుంది, దీంతో SSE ప్రతి కొత్త request పై ఎదుర్కొనే TCP మరియు TLS handshake overhead తొలగిపోతుంది. ఒకే one-off request కోసం అయితే తేడా చాలా తక్కువగా ఉంటుంది.
WebSocket పై ఏ models పని చేస్తాయి?
Responses API ద్వారా అందుబాటులో ఉన్న అన్ని models: GPT-5.3 Codex, GPT-5.2, Codex Mini, మరియు ఇతరాలు. response.create event లో model ని పేర్కొనండి.
function calling మరియు tool use, WebSocket పై పని చేస్తాయా?
అవును. పూర్తి Responses API feature set అందుబాటులో ఉంటుంది — function calling, tool use, structured outputs, మరియు multi-turn conversations అన్నీ WebSocket connection పై పని చేస్తాయి.
connection time limit ఏదైనా ఉందా?
Idle connections ను 15 నిమిషాల తర్వాత మూసివేస్తారు. అవసరమైతే periodic messages పంపండి లేదా మళ్లీ reconnect అవ్వండి. data ను stream చేస్తున్న active connections కు అంతరాయం ఉండదు.
ఒకే connection పై అనేక requests పంపవచ్చా?
అవును. ఇది ప్రధాన ప్రయోజనాల్లో ఒకటి. ఒక response పూర్తైన తర్వాత, reconnect కాకుండా అదే connection పై మరో response.create event పంపండి.
OpenAI-compatible API gateway. 75% తక్కువ ఖర్చుతో frontier AI models ను యాక్సెస్ చేయండి.
ఉచితంగా ప్రారంభించండి