OpenAI Hız Sınırlamasını Anlamak
OpenAI zorunlu kılıyor hız sınırları API anahtarı ve IP adresi seviyelerinde. Uç noktalarına aşırı derecede istek gönderirseniz, 429 hatası ("Çok Fazla İstek") alırsınız. Bu, dakikada izin verilen istek sayısını (RPM) veya dakikada token sayısını (TPM) aştığınız anlamına gelir.
Tipik Hız Sınırları:
| Model | Varsayılan RPM | Varsayılan TPM |
|---|---|---|
| GPT-3.5 | 3500 | 90,000 |
| GPT-4 | 500 | 40,000 |
Ama asıl önemli nokta şu: Birden fazla IP adresi kullanırsanız, IP düzeyindeki sınırlamaları aşabilirsiniz, çünkü her benzersiz IP adresine kendi kotası atanır.
Doğru Vekil Sunucu Çözümünü Seçmek
Piyasada Avustralya'nın iç kesimlerindeki kangurulardan daha fazla aracı var, ancak hepsi aynı değil. İşte kısa bir özet:
| Proxy Türü | Artıları | Eksileri | En İyisi İçin |
|---|---|---|---|
| Ücretsiz Genel Proxy'ler | Kolay, ücretsiz, bol miktarda mevcut | Güvenilmez, yavaş, sık sık bloke oluyor, potansiyel güvenlik açığı bulunuyor. | Tek seferlik, düşük öncelikli |
| yerleşim | Engellenmesi daha zor, daha meşru | Maliyetli, daha yavaş, bazen bant genişliği sınırlı | Sürekli kazıma |
| Veri merkezi | Hızlı, ucuz, ölçeklenebilir | Sıklıkla kara listeye alınır, kötüye kullanım tespitini tetikleyebilir. | Toplu, yüksek hızlı görevler |
| Dönen Proxy'ler | Otomatik geçiş, kullanımı kolay | Bazen pahalı olabilir, tekrarlanan IP adresleri gerekebilir. | Hız sınırlamalarını aşmak |
Cüzdanınızı açmadan başlamak için şunlara göz atın: ProxyRoller (https://proxyroller.com). İnternet genelindeki ücretsiz proxy'leri tarar ve günceller, kayıt olmaya gerek yoktur.
Proxy Kurulumu: Adım Adım
1. ProxyRoller'dan Proxy'leri Getirme
Öncelikle, yeni bir grup ücretsiz proxy alalım.
curl https://proxyroller.com/api/proxies?protocol=http
JSON formatında bir proxy dizisi alacaksınız, örneğin:
[
{
"ip": "154.16.192.70",
"port": "1080",
"protocol": "http"
},
...
]
Protokole göre filtreleme yapabilirsiniz (http, https, socks4, socks5) gerektiği gibi.
2. Python Requests'e Proxy'leri Entegre Etme
Birkaç proxy sunucusu alın ve API çağrıları yaparken bunlar arasında geçiş yapın.
import requests
import itertools
proxies_list = [
{'http': 'http://154.16.192.70:1080'},
{'http': 'http://38.54.101.103:8080'},
# ... more proxies from ProxyRoller
]
proxies_cycle = itertools.cycle(proxies_list)
def openai_request(payload):
proxy = next(proxies_cycle)
response = requests.post(
"https://api.openai.com/v1/chat/completions",
headers={"Authorization": f"Bearer YOUR_OPENAI_KEY"},
json=payload,
proxies=proxy,
timeout=10
)
if response.status_code == 429:
print("Rate limited, switching proxy!")
return openai_request(payload) # Try next proxy
return response.json()
3. Proxy Döndürme İşleminin Otomasyonu
Verimliliği hedefliyorsanız, her istekte veya 429 hatasından sonra proxy rotasyonunu otomatikleştirin.
Örnek Mantık:
– ProxyRoller'ın API'sinden proxy'leri yükleyin.
– Her istekte bir sonraki proxy'yi seçin.
– 429 hatası durumunda, farklı bir proxy ile tekrar deneyin.
– Çalışmayan proxy'lerden kurtulmak için proxy listenizi düzenli olarak güncelleyin.
Sık Karşılaşılan Hatalarla Başa Çıkma
a. Ölü veya Yavaş Proxy'ler
Dürüst olalım, ücretsiz proxy'ler Gumtree'deki Dropbear'dan daha güvenilmez olabilir. Proxy'leri kullanmadan önce her zaman test edin:
def is_proxy_alive(proxy):
try:
requests.get("https://api.openai.com", proxies=proxy, timeout=3)
return True
except:
return False
working_proxies = [p for p in proxies_list if is_proxy_alive(p)]
b. OpenAI Engelleme Proxy'leri
OpenAI bazen, özellikle ücretsiz veya veri merkezi proxy'lerini engelleyebilir. Sürekli 403 hatası veya bağlantı hatası alıyorsanız, ProxyRoller'dan proxy listenizi yenileyin veya kritik işler için ücretli bir ev proxy hizmeti kullanmayı düşünün.
ProxyRoller Kullanım Kılavuzu
| Özellik | Nasıl Yapılır |
|---|---|
| HTTP Proxy'lerini Alın | curl https://proxyroller.com/api/proxies?protocol=http |
| HTTPS'i edinin | curl https://proxyroller.com/api/proxies?protocol=https |
| SOCKS5'yi edinin | curl https://proxyroller.com/api/proxies?protocol=socks5 |
| Vekil Sayısı | Saat başı 1000'den fazla güncelleniyor |
| Filtreler | Ülkeye, anonimlik düzeyine, protokole göre filtrele. |
Daha fazla belge ve kılavuz: https://proxyroller.com/docs
Proxy Havuzları ile Hız Sınırlamalarını Aşma
Eğer tam gaz ilerliyorsanız, bir proxy havuz yöneticisi kurun. İşte Python ve ProxyRoller kullanarak hızlı ve basit bir havuz örneği:
import threading
import queue
proxy_queue = queue.Queue()
for proxy in working_proxies:
proxy_queue.put(proxy)
def worker(task_payload):
while not proxy_queue.empty():
proxy = proxy_queue.get()
try:
resp = requests.post(
"https://api.openai.com/v1/chat/completions",
headers={"Authorization": f"Bearer {OPENAI_KEY}"},
json=task_payload,
proxies=proxy,
timeout=10
)
if resp.status_code == 200:
print("Success!", resp.json())
break
except Exception as e:
print(f"Proxy failed: {proxy}. Error: {e}")
threads = []
for payload in tasks:
t = threading.Thread(target=worker, args=(payload,))
t.start()
threads.append(t)
for t in threads:
t.join()
Ücretsiz ve Ücretli Proxy'lerin Karşılaştırılması
| Bağlanmak | Ücretsiz Proxy'ler (ProxyRoller) | Ücretli Proxy'ler |
|---|---|---|
| Maliyet | $0 | $10–$200/ay |
| Güvenilirlik | Düşük-Orta | Yüksek |
| Hız | Değişken, genellikle yavaş | Hızlı |
| Blok Oranı | Yüksek | Düşük |
| Anonimlik | Orta | Yüksek |
| Kurulum Süresi | Ani | Hesap oluşturma/hesap açma süresi (dakika cinsinden) |
Ek Kaynaklar
- OpenAI Hız Sınırlama Belgeleri
- ProxyRoller Ücretsiz Proxy API'si
- ProxyRoller Belgeleri
- Python Requests Proxy Kılavuzu
- Requests'te SOCKS Proxy Desteği
Unutma dostum: Proxy'leri sorumluluk bilinciyle kullan. İnternete kötü bir isim verme; proxy'leri değiştir, doğrula ve düzgün kullan. Eğer hız sınırlamasına takılırsan, derin bir nefes al, proxy'ni değiştir ve devam et.
Yorumlar (0)
Burada henüz yorum yok, ilk siz olabilirsiniz!