OpenAI Hız Sınırlamalarını Aşmak İçin Proxy'leri Nasıl Kullanabilirsiniz?

OpenAI Hız Sınırlamalarını Aşmak İçin Proxy'leri Nasıl Kullanabilirsiniz?

OpenAI Hız Sınırlamasını Anlamak

OpenAI zorunlu kılıyor hız sınırları API anahtarı ve IP adresi seviyelerinde. Uç noktalarına aşırı derecede istek gönderirseniz, 429 hatası ("Çok Fazla İstek") alırsınız. Bu, dakikada izin verilen istek sayısını (RPM) veya dakikada token sayısını (TPM) aştığınız anlamına gelir.

Tipik Hız Sınırları:

Model Varsayılan RPM Varsayılan TPM
GPT-3.5 3500 90,000
GPT-4 500 40,000

Ama asıl önemli nokta şu: Birden fazla IP adresi kullanırsanız, IP düzeyindeki sınırlamaları aşabilirsiniz, çünkü her benzersiz IP adresine kendi kotası atanır.


Doğru Vekil Sunucu Çözümünü Seçmek

Piyasada Avustralya'nın iç kesimlerindeki kangurulardan daha fazla aracı var, ancak hepsi aynı değil. İşte kısa bir özet:

Proxy Türü Artıları Eksileri En İyisi İçin
Ücretsiz Genel Proxy'ler Kolay, ücretsiz, bol miktarda mevcut Güvenilmez, yavaş, sık sık bloke oluyor, potansiyel güvenlik açığı bulunuyor. Tek seferlik, düşük öncelikli
yerleşim Engellenmesi daha zor, daha meşru Maliyetli, daha yavaş, bazen bant genişliği sınırlı Sürekli kazıma
Veri merkezi Hızlı, ucuz, ölçeklenebilir Sıklıkla kara listeye alınır, kötüye kullanım tespitini tetikleyebilir. Toplu, yüksek hızlı görevler
Dönen Proxy'ler Otomatik geçiş, kullanımı kolay Bazen pahalı olabilir, tekrarlanan IP adresleri gerekebilir. Hız sınırlamalarını aşmak

Cüzdanınızı açmadan başlamak için şunlara göz atın: ProxyRoller (https://proxyroller.com). İnternet genelindeki ücretsiz proxy'leri tarar ve günceller, kayıt olmaya gerek yoktur.


Proxy Kurulumu: Adım Adım

1. ProxyRoller'dan Proxy'leri Getirme

Öncelikle, yeni bir grup ücretsiz proxy alalım.

curl https://proxyroller.com/api/proxies?protocol=http

JSON formatında bir proxy dizisi alacaksınız, örneğin:

[
  {
    "ip": "154.16.192.70",
    "port": "1080",
    "protocol": "http"
  },
  ...
]

Protokole göre filtreleme yapabilirsiniz (http, https, socks4, socks5) gerektiği gibi.

2. Python Requests'e Proxy'leri Entegre Etme

Birkaç proxy sunucusu alın ve API çağrıları yaparken bunlar arasında geçiş yapın.

import requests
import itertools

proxies_list = [
    {'http': 'http://154.16.192.70:1080'},
    {'http': 'http://38.54.101.103:8080'},
    # ... more proxies from ProxyRoller
]
proxies_cycle = itertools.cycle(proxies_list)

def openai_request(payload):
    proxy = next(proxies_cycle)
    response = requests.post(
        "https://api.openai.com/v1/chat/completions",
        headers={"Authorization": f"Bearer YOUR_OPENAI_KEY"},
        json=payload,
        proxies=proxy,
        timeout=10
    )
    if response.status_code == 429:
        print("Rate limited, switching proxy!")
        return openai_request(payload)  # Try next proxy
    return response.json()

3. Proxy Döndürme İşleminin Otomasyonu

Verimliliği hedefliyorsanız, her istekte veya 429 hatasından sonra proxy rotasyonunu otomatikleştirin.

Örnek Mantık:
– ProxyRoller'ın API'sinden proxy'leri yükleyin.
– Her istekte bir sonraki proxy'yi seçin.
– 429 hatası durumunda, farklı bir proxy ile tekrar deneyin.
– Çalışmayan proxy'lerden kurtulmak için proxy listenizi düzenli olarak güncelleyin.


Sık Karşılaşılan Hatalarla Başa Çıkma

a. Ölü veya Yavaş Proxy'ler

Dürüst olalım, ücretsiz proxy'ler Gumtree'deki Dropbear'dan daha güvenilmez olabilir. Proxy'leri kullanmadan önce her zaman test edin:

def is_proxy_alive(proxy):
    try:
        requests.get("https://api.openai.com", proxies=proxy, timeout=3)
        return True
    except:
        return False

working_proxies = [p for p in proxies_list if is_proxy_alive(p)]

b. OpenAI Engelleme Proxy'leri

OpenAI bazen, özellikle ücretsiz veya veri merkezi proxy'lerini engelleyebilir. Sürekli 403 hatası veya bağlantı hatası alıyorsanız, ProxyRoller'dan proxy listenizi yenileyin veya kritik işler için ücretli bir ev proxy hizmeti kullanmayı düşünün.


ProxyRoller Kullanım Kılavuzu

Özellik Nasıl Yapılır
HTTP Proxy'lerini Alın curl https://proxyroller.com/api/proxies?protocol=http
HTTPS'i edinin curl https://proxyroller.com/api/proxies?protocol=https
SOCKS5'yi edinin curl https://proxyroller.com/api/proxies?protocol=socks5
Vekil Sayısı Saat başı 1000'den fazla güncelleniyor
Filtreler Ülkeye, anonimlik düzeyine, protokole göre filtrele.

Daha fazla belge ve kılavuz: https://proxyroller.com/docs


Proxy Havuzları ile Hız Sınırlamalarını Aşma

Eğer tam gaz ilerliyorsanız, bir proxy havuz yöneticisi kurun. İşte Python ve ProxyRoller kullanarak hızlı ve basit bir havuz örneği:

import threading
import queue

proxy_queue = queue.Queue()
for proxy in working_proxies:
    proxy_queue.put(proxy)

def worker(task_payload):
    while not proxy_queue.empty():
        proxy = proxy_queue.get()
        try:
            resp = requests.post(
                "https://api.openai.com/v1/chat/completions",
                headers={"Authorization": f"Bearer {OPENAI_KEY}"},
                json=task_payload,
                proxies=proxy,
                timeout=10
            )
            if resp.status_code == 200:
                print("Success!", resp.json())
                break
        except Exception as e:
            print(f"Proxy failed: {proxy}. Error: {e}")

threads = []
for payload in tasks:
    t = threading.Thread(target=worker, args=(payload,))
    t.start()
    threads.append(t)

for t in threads:
    t.join()

Ücretsiz ve Ücretli Proxy'lerin Karşılaştırılması

Bağlanmak Ücretsiz Proxy'ler (ProxyRoller) Ücretli Proxy'ler
Maliyet $0 $10–$200/ay
Güvenilirlik Düşük-Orta Yüksek
Hız Değişken, genellikle yavaş Hızlı
Blok Oranı Yüksek Düşük
Anonimlik Orta Yüksek
Kurulum Süresi Ani Hesap oluşturma/hesap açma süresi (dakika cinsinden)

Ek Kaynaklar


Unutma dostum: Proxy'leri sorumluluk bilinciyle kullan. İnternete kötü bir isim verme; proxy'leri değiştir, doğrula ve düzgün kullan. Eğer hız sınırlamasına takılırsan, derin bir nefes al, proxy'ni değiştir ve devam et.

Arvid Savaşçı

Arvid Savaşçı

Lider Ağ Mimarı

Güneş yanığı ülkenin yerlisi olan Arvid Warral, ProxyRoller'ın sağlam ve çevik ağ mimarisinin arkasındaki beyindir. Dijital güvenlik ve proxy yönetiminde yirmi yılı aşkın deneyimiyle, gizlilik ve veri güvenliğinin dinamik ihtiyaçlarını karşılayan sistemler geliştirmede etkili olmuştur. Arvid'ın ProxyRoller ile yolculuğu tutkulu bir teknoloji uzmanı olarak başladı ve yenilikçi çözümleri o zamandan beri şirketi sektörün ön saflarına taşıdı. Rolünde, ProxyRoller'ın tekliflerinin dünya çapındaki kullanıcılar için en son teknoloji ve güvenilir kalmasını sağlamaya kendini adamıştır.

Yorumlar (0)

Burada henüz yorum yok, ilk siz olabilirsiniz!

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir