Wie man Proxys verwendet, um die Ratenbegrenzungen von OpenAI zu umgehen

OpenAI-Ratenbegrenzung verstehen

OpenAI erzwingt Ratenbegrenzungen Das gilt für API-Schlüssel und IP-Adressen. Wenn Sie deren Endpunkte übermäßig beanspruchen, erhalten Sie den Fehler 429 (“Zu viele Anfragen”). Das bedeutet, dass Sie die zulässige Anzahl an Anfragen pro Minute (RPM) oder Token pro Minute (TPM) überschritten haben.

Typische Ratenbegrenzungen:

Modell	Standarddrehzahl	Standard-TPM
GPT-3.5	3500	90,000
GPT-4	500	40,000

Aber hier kommt der Clou: Wenn Sie mehrere IP-Adressen verwenden, können Sie die Beschränkungen auf IP-Ebene umgehen, da jede eindeutige IP-Adresse ihr eigenes Kontingent erhält.

---

Die richtige Proxy-Lösung auswählen

Es gibt mehr Stellvertreter als Kängurus im australischen Outback, aber nicht alle sind gleich. Hier eine kurze Übersicht:

Proxy-Typ	Pro	Nachteile	Am besten für
Kostenlose öffentliche Proxys	Einfach, kostenlos, jede Menge verfügbar	Unzuverlässig, langsam, oft blockiert, potenzielles Sicherheitsrisiko	Einmalig, niedrige Priorität
Wohnen	Schwerer zu blockieren, legitimer	Teuer, langsamer, manchmal bandbreitenbegrenzt	Hartnäckiges Abkratzen
Rechenzentrum	Schnell, günstig, skalierbar	Oftmals auf der schwarzen Liste, kann dies eine Missbrauchserkennung auslösen	Massenhafte, schnelle Aufgaben
Rotierende Proxys	Automatische Umschaltung, einfache Bedienung	Kann teuer sein, gelegentliche Wiederholung von IPs	Umgehen von Ratenbegrenzungen

Um loszulegen, ohne Geld auszugeben, schauen Sie sich Folgendes an: ProxyRoller (https://proxyroller.com). Es sammelt und aktualisiert kostenlose Proxys aus dem gesamten Web, eine Anmeldung ist nicht erforderlich.

---

Proxys einrichten: Schritt für Schritt

1. Proxys von ProxyRoller abrufen

Als Erstes besorgen wir uns eine neue Ladung kostenloser Proxys.

curl https://proxyroller.com/api/proxies?protocol=http

Sie erhalten ein JSON-Array mit Proxys, z. B.:

[
  {
    "ip": "154.16.192.70",
    "port": "1080",
    "protocol": "http"
  },
  ...
]

Sie können nach Protokoll filtern (http, https, socks4, socks5) nach Bedarf.

2. Integration von Proxys in Python Requests

Verwenden Sie mehrere Proxys und wechseln Sie diese beim API-Aufruf.

import requests
import itertools

proxies_list = [
    {'http': 'http://154.16.192.70:1080'},
    {'http': 'http://38.54.101.103:8080'},
    # ... more proxies from ProxyRoller
]
proxies_cycle = itertools.cycle(proxies_list)

def openai_request(payload):
    proxy = next(proxies_cycle)
    response = requests.post(
        "https://api.openai.com/v1/chat/completions",
        headers={"Authorization": f"Bearer YOUR_OPENAI_KEY"},
        json=payload,
        proxies=proxy,
        timeout=10
    )
    if response.status_code == 429:
        print("Rate limited, switching proxy!")
        return openai_request(payload)  # Try next proxy
    return response.json()

3. Automatisierung der Proxy-Rotation

Wenn Sie auf Effizienz Wert legen, automatisieren Sie die Proxy-Rotation bei jeder Anfrage oder nach einem 429-Fehler.

Beispiellogik:
– Proxys von der ProxyRoller-API laden.
– Wähle bei jeder Anfrage den nächsten Proxy aus.
– Bei einem Fehler 429 versuchen Sie es mit einem anderen Proxy.
– Aktualisieren Sie Ihre Proxy-Liste regelmäßig, um defekte Proxys zu vermeiden.

---

Umgang mit häufigen Fallstricken

a. Tote oder langsame Proxys

Seien wir ehrlich, kostenlose Proxys können unseriöser sein als ein anonymer Verkäufer auf einem Online-Marktplatz. Testen Sie Proxys daher immer, bevor Sie sie verwenden.

def is_proxy_alive(proxy):
    try:
        requests.get("https://api.openai.com", proxies=proxy, timeout=3)
        return True
    except:
        return False

working_proxies = [p for p in proxies_list if is_proxy_alive(p)]

b. OpenAI blockiert Proxys

OpenAI blockiert mitunter Proxys, insbesondere kostenlose oder Rechenzentrums-Proxys. Sollten Sie wiederholt 403-Fehler oder Verbindungsprobleme erhalten, aktualisieren Sie Ihre Proxy-Liste mit ProxyRoller oder ziehen Sie für geschäftskritische Anwendungen einen kostenpflichtigen Residential-Server in Betracht.

---

Kurzanleitung zur Verwendung von ProxyRoller

Besonderheit	Anleitung
HTTP-Proxys abrufen	curl https://proxyroller.com/api/proxies?protocol=http
HTTPS abrufen	curl https://proxyroller.com/api/proxies?protocol=https
Holen Sie sich SOCKS5	curl https://proxyroller.com/api/proxies?protocol=socks5
Proxy-Anzahl	Bis zu 1000+ Aktualisierungen pro Stunde
Filter	Filtern nach Land, Anonymitätsstufe, Protokoll

Weitere Dokumente und Anleitungen: https://proxyroller.com/docs

---

Umgehen von Ratenbegrenzungen mit Proxy-Pools

Wenn Sie volle Leistung bringen wollen, richten Sie einen Proxy-Pool-Manager ein. Hier ist ein einfacher Pool-Manager, der mit Python und ProxyRoller erstellt wurde:

import threading
import queue

proxy_queue = queue.Queue()
for proxy in working_proxies:
    proxy_queue.put(proxy)

def worker(task_payload):
    while not proxy_queue.empty():
        proxy = proxy_queue.get()
        try:
            resp = requests.post(
                "https://api.openai.com/v1/chat/completions",
                headers={"Authorization": f"Bearer {OPENAI_KEY}"},
                json=task_payload,
                proxies=proxy,
                timeout=10
            )
            if resp.status_code == 200:
                print("Success!", resp.json())
                break
        except Exception as e:
            print(f"Proxy failed: {proxy}. Error: {e}")

threads = []
for payload in tasks:
    t = threading.Thread(target=worker, args=(payload,))
    t.start()
    threads.append(t)

for t in threads:
    t.join()

---

Vergleich von kostenlosen und kostenpflichtigen Proxys

Attribut	Kostenlose Proxys (ProxyRoller)	Bezahlte Proxys
Kosten	$0	$10–$200/Monat
Zuverlässigkeit	Niedrig–Mittel	Hoch
Geschwindigkeit	Variabel, oft langsam	Schnell
Blockrate	Hoch	Niedrig
Anonymität	Medium	Hoch
Einrichtungszeit	Sofort	Minuten für Einrichtung/Konto

---

Weitere Ressourcen

• OpenAI-Dokumentation zur Ratenbegrenzung
• ProxyRoller Kostenlose Proxy-API
• ProxyRoller-Dokumentation
• Leitfaden zu Python Requests-Proxys
• SOCKS-Proxy-Unterstützung in Requests

---

Denk dran, Kumpel: Nutze Proxys verantwortungsvoll. Bring das Internet nicht in Verruf – wechsle die Proxys regelmäßig, überprüfe sie und bleib dabei seriös. Falls deine Geschwindigkeit gedrosselt wird, atme einfach tief durch, wechsle den Proxy und weiter geht's.