Тайм-ауты, ограничения и повтор запросов
Ограниченные повторы, неопределённый результат и защита от повторных расходов.
Задайте тайм-аут соединения и общий предел ожидания согласно задаче. Одновременный автоматический повтор в SDK и приложении может умножить число запросов.
Перед повтором
Раздел «Перед повтором»- 400: исправьте запрос или несовместимый параметр.
- 401: исправьте ключ и авторизацию; повтор неизменённого запроса не поможет.
- 404: проверьте модель и конечный путь, особенно дублирование
/v1. - 429: проверьте причину и подсказку сервера, выдержите паузу.
- 5xx или временная сетевая ошибка: возможен ограниченный повтор с увеличением задержки.
- Тайм-аут после отправки или обрыв потока: результат неопределён; сначала сверьте журнал, нельзя считать, что поставщик ничего не обработал.
Ограничьте число попыток и суммарное время; добавьте случайное небольшое отклонение задержки при массовых запросах. Повтор генерации может дать другой результат и повлечь дополнительные расходы.
Если часть текста уже показана, не перезапускайте генерацию незаметно с присоединением к старому тексту. Сохраните статус и дайте пользователю выбрать повтор или продолжение. Потоки · Диагностика.
Примеры запросов и конфигурации
Раздел «Примеры запросов и конфигурации»Используйте пример для выбранного протокола и версии клиента. Замените учебные ключи и идентификаторы моделей своими. Команды выполняются на вашем компьютере или сервере.
import osfrom openai import OpenAI
client = OpenAI( api_key=os.environ["ONEZHE_API_KEY"], base_url="https://1zheai.com/v1", timeout=120.0, max_retries=2,)import OpenAI from "openai";
const client = new OpenAI({ apiKey: process.env.ONEZHE_API_KEY, baseURL: "https://1zheai.com/v1", timeout: 120_000, maxRetries: 2,});