快速扩展在线存储以服务超过 10 亿 ChatGPT 用户(第二部分)
了解 OpenAI 如何通过可靠的多租户、全球缓存和 Azure Cosmos DB 扩展 Habitat,为 ChatGPT 提供快 12 倍的读取速度。
共 10 篇第 1–10 篇
了解 OpenAI 如何通过可靠的多租户、全球缓存和 Azure Cosmos DB 扩展 Habitat,为 ChatGPT 提供快 12 倍的读取速度。
了解OpenAI如何将Habitat从一个Python库发展为一个全球分布式存储平台,服务于10亿ChatGPT用户和每秒2200万次请求。
Jalapeño 是 OpenAI 的一款定制推理芯片,可提供更快、更节能的 AI 推理,为现代模型带来更高的吞吐量和更低的延迟。
OpenAI 工程师利用大规模核心转储分析来调试罕见的基础设施崩溃,发现了一个硬件故障和一个长期存在的软件漏洞。
OpenAI 推出 MRC(多路径可靠连接),这是一种通过 OCP 发布的新型超级计算机网络协议,旨在提升大规模 AI 训练集群的弹性和性能。
OpenAI 如何重建其 WebRTC 技术栈,以低延迟、全球规模和无缝的对话轮次切换提供实时语音 AI。
深入探讨 Codex 智能体循环,展示 WebSockets 和连接范围缓存如何降低 API 开销并提升模型延迟。
OpenAI 如何构建一个结合速率限制、用量跟踪和积分的实时访问系统,以支持对 Sora 和 Codex 的持续访问。
OpenAI 如何构建一个内部 AI 数据智能体,利用 GPT-5、Codex 和记忆功能对海量数据集进行推理,并在几分钟内提供可靠的洞察。
深入了解 OpenAI 如何通过副本、缓存、速率限制和工作负载隔离,将 PostgreSQL 扩展至每秒数百万次查询。
第 1–10 篇/共 10 篇