产品动态
2024.12.06
为了进一步提升开发体验和简化接口集成,AI Gateway 现推出 API V2 版本。此版本进行了多处改进和优化,特别是在请求体(Request Body)和响应数据格式的统一上。
主要更新:
统一请求接口地址,避免开发者频繁切换接口地址。
统一请求体格式:所有 API 请求现在采用一致的 JSON 格式,简化了客户端的数据构造过程。
标准化响应数据结构:统一的响应格式有助于开发者快速理解和处理返回信息。包含状态码、消息提示和数据主体,使得错误处理和成功反馈更加直观明了。
增强错误处理机制:明确的错误码定义,便于定位和解决问题。 提供详细的错误描述,帮助开发者迅速采取相应的纠正措施。
2024.06.19
第一版上线
功能亮点
利用缓存技术,针对重复的 Prompt 请求,将直接从缓存中提供响应,无需再次调用 LLM 服务商,有效避免不必要的重复费用,从而显著降低您的运营成本。