GQ
产品介绍
Groq 用自研 LPU 芯片做推理，生成速度远超常规 GPU 服务，适合做实时对话、语音助手等对延迟敏感的应用。
支持 Llama、Mixtral 等开源模型，接口兼容 OpenAI。
主要功能
- 超低延迟推理
- 兼容 OpenAI 接口
- 开源模型支持
- 实时语音场景
- 免费试用额度
是否收费
免费+付费
有免费额度；付费按 token 计费
同类产品
模型与开发平台 分类下的其他选择