Groq
欢迎来到 Groq!🚀 在 Groq,我们开发了世界上第一款语言处理单元(Language Processing Unit™),简称 LPU。Groq LPU 具有确定性的单核流式架构,为 GenAI 推理速度设定了标准,能够为任何给定工作负载提供可预测和可重复的性能。
除了架构,我们的软件旨在为像您这样的开发者提供所需的工具,以创建创新且强大的 AI 应用程序。使用 Groq 作为您的引擎,您可以:
- 实现实时 AI 和 HPC 推理的低延迟和高性能 🔥
- 确切了解任何给定工作负载的性能和计算时间 🔮
- 利用我们最先进的技术,保持竞争优势 💪
想要了解更多 Groq?请访问我们的 网站 获取更多资源,并加入我们的 Discord 社区 与我们的开发者联系!
安装和设置
安装集成包:
pip install langchain-groq
请求一个 API 密钥 并将其设置为环境变量:
export GROQ_API_KEY=gsk_...
聊天模型
查看 使用示例。