뒤로
해당 사이트로 이동
Groq
서비스 소개
Groq: LPU 엔진을 통해 라마3 등 오픈소스 모델을 초당 수백 토큰의 압도적인 속도로 추론하는 엔진입니다.
Groq은 기존 GPU와 차별화된 LPU(Language Processing Unit) 기술로 대규모 언어 모델을 실시간에 가까운 속도로 구동합니다. Llama 3, Mixtral 등 최고의 오픈소스 모델들을 지연 시간 없이 경험하고 싶은 개발자들에게 필수적인 플랫폼입니다.
주요 특징:
- 압도적인 응답 속도
- 무료 API 제공 (한시적)
- 최신 오픈소스 모델 지원
