뒤로
해당 사이트로 이동 뒤로
Friendli AI (프렌들리에이아이)
서비스 소개
Friendli AI (프렌들리에이아이): 방대한 대형 언어 모델(LLM)을 웹 서비스에서 가장 빠르고 저렴하게 서빙할 수 있게 돕는 엔진입니다.
프렌들리에이아이는 LLM 추론 엔진인 'Friendli Engine'을 제공합니다. 기존 방식보다 수 배 빠른 토큰 생성 속도를 자랑하며, 클라우드 비용을 절감하면서도 사용자에게 끊김 없는 경험을 제공하고 싶은 개발자들을 위한 최적의 미들웨어입니다.
주요 특징:
- 업계 최고 수준의 LLM 생성 속도
- 멀티 클라우드 배포 지원
- 실시간 모니터링 및 로드벨런싱