회사 및 주요 서비스 소개
FriendliAI는 생성형 AI 모델을 가장 빠르고 효율적으로 운영할 수 있도록 설계된 추론 플랫폼입니다.
AI 서비스를 운영하는 팀이 겪는 GPU 비용 부담, 지연시간, 인프라 복잡성을 해결하며, 고객이 모델 개발에만 집중할 수 있도록 추론 전 과정을 자동화합니다.
FriendliAI의 핵심 엔진은 연속 배칭(Continuous Batching), GPU 커널 최적화 등 특허 기반 기술을 통해 GPU 사용량을 절반 이하로 줄이면서 응답 속도를 2–5배 향상시킵니다.
또한 99.99% SLA, 글로벌 autoscaling, 지연 없는 응답으로 대규모 트래픽 상황에서도 안정적인 서비스를 유지합니다.
45만개 이상의 Hugging Face 모델을 원클릭으로 배포할 수 있으며, 기업이 자체 개발한 모델도 동일한 수준의 안정성과 성능으로 운영할 수 있습니다.
FriendliAI는 기업이 생성형 AI를 실제 비즈니스에 안전하고 확장 가능하게 도입할 수 있도록 지원하는 추론 파트너입니다.
전시 제품 및 서비스 소개
FriendliAI는 세 가지 추론 제품을 통해 모든 규모의 AI 워크로드를 지원합니다.
① Friendli Dedicated Endpoints
99.99% SLA 보장형 전용 GPU 환경으로, autoscaling·LoRA 멀티모델 서빙·128K+ context·멀티모달 모델을 지원합니다.
상용 서비스와 에이전트 운영에 최적화된 프로덕션 환경입니다.
② Friendli Serverless Endpoints
인프라 설정 없이 API만으로 45만개 이상의 오픈 소스 모델을 호출할 수 있는 완전 관리형 서비스입니다.
초 단위 과금, 웹검색·Python 툴 내장으로 간편하고 효율적인 추론을 제공합니다.
③ Friendli Container
EKS·프라이빗 클라우드·온프레미스 환경에서 사용하는 자체 호스팅형 추론 엔진입니다.
Docker 기반 배포, Prometheus·Grafana 모니터링 내장으로 보안과 성능을 동시에 제공합니다.
데이터 통제와 고성능 추론이 필요한 기업에 이상적입니다.
제품별 적용 분야 및 실제 적용 사례
AI 서비스 : 챗봇, AI 코파일럿, 에이전트형 앱의 대규모 트래픽 처리
엔터프라이즈 ML팀: 사내 모델 및 LLM 파이프라인의 안정적 운영
리서치 기관: 오픈소스 모델 실험 및 장기 학습 프로젝트
통신·커머스 기업: 사용자 요청이 폭증하는 피크 타임에도 안정적 응답 유지
금융·공공기관: 온프레미스 배포(Friendli Container)로 보안 요건 충족
HOME > 참관객 > 참가기업 디렉토리
서울 강남구 봉은사로 222 (역삼동, AMC 타워) 5층 
