극저비트 양자화 및 커널 최적화 기술로 메모리·전력 효율 및 추론 속도 극대화

(이미지:에너자이)

온디바이스 AI 솔루션 기업 에너자이(대표 장한힘)는 오는 5월 6일(수)부터 8일(금)까지 3일간 서울 삼성동 코엑스 1층 A홀 전관에서 단일 인공지능 행사로 아시아 최대 규모로 개최되는 '제9회 국제인공지능대전(AI EXPO KOREA 2026)’에 참가한다고 8일 밝혔다.

에너자이는 이번 전시에서 차별화된 온디바이스 AI 기술을 기반으로 성능은 보존하면서도 메모리와 전력 효율성, 추론 속도를 극대화한 자체 음성 및 언어 AI 솔루션을 공개한다. 여기에는 음성 제어, 실시간 번역, 음성 에이전트 등 실제 서비스에 즉시 적용 가능한 다채로운 기술들이 포함된다.

이번에 선보이는 솔루션들의 핵심 가치는 저사양 디바이스에서도 최적의 성능을 발휘한다는 점이다. 클라우드 AI의 한계로 지적되는 높은 비용과 네트워크 의존성, 개인정보 유출 위험, 그리고 지연시간 문제를 완전히 극복한 온디바이스 환경을 제안한다.

에너자이는 모델을 매우 낮은 비트로 압축하는 극저비트 양자화 기술을 통해 인공지능 모델의 경량화를 실현했다. 이를 통해 최소한의 메모리 점유만으로도 복잡한 AI 연산을 수행할 수 있어 하드웨어 제약이 큰 소형 기기에서도 안정적인 성능을 보장한다.

이와 함께 AI 연산이 대상 하드웨어에서 가장 효율적으로 수행될 수 있도록 실행 코드를 최적화하는 커널 최적화 기술을 결합했다. 에너자이는 이러한 독자적인 최적화 기술력을 바탕으로 서버나 클라우드의 도움 없이 기기 자체에서 구동되는 고효율 AI 환경을 지원하고 있다.

출처 : 인공지능신문(https://www.aitimes.kr)