AI 오케스트레이션 및 Private LLM 기술로 차세대 AI 솔루션 선도

MLOps 기술력 인정받아 실리콘밸리 AI 핵심 파트너로 부상

AI 통합 플랫폼 기업 베슬AI(VESSL AI, 대표 안재만)가 오라클, 엔비디아와 함께 기업용 AI 혁신을 주도하기 위한 밋업을 개최했다. 이번 행사는 18일(현지시간) 미국 캘리포니아 레드우드시티의 라혼다 와이너리(La Honda Winery)에서 진행됐으며, AI 엔지니어, 인프라 전문가 등 글로벌 기술 리더들이 참석했다.

오라클과 엔비디아의 공동 펀드 지원으로 진행된 이번 행사는 베슬AI가 실리콘밸리 AI 생태계에서 차지하는 위상을 보여주는 의미 있는 자리로 평가받았다.

이번 밋업에서는 AI 인프라와 엔터프라이즈 AI 도입 전략을 중심으로 글로벌 기술 리더들이 발표를 진행했다. 오라클에서는 클라우드 인프라(OCI)의 생성형 AI 부문을 총괄하는 수지스 라비(Sujith Ravi) 부사장이 연사로 나서, 구글 재직 시절 개발했던 ‘스마트 리플라이(Smart Reply)’와 ‘텐서플로우 라이트(TensorFlow Lite)’ 등 AI 기술을 기반으로 오라클의 AI 인프라를 설명했다. 엔비디아에서는 아델 엘 할락(Adel El Hallak) AI 엔터프라이즈 제품 총괄 디렉터가 발표를 맡아, 고성능 컴퓨팅(HPC) 및 AI 인프라 최적화 기술을 소개했다.

베슬AI에서는 AI 에이전트 플랫폼을 개발하는 이재준 엔지니어링 매니저가 연사로 나서, 멀티·하이브리드 클라우드 환경에서의 AI 오케스트레이션 기술과 엔터프라이즈 AI 설계 전략을 공유했다. 특히, 베슬AI의 MLOps 플랫폼 ‘VESSL’을 활용해 AI 모델 개발 시간을 주당 200시간 이상 단축하고, 배포 속도를 4배 향상시킨 사례를 발표했다. 또한, 금융권 고객 상담 시스템의 응답 시간을 30% 줄이고, 제조업 유지보수 비용을 25% 절감한 성과를 바탕으로, 산업별 맞춤형 AI 솔루션 도입 효과를 분석했다.

베슬AI는 이번 행사를 통해 온프레미스·클라우드·하이브리드 환경을 아우르는 AI/ML 인프라 구축과 대기업의 업무 효율화 지원을 본격화할 계획을 밝혔다. 특히, 오라클의 고정 요금제 클라우드 서비스와 엔비디아의 GPU 최적화 기술이 결합되면 기업의 AI 도입 장벽을 대폭 낮출 수 있을 것으로 기대된다.

더불어, OCI의 보안·컴플라이언스 표준을 준수한 AI 환경 구축으로 금융·의료 등 민감 데이터를 다루는 산업에서도 Private LLM을 활용한 안전한 AI 도입이 가능해질 전망이다. AI 에이전트 플랫폼과 데이터 연동 기술을 결합해 기업 내 업무 자동화 및 AI 기반 의사결정 최적화에서도 시너지를 창출할 것으로 보인다.

안재만 베슬AI 대표는 “이번 밋업을 통해 글로벌 AI 트렌드를 공유하고, 오라클·엔비디아와의 협력을 강화해 기업용 AI 시장에서 차별화된 가치를 제공하겠다”며, “Private LLM과 AI 오케스트레이션 기술을 기반으로 AI 인프라 혁신을 선도하고, 기업들이 AI를 효율적으로 도입할 수 있도록 적극 지원할 것”이라고 밝혔다.

이번 행사는 글로벌 AI 생태계를 확장하고, 기업이 AI를 보다 효율적으로 활용할 수 있는 방안을 모색하는 자리로, 기업들의 AI 혁신이 한층 더 가속화될 것으로 기대된다.

출처 : 인공지능신문(https://www.aitimes.kr)