POSEIDON 내부 모습

서울대 신효필 교수의 언어학과 컴퓨터 언어학·자연어처리 연구실 학생들은 H100 GPU 서버 단 2대만으로 학습시켜 법률, 금융, 의료 등 전문 분야에 특화된 한국어 LLM, DaG(David and Goliath Large Language Model)을 구축하여 공개했다.

또한 건국대학교 공과대학 컴퓨터공학과 김은이 교수와 건국대학교병원 이비인후과 신정은 교수 연구팀은 A100 GPU 서버 단 1대만으로 알츠하이머 질환 인공지능 판별 세계 대회에서 미국 MIT, 뉴욕 공대 등 세계 유명 대학교들을 제치고 최종 1위를 차지했다.

이 두 AI 연구팀의 공통점은, 적은 GPU 서버 인프라만으로도 우수한 성과를 내는 AI를 구축했으며, 두 교수 모두 바로AI 의 수냉식 서버 POSEIDON을 사용한 것이다.

바로AI의 POSEIDON은 수냉식 Multi-GPU 서버로, 복잡한 AI 트레이닝, 추론 및 분석, 증강, 시뮬레이션, 렌더링, 딥러닝 초기 연구부터 발전된 모델까지 혁신융합캠퍼스를 비롯한 대학과 기업 연구소에서 여러 분야의 인공지능 연구에 활발히 사용되고 있다.

일반적인 서버룸 구축에는 전기, 냉각, 보안, 네트워크 등 다양한 인프라 구축과 전문 인력 운영이 필요하다. 하지만 POSEIDON 은 수냉식 시스템을 적용하여 소음을 최소화하여 서버룸 없이도 사무실이나 연구실에서 사용할 수 있다.

이는 서버룸 구축에 필요한 인력, 자원, 비용을 크게 절감할 수 있도록 합니다. 또한, 바로AI 만의 커스텀 수냉 시스템으로 제작된 POSEIDON 은 작업량이 적은 상태로 가동시 평균 19dB, GPU를 100% 사용하는 Full load 작업 시엔 최대 39dB로 일반 공랭 서버(80dB~)보다 1/2 조용하다.

도서관보다 더 적은 소음으로 쾌적하게 사용할 수 있으며, 퍼포먼스 저하 없이 공간적 제약 없이 연구실이나 사무실에 설치할 수 있습니다. POSEIDON 은 판매 역사상 제품 과실의 누수가 단 한 건도 발생하지 않았다고 한다.

그 뿐만 아니라 제품 안정성을 높일 수 있도록 전도성 0의 극초순수비전도 냉각수를 사용하여 부식, 동파의 염려가 없으며, 자연재해의 침수, 누수의 경우는 최대한 예방할 수 있도록 가이드를 제공하여 안심하고 안전하게 사용할 수 있다.

POSEIDON 은 바로AI 만의 제작 기술인 특별한 PCB 냉각 블록 제작 기술을 인증받아 특허를 등록받았으며, 국가 공인 기술 신용평가기관 NICE 평가 기관(주)에서 기술력을 인정받아 기술 등급 T-4를 받고 ‘기술평가 우수 인증기업’으로 선정되었다.

또한, 하드웨어뿐만 아니라 소프트웨어 특허도 출원 중으로 끊임없이 기술을 개발해 나가고 있다. 하드웨어를 효율적으로 운영할 수 있는 강력한 소프트웨어 솔루션까지, 번거로운 세팅 없이 한 번에 구현된다.

바로AI는 오는 5월 1일부터 3일까지 서울 강남구 삼성동 코엑스에서 단일 인공지능 행사로 아시아 최대 규모로 개최되는 ‘제7회 국제인공지능대전(AI EXPO KOREA 2024)’에 참가해 이 솔루션을 선보이고 관련 인사이트를 공유할 예정이다.

한편, 바로AI 는 Multi-GPU 서버 POSEIDON 의 혁신적인 수냉식 시스템을 통해 서버룸 없이도 사무실이나 연구실에서 누구나 고성능 AI 연구를 편하게 진행할 수 있도록 인공지능 인프라 환경을 구축하고 있다.

이는 서버룸 구축에 필요한 인력, 자원, 비용을 크게 절감할 수 있으며, 글로벌 AI 기술 선도기업 엔비디아 출신 경영진과 각 분야의 최고 팀들이 함께 최고의 인공지능 기술 개발을 위해 끊임없이 노력하고 있다. 또한, 창립 2년 만에 높은 기술과 재무 등급을 인정받은 3년 이내의 유망한 스타트업에게만 수여되는 상인 기술보증기금의 Kibo-Star 밸리 벤처 기업에 선정되기도 했다.

출처 : 인공지능신문(https://www.aitimes.kr)