LLM만으로는 "특정 기업이나 산업에 특화된 내용 학습의 한계", "일관되고 정확한 답변 제공의 어려움" 등 두 가지 문제가 발생할 수 있다고...

박현호 대표, “RAG 기술을 통해 자연어 처리 분야에서 새로운 가능성을 열어가며, 국내 시장에서 경쟁력을 갖춘 AI 선도 기업으로 도약하겠다”고 포부를 밝혀...

“AI 기술 개발에서 정확성과 신뢰성은 가장 중요한 과제입니다. 레인보우브레인은 이를 확보하기 위해 지속적으로 혁신하고 있습니다”

지난 13일, 서울 여의도 레인보우브레인 본사에서 만난 박현호 대표는 회사의 기술 경쟁력과 발전 방향에 대해 이렇게 강조했다.

또한, 그는 RPA 선두주자서 AI 혁신기업으로 “레인보우브레인은 2017년 로봇 프로세스 자동화(RPA) 사업에 진출하며, 명실상부한 국내 1세대 리더로 자리 잡았다"며, "이제 AI 기술로 새로운 혁신을 이끌어가고 있다"고 강조했다.

아울러, 레인보우브레인은 지난해부터는 검색증강생성(이하, RAG) 기술을 기반으로 AI 솔루션을 제공하며, 사업 영역을 확장하고 있으며 AI 정확도를 높이는 RAG 제품에 집중하는 이유에 대해 설명했다. 

현재, AI 시장에서 RAG는 가장 주목받는 기술 중 하나다. 대형 언어 모델(LLM)만으로는 기업이 요구하는 수준의 정확성을 확보하기 어려운 경우가 많다. RAG를 활용하면 신뢰할 수 있는 데이터 기반의 답변을 생성할 수 있다. 

즉, RAG는 외부 소스에서 가져온 정보로 생성 AI 모델의 정확성과 신뢰성을 향상시키는 기술로 LLM의 작동 방식에서 부족한 부분을 채워주는 기술이다. LLM은 내부적으로 신경망이며, 일반적으로 얼마나 많은 매개변수가 포함되어 있는지에 따라 측정된다. LLM의 매개변수는 기본적으로 인간이 단어를 사용해 문장을 구성하는 일반적인 패턴을 나타낸다.

‘매개변수화된 지식’이라고도 하는 이러한 심층적인 이해 덕분에, LLM은 일반적인 프롬프트에 빠른 속도로 응답하는 데 유용하다. 

박 대표는 RAG와 LLM의 관계를 요리사와 요리책으로 비유하며 쉽게 설명했다. “LLM은 모든 요리를 만들 수 있는 능력을 가진 요리사와 같다. 하지만 기업 서비스에서는 창의성이 필요한 부분과 정밀함이 요구되는 부분을 명확히 구분해야 한다"라며, "요리사가 마음대로 요리하면 문제가 생길 수 있으니, RAG라는 '레시피'에 따라 조리하는 것이 중요하다"라고 말했다.

또한, LLM만으로는 "특정 기업이나 산업에 특화된 내용 학습의 한계", "일관되고 정확한 답변 제공의 어려움" 등 두 가지 문제가 발생할 수 있다고 지적했다.

그는 “RAG는 생성형 AI가 신뢰할 수 있는 데이터베이스를 참조하여 정확하고 신뢰도 높은 답변을 제공한다"며, "이 과정에서 벡터 데이터베이스를 활용해 질문의 맥락을 이해하고, 정확도를 한층 높인다”라고 말했다.

마지막으로 박 대표는 “RAG 기술을 통해 자연어 처리 분야에서 새로운 가능성을 열어가며, 국내 시장에서 경쟁력을 갖춘 AI 선도 기업으로 도약하겠다”고 포부를 밝히며, "회사는 또한, RAG 기술을 고도화한 유레카GenAI 플랫폼을 개발했다"고 밝혔다.

이 플랫폼은 기업 내부 및 외부의 다양한 지식 자원(문서, 규정, 상품 설명서, 약관 등)을 AI가 활용 가능한 지식베이스로 전환하며, 도메인 전문성과 신뢰도를 갖춘 AI 서비스를 제공한다.

한편,  레인보우브레인은 현재, 다양한 산업으로 확장을 통해 금융, 의료, 제조 등 여러 산업 분야 고객으로부터 RAG 기술에 대한 문의에 응대하고 있다. 특히 금융 분야에서는 상담 품질 개선과 업무 효율성 향상에서 이미, 큰 성과를 거두고 있으며 주요 보험사, 건설 및 에너지 기업에 AI 기반 솔루션을 제공하며 업무 효율성과 고객 서비스 품질 향상에 기여하고 있다.

출처 : 인공지능신문(https://www.aitimes.kr)