전 세계 LLMOps 플랫폼 시장이 2030년까지 139억 5000만 달러 규모로 성장할 전망이에요. 연평균 성장률 21.3%라는 놀라운 수치죠. 이런 흐름 속에서 국내 AI 기업 엑셈이 의미 있는 한 발을 내디뎠어요.
AI 기반 IT 성능 관리 전문 기업 엑셈이 거대 언어 모델 운영 플랫폼 '엑셈블(eXemble)'을 공식 출시했어요. 공공기관과 기업이 생성형 AI 시스템을 효과적으로 운영할 수 있도록 돕는 LLMOps 플랫폼이에요.
사실 생성형 AI를 도입하려는 기업들이 늘고 있지만, 실제 운영 단계에서 부딪히는 장벽이 만만치 않아요. 데이터 관리부터 모델 학습, 서비스 배포, 모니터링까지 신경 써야 할 게 한두 가지가 아니거든요. 엑셈블은 바로 이런 복잡한 과정을 단일 플랫폼에서 해결하겠다는 목표로 개발됐어요.
엑셈블의 가장 큰 강점은 온프레미스와 폐쇄망 환경에서도 작동한다는 점이에요. 보안이 중요한 공공기관이나 기업 입장에서는 내부 데이터를 외부로 내보내지 않으면서도 AI 서비스를 구축할 수 있다는 게 큰 매력이죠. LLM 모델 배포, 문서 벡터화, AI 에이전트 생성, 보안 및 감사 기능까지 모두 한 곳에서 제공해요.
특히 눈에 띄는 기능이 있어요. 바로 NL2SQL 에이전트예요. 데이터베이스 언어를 전혀 모르는 일반 직원도 자연어로 질문만 하면 데이터에 접근하고 분석할 수 있어요. 복잡한 코드 작성 없이 말이에요. "지난달 서울 지역 매출 현황 보여줘"라고 입력하면 알아서 SQL 쿼리를 생성해주는 식이죠.
RAG 기반 AI 서비스도 빠르게 구축할 수 있어요. 전문 개발자 없이도 문서 번역 및 요약, 회의록 요약, 사규 질의응답, 사내 정보 검색 챗봇 같은 AI 애플리케이션을 만들 수 있다는 거예요. 피드백을 반영해서 품질을 높이는 것도 간편하고요.
엑셈블은 경량화된 업무 특화 모델(sLLM)뿐 아니라 다양한 퍼블릭 LLM과의 멀티 연동도 지원해요. 에이전틱 AI 기반 아키텍처와 고도화된 RAG 기술을 적용해서 고객사 환경에 맞는 맞춤형 지식 베이스를 구축하고, 빠른 데이터 접근성을 보장하죠.
재미있는 건 엑셈블이 엑셈의 기존 솔루션 경쟁력을 높이는 데에도 활용된다는 점이에요. 국내 1위 데이터베이스 모니터링 솔루션인 맥스게이지에 MCP 기반 에이전틱 AI를 적용해서 IT 시스템의 장애 근본 원인 분석이나 SQL 튜닝 가이드 같은 특화 AI 기능을 추가하는 역할을 담당해요.
엑셈은 이번 출시로 토털 AI 밸류 체인을 완성했다고 설명해요. 빅데이터 수집 및 운영 관리 솔루션 '이빅스(EBIGs)', AI 분석 및 시각화 솔루션 '우드페커(Woodpecker)'와 엑셈블을 연동하면 데이터 수집부터 분석, AI 모델 개발, 애플리케이션 운영까지 엔드투엔드 AI 서비스를 구축할 수 있어요.
앞으로의 시장 전망도 밝아요. 이재명 정부가 2026년 AI 관련 예산을 약 10조 원으로 편성했고, AI와 반도체 등 첨단 전략산업에 150조 원 규모의 민관 합동 국민성장펀드를 조성할 예정이에요. 공공 AI 플랫폼 사업 기회가 크게 늘어날 수밖에 없는 환경이죠.
고평석 엑셈 대표는 "엑셈블은 엑셈이 진정한 AI 전문 기업으로 도약하기 위한 중요한 이정표"라며 "2026년 공공 AX 시장에서 고객을 다수 확보하고, 민간 고객에게도 가격 경쟁력 있는 엔드투엔드 AI 서비스를 제공하겠다"고 포부를 밝혔어요.
생성형 AI 시대에 LLMOps의 중요성은 점점 커지고 있어요. 데이터 보안을 지키면서도 AI 서비스를 효율적으로 운영해야 하는 기업들에게 엑셈블 같은 플랫폼은 좋은 선택지가 될 수 있을 것 같아요. 국내 기업이 이 분야에서 어떤 성과를 낼지 지켜볼 만하네요.
📎 관련 링크
엑셈 공식 홈페이지: http://www.ex-em.com