PRIVATE AI
차세대-AI패러다임
AI 혁명이 가져온 AX 트렌드
국내 AI 및 생성형 AI 활용 단계 설문 결과
귀하의 조직은 AI 또는 생성형 AI를 현재 활용 중이거나
향후 12-24개월 내에 활용 예정이십니까?
-
계획 없음
-
모르겠음
-
PoC 검토 중
-
12-24개월 내
도입 예정 -
현재 사용 중
-
0%
0%
-
0%
0%
-
8%
14%
-
6%
14%
-
86%
72%
AI
GenAI
전 세계적으로 인공지능이 만들어낸 혁신의 속도는 누구도 예측할 수 없을 정도로 빠르다. 오픈AI의 챗GPT, 앤트로픽의 클로드, 딥시크 등 여러 퍼블릭 AI 서비스의 등장으로 다양한 산업 현장에서 사용자의 생산성과 효율성을 크게 향상시켰다. 특히 챗GPT가 대중화의 문을 열면서 전 세계가 “AI 어시스턴트와 함께 일하는 시대”를 실감하게 됐다.
AI는 국내에서도 인공지능 전환(AX: AI Transformation)의 가능성을 열었다. IT 시장분석기관 ‘한국IDC’가 2024년 말 발표한 ‘국내 생성형 AI 업무 적용 사례 연구’ 보고서에 따르면, 국내 주요 기업 및 기관의 72%가 이미 생성형 AI를 업무에 활용 중이다. 아시아태평양 지역 평균인 59.5%보다도 12.5%포인트나 높은 수치다. 한국 조직의 78%가 생성형 AI 도입으로 ‘직원 생산성이 개선됐다’고 평가한 만큼, 앞으로 AI 기반 솔루션을 적극 도입하는 사례는 늘어날 것이다.
실제로 AI를 사용하는 국내∙외 기업 사례는 폭발적으로 늘어나고 있다. 아마존을 비롯해 쇼피∙당근마켓 등 이커머스 플랫폼들은 판매자가 올린 상품을 AI가 적절한 카테고리로 자동 분류하고, 유사 상품을 추천해 광고 및 검색 효율을 높인다. 글로벌 파일 공유 서비스 ‘드롭박스’는 사내 용어 가이드라인에 맞춰 AI가 문서를 자동 교정하고, 글쓰기를 빠르게 지원하는 기능을 운영 중이다. 월스트리트를 비롯한 전 세계 금융기업들은 AI를 통해 신입 직원 교육에 드는 시간을 대폭 단축하고, 고객 질의에 대한 세부 답변을 더욱 신속하게 찾아내는 챗봇을 개발했다.
그러나 퍼블릭 AI가 제공하는 혁신적 가능성에도 불구하고, 보안, 규제 준수, 프라이버시 등 몇몇 한계점이
드러나고 있다.
기업이나 기관이 자사의 핵심 데이터를 AI에 업로드하면, 그 데이터가 서비스 제공사의 서버에 그대로 남아 있을 가능성이 있다. 특히 정보 보호와 규제가 핵심인 공공∙금융∙의료∙국방 등의 산업 환경에서는 데이터가 외부로 유출되거나 개인정보 보호법∙GDPR(General Data Protection Regulation) 등 국제 규정을 위반할 위험이 있다. 또한, AI가 고도로 정확한 답변을 내놓으려면 도메인 지식을 통한 맞춤형 데이터로 학습이 이뤄져야 하는데, 기업 내부의 특화된 데이터나 산업별 전문 지식을 충분히 반영하기에도 한계가 있다. 이런 문제점을 해결하기 위해 폐쇄된 서버망에서 AI를 운영해야 하는데, 공공∙금융 기업 내부의 엄격한 IT 인프라와 기술 스택을 고려하면 퍼블릭 AI 모델은 사설망에서 운영되기 어려운 태생적 한계를 안고 있다.
AX 물결 위에 등장한
sLLM 기반 프라이빗 AI
-
퍼블릭 AI의 한계를 보완하는 sLLM(small Large Language Model) 기반 프라이빗 AI(Private AI)가 주목받고 있다.
퍼블릭 AI가 가져온 혁신의 물결 위에 프라이빗 AI가 더해져, 보안과 효율성, 도메인 최적화 측면에서 시너지를 발휘하면서 혁신을 가속화하고 있다. -
프라이빗 AI는 기업이나 기관 내부 데이터 주권을 확보하면서 폐쇄망 환경에서 안전하게 AI 모델을 운영하는 접근 방식을 말한다. 공공∙금융∙의료∙국방 등 정보 보안이 최우선 과제인 산업에서도 AI 혁신을 누릴 수 있도록 설계된 ‘새로운 생태계’다. 보안과 개인정보 보호가 중요한 환경에서 프라이빗 AI는 데이터가 외부로 유출될 위험을 근본적으로 차단하며, 관련 법규와 규제를 철저히 준수할 수 있도록 돕는다.
-
프라이빗 AI는 단순히 서버와 모델만 사내에 두는 것이 아니다. 기업 특화 데이터를 안전하게 학습하고 분석하는 환경을 제공한다. 기업 내부 도메인 지식을 반영해 정밀하고 최적화된 결과를 도출한다.
-
최근 주목받는 sLLM은 기존의 초거대 LLM 대비 경량화된 구조로, 기업 현장에서 도입 부담을 크게 낮춘다. 대규모 LLM을 내부에 통째로 운영하기 위해서는 막대한 GPU 자원∙서버 스토리지∙고도의 모델 운영 기술이 필요하지만, sLLM은 필요한 영역에 특화된 학습을 집중적으로 수행할 수 있어 “가성비가 좋고 확장성도 높다”는 평가를 받는다.
이미 많은 기업이 활용하는
프라이빗 AI
-
블룸버그
블룸버그는 자체 금융 데이터셋(뉴스, 보도자료, 기업 재무제표 등)을 활용해 개발한 ‘블룸버그 GPT’를 통해 금융 및 투자 분야의 정밀한 분석과 심층 리서치를 제공한다.
-
LG
LG는 임직원이 내부 데이터의 외부 유출 걱정 없이 사내 보안 환경에서 안전하게 사용할 수
있도록 기업용 AI 에이전트 ‘챗엑사원’을 구축해 운영하고 있다. -
삼성 SDS
삼성SDS는 폐쇄망 환경에서 업무 협업을 지원하는 기업용 협업 AI 솔루션
‘패브릭스’를 개발해 비즈니스 환경에 적용하고 있다.
국내∙외 주요 기업들이 프라이빗 AI를 적극적으로 도입하면서, 초거대 AI 모델을 그대로 도입하기 어려운 기업들이
현실적인 한계를 극복하고, 경량화된 모델을 도메인별로 구축해 보안뿐 아니라 비용과 규제까지 아우르는 통합 솔루션을
마련하고 있다. 프라이빗 AI는 보안과 규제가 중요한 산업 환경에서 “든든한 AI 조력자”로서 혁신을 촉진하는 핵심 기술이다.
경량화 모델로 최고 성능 발휘
프라이빗 AI는 sLLM을 기반으로 운영된다. sLLM은 ‘Small Large Language Model’의 약자로, 거대 언어 모델(LLM, Large Language Model)이 가진 언어 이해 및 생성 능력을 유지하면서 모델 크기와 연산 자원을 최적화한 모델을 뜻한다.
GPT-4같은 기존 LLM은 수천억 개 이상의 파라미터를 활용해 높은 수준의 성능을 달성한다. 그러나 이러한 모델은 엄청난 컴퓨팅 자원과 데이터를 요구해 접근성과 비용 측면에서 현실적이지 않다. sLLM의 특성 덕분에 기업은 내부 데이터 보안을 유지하면서 합리적 비용으로 AI의 이점을 누릴 수 있게 됐다. 메타의 LLaMA 시리즈, 구글의 Gemma, 스태빌리티AI의 StableLM 등이 대표 사례로 꼽힌다.
-
1
경량화로 특화 훈련
초거대 모델 전체를 다루기보다 필요한 부분을 집중적으로 학습시켜 고품질 결과를 얻음
-
2
보안과 규제 만족
모델 자체를 폐쇄망 내부 서버에 설치하거나 사내 클라우드 환경에서 운용할 수 있어 데이터 유출 가능성을 낮춤
-
3
높은 비용 효율성
수십억 개 이상의 매개변수를 가진 모델 운영에는 막대한 자원이 필요하지만, sLLM은 전력 소모∙데이터 스토리지∙GPU 자원 사용을 대폭 줄임
# More Accurate and Specialized
더 정확하게,
더 전문적으로
프라이빗 AI는 sLLM에 RAG∙ReRank(Relevance/
Retrieval-Augmented Generation), AI Agent 같은 기술을 접목해 더욱 정확하고 전문화된 답변을 제공한다.
-
RAG
AI가 답변을 만들 때 기업 내부 문서 DB 등에서 관련 정보를 검색하고 요약한다. 필요하면 외부 검색 결과도 별도 보안을 통과해 가져올 수 있다. 풍부한 정보를 제공하거나 최신 정보를 얻을 수 있도록 확장할 수 있다.
-
ReRank
검색 후 나온 후보군을 다시 재정렬(Rerank)해 최적의 결과를 최상위에 놓도록 한다. 즉, AI가 가장 적절한 정보를 더 높은 순위로 끌어올려 사용자가 정보에 쉽게 접근할 수 있도록 돕는다.
-
AI Agent
AI가 스스로 판단해 다양한 함수를 호출하고, 필요한 데이터를 사내 시스템에서 가져와 자동 처리한다. AI 에이전트는 작업을 순차적으로 분해하며 최적의 접근법을 찾아 업무 자동화 수준을 높인다.
프라이빗 AI의 새 혁신,
ONE AI Private Edition의 등장
sLLM 기반 프라이빗 AI가 각광받는 흐름 속에서 더존비즈온은 “ONE AI Private Edition”을 개발했다. 더존비즈온은 전통적으로 ERP∙그룹웨어∙세무회계 솔루션을 제공하는 국내 대표 ICT 기업으로, 최근 산업계가 직면한 데이터 폭증∙업무 복잡성 증가∙고도화된 보안 및 규제 환경과 같은 현실적 문제를 해결하기 위해 디지털 전환(DX)을 넘어 AI 전환(AX)이라는 더 근본적이고 혁신적인 비전을 제시했다.
DCloud Center
더존비즈온은 자사 데이터 센터인 DCloud Center를 적극 활용한다.
이곳은 안정적인 인프라∙데이터 관리 체계∙모델 업데이트 환경을 제공해, ONE AI Private Edition의 연구 개발 및 운영을 통합 관리하는 핵심적 역할을 수행한다.
더존비즈온은 LG의 초거대 모델 ‘엑사원(ExaOne)’, 메타의 ‘LLaMA’, 각종 대형 파운데이션 기반 모델 등을 활용해 자체적으로 AI를 튜닝하고 고도화했다. 일반적으로 sLLM은 언어 지원의 다양성과 완성도가 핵심 경쟁력이 되는데, 기존 해외 AI 모델들은 영어 중심으로 최적화되어 있어 한국어는 물론 다국어 지원에 한계를 드러낸다. 더존비즈온은 한국어를 중심으로 국내 도메인별 맞춤형 데이터셋을 대거 확보해 sLLM의 한국어 능력을 획기적으로 높이고, 주요 글로벌 언어 데이터셋을 확보하여 다국어 환경에서도 성능을 발휘하는 모델을 고도화했다.
ONE AI Private Edition이 만듭니다.
ONE AI Private Edition은 공공∙금융∙국방∙의료 등 민감한 정보가 많은 산업에서 활용할 수 있는
폐쇄망 환경 AI 솔루션이자, sLLM 기반 프라이빗 AI의 대표 사례다. 더존비즈온의 프라이빗 AI는 다양한 가치를 만들 수 있다.
프라이빗 AI가 지닌 강점은 단순히 보안을 지키면서 AI를 도입한다는 차원을 넘어, 도메인 지식의 극대화∙비용 최적화∙확장성과 유연성이라는 측면까지 포괄한다. ONE AI Private Edition은 프라이빗 AI의 장점을 체계적으로 구현해, 공공·금융권을 비롯한 다양한 산업에서 보안과 혁신을 동시에 충족하는 미래상을 실현한다.
자기주도형 AI의 등장,
AI 에이전트
-
DocStructure
Agent내부 문서를 인식해 표∙문단∙이미지 구성을 자동으로 파악하고, 필요한 정보를 구조화한다. 예를 들어, 공공기관이 방대한 정책 자료를 전자 문서로 보관하고 있다면, 이를 자동으로 파싱(데이터 정리 및 추출)해 요약본을 만들 수 있다.
-
Query Agent
사용자가 복합적이거나 모호한 질문을 던졌을 때, 질문을 재구성해 정확도를 높인다. 예를 들어 “이번 달 예산 집행 내역과 관련된 부서별 지출 증가 요인은 무엇인가?”라는 질문을 던지면, 필요한 데이터 범위를 파악하고 내부 DB에서 연관 정보만 추출한 뒤 그 정보를 토대로 명료한 답변을 제시한다.
-
Truth Verify
AgentAI가 답변을 생성할 때 일종의 ‘Chain of Thought(사고의 연결고리)’ 방식으로 추론 과정을 단계별로 검증한다. 잘못된 통계나 근거를 참고하지 않아 신뢰도를 향상시킨다. 규제 준수가 중요한 환경에서 필수적으로 고려되는 안전장치다.
-
AI 문서교정
중요한 서류나 리포트를 작성할 때 어법∙맞춤법∙통일성 등을 자동 교정해준다. 일반 사무환경에서 문서 교정은 상당히 번거롭지만, AI 어시스턴트가 문체나 규정에 맞춰 자동으로 수정해 제작 시간을 대폭 단축할 수 있다.
Amaranth 10 ONE AI 신규 기능
실시간 웹 정보와 내부 데이터의 결합,
실시간 웹 검색
RAG 분석으로 도출한 내부 데이터와 실시간 웹 정보를 결합해 신뢰도 높은 답변을 제공합니다.
질문과 답변에 따라 연관된 프롬프트를 추천하여 더 많은 관련 정보를 간편하게 확인할 수 있습니다.
사용자의 검색 기록과 정보를 관리하고 활용,
히스토리 보관함
이전에 문의했던 내용이나 AI의 답변을 히스토리에서 손쉽게 찾아볼 수 있어
동일한 질문을 반복하거나 불필요한 검색 시간을 줄여 업무의 효율성을 향상시킵니다.
클릭 한 번으로 신뢰성 있는 고품질 문서 완성,
AI 문서교정
기존의 문서 작성 및 교정 작업은 상당한 시간과 노력이 요구되었으나, 클릭 한 번으로 문서 전반에 걸친 자동 맞춤법, 문장 명확성,
민감 단어 검토를 통해 어휘를 정제하여 문서 작성과 교정 과정을 빠르고 쉽게 도와주는 AI 문서교정 서비스 도구입니다.
스마트한 일정 관리와 커뮤니케이션의 연결,
AI 일정 등록
주고 받았던 쪽지를 파악하고 일정을 등록하기 위해 이동하는 단계가 간소화됩니다.
AI 일정 등록을 통해 내용을 분석하여 적절한 일정 제목과 주요 내용을 삽입해줘 간편하고 쉽게 일정을 등록할 수 있습니다.
공공 분야 AI 전환의 해답
ONE AI Private Edition
AX 시대의
무한한 기회를 선점하라
이제 우리에게 필요한 프라이빗 AI는 “AI를 우리에 맞게 활용하는” 차세대 AI 패러다임이다.
더존비즈온의 ONE AI Private Edition과 함께 기업 내부 프로세스를 디지털화하고, AI와 사람의 협업 체계를 만들어가는 과정을 겪으며 ‘AX’의 진정한 가치를 느껴보자.