서비스 · RAG 지식

RAG 지식 시스템

기업 문서와 데이터를 실제로 신뢰할 수 있는 답변으로 변환합니다: 100% 출처 인용, 권한 인식 검색, 평가 벤치마크로 측정 가능한 검색 품질.

DEFINITION · RAG란

RAG 지식 시스템이란 무엇입니까?

RAG 지식 시스템(검색 증강 생성)은 대규모 언어 모델이 질의 시점에 먼저 자체 문서 코퍼스에서 관련 구절을 검색한 뒤, 그에 근거해 답변을 생성하는 아키텍처입니다. 핵심은 모델을 더 똑똑하게 만드는 것이 아니라 답변을 검증 가능하게 만드는 것입니다. 모든 주장에 문장 수준의 인용(문서 / 페이지 / 청크)이 따라붙고, 검색이 기존 AD/SSO 권한을 상속하며, 검색 재현율·인용 정확도·답변 신뢰도 같은 지표로 품질을 측정하고, 증분 인덱싱으로 데이터를 최신으로 유지합니다. 한마디로 RAG는 모델의 기억을 감사할 수 있는 지식으로 바꿉니다.

생성 전에 검색

모델은 학습 때 외운 내용으로 답하지 않습니다. 매 질의마다 코퍼스에서 가장 관련성 높은 구절을 검색해 출처에 근거해 답변합니다. 지식을 업데이트하려면 재학습이 아니라 재인덱싱하면 됩니다.

답변에 인용 포함

모든 결론이 열어서 확인할 수 있는 특정 문서, 페이지, 구절로 거슬러 올라갑니다. 신뢰할 근거가 없으면 그럴듯한 텍스트로 빈틈을 메우지 않고 없다고 말합니다.

권한과 격리가 내장

검색 레이어가 기존 접근 제어를 적용하여 사용자는 본래 접근 권한이 있는 내용만 검색합니다. 데이터는 VPC나 온프레미스에 둘 수 있어, AI 도입으로 새로운 노출 위험이 추가되지 않습니다.

숫자로 받아들이는 품질

도메인 전문가와 함께 구축한 황금 세트를 기준으로 재현율, 인용 정확도, 신뢰도가 '정확한가?'를 측정 가능한 숫자로 바꿉니다. 모든 튜닝은 직관이 아닌 벤치마크로 뒷받침됩니다.

COMPARISON · RAG vs 일반 LLM / 키워드 검색

RAG는 그냥 LLM에 묻거나 키워드 검색하는 것과 어떻게 다릅니까?

일반 LLM에 물으면 그럴듯하지만 확인할 수 없는 답이 나오고, 키워드 검색을 쓰면 직접 읽어야 할 링크 더미가 나옵니다. RAG 지식 시스템은 그 사이에 있으면서 양쪽을 모두 능가합니다. 의미 기반 검색으로 적합한 구절을 찾은 뒤, 모델이 인용이 포함된 감사 가능한 답변을 조립하게 합니다. 아래 표는 Tenten이 제공하는 RAG를 이 대안들과 항목별로 비교합니다.

일반 LLM / 키워드 검색 / 파인튜닝만

RAG 지식 시스템 (Tenten 제공)

출처 / 추적 가능성

일반 LLM은 아무것도 인용하지 않음; 키워드 검색은 링크만 반환하고 답은 직접 조립하게 함

모든 결론에 열어서 확인 가능한 문서 / 페이지 / 청크 인용 포함

환각 통제

모델이 그럴듯한 텍스트로 빈틈을 메움 — 자신만만하고 알아채기 어려움

답변이 검색된 출처로 한정됨; 신뢰할 근거가 없으면 '찾을 수 없음'을 명확히 표시

권한 인식

일반 모델과 대부분의 키워드 검색은 권한을 인식하지 못해, 봐서는 안 되는 내용을 노출

검색이 기존 AD/SSO/그룹을 상속 — 사용자는 권한이 있는 문서만 검색

신선도 / 업데이트

모델 지식이 학습 시점에 고정됨; 업데이트하려면 비싸고 느린 재학습이나 파인튜닝 필요

소스 시스템과 증분 동기화; 오래된 버전은 순위가 낮아지거나 재인덱싱됨 — 빠르고 저렴

측정 가능한 품질

좋고 나쁨이 주관적; 퇴보나 개선을 추적할 일관된 지표가 없음

황금 세트로 재현율 / 인용 정확도 / 신뢰도를 정량화해 반복 간 비교 가능

다중 형식 / 표 파싱

키워드 검색은 스캔과 표에 취약; 일반 모델은 조항 번호와 열 구조를 뒤섞음

PDF / 스캔 / Excel / 장문 계약서를 구조화 파싱, 조항 번호와 표 충실도 보존

배포 / 데이터 격리

공개 API가 민감 문서를 경계 밖으로 전송; 파인튜닝은 데이터를 모델 가중치에 각인

VPC나 온프레미스에 배포 가능; 데이터가 경계를 벗어나지 않아 SOC 2 / GDPR 충족

답변을 추적할 수 없다면, 아무도 사용하지 않습니다

엔터프라이즈 RAG의 실제 장벽은 모델이 답변을 생성하지 못한다는 것이 아닙니다. 아무도 그 답변을 신뢰하지 않는다는 것입니다. 계약서, SOP, 프로젝트 기록, 지원 티켓이 SharePoint, Confluence, Google Drive, 티켓 시스템, 이메일 첨부파일에 분산되어 있으며, 버전이 충돌하고 권한이 엉켜 있습니다. 시스템이 답변을 반환하지만 어떤 문서, 페이지, 버전에서 왔는지 말할 수 없다면, 법무, 감사, 영업팀은 수동 조회로 돌아갑니다. 그리고 출시는 PoC 단계에서 멈춥니다.

Tenten AI는 엔지니어를 현장에 배치(FDE)하여 RAG를 챗봇 데모가 아닌 실제로 승인할 수 있는 검색 시스템으로 제공합니다. 모든 답변은 문서, 페이지, 청크까지 문장 수준의 인용을 포함하므로 클릭 한 번으로 출처를 확인할 수 있습니다. 검색 레이어는 기존 접근 제어(AD/SSO/권한 그룹)를 재사용하여 사용자는 기존에 접근 권한이 있는 내용만 검색할 수 있습니다. AI가 권한을 우회하는 백도어가 되지 않습니다.

가장 중요한 것은, 측정 가능하다는 점입니다. 첫날부터 도메인 전문가와 함께 황금 평가 세트를 구축하고 모든 변경사항을 검색 재현율, 인용 정확도, 답변 신뢰도에 대해 추적합니다. 데이터 신선도는 증분 인덱싱과 소스 동기화를 통해 보장되며 오래된 콘텐츠는 표시되거나 순위가 낮아져 '이 답변이 여전히 유효합니까?'가 사후에 받는 민원이 아닌 모니터링하는 숫자가 됩니다.

역량

100% 문장 수준 인용

모든 답변은 사용자가 한 번의 클릭으로 확장하고 확인할 수 있는 특정 문서, 페이지, 구절과 매핑됩니다. 신뢰할 수 있는 출처가 없으면 시스템이 하나를 만들어내는 대신 '근거 없음'을 표시합니다.

권한 인식 검색

기존 AD/SSO/권한 그룹을 재사용하고 검색 및 답변 레이어 모두에서 접근 제어를 시행하여, 사용자는 기존에 접근 권한이 있는 문서만 검색할 수 있습니다. AI가 권한을 우회하지 않습니다.

측정 가능한 검색 품질

도메인 전문가와 함께 황금 평가 세트를 구축하고 검색 재현율, 인용 정확도, 답변 신뢰도를 지속적으로 추적합니다. 모든 튜닝 결정은 직관이 아닌 벤치마크 수치로 뒷받침됩니다.

데이터 신선도 및 증분 인덱싱

SharePoint, Confluence, Drive, 티켓 시스템, 계약서 저장소 등 소스 시스템과 증분 동기화하여 더 이상 유효하지 않은 버전이 표시되거나, 순위가 낮아지거나, 재인덱싱되어 유효하지 않은 콘텐츠를 인용하지 않습니다.

다중 형식 및 표 파싱

PDF, 스캔 문서, Word, Excel, 장문의 계약서를 조항 번호, 표 열, 섹션 계층 구조를 보존하는 구조화된 파싱으로 처리합니다. '섹션 X, 조항 Y' 수준의 정밀한 검색이 가능합니다.

프라이빗 배포 및 데이터 격리

귀사의 VPC 또는 온프레미스에 배포하며, Anthropic, OpenAI, 또는 로컬 오픈소스 옵션 중 모델을 선택할 수 있습니다. 데이터가 귀사 경계를 벗어나지 않아 SOC 2, GDPR, 내부 감사 요건을 충족합니다.

활용 사례

법률 계약서 검색

법무 및 영업팀이 수천 건의 계약서에서 자동 갱신 조항, 책임 한도, 데이터 보호 의무를 즉시 조회합니다. 각 답변은 정확한 계약서 구절을 인용하므로 협상과 실사 시 수동 페이지 검토가 필요 없습니다.

제조 SOP 및 장비 매뉴얼

라인 작업자가 기계 문제 해결, 유지보수 주기, 안전 조항에 대해 자연어로 질문합니다. 시스템이 SOP, 장비 매뉴얼, MES 티켓 이력을 검색하여 어떤 작업 지시 버전에서 왔는지 정확히 인용합니다.

고객 지원 지식 베이스

지원 담당자가 과거 티켓, 제품 문서, FAQ에서 출처가 포함된 답변을 조회하여 첫 번째 응답 시간을 단축하면서 모든 답변이 최신 정책과 일치하도록 합니다.

금융 컴플라이언스 KYC/AML 조회

컴플라이언스팀이 접근 제어가 유지된 상태에서 내부 정책, 규제 공고, 절차를 조회합니다(계층별로 다른 문서를 열람). 모든 조회와 인용이 감사 추적을 위해 기록됩니다.

프로젝트 지식 및 인수인계

컨설턴트와 엔지니어링팀이 과거 프로젝트 기록, 의사결정 문서, 회의 결과를 조회하여 신규 입사자가 빠르게 컨텍스트를 파악합니다. 직원 퇴사 시 기관 지식이 함께 사라지지 않습니다.

딜리버리 일정

1주차

데이터 인벤토리 및 평가 기준선

소스 시스템, 권한 모델, 문서 형식을 매핑한 후 도메인 전문가와 함께 황금 평가 세트를 구축합니다. 인덱스를 구축하기 전에 '정확하다'는 것의 의미를 먼저 정의합니다.

2–3주차

인덱싱, 권한, 검색 파이프라인

파싱 및 증분 인덱싱 파이프라인을 구축하고, 기존 접근 제어를 연결하며, 출처 포함 검색 및 답변을 구현하여 평가 세트에 대한 첫 번째 벤치마크를 생성합니다.

4–5주차

튜닝 및 파일럿

평가 지표에 대해 청킹, 랭킹, 프롬프팅을 반복 개선하고, 내부 파일럿 피드백을 반영하며, 인용 정확도와 신뢰도를 계속 향상시킵니다.

6주차

출시 및 인계

프라이빗 배포, 모니터링 대시보드, 데이터 신선도 알림을 최종 확정하고, 팀이 자체적으로 계속 반복 개선할 수 있도록 평가 프로세스와 운영 문서를 인계합니다.

100%

인용 포함 답변

6주

프로덕션까지

SOC 2 / GDPR

컴플라이언스 배포

FAQ

오래되거나 구식 문서를 인용하지 않도록 어떻게 유지합니까?

소스 시스템과 증분 동기화하여 문서가 업데이트되거나 폐기되면 이전 버전이 재인덱싱되거나, 순위가 낮아지거나, 유효하지 않은 것으로 표시되어 검색에서 나타나지 않습니다. 데이터 신선도는 설정 가능한 알림이 있는 지표로 모니터링됩니다. '이 답변이 여전히 유효합니까?'가 민원을 통해 발견하는 것이 아닌 추적하는 것이 됩니다.

권한은 어떻게 처리됩니까? 직원이 볼 수 없는 콘텐츠를 볼 수 있습니까?

아닙니다. 시스템이 기존 AD/SSO 및 권한 그룹을 재사용하고 검색 및 답변 레이어 모두에서 접근 제어를 시행합니다. 사용자는 기존에 접근 권한이 있는 문서만 검색할 수 있습니다. RAG를 위해 더 느슨한 권한 모델을 구축하지 않으므로 AI가 데이터 유출 백도어가 되지 않습니다.

검색이 그럴듯하게 들리는 것이 아니라 실제로 정확하다는 것을 어떻게 증명합니까?

첫날부터 도메인 전문가와 함께 황금 평가 세트를 구축하고 검색 재현율, 인용 정확도, 답변 신뢰도로 모든 변경사항을 정량화합니다. 정확도는 벤치마크 수치로 나타나므로 각 반복이 명확하게 개선되거나 퇴보합니다. 추측이 아닌 측정입니다.

계약서와 내부 문서가 민감합니다. 데이터가 환경 밖으로 나갑니까?

귀사의 VPC 또는 온프레미스에 배포할 수 있으며 데이터가 귀사 경계를 벗어나지 않습니다. 컴플라이언스 요구사항에 따라 Anthropic, OpenAI, 또는 로컬 오픈소스 옵션 중 모델을 선택할 수 있으며, 설계가 SOC 2 및 GDPR을 충족하면서 내부 감사를 위해 쿼리와 인용을 기록합니다.

스캔 PDF와 복잡한 표를 처리할 수 있습니까?

네. 파싱 파이프라인이 조항 번호, 표 열, 섹션 계층 구조를 보존하면서 PDF, 스캔 문서, Word, Excel을 처리하므로 '섹션 X, 조항 Y' 수준의 정밀한 검색이 가능합니다. 장문의 계약서와 기술 매뉴얼에 특히 유용합니다.

왜 6주입니까? 일반적인 PoC와 어떻게 다릅니까?

엔지니어를 현장에 배치(FDE)하고 처음부터 승인할 수 있는 것을 목표로 하기 때문입니다. 구축 전에 평가 기준을 정의하므로 지표 없는 데모에서 멈추지 않습니다. 6주 안에 인용, 권한, 벤치마크, 프로덕션 운영이 갖춰진 시스템을 제공합니다. 미팅에서 인상적으로 보이도록 만든 채팅 창이 아닙니다.

KNOWLEDGE BASE · 더 읽어보기