7단계
7단계 — AI Provider와 RAG 검색을 권한·품질과 묶기
0회 조회
목차
7단계 — AI Provider와 RAG 검색을 권한·품질과 묶기
AI 기능은 모델 호출 한 번이 아닙니다. provider·모델 ID·embedding 차원·원본 문서·검색 사본·권한·비용·품질을 각각 계약해야 교체와 장애 복구가 가능합니다.
RAG의 완료 조건
원본 수신 → 파싱 → 임베딩 → 저장 → processed 완료 → 검색 허용 → 답변 근거 기록
processed=false인 파일이나 다른 owner의 벡터가 검색되면 빠른 결과가 아니라 잘못된 결과입니다. vector store는 완료 파일만 vector/trigram 검색에 포함하고, 원본 문서의 버전 선택과 metadata join도 그 경계를 지킵니다.
Provider adapter는 공급자 오류를 우리 오류·재시도·축소 운영으로 변환합니다. 모델을 바꿀 때는 ID와 차원 검증, 작은 평가 세트, shadow 비교, 비용·지연·근거 누락 측정을 거쳐야 합니다. fallback이 빈 성공을 만들면 사용자는 답을 받았다고 믿으므로 실패 사실과 재시도 가능성을 보존합니다.
사용자와 운영자
답변보다 먼저 허용된 근거와 최신성, “근거 없음” 상태를 정합니다. 운영자는 실패 파일·처리 건수·모델 버전·latency를 확인할 수 있어야 합니다.