Skip to content

[Ops] 동적 Few-shot 단계적 운영 활성화 및 모니터링 #296

Description

@whc9999

어떤 기능인가요?

추가하려는 기능에 대해서 간단하게 설명해주세요.

우선순위: P1
선행 조건: 품질 평가 및 임계값 확정

목적
동적 Few-shot 기능을 안전하게 운영 환경에 적용한다.

상세 내용

이슈 내용 구현 관련하여 상세 내용을 작성해주세요.

작업 내용

  • 초기 feature flag 기본값은 비활성 유지
  • 내부 또는 일부 트래픽부터 단계적 활성화
  • selectionMode 비율 모니터링
  • fallback 비율 및 Cohere 실패율 모니터링
  • 평균/P95 지연시간 모니터링
  • Cohere 호출량 및 비용 모니터링
  • 장애 시 정적 Few-shot 복귀 절차 작성

완료 조건

  • 운영 대시보드 또는 로그 조회 기준이 준비된다.
  • 즉시 비활성화 가능한 rollback 절차가 있다.
  • 운영 활성화 판단 기준이 문서화된다.

체크 리스트

  • TODO 1
  • TODO 2

로컬 테스트 완료

로컬에서 테스트한 결과가 잘 나오는지 확인해주세요.
테스트 결과를 스크린샷으로 올려주세요.

기타

(스크린샷 등) 기타 사항을 작성해주세요.

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

Labels

No labels
No labels

Type

No type

Projects

No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions