- Helm Chart Version:
2.0.4
- compatibility: 이 버전은 EVA App v3.0.0 이상을 대상으로 합니다.
Performance Enhancements
- App 워크플로우에서 MMGDino를 내부 전용 모델로 전환:
MMGDino는 직접 호출 및 내부 사용을 위해 TorchServe에는 계속 로드하지만, GET /models 응답에서는 숨기고 /sync 기반 동적 카메라 스케일링 대상에서 제외합니다.
- 일부 모델만 사용 가능한 상황에서 앙상블 동작 개선: 실제로 등록되어 있고 READY 상태인 모델을 기준으로 투표 요구 조건을 조정하고, 요청된
current_model이 reference score를 제공할 수 없는 경우 명확한 503을 반환합니다.
- 배포 및 모델 아카이브 구성 개선: 모델 아카이브 생성 시
dummy.pt를 자동 생성하도록 추가하고, Docker build context에서 placeholder 파일을 제거하며, Recreate 배포 전략 사용 시 Helm 렌더링이 올바르게 동작하도록 수정합니다.
- 서빙 스택 및 worker 프로파일 업데이트: 핵심 런타임 의존성을 업그레이드하고
OmDet, MMGDino, RT-DETRV2의 camera-to-worker 프로파일을 조정합니다.
- RT-DETRV2 VitPose 검증 메모리 사용량 제한: 사람이 많이 탐지되는 혼잡 장면에서 GPU 메모리 spike를 피할 수 있도록 RT-DETRV2 VitPose 검증에 설정 가능한 chunk 처리를 추가합니다.
- 핸들러의 로컬 모델 아티팩트 로딩 강제: 런타임 중 Hugging Face Hub 조회나 다운로드가 발생하지 않도록 로컬 MAR/model directory의 모델 아티팩트만 로드합니다.
Bug Fixes
- 카메라 registry 제거 수정:
app_registry.remove()를 await하여 DELETE /models/{model}/cameras/{app_id} 호출 시 App entry가 실제로 제거되도록 수정합니다.
- LLMDet/MMGDino compiled text backbone mask 처리 수정: Transformers 5.x의 mask shape 오류를 해결하기 위해 compiled BERT text backbone에는 tokenizer
attention_mask를 전달하고, downstream encoder logic에는 기존 text_self_attention_masks를 유지합니다.
- RT-DETRV2 non-person target 처리 수정: multi-target 요청에서 person 검증 작업이 중복되지 않도록 non-person target에 대해서는 RT-DETRV2/VitPose 검증을 건너뜁니다.
- OmDet backbone input size 수정: 현재 Transformers runtime에서 기대하는 OmDet backbone input size를 복구합니다.