- 호환성: 이 버전은 EVA App v2.7.0 이상이 필요합니다.
Performance Enhancements
- IG 추론 런타임 최적화: IG embedding 및 inference 경로를 재사용 가능한 core module로 리팩터링하고, eager fallback을 포함한
torch.compile(dynamic=True) 및 CUDA bfloat16 실행을 적용해 serving 효율을 개선했습니다.
- IG API 검증 및 문서 강화: IG inference payload에 대한 proxy-side validation을 추가하고, scenario threshold와 interest zone을 포함한
get_embedding / inference request-response format을 문서화했습니다.
- 기본 serving worker 설정 조정: 더 가벼운 기본 runtime profile을 위해
OmDet 및 MMGDino의 기본 worker 수를 2에서 1로 줄였습니다.
Bug Fixes
- IG 런타임 패키징 및 유틸리티 로딩 수정: TorchServe에서 IG runtime dependency가 올바르게 resolve되도록 새 IG utility module을 model archive flow에 포함하고 interest-zone utility import 방식을 개선했습니다.
- IG box conversion 호환성 수정: compile 및 runtime compatibility 문제를 방지하기 위해 IG hot path의
torchvision.ops.box_convert 사용을 Torch-native conversion helper로 대체했습니다.