엔비디아, 에이전트용 검색 모델 'Nemotron 3.5' 리트리버 오픈 공개… 임베딩·리랭커·파서 3종
엔비디아가 10월 21일(현지시간) AI 에이전트용 검색 모델 'Nemotron 3.5' 리트리버 제품군을 오픈 모델로 공개했습니다. 텍스트와 이미지를 함께 찾는 임베딩 모델, 검색 결과를 다시 정렬하는 리랭커, 문서 이미지를 구조화된 텍스트로 바꾸는 파서까지 세 가지로 구성되며, 상업적으로도 쓸 수 있습니다. 아침에 RAG나 사내 문서 검색을 고민하는 분들이 눈여겨볼 소식입니다.
핵심 포인트
- 공개 모델 구성: Nemotron 3.5 Embed(8B, 1B, 1B NVFP4), Nemotron 3.5 Rerank 8B, 6억 3,100만 파라미터의 Nemotron 3.5 Parse가 Hugging Face와 NVIDIA NIM으로 나왔습니다.
- 표·차트까지 검색: 임베딩 모델은 문서 본문뿐 아니라 표, 차트, 인포그래픽, 회로도 같은 이미지 속 정보도 찾아냅니다. 한국어 문서 벤치마크인 KoViDoRe에서도 평가됐습니다.
- 리더보드 1위 주장: 엔비디아에 따르면 Embed 8B는 ViDoRe v3.1에서 nDCG@10 61.17로 밀집 검색 모델 중 1위, Rerank 8B는 60.49로 Qwen3-VL-Reranker-8B(59.17)를 앞섰습니다.
- 에이전트 비용 절감: 리랭커를 붙이면 에이전트가 한 질의를 처리하는 데 쓰는 토큰이 약 13~14% 줄었다고 합니다.
- 빠른 문서 파싱: Parse는 10억 파라미터 미만 모델 중 ParseBench 1위(75.20점)를 기록했고, H100 한 장에서 초당 10.5페이지를 처리합니다.
왜 중요한가
에이전트의 답변 품질은 결국 얼마나 정확한 근거를 찾아오느냐에 달려 있습니다. 검색이 부정확하면 에이전트가 같은 검색을 반복하면서 토큰과 비용을 낭비하게 됩니다. 이번 공개로 PDF 파싱부터 멀티모달 검색, 재정렬까지 하나의 오픈 모델 묶음으로 구성할 수 있게 됐고, 기존 Nemotron 3 Embed의 텍스트 임베딩과 호환돼 이미 만든 벡터 인덱스를 재사용할 수 있다는 점도 실무적으로 의미가 있습니다. 다만 성능 수치는 엔비디아가 직접 발표한 결과입니다.
출처