AI 도구›쏙시리즈 프로그램›영상›음악›이미지›가이드›AI 소식›마켓›커뮤니티› 검색› 로그인›회원가입› 밝게 / 어둡게›
한국어English日本語

나세AI, 결정 전용 오픈 모델 'Drex Max v1' 공개… 27B로 선택지 확률을 한 번에, 24GB 맥에서도 로컬 실행

관 · ·조회 4

나세AI(Nace.AI)가 질문에 글을 생성하는 대신 '선택지별 확률'을 한 번에 돌려주는 의사결정 전용 모델 Drex Max v1의 가중치를 11월 1일 공개했습니다. 27B 밀집(dense) 모델로, 4비트 버전은 24GB 메모리 맥에서도 로컬로 돌아갑니다. 에이전트 라우팅, 티켓 분류, 정책·가드레일 검사처럼 '고르기'가 필요한 작업을 외부 API 없이 내 장비에서 처리할 수 있다는 점이 핵심입니다.

핵심 포인트

  • 생성 없는 결정 모델: 텍스트·JSON·이미지로 된 상황(state)과 이름 붙인 질문을 넣으면, 한 번의 순전파로 모든 선택지의 확률을 돌려줍니다. 질문 유형은 선택형, 예/아니오, 순서형 점수 세 가지이고 질문당 최대 255개 선택지를 지원합니다.
  • 구조: 64층 27B 밀집 모델로, 48층은 Gated DeltaNet 선형 어텐션, 16층은 비인과(non-causal) 풀 어텐션입니다. 컨텍스트는 최대 262,144토큰(기본 16,384)이며 비전 타워를 내장했습니다.
  • 로컬 실행: bf16(약 49GB), Q8_0 GGUF(27.25GB), 애플 실리콘용 affine Q4(14.45GB) 체크포인트와 llama.cpp·Ollama 포크를 함께 제공합니다. Q4는 24GB 이상 맥, Q8_0은 48GB 맥이 목표이며, 맥·CPU 경로는 현재 텍스트 입력만 지원합니다.
  • 성능(자체 발표): Decision Index 0.4에서 67.52점으로 이전 Drex v2.0(61.25점)보다 6.27점 높고, 영역별로는 도구 사용 81.9점이 가장 높습니다. 회사는 M5 Pro 맥의 Q8_0 결과가 H100 bf16과 확률 0.02 이내로 일치했다고 밝혔습니다.
  • 라이선스: Nace.AI Open RAIL-M(수정판)으로, 개인과 소규모 조직은 상업적 이용이 가능하지만 매출이나 투자 규모가 기준을 넘는 조직, 경쟁 서비스는 별도 상용 라이선스가 필요합니다.

왜 중요한가

에이전트 시스템에서는 "이 요청을 어느 도구로 보낼까", "이 답변이 정책을 어기나" 같은 판단이 수없이 반복됩니다. 이런 판단을 범용 LLM이 문장을 생성해서 내리면 느리고 비용이 들며 결과가 흔들리기 쉬운데, Drex Max는 확률값을 바로 주기 때문에 임계값을 정해 자동화하기 쉽습니다. 민감한 데이터를 밖으로 보내지 않고 맥 한 대에서 라우팅과 가드레일을 돌릴 수 있다는 점에서 사내 에이전트를 만드는 팀에게 눈여겨볼 만한 선택지입니다. 다만 성능 수치는 모두 회사 자체 발표이고, 소개 기사도 Nace AI의 후원 기사라는 점은 감안해야 합니다.

출처

댓글

첫 댓글을 남겨 주세요.

댓글은 로그인한 뒤에 쓸 수 있습니다. 로그인