답변 생성 대신 정해진 판단을 내리는 모델

Liquid AI가 10월 7일 엣지 기기용 오픈 d1 의사결정 모델 두 종을 공개했다. d1-3B는 텍스트와 이미지를 입력받고, d1-omni-600M은 실험 단계 모델로 텍스트와 이미지 또는 텍스트와 오디오를 처리한다. 두 모델의 가중치는 Hugging Face에서 내려받을 수 있다. Liquid AI 발표

핵심은 긴 답변 대신 미리 정한 형식의 판단을 내리는 것이다. Liquid AI는 토큰을 순차 생성하지 않고 한 번의 forward pass로 결과를 반환한다고 설명한다. 고객 문의를 환불·담당 팀·긴급도로 분류하는 예가 이에 해당한다. 따라서 편집팀은 범용 챗봇보다 고정된 선택·점수·분류가 필요한 작은 기능에 가까운 용도로 본다.

작은 기기 안에서 이미지·음성 입력을 정해진 선택지로 분류하는 엣지 의사결정 모델 개념 이미지

기기 내부에서 입력을 처리하고 정해진 선택지로 판단을 반환하는 엣지 AI.

두 모델의 입력과 공개 단계

d1-3B는 30억 매개변수로 텍스트와 이미지를 받는다. d1-omni-600M은 텍스트와 이미지 또는 텍스트와 오디오를 입력으로 받는 6억 매개변수 모델이다. Liquid AI는 omni를 초기 연구 공개로 표시하고 추가 개발 중이라고 밝혔다.

Liquid AI는 d1-3B의 엣지 지연 시간이 NVIDIA Jetson AGX Thor에서 16밀리초, Jetson AGX Orin에서 26밀리초, Jetson Orin Nano에서 50밀리초였다고 보고했다. 이 수치는 회사가 NVIDIA 플랫폼에서 측정한 특정 하드웨어·평가 조건의 한 질문 응답 시간이다. 다른 입력 크기, 전력 설정, 애플리케이션 전체 처리 시간에 그대로 적용되는 보장은 아니다. d1-omni-600M은 초기 연구 공개라는 이유로 속도 수치를 발표하지 않았다. 속도 측정과 조건

성능 표에서 읽어야 할 경계

Liquid AI는 여러 공개 데이터셋의 의사결정 평가 결과도 제시했다. 이는 회사가 산출한 결과이며, 제품 현장의 정확도나 고객 데이터에서의 성과를 뜻하지 않는다.

비전·오디오 벤치마크 점수는 공개되지 않았다. Decision Index의 비전 평가는 비공개 데이터만 사용하며, 오디오 의사결정용 공개 벤치마크는 아직 없다는 설명이다. 입력 지원과 정확도 검증은 구분해야 한다. 벤치마크 범위

적용할 작업을 좁혀 시험하기

이 계열은 정해진 선택지나 점수, 라벨을 빠르게 반환하는 업무에 쓸 수 있다. 카메라 이미지를 분류하거나 짧은 음성 요청을 담당 큐로 보내는 방식이 예다. 이는 적용 아이디어이며 발표에서 확인된 고객 배포 사례는 아니다.

도입 전에는 자체 데이터의 오분류 비용, 판단 기준을 바꾸는 방법, 사람의 결과 검토 가능성을 확인해야 한다. 실험 단계인 d1-omni-600M은 음성·이미지 품질과 속도를 직접 측정하고 제한된 범위에서 평가하는 편이 타당하다.

자주 묻는 질문

open d1은 글을 쓰는 챗봇인가요?

긴 글을 이어 쓰거나 자유 대화를 하는 용도와 다르다. 출력 형식과 판단 기준을 미리 정의해 두고 그 결과를 다음 프로그램 단계에 전달하는 경우에 더 어울린다. 이는 제품 목적을 바탕으로 한 편집팀의 해석이다.

실험 단계인 omni 모델은 어떻게 시험할까요?

omni 모델은 초기 연구 공개이므로 입력 지원만으로 안정적인 운영 품질을 추정하기 어렵다. 이미지와 음성을 각각 포함한 자체 평가 세트를 준비하는 편이 좋다.

Jetson에서의 응답 시간은 일반적인 수치인가요?

그 수치는 특정 Jetson 구성에서 개발팀이 측정한 한 질문 처리 시간이다. 전체 앱의 지연이나 다른 하드웨어 성능으로 일반화할 수 없으며, 실제 입력과 전력 설정으로 다시 재야 한다.

이미지와 오디오 판단 정확도도 공개됐나요?

없다. 발표에는 전용 비전·오디오 점수가 없으므로 공개된 일반 의사결정 평가를 이미지·음성 정확도 증거로 간주하면 안 된다.

한눈에 정리

open d1은 엣지 기기용 구조화 의사결정 모델 두 종이다. 공개 발표에 적힌 지연 시간과 일반 평가 점수는 Liquid AI의 측정 결과이며, 전용 이미지·오디오 평가는 공개되지 않았다.

실제 적합성은 우리 입력에서의 분류 오류와 시스템 전체 처리시간, 오분류의 비용으로 판단해야 한다. 특히 실험 단계 모델은 담당자 검토를 포함한 작은 시험에서 시작하는 것이 합리적이다. 이는 수치 자체보다 적용 업무의 위험과 운영 절차가 성패를 좌우한다는 편집팀의 해석이다.