클라우드플레어가 자체 개발한 오픈웨이트 결정 모델(decision model) ‘Clef’와 경량 버전 ‘Clef-flash’를 공개하고, 이를 커스터마이징할 수 있는 강화학습(RL) 파인튜닝 플랫폼도 함께 선보였다. 최근 Typesafe AI의 ‘Jev System One’ 모델을 계기로 주목받기 시작한 결정 모델 분야에 빅테크가 직접 뛰어들었다는 점에서 눈여겨볼 만하다. 거대언어모델(LLM)이 모든 걸 다 하는 범용 도구라면, 결정 모델은 “이게 피싱 사이트인가, 아닌가” 같은 질문에 빠르고 일관되게 답하도록 특화된 도구다.

결정 모델이란 무엇이고 LLM과 뭐가 다른가

결정 모델은 입력을 받아 정해진 형식(typed output)으로 확률값이 붙은 분류 결과를 내놓는 모델이다. 예를 들어 고객 문의 메시지를 넣으면 “긴급 여부”와 “담당 부서”를 확률과 함께 반환하는 식이다. 분류기(classifier) 모델 자체는 예전부터 있었지만, Jev가 제시한 결정 모델 개념의 핵심은 분류 카테고리가 바뀔 때마다 모델을 재학습할 필요 없이 다양한 입력 집합에 대해 유연하게 작동한다는 점이다.

반면 LLM은 비결정적(non-deterministic)이고 개방형이라 텍스트 생성이나 도구 호출 같은 에이전트형 작업에는 강하지만, 매번 같은 질문에 같은 형식으로 답한다는 보장이 없다. 원문은 이 둘을 상호 보완적인 관계로 설명한다. 에이전트가 복잡한 추론은 LLM에 맡기고, 빠르고 반복적인 판단은 결정 모델에 맡기는 식의 역할 분담이 가능해지는 것이다.

클라우드플레어가 밝힌 실측 성능 비교

클라우드플레어는 자사 위협 인텔리전스(Threat Intelligence) 팀에서 웹사이트 도메인을 분류하는 데 Clef를 테스트했다고 밝혔다. 브라우저 렌더링 기능(Browser Run)과 결합해 도메인을 넣으면 “패션 사이트일 확률 95%, 이커머스 85%, 피싱 1% 미만” 같은 식으로 여러 카테고리를 동시에 판별한다.

이 작업에 Clef는 웹사이트를 가져와 렌더링하고 분류하기까지 2.2초가 걸린 반면, 같은 작업에 자사의 가장 빠른 범용 LLM인 gpt-oss-120b는 4.7초가 걸렸고 분류 결과도 두 가지뿐이었다고 한다. 속도가 약 2배 이상 차이 나면서도 더 풍부한 분류 결과를 얻을 수 있었다는 것인데, 이는 클라우드플레어가 직접 측정한 결과이며 다른 환경에서는 차이가 달라질 수 있다.

Clef만의 차별점: 비전 인코더와 64k 컨텍스트

원문에 따르면 결정 모델 시장은 이미 포화 상태에 가까워지고 있지만, Clef는 두 가지 지점에서 차별화를 시도한다. 첫째, 비전 인코더를 내장해 이미지 입력까지 분류할 수 있다는 점이다. 비교 대상으로 언급된 Jev는 현재 텍스트 분류만 지원한다. 둘째, 64k 토큰 컨텍스트 윈도우를 지원해 Jev의 32k보다 더 많은 입력 정보를 한 번에 넣고 판단을 받을 수 있다.

클라우드플레어는 또한 Clef가 ‘Jev Decision Index’라는 벤치마크에서 현재 선두를 기록하고 있다고 밝혔으며, 해당 결과는 라이브 벤치마크 데모 사이트에서 확인할 수 있다고 안내했다. 다만 이는 공개 시점 기준 자체 벤치마크 결과이므로, 추후 다른 모델의 업데이트에 따라 순위가 바뀔 수 있다는 점은 감안할 필요가 있다.

Workers AI 호스팅과 오픈소스 공개, RL 파인튜닝까지

Clef와 Clef-flash는 클라우드플레어의 서버리스 AI 추론 플랫폼인 Workers AI에서 바로 호출해 쓸 수 있도록 호스팅된다. 동시에 두 모델 모두 Apache 2.0 라이선스로 허깅페이스(Hugging Face)에 공개돼, 원한다면 누구나 로컬 환경에 내려받아 직접 돌려볼 수 있다. 상용 호스팅 모델이면서 동시에 완전한 오픈웨이트로 풀린다는 점은 개발자 입장에서 접근 장벽을 크게 낮추는 요소다.

아울러 두 모델은 ‘Jev API’와 호환되도록 설계돼, 이미 Jev 기반으로 워크플로를 짜둔 개발자라면 큰 수정 없이 Clef로 교체해 실험해볼 수 있다. 마지막으로 클라우드플레어는 강화학습(RL) 기반 파인튜닝 제품도 함께 공개했는데, 이를 통해 고객이 자사 유스케이스에 맞게 Clef를 직접 추가 학습시킬 수 있다.

한국 개발자 입장에서 살펴볼 지점

국내에서 콘텐츠 모더레이션, 고객 문의 라우팅, 피싱·스팸 탐지, 이미지 콘텐츠 분류 등 “빠른 판단”이 필요한 서비스를 운영 중이라면 Clef는 시도해볼 만한 선택지다. 특히 매 분류 작업마다 무거운 LLM을 호출해 비용과 지연시간을 감수해온 팀이라면, 결정 모델로 일부 로직을 분리하는 것만으로 응답 속도와 비용 구조를 개선할 여지가 있다.

다만 실제 도입 전에는 몇 가지를 직접 확인해볼 필요가 있다. Clef의 벤치마크 수치와 지연시간 비교는 클라우드플레어 자체 테스트 환경 기준이므로, 자사 데이터와 트래픽 환경에서 별도로 검증하는 과정이 필요하다. 또한 오픈웨이트로 공개됐다고는 해도 Workers AI를 통한 호스팅 버전과 로컬 구동 버전의 성능·비용 차이, 그리고 RL 파인튜닝 제품의 구체적인 가격 정책은 원문에 명시돼 있지 않아 별도 확인이 필요하다.

원문: Clef: Open-weight decision models, and new RL fine-tuning platform