주요 콘텐츠로 건너뛰기
AI 튜토리얼

RouterHub에서 GLM 5.3 탈검열 및 무검열 모델 사용하기

RouterHub의 OpenAI 호환 API를 통해 GLM 5.3 변형 모델에 액세스하고, 저장소의 프롬프트 모음을 사용하며, 코딩 도구를 구성하고, 품질, 거부 동작, 지연 시간 및 총비용을 기준으로 모델을 비교하는 방법을 알아보세요.

RouterHub에서 GLM 5.3 탈검열 및 무검열 모델 사용하기

이 프로젝트가 제공하는 것

이 RouterHub 저장소는 GLM 5.3 모델 가이드, API 예제, 평가 조언, 모델 동작 연구를 위한 35개의 프롬프트 파일을 제공합니다. 표준, Flash, abliterated, uncensored GLM 5.3 카탈로그 항목에 중점을 두며, 하나의 RouterHub 계정으로 지원되는 GPT, Claude, DeepSeek, Qwen, Grok 모델에 액세스하는 방법도 설명합니다.

이 저장소는 소프트웨어 패키지라기보다 주로 문서와 재사용 가능한 구성 자료로 이루어져 있습니다. 파일을 오프라인에서 검토하거나, 선택한 지침을 호환 클라이언트에 입력하거나, 애플리케이션을 RouterHub의 호스팅 API에 연결할 수 있습니다.

거부 감소는 측정해야 하는 동작이며, 모델이 모든 요청에 답하거나 정확한 결과를 생성한다는 보장은 아닙니다.

GLM 5.3 변형 이해하기

abliterated와 uncensored라는 레이블은 서로 관련되어 있지만 다른 개념을 나타냅니다.

  • GLM 5.3 Abliterated: 거부와 관련된 동작을 줄이기 위해 모델 가중치에 개입한 연구용 변형입니다.
  • GLM 5.3 Uncensored: 학습 변경, 가중치 변경 또는 프롬프트 수준의 페르소나가 적용될 수 있는 더 광범위한 제품 범주입니다.
  • GLM 5.3: 표준 카탈로그 항목입니다.
  • GLM 5.3 Flash: 품질, 지연 시간, 기능, 요금을 별도로 평가해야 하는 별도 항목입니다.

이 저장소는 호스팅된 가중치를 독립적으로 검사하거나 거부율 벤치마크 결과를 공개하지 않습니다. 배포하기 전에 항상 실시간 카탈로그 항목을 확인하고, 자신의 합법적인 작업으로 동작을 테스트하세요.

사용 가능한 GLM 모델 ID

  • glm-5.3-abliterated
  • glm-5.3
  • glm-5.3-flash
  • glm-5.3-uncensored
  • glm-5.3-flash-uncensored

이 GLM 항목은 Chat Completions 프로토콜을 사용합니다. 사용 가능 여부, 기능, 요금은 변경될 수 있으므로 배포 전에 RouterHub 실시간 모델 카탈로그를 확인하세요.

주요 기능

  • OpenAI 호환 액세스: 익숙한 SDK를 사용해 Chat Completions를 통해 등록된 GLM 모델을 호출할 수 있습니다.
  • 여러 모델군에 하나의 계정 사용: 선불 RouterHub 계정으로 지원되는 GLM, GPT, Claude, DeepSeek, Qwen, Grok 항목에 액세스할 수 있습니다.
  • 35개의 프롬프트 파일: 시스템 프롬프트, 어시스턴트 사양, 워크스페이스 프로필, 에이전트 지침, Ollama Modelfile, Grok 구성 파일을 검토할 수 있습니다.
  • 코딩 도구 가이드: OpenCode, Cursor, Continue, Cline, Claude Code, Codex CLI, LangChain, LlamaIndex에 적합한 프로토콜을 연결할 수 있습니다.
  • 평가 자료: 작업 품질, 거부 동작, 지침 준수, 재현성, 지연 시간, 총비용을 기준으로 모델 변형을 비교할 수 있습니다.
  • 선불 사용량 결제: 계정에 자금을 충전하고 선택한 모델의 공개 토큰 요금에 따라 결제합니다.

RouterHub API 액세스 설정

1. 계정 생성 및 충전

RouterHub에 가입하고 선불 크레딧을 추가한 다음 비공개 API 키를 생성하세요. 추론 요청을 보내면 크레딧이 차감되므로 소규모 테스트로 시작하고 발생한 사용 요금을 확인하세요.

2. 자격 증명을 안전하게 저장

RouterHub는 https://routerhub.si/v1을 API 기본 URL로 게시합니다. URL과 키를 환경 변수에 저장하세요.

export ROUTERHUB_API_KEY="<your-private-key>"
export ROUTERHUB_API_BASE_URL="https://routerhub.si/v1"

실제 키를 저장소에 커밋하지 마세요. 프로덕션 시스템에서는 호스팅 플랫폼이 제공하는 시크릿 관리자를 사용하세요.

3. OpenAI SDK 설치

등록된 GLM 5.3 모델은 Chat Completions를 사용하므로 OpenAI Python 클라이언트를 설치하세요.

python -m pip install openai

첫 GLM 5.3 요청 보내기

RouterHub의 기본 URL과 비공개 키로 OpenAI 클라이언트를 생성하세요. 그런 다음 정확한 카탈로그 ID를 사용해 Chat Completions 요청을 제출합니다.

import os
from openai import OpenAI

api = OpenAI(
    base_url=os.environ["ROUTERHUB_API_BASE_URL"],
    api_key=os.environ["ROUTERHUB_API_KEY"],
)

result = api.chat.completions.create(
    model="glm-5.3-abliterated",
    messages=[
        {
            "role": "user",
            "content": "Explain what an API gateway does in two sentences."
        }
    ],
)

print(result.choices[0].message.content)

다른 변형을 비교하려면 요청 내용은 그대로 유지하고 모델 ID만 바꾸세요. 예를 들어 표준 모델 기준선으로 glm-5.3을 사용하거나, 별도로 등록된 uncensored 항목을 평가하려면 glm-5.3-uncensored를 사용하세요.

시스템 지침 추가

시스템 메시지를 사용하면 지원되는 Chat Completions 요청의 출력 요구 사항을 정의할 수 있습니다.

result = api.chat.completions.create(
    model="glm-5.3-flash",
    messages=[
        {
            "role": "system",
            "content": "Answer concisely and identify uncertain claims."
        },
        {
            "role": "user",
            "content": "Suggest tests for a function that parses CSV rows."
        }
    ],
)

print(result.choices[0].message.content)

각 변형이 시스템 지침을 의도한 대로 따르는지 확인하세요. uncensored라는 레이블만으로는 구현에 가중치 변경, 학습 변경, 지침 처리에 영향을 줄 수 있는 고정 페르소나 중 무엇이 사용되었는지 알 수 없습니다.

번들로 제공된 프롬프트 모음 사용

총 35개의 연구 프롬프트 파일이 저장소의 jailbreaks/ 디렉터리에 보관되어 있습니다. 이 파일들은 GLM 및 ZCode, Claude, DeepSeek, Kimi, Grok, Gemini, Mistral, Qwen, Gemma, GPT-OSS와 여러 OpenCode 지향 모델을 다룹니다.

시스템 프롬프트

파일의 내용을 API, 챗봇, 에이전트 또는 하네스에서 제공하는 시스템 프롬프트나 사용자 지정 지침 필드에 복사하세요. Chat Completions를 사용할 때는 일반적으로 텍스트를 system 역할의 메시지에 넣습니다.

프로젝트 수준 에이전트 지침

AGENTS.md 지침으로 설계된 파일은 관련 저장소 또는 작업 공간의 루트에 정확히 해당 이름으로 저장해야 합니다. 호환되는 코딩 에이전트는 이 파일을 프로젝트 수준 지침으로 사용할 수 있습니다.

영구 작업 공간 정책

어시스턴트 운영 사양과 작업 공간 프로필은 클라이언트의 영구 지침 위치에 저장해야 합니다. README에서는 다음 OpenCode 경로를 예로 제시합니다.

~/.config/opencode/AGENTS.md

도구마다 사용하는 경로가 다를 수 있으므로, 정책을 전역으로 설치하기 전에 클라이언트 문서를 확인하세요.

Ollama Modelfile

Gemma 4 및 GPT-OSS 20B 프롬프트 파일에는 Ollama 스타일의 FROM 및 SYSTEM 블록이 포함되어 있습니다. 다음 명령으로 이 파일 중 하나를 사용해 로컬 모델을 만드세요.

ollama create gemma4-jb -f jailbreaks/gemma4.md

다른 Modelfile을 사용할 때는 출력 모델 이름과 소스 경로를 변경하세요.

Grok 구성

jailbreaks/grok-config.txt 파일은 일반적인 대화 메시지가 아니라 대상 하네스의 구성 필드에 사용하도록 만들어졌습니다.

프롬프트 동작은 버전에 따라 달라집니다. 모델 업데이트와 지침 계층 변경으로 인해 이전에 효과적이었던 파일이 다르게 동작할 수 있습니다.

호환되는 클라이언트와 프로토콜 선택

공유 RouterHub 키가 있다고 해서 모든 모델이 모든 API 프로토콜과 호환되는 것은 아닙니다. 모델과 클라이언트를 함께 선택하세요.

  • OpenAI SDK: RouterHub 기본 URL, 키 및 정확한 GLM 모델 ID를 제공하세요.
  • OpenCode: 선택한 GLM 항목에 Chat Completions 공급자 구성을 사용하세요.
  • Continue 또는 Cline: 호환되는 Chat Completions 설정을 따르세요.
  • Cursor: 설치된 버전이 사용자 지정 Chat Completions 엔드포인트와 필요한 모델 기능을 지원하는지 확인하세요.
  • LangChain 또는 LlamaIndex: 호환되는 Chat Completions 통합을 선택하고 애플리케이션별 기능을 검증하세요.
  • Claude Code 또는 Anthropic SDK: 지원되는 Claude 모델처럼 Anthropic Messages를 지원하는 카탈로그 항목을 선택하세요. 나열된 GLM 변형은 Messages를 사용하지 않습니다.
  • Codex CLI: Chat 전용 GLM 항목 대신 Responses를 지원하는 모델을 선택하세요.

선택 사항인 Claude Messages 예제

동일한 RouterHub 계정으로 Anthropic 호환 Messages API를 통해 지원되는 Claude 모델을 사용할 수 있습니다. 이는 GLM을 위한 대체 엔드포인트가 아닙니다. 먼저 Anthropic SDK를 설치하세요.

python -m pip install anthropic

그런 다음 지원되는 Claude 카탈로그 항목을 사용하세요.

import os
from anthropic import Anthropic

api = Anthropic(
    base_url=os.environ["ROUTERHUB_API_BASE_URL"],
    api_key=os.environ["ROUTERHUB_API_KEY"],
)

result = api.messages.create(
    model="claude-opus-5-5",
    max_tokens=64,
    messages=[
        {
            "role": "user",
            "content": "Explain what an API gateway does in two sentences."
        }
    ],
)

for part in result.content:
    if part.type == "text":
        print(part.text)

변형 모델을 체계적으로 평가

유용한 비교를 위해서는 허용적인 응답 하나를 찾는 것만으로는 부족합니다. 표준, Flash, 비개조화(abliterated) 및 검열되지 않은 항목을 대상으로 동일한 합법적 작업을 실행한 다음, 일관된 측정값을 기록하세요.

  1. 대표 작업을 정의하세요. 애플리케이션을 반영하는 코딩, 에이전트, 분석, 작성 또는 이중 언어 시나리오를 포함하세요.
  2. 입력을 일관되게 유지하세요. 모델 간에 동일한 프롬프트, 시스템 지침 및 관련 설정을 재사용하세요.
  3. 불필요한 거부를 측정하세요. 정의한 테스트 정책에 따라 답변할 수 있는데도 거부된 요청을 기록하세요.
  4. 작업 품질을 평가하세요. 정확성, 유용한 세부 정보, 테스트된 코드 및 적절한 불확실성 표현을 확인하세요.
  5. 지침 동작을 테스트하세요. 형식, 시스템 메시지 처리, 프로젝트 지침 및 필요한 도구 통합을 검증하세요.
  6. 재현성을 확인하세요. API ID, 프롬프트 버전, 설정, 반복 횟수 및 테스트 날짜를 기록하세요.
  7. 총 작업 비용을 계산하세요. 입력 및 출력 토큰, 실패한 시도, 재시도, 출력 길이 및 종단 간 지연 시간을 포함하세요.

저장소에는 examples/benign-eval-prompts.json에 무해한 샘플 작업이 포함되어 있습니다. 실시간 벤치마크 점수를 제시한다고 주장하지 않으므로, 이 리소스를 자체 평가의 기반으로 활용하세요.

고급 팁

배포 전에 카탈로그를 다시 확인하세요

호스팅 가능 여부, 가격, 기능 및 동작은 변경될 수 있습니다. 통합 기능을 출시하기 전에 정확한 모델 ID와 지원 프로토콜을 확인하고, 모델 업데이트 후 중요한 테스트를 다시 실행하세요.

Flash를 별도로 테스트하세요

GLM 5.3 Flash가 표준 모델과 동일한 품질이나 동작을 보인다고 가정하지 마세요. 지연 시간, 비용 및 승인 기준을 사용해 두 모델을 모두 벤치마크하세요.

재시도를 고려하세요

토큰 단가가 낮은 모델이라도 더 긴 프롬프트가 필요하거나, 과도한 출력을 생성하거나, 여러 번 시도해야 한다면 성공한 작업당 비용이 더 높을 수 있습니다. 토큰 가격만이 아니라 완료된 작업의 비용을 비교하세요.

프롬프트를 버전 관리되는 자산으로 취급하세요

모든 프롬프트 수정본과 함께 모델 버전 또는 테스트 날짜를 기록하세요. 지침 파일이 더 이상 작동하지 않으면 클라이언트가 잘못 구성되었다고 가정하지 말고 파일을 업데이트하고 실패 원인을 문서화하세요.

오프라인 저장소 검사 실행

문서 기여자는 추론 크레딧을 사용하지 않고 저장소의 링크 및 구문 검사기를 실행할 수 있습니다.

python tools/check.py

개인 데이터 보호

호스팅된 추론은 로컬 추론과 다릅니다. 기밀 정보를 전송하기 전에 해당 제공업체의 약관과 데이터 보존 정책을 검토하세요. 중대한 결과를 초래할 수 있는 작업에는 사람이 계속 관여하도록 하고, 에이전트 권한을 제한하며, 생성된 코드를 실행하기 전에 검사하세요.

결론

이 프로젝트는 GLM 5.3 용어에서 실제 API 요청과 반복 가능한 모델 평가로 이어지는 실용적인 경로를 제공합니다. 자금이 충전된 RouterHub 계정으로 시작하고, 정확한 Chat Completions 모델 ID를 사용하며, 동일한 작업에서 변형을 테스트하세요. 또한 abliterated 또는 uncensored라는 라벨은 보장 사항이 아니라 검증해야 할 가설로 취급하세요. 함께 제공되는 프롬프트 파일은 연구와 에이전트 구성에 활용할 수 있지만, 적절한 개인정보 보호 및 배포 제어와 함께 버전 관리하고 검토하며 사용해야 합니다.