개요
AI 시스템 투명성 및 관찰 가능성은 AI의 동작을 형성하는 지침과 구성에 초점을 둔 공개 연구 및 문서화 프로젝트입니다. 저장소는 생성된 답변만 검토하는 대신 시스템 프롬프트, 개발자 지침, 정책, 도구, 기능 및 운영 지침에 관한 확인 가능한 정보를 수집합니다.
AI 시스템의 출력을 이해하려면 그 출력에 영향을 준 지침과 기능에 대한 맥락도 알아야 합니다.
이 저장소는 OpenAI, Google, Anthropic, xAI, Perplexity, Cursor, Windsurf, Devin, Manus 및 Replit과 같은 제공업체와 관련된 AI 모델, 어시스턴트, 검색 제품, 코딩 에이전트 및 개발 플랫폼을 다룹니다. 새로운 시스템과 연구가 제공됨에 따라 대상 범위는 변경될 수 있습니다.
중요: 저장소는 본인의 책임하에 사용하세요. 문서화된 정보나 연구 기법을 적용하기 전에 계정, 개인정보 보호, 법률, 보안 및 플랫폼 정책과 관련된 잠재적 영향을 이해해야 합니다.
프로젝트 문서화 대상
항목에는 다음 정보의 일부 또는 전부가 포함될 수 있습니다.
- 모델 또는 시스템: 연구 대상 제품, 모델, 에이전트 또는 플랫폼입니다.
- 버전: 확인 가능한 경우 관련 릴리스 또는 버전입니다.
- 날짜: 정보가 수집되거나 관찰된 시점입니다.
- 시스템 프롬프트: 확인 가능한 시스템 수준 지침입니다.
- 가이드라인: 동작 또는 운영 지침입니다.
- 도구: 도구 정의 및 문서화된 기능입니다.
- 구성: 관련 시스템 구성 세부 정보입니다.
- 맥락: 환경과 상황을 설명하는 메모입니다.
- 출처: 항목을 뒷받침하는 참고 자료입니다.
모든 항목에 모든 필드가 포함되는 것은 아닙니다. 기록은 플랫폼의 현재 프로덕션 구성 대신 과거 버전, 특정 환경 또는 특정 시점의 관찰 결과를 나타낼 수도 있습니다.
AI 지시사항 스택 이해하기
이 프로젝트는 AI의 동작을 서로 상호작용하는 여러 계층의 결과로 설명합니다.
USER INPUT
|
v
SYSTEM INSTRUCTIONS
|
v
DEVELOPER OR APPLICATION INSTRUCTIONS
|
v
POLICIES AND GUARDRAILS
|
v
TOOL DEFINITIONS AND CAPABILITIES
|
v
AI MODEL
|
v
GENERATED OUTPUT이 모델은 눈에 보이는 대화가 AI 상호작용의 한 부분에 불과한 이유를 설명하는 데 도움이 됩니다. 시스템 및 애플리케이션 지침은 페르소나를 설정하고, 응답 동작을 정의하며, 특정 요청을 제한하고, 거부 패턴을 결정하거나, 특정 도구에 대한 액세스 권한을 부여할 수 있습니다.
주요 기능
- 다중 플랫폼 지원: 주요 모델 제공업체와 에이전트 플랫폼을 폭넓게 연구합니다.
- 시스템 수준 문서화: 항목에 프롬프트, 가이드라인, 도구, 기능 및 구성 세부 정보를 보존할 수 있습니다.
- 기록 보존: 시스템이 변경된 이후에도 과거 관찰 결과를 유용하게 활용할 수 있습니다.
- 맥락 중심 기록: 날짜, 버전, 출처 및 수집 상황을 중점적으로 기록합니다.
- 연구 재현성: 다른 사람들이 연구 결과를 이해할 수 있도록 충분한 정보를 제공하도록 기여자에게 권장합니다.
- 근거 표시: 확인된 자료를 가정, 재구성 및 추측과 구분해야 합니다.
- 커뮤니티 기여: 연구자는 문제를 보고하고, 문서를 개선하며, 새로운 연구 결과를 제출할 수 있습니다.
설치 및 설정
이 저장소는 주로 연구 및 문서화 저장소입니다. README에는 소프트웨어 패키지, 런타임, 종속성 설치 또는 빌드 과정이 명시되어 있지 않습니다. GitHub에서 직접 읽거나 로컬에 복제하여 검색, 비교 및 기여 작업에 사용할 수 있습니다.
저장소 복제
- 저장소의 GitHub 페이지를 엽니다.
- HTTPS 또는 SSH 복제 URL을 복사합니다.
- 적절한 Git 명령을 실행합니다.
git clone <repository-url>
cd <repository-directory>추가 설정 명령은 문서화되어 있지 않습니다. 이후 개별 폴더에 자체 지침이 포함되면 해당 자료에 맞는 지침을 따르세요.
디렉터리 구조 이해하기
.
├── providers/
│ ├── openai/
│ ├── google/
│ ├── anthropic/
│ ├── xai/
│ ├── perplexity/
│ └── others/
├── agents/
│ ├── cursor/
│ ├── windsurf/
│ ├── devin/
│ ├── manus/
│ └── replit/
├── prompts/
├── tools/
├── research/
├── documentation/
└── README.md제공업체별 모델 연구는 providers/ 아래에 구성되고, 코딩 및 자율 에이전트 자료는 agents/ 아래에 그룹화됩니다. 여러 영역에 걸친 기록은 prompts/, tools/, research/ 또는 documentation/에 포함될 수 있습니다. 프로젝트가 성장함에 따라 구조는 변경될 수 있습니다.
기본 사용법: AI 시스템 조사
1단계: 제공업체 또는 에이전트 선택
먼저 연구하려는 플랫폼을 파악합니다. 모델 제공업체의 경우 providers/ 아래의 해당 폴더를 확인합니다. AI 코딩 또는 소프트웨어 에이전트의 경우 agents/에서 시작합니다.
2단계: 기록의 식별 정보 확인
항목을 해석하기 전에 모델 또는 시스템 이름, 버전 및 날짜를 확인합니다. 한 버전이나 환경에서 수집된 프롬프트를 모든 배포 환경의 현재 구성으로 자동 간주해서는 안 됩니다.
System: Example AI
Version: v2.1
Date: 2026-10-023단계: 지침 계층 분리
사용 가능한 자료를 역할에 따라 분류하세요. 예를 들어 시스템 수준의 동작을 애플리케이션 지침, 정책, 도구 정의와 구분하세요. 이렇게 하면 애플리케이션에만 적용되는 규칙을 기반 모델의 규칙으로 잘못 해석할 위험을 줄일 수 있습니다.
- 자료가 어시스턴트의 정체성이나 일반적인 동작을 정의하나요?
- 특정 애플리케이션에서 제공된 것으로 보이나요?
- 거부, 안전, 윤리 또는 정책 프레임워크를 설명하나요?
- 호출 가능한 도구나 지원되는 기능을 정의하나요?
- 그대로 옮긴 지침이 아니라 관찰 내용을 포함하나요?
4단계: 출처와 맥락 확인
정보가 어떻게 수집되었는지 검토하세요. 저장소의 자료는 공개 인터페이스, 기존 문서, 동작 또는 보안 연구, 리버스 엔지니어링 연구, 커뮤니티 기여, 역사적 기록 또는 기타 공개적으로 이용 가능한 출처에서 수집되었을 수 있습니다.
출처가 해당 주장을 뒷받침하는지, 그리고 항목에 이를 해석하기에 충분한 맥락이 보존되어 있는지 확인하세요. 중요한 세부 정보에는 사용한 인터페이스, 수집 날짜, 모델 버전 및 관련 환경 조건이 포함됩니다.
5단계: 증거 분류
모든 기록을 같은 수준의 확실성을 가진 것으로 취급하지 마세요. 증거가 뒷받침하는 내용에 따라 자료에 다음과 같은 레이블을 지정하세요.
- 확인됨: 신뢰할 수 있는 출처 또는 검증 가능한 관찰로 직접 뒷받침되는 정보입니다.
- 관찰됨: 명확한 수집 맥락과 함께 기록된 동작입니다.
- 재구성됨: 원본 그대로 보존된 것이 아니라 재조립되거나 수정된 자료입니다.
- 추론됨: 동작 또는 부분적인 증거에서 도출한 결론입니다.
- 추측: 아직 검증되지 않은 가능성입니다.
이러한 범주는 확인된 정보와 가정, 재구성 및 추측을 구분하라는 저장소의 요구 사항을 실질적으로 따르는 방법입니다.
6단계: 지침과 동작의 연관성 파악
증거를 분류한 후에는 문서화된 지침이 관찰 가능한 동작에 어떤 영향을 줄 수 있는지 살펴보세요. 어조, 페르소나, 제한, 거부, 방향 전환, 도구 선택, 출력 구조 또는 안전 처리 방식을 규정하는 규칙을 찾아보세요.
신중한 분석에서는 해당 기록이 보여 주는 내용을 명시하되, 플랫폼의 모든 응답을 설명한다고 주장해서는 안 됩니다.
연구 워크플로 예시
두 버전의 AI 에이전트에서 도구 동작을 비교한다고 가정해 보겠습니다. 다음 절차를 사용하세요.
- 두 버전에 해당하는 기록을 찾습니다.
- 수집 날짜와 출처를 확인합니다.
- 문서화된 도구 정의와 기능 설명만 추출합니다.
- 도구 이름, 매개변수 또는 명시된 동작의 차이를 기록합니다.
- 직접적인 텍스트 차이와 테스트를 통해 추론한 결론을 구분합니다.
- 인터페이스와 환경에 관한 메모를 보존합니다.
- 가능한 경우 중요한 발견을 원본 출처와 대조하여 확인합니다.
시스템: 예시 에이전트
버전: 2.1
날짜: 2026-10-02
출처: 공개 참조 자료 또는 문서
맥락: 공개적으로 접근 가능한 인터페이스를 통해 관찰됨
발견 내용: 도구 정의 또는 지침 텍스트
상태: 확인됨, 관찰됨, 재구성됨, 추론됨 또는 추측
메모: 관련 제한 사항 및 비교 세부 정보발견 내용 기여
기여 내용에는 새로운 추출 결과, 시스템 프롬프트, 도구 정의, 문서 수정 또는 연구 결과가 포함될 수 있습니다. 유용한 기여에는 다른 연구자가 내용을 이해하고 평가할 수 있도록 충분한 메타데이터가 포함되어야 합니다.
권장 기여 기록
모델 또는 시스템 이름:
예시 AI v2.1
버전:
v2.1
추출 날짜:
2026-10-02
출처:
출처 또는 참조 자료
추출된 정보:
관련 프롬프트, 지침, 도구 정의 또는 구성
맥락:
정보를 수집한 방법과 위치
메모:
제한 사항, 관찰 내용 및 증거 분류제출 전 확인 사항
- 가능한 한 철저하게 정보를 확인합니다.
- 가능한 경우 모델 또는 시스템 버전을 확인합니다.
- 수집 또는 추출 날짜를 포함합니다.
- 원래의 맥락을 보존합니다.
- 관련 출처를 추가합니다.
- 확인된 사실과 추론 또는 추측을 구분합니다.
- 재구성되거나 수정된 프롬프트를 공식 원본으로 제시하지 않습니다.
- 개인 정보, 자격 증명, 인증 비밀 및 기타 민감한 데이터를 제거합니다.
단순히 항목 수를 늘리는 것보다 품질, 정확성 및 맥락이 더 중요합니다.
고급 연구 팁
시간에 따른 변경 사항 추적
날짜와 버전을 선택적인 메타데이터가 아니라 핵심 연구 데이터로 취급하세요. 버전별 기록을 비교하면 지침, 정책 및 도구가 어떻게 변경되는지 파악할 수 있지만, 변경 이유까지 증명하지는 못합니다. 사실에 근거한 차이와 해석을 분리하여 기록하세요.
원문 보존
문서화된 자료를 인용할 때는 가능한 범위에서 원래의 표현과 형식을 보존하세요. 독자가 출처 자료와 분석을 구분할 수 있도록 주석은 별도 섹션에 작성하세요.
여러 출처 활용
중요한 주장을 원본 문서와 기타 공개적으로 이용 가능한 참고 자료를 통해 교차 확인하세요. 하나의 역사적 기록이나 커뮤니티 제공 기록이 현재 시스템을 대표하지 않을 수 있습니다.
동등한 조건끼리 비교
시스템을 비교할 때 버전, 날짜, 인터페이스, 애플리케이션, 사용 가능한 도구 및 계정 환경을 통제하세요. 애플리케이션 간 차이는 기반 모델이 아니라 개발자 지침이나 도구 구성에서 비롯될 수 있습니다.
재현 가능한 결과 작성
다른 연구자가 관찰이 어떻게 이루어졌는지 이해할 수 있도록 방법을 충분히 기록하세요. 시스템, 버전, 날짜, 출처, 맥락, 제한 사항을 포함하되, 비밀이나 민감한 개인정보는 절대 공개하지 마세요.
신중한 표현 사용
보관된 항목에는 다음과 같이 기록되어 있다, 관찰된 인터페이스에는 다음과 같이 표시되었다, 증거는 다음을 시사한다와 같이 정확한 표현을 우선하세요. 이를 뒷받침하는 증거가 결론을 확립하지 않는 한, 기록이 최신이거나 완전하거나 공식적이라고 주장하지 마세요.
책임 있는 연구와 제한 사항
이 저장소는 연구, 교육, 분석, 문서화 및 투명성을 목적으로 합니다. 책임 있는 사용에는 개인정보, 관련 법률, 플랫폼 약관 및 적절한 보안 공개 관행을 존중하는 것이 포함됩니다.
- 개인정보를 게시하지 마세요.
- 자격 증명이나 인증 비밀을 노출하지 마세요.
- 추론되었거나 재구성된 정보임을 명확히 표시하세요.
- 관련 맥락과 출처 참조를 보존하세요.
- 보안에 민감한 발견 사항은 책임 있게 보고하세요.
- 가능한 경우 중요한 정보를 원출처와 대조하여 확인하세요.
이 저장소는 문서화된 모든 지침이 플랫폼의 현재 또는 공식 구성이라고 주장하지 않습니다. AI 제품은 예고 없이 변경될 수 있으며, 항목은 특정 버전, 인터페이스, 계정 환경 또는 특정 시점에만 적용될 수 있습니다.
결론
AI Systems Transparency and Observability는 AI 행동 이면의 숨겨진 지시 계층을 살펴보기 위한 구조화된 출발점을 제공합니다. 관련 기록을 찾고, 버전과 날짜를 확인하며, 지시 계층을 분리하고, 출처를 검증하고, 증거와 추론을 구분하여 활용하세요. 기여할 때는 정확성, 재현성, 맥락, 개인정보 보호 및 책임 있는 공개를 우선하세요.