跳到主要内容
AI教程

如何负责任地研究 AI 系统提示词和工具配置

本教程介绍如何使用 AI 系统透明度与可观测性代码库，研究系统提示词、行为准则、工具定义和配置记录，同时保留上下文、核实来源并遵循负责任的研究实践。

AI我搜编辑部阅读约 10 分钟
如何负责任地研究 AI 系统提示词和工具配置

概述

AI 系统透明度与可观测性是一个开放的研究与文档项目，专注于塑造 AI 行为的指令和配置。该仓库不只研究生成的答案，还收集有关系统提示词、开发者指令、政策、工具、能力和运行指南的可用信息。

要理解 AI 系统的输出，还需要了解影响其输出的指令和能力背景。

该仓库涵盖 AI 模型、助手、搜索产品、编码代理和开发平台，涉及 OpenAI、Google、Anthropic、xAI、Perplexity、Cursor、Windsurf、Devin、Manus 和 Replit 等提供商。随着新系统和研究成果的出现，覆盖范围可能会发生变化。

重要提示： 使用该仓库的风险由使用者自行承担。在应用任何已记录的信息或研究技术之前，请了解其可能涉及的账户、隐私、法律、安全和平台政策影响。

项目记录的内容

一条记录可能包含以下部分或全部信息：

  • 模型或系统： 正在研究的产品、模型、代理或平台。
  • 版本： 相关的发布版本或版本号（如已知）。
  • 日期： 信息收集或观察的时间。
  • 系统提示词： 可获取的系统级指令。
  • 指南： 行为或运行指令。
  • 工具： 工具定义和已记录的能力。
  • 配置： 相关的系统配置详情。
  • 上下文： 解释环境和具体情况的说明。
  • 来源： 支持该记录的参考资料。

并非每条记录都包含所有字段。记录也可能代表历史版本、特定环境或某个时间点的观察结果，而不是平台当前的生产配置。

理解 AI 指令层

该项目将 AI 行为呈现为多个相互作用的层共同作用的结果：

USER INPUT
    |
    v
SYSTEM INSTRUCTIONS
    |
    v
DEVELOPER OR APPLICATION INSTRUCTIONS
    |
    v
POLICIES AND GUARDRAILS
    |
    v
TOOL DEFINITIONS AND CAPABILITIES
    |
    v
AI MODEL
    |
    v
GENERATED OUTPUT

该模型有助于解释为什么可见的对话只是 AI 交互的一部分。系统指令和应用程序指令可能会设定角色、定义响应行为、限制某些请求、决定拒绝模式，或授予对特定工具的访问权限。

主要功能

  • 多平台覆盖： 研究涵盖主要模型提供商和代理平台。
  • 系统级文档： 记录可以保留提示词、指南、工具、能力和配置详情。
  • 历史保存： 即使系统发生变化，较早的观察结果仍然有参考价值。
  • 上下文优先的记录： 重点记录日期、版本、来源和收集时的具体情况。
  • 研究可复现性： 鼓励贡献者提供足够信息，使其他人能够理解研究发现。
  • 证据标注： 应将已确认的材料与假设、重构内容和推测区分开来。
  • 社区贡献： 研究人员可以报告问题、改进文档并提交新发现。

安装与设置

这是一个以研究和文档为主的仓库。README 未指定软件包、运行时、依赖安装或构建流程。你可以直接在 GitHub 上阅读，也可以将其克隆到本地，用于搜索、比较和贡献工作。

克隆仓库

  1. 打开仓库的 GitHub 页面。
  2. 复制其 HTTPS 或 SSH 克隆 URL。
  3. 运行适当的 Git 命令：
git clone <repository-url>
cd <repository-directory>

文档未提供其他设置命令。如果后续某些文件夹包含自己的说明，请针对相关材料遵循这些说明。

了解目录结构

.
├── providers/
│   ├── openai/
│   ├── google/
│   ├── anthropic/
│   ├── xai/
│   ├── perplexity/
│   └── others/
├── agents/
│   ├── cursor/
│   ├── windsurf/
│   ├── devin/
│   ├── manus/
│   └── replit/
├── prompts/
├── tools/
├── research/
├── documentation/
└── README.md

针对提供商的模型研究位于 providers/ 下，而编码和自主代理相关材料则归入 agents/。跨主题记录可能出现在 prompts/、tools/、research/ 或 documentation/ 中。随着项目发展，结构可能会不断演变。

基本用法：调查 AI 系统

第 1 步：选择提供商或代理

首先确定要研究的平台。对于模型提供商，请查看 providers/ 下对应的文件夹。对于 AI 编码代理或软件代理，请从 agents/ 开始。

第 2 步：确定记录的身份

在解读一条记录之前，先确定其模型或系统名称、版本和日期。从某个版本或环境中收集的提示词，不应自动被视为每个部署环境的当前配置。

System: Example AI
Version: v2.1
Date: 2026-10-02

第 3 步：区分指令层

按作用对可用材料进行分类。例如，区分系统级行为与应用程序指令、政策和工具定义。这可以降低将特定于应用程序的规则归因于底层模型的风险。

  • 材料是否定义了助手的身份或一般行为？
  • 它是否看起来来自某个特定应用程序？
  • 它是否描述了拒绝、安全、伦理或政策框架？
  • 它是否定义了可调用的工具或受支持的能力？
  • 它是否包含观察结果，而不是逐字记录的指令？

第 4 步：检查来源和上下文

审查信息的获取方式。仓库材料可能来自公共接口、现有文档、行为或安全研究、逆向工程研究、社区贡献、历史记录或其他公开可用的来源。

思考来源是否支持该主张，以及条目是否保留了足够的上下文来解释它。重要细节包括所使用的接口、收集日期、模型版本以及任何相关的环境条件。

第 5 步：对证据进行分类

不要把每条记录都视为具有同等确定性。根据证据所支持的内容为材料添加标签：

  • 已确认：由可靠来源或可验证的观察结果直接支持。
  • 已观察：具有明确收集上下文的已记录行为。
  • 重构：经过重新组装或修改，而不是作为原始内容保留。
  • 推断：根据行为或部分证据得出的结论。
  • 推测：尚未得到验证的可能性。

这些类别是遵循仓库要求的实用方式，用于区分已确认信息与假设、重构内容和推测。

第 6 步：将指令与行为联系起来

对证据进行分类后，考察记录中的指令可能如何影响可见行为。寻找管理语气、角色设定、限制、拒绝、重定向、工具选择、输出结构或安全处理的规则。

严谨的分析应说明记录显示了什么，但不应声称它能解释该平台的每个响应。

研究工作流示例

假设你正在比较某个 AI 代理两个版本之间的工具行为。请使用以下流程：

  1. 找到两个特定版本的记录。
  2. 确认收集日期和来源。
  3. 仅提取有记录的工具定义和能力描述。
  4. 记录工具名称、参数或所述行为方面的差异。
  5. 将直接的文本差异与通过测试推断出的结论分开。
  6. 保留有关接口和环境的备注。
  7. 尽可能根据原始来源验证重要发现。
系统：示例代理
版本：2.1
日期：2026-10-02
来源：公共参考资料或文档
上下文：通过公开可访问的接口观察
发现：工具定义或指令文本
状态：已确认、已观察、重构、推断或推测
备注：相关限制和比较细节

提交发现

贡献内容可以包括新的提取内容、系统提示、工具定义、文档更正或研究发现。一项有用的贡献应包含足够的元数据，使其他研究人员能够理解并评估它。

推荐的贡献记录

模型或系统名称：
示例 AI v2.1

版本：
v2.1

提取日期：
2026-10-02

来源：
来源或参考资料

提取的信息：
相关提示、指令、工具定义或配置

上下文：
信息的获取方式和地点

备注：
限制、观察结果和证据分类

提交前

  1. 尽可能彻底地验证信息。
  2. 在可获得时注明模型或系统版本。
  3. 注明收集或提取日期。
  4. 保留原始上下文。
  5. 添加相关来源。
  6. 区分已确认事实与推断或推测。
  7. 不要将重构或修改过的提示呈现为官方原始提示。
  8. 删除个人信息、凭据、身份验证机密和其他敏感数据。

质量、准确性和上下文比单纯增加更多条目更有价值。

高级研究技巧

跟踪随时间发生的变化

将日期和版本视为核心研究数据，而不是可选元数据。比较不同版本的记录可以揭示指令、政策和工具如何变化，但不能证明变化发生的原因。应将事实差异与解释分开。

保留原始文本

引用有记录的材料时，应在可行的情况下保留原始措辞和格式。将评论放在单独的部分中，以便读者区分来源材料和分析。

使用多个来源

根据原始文档和其他公开可用的参考资料交叉核对重要主张。单条历史记录或社区提供的记录可能无法代表当前系统。

进行同类比较

比较系统时，应控制版本、日期、接口、应用程序、可用工具和账户环境等变量。应用程序之间的差异可能来自开发者指令或工具配置，而不是底层模型。

使发现具有可复现性

充分记录该方法，使其他研究人员能够理解观察结果是如何产生的。包括系统、版本、日期、来源、背景和局限性，但绝不要披露机密或敏感的个人信息。

使用谨慎的措辞

优先使用精确的表述，例如存档条目记录了、观察到的界面显示了或证据表明。除非支持性证据能够证明，否则避免声称某条记录是当前的、完整的或官方的。

负责任的研究与局限性

本存储库旨在用于研究、教育、分析、文档记录和透明度建设。负责任的使用包括尊重隐私、适用法律、平台条款以及适当的安全披露实践。

  • 不要发布个人信息。
  • 不要披露凭据或身份验证机密。
  • 清楚标注推断或重构的信息。
  • 保留相关背景和来源引用。
  • 负责任地报告涉及安全的发现。
  • 尽可能根据原始来源核实重要信息。

本存储库并不声称所记录的每条指令都是某个平台当前的或官方的配置。人工智能产品可能在不另行通知的情况下发生变化，某条记录也可能只适用于特定版本、界面、账户环境或某一时间点。

结论

AI 系统透明度与可观测性为研究人工智能行为背后的隐藏指令层提供了一个结构化起点。使用时，请定位相关记录，核对版本和日期，区分不同的指令层，验证来源，并区分证据与推断。贡献内容时，应优先考虑准确性、可复现性、背景、隐私和负责任的披露。