Cách nghiên cứu có trách nhiệm về prompt hệ thống AI và cấu hình công cụ

Tổng quan

Minh bạch và khả năng quan sát các hệ thống AI là một dự án nghiên cứu và tài liệu mở, tập trung vào các chỉ dẫn và cấu hình định hình hành vi của AI. Thay vì chỉ xem xét các câu trả lời được tạo ra, kho lưu trữ thu thập thông tin hiện có về lời nhắc hệ thống, chỉ dẫn dành cho nhà phát triển, chính sách, công cụ, khả năng và hướng dẫn vận hành.

Để hiểu đầu ra của một hệ thống AI, bạn cũng cần biết bối cảnh về các chỉ dẫn và khả năng đã tác động đến đầu ra đó.

Kho lưu trữ bao gồm các mô hình AI, trợ lý, sản phẩm tìm kiếm, tác nhân lập trình và nền tảng phát triển liên quan đến các nhà cung cấp như OpenAI, Google, Anthropic, xAI, Perplexity, Cursor, Windsurf, Devin, Manus và Replit. Phạm vi có thể thay đổi khi có các hệ thống và nghiên cứu mới.

Quan trọng: Hãy tự chịu trách nhiệm khi sử dụng kho lưu trữ. Tìm hiểu các tác động tiềm ẩn về tài khoản, quyền riêng tư, pháp lý, bảo mật và chính sách nền tảng trước khi áp dụng bất kỳ thông tin hoặc kỹ thuật nghiên cứu nào được ghi chép.

Dự án ghi chép những gì

Một mục có thể bao gồm một phần hoặc toàn bộ thông tin sau:

• Mô hình hoặc hệ thống: Sản phẩm, mô hình, tác nhân hoặc nền tảng đang được nghiên cứu.
• Phiên bản: Bản phát hành hoặc phiên bản liên quan, nếu đã biết.
• Ngày: Thời điểm thông tin được thu thập hoặc quan sát.
• Lời nhắc hệ thống: Các chỉ dẫn cấp hệ thống hiện có.
• Hướng dẫn: Các chỉ dẫn về hành vi hoặc vận hành.
• Công cụ: Định nghĩa công cụ và các khả năng được ghi chép.
• Cấu hình: Các chi tiết cấu hình hệ thống liên quan.
• Bối cảnh: Ghi chú giải thích môi trường và hoàn cảnh.
• Nguồn: Tài liệu tham khảo hỗ trợ cho mục đó.

Không phải mọi mục đều nhất thiết chứa tất cả các trường. Bản ghi cũng có thể đại diện cho một phiên bản trước đây, một môi trường cụ thể hoặc một quan sát tại một thời điểm, thay vì cấu hình sản xuất hiện tại của nền tảng.

Tìm hiểu ngăn xếp chỉ dẫn AI

Dự án mô tả hành vi AI là kết quả của nhiều lớp tương tác với nhau:

ĐẦU VÀO NGƯỜI DÙNG
    |
    v
CHỈ DẪN HỆ THỐNG
    |
    v
CHỈ DẪN CỦA NHÀ PHÁT TRIỂN HOẶC ỨNG DỤNG
    |
    v
CHÍNH SÁCH VÀ RÀO CHẮN
    |
    v
ĐỊNH NGHĨA VÀ KHẢ NĂNG CỦA CÔNG CỤ
    |
    v
MÔ HÌNH AI
    |
    v
ĐẦU RA ĐƯỢC TẠO

Mô hình này giúp giải thích vì sao cuộc hội thoại hiển thị chỉ là một phần của tương tác với AI. Các chỉ dẫn hệ thống và ứng dụng có thể thiết lập tính cách, xác định cách phản hồi, hạn chế một số yêu cầu, quyết định cách từ chối hoặc cấp quyền truy cập vào các công cụ cụ thể.

Tính năng chính

• Phạm vi đa nền tảng: Nghiên cứu bao quát các nhà cung cấp mô hình và nền tảng tác nhân lớn.
• Tài liệu cấp hệ thống: Các mục có thể lưu giữ lời nhắc, hướng dẫn, công cụ, khả năng và chi tiết cấu hình.
• Lưu giữ lịch sử: Các quan sát cũ vẫn hữu ích ngay cả khi hệ thống thay đổi.
• Bản ghi ưu tiên bối cảnh: Ngày tháng, phiên bản, nguồn và hoàn cảnh thu thập được nhấn mạnh.
• Khả năng tái lập nghiên cứu: Người đóng góp được khuyến khích cung cấp đủ thông tin để người khác hiểu một phát hiện.
• Gắn nhãn bằng chứng: Tài liệu đã được xác nhận cần được phân biệt với giả định, nội dung tái dựng và suy đoán.
• Đóng góp cộng đồng: Các nhà nghiên cứu có thể báo cáo vấn đề, cải thiện tài liệu và gửi phát hiện mới.

Cài đặt và thiết lập

Đây chủ yếu là một kho lưu trữ nghiên cứu và tài liệu. README không nêu rõ gói phần mềm, môi trường chạy, việc cài đặt phần phụ thuộc hoặc quy trình xây dựng. Bạn có thể đọc trực tiếp trên GitHub hoặc sao chép kho lưu trữ về máy để tìm kiếm, so sánh và đóng góp.

Sao chép kho lưu trữ

1. Mở trang GitHub của kho lưu trữ.
2. Sao chép URL HTTPS hoặc SSH để sao chép kho.
3. Chạy lệnh Git phù hợp:

git clone <repository-url>
cd <repository-directory>

Không có lệnh thiết lập bổ sung nào được ghi chép. Nếu các thư mục riêng lẻ sau này có hướng dẫn riêng, hãy làm theo hướng dẫn dành cho nội dung tương ứng.

Tìm hiểu bố cục thư mục

.
├── providers/
│   ├── openai/
│   ├── google/
│   ├── anthropic/
│   ├── xai/
│   ├── perplexity/
│   └── others/
├── agents/
│   ├── cursor/
│   ├── windsurf/
│   ├── devin/
│   ├── manus/
│   └── replit/
├── prompts/
├── tools/
├── research/
├── documentation/
└── README.md

Nghiên cứu mô hình theo từng nhà cung cấp được sắp xếp trong providers/, còn tài liệu về lập trình và tác nhân tự chủ được nhóm trong agents/. Các bản ghi liên quan đến nhiều chủ đề có thể xuất hiện trong prompts/, tools/, research/ hoặc documentation/. Cấu trúc có thể phát triển khi dự án mở rộng.

Cách sử dụng cơ bản: Nghiên cứu một hệ thống AI

Bước 1: Chọn nhà cung cấp hoặc tác nhân

Bắt đầu bằng cách xác định nền tảng bạn muốn nghiên cứu. Với nhà cung cấp mô hình, hãy xem thư mục tương ứng trong providers/. Với tác nhân AI lập trình hoặc phát triển phần mềm, hãy bắt đầu trong agents/.

Bước 2: Xác định bản ghi

Trước khi diễn giải một mục, hãy xác định tên mô hình hoặc hệ thống, phiên bản và ngày tháng. Một lời nhắc được thu thập từ một phiên bản hoặc môi trường không nên mặc nhiên được xem là cấu hình hiện tại của mọi lần triển khai.

Hệ thống: Example AI
Phiên bản: v2.1
Ngày: 2026-10-02

Bước 3: Phân tách các lớp chỉ dẫn

Phân loại tài liệu hiện có theo vai trò. Ví dụ, phân biệt hành vi ở cấp hệ thống với hướng dẫn ứng dụng, chính sách và định nghĩa công cụ. Điều này giúp giảm nguy cơ gán một quy tắc dành riêng cho ứng dụng cho mô hình nền tảng.

• Tài liệu có xác định danh tính hoặc hành vi chung của trợ lý không?
• Có vẻ như tài liệu xuất phát từ một ứng dụng cụ thể không?
• Tài liệu có mô tả khung từ chối, an toàn, đạo đức hoặc chính sách không?
• Tài liệu có xác định các công cụ có thể gọi hoặc các khả năng được hỗ trợ không?
• Tài liệu có bao gồm các quan sát thay vì hướng dẫn nguyên văn không?

Bước 4: Kiểm tra Nguồn và Bối cảnh

Xem xét cách thông tin được thu thập. Tài liệu trong kho có thể đến từ các giao diện công khai, tài liệu hiện có, nghiên cứu hành vi hoặc bảo mật, nghiên cứu kỹ thuật đảo ngược, đóng góp cộng đồng, hồ sơ lịch sử hoặc các nguồn công khai khác.

Hãy xem nguồn có hỗ trợ cho nhận định đó không và mục ghi chép có giữ đủ bối cảnh để diễn giải không. Các chi tiết quan trọng gồm giao diện được sử dụng, ngày thu thập, phiên bản mô hình và mọi điều kiện môi trường liên quan.

Bước 5: Phân loại Bằng chứng

Không nên coi mọi bản ghi đều có mức độ chắc chắn như nhau. Gắn nhãn cho tài liệu theo những gì bằng chứng hỗ trợ:

• Đã xác nhận: Được nguồn đáng tin cậy hoặc quan sát có thể kiểm chứng hỗ trợ trực tiếp.
• Đã quan sát: Hành vi được ghi nhận cùng bối cảnh thu thập rõ ràng.
• Được tái dựng: Được lắp ghép hoặc chỉnh sửa thay vì được bảo tồn dưới dạng nguyên bản.
• Suy luận: Kết luận rút ra từ hành vi hoặc bằng chứng chưa đầy đủ.
• Giả định: Khả năng chưa được kiểm chứng.

Những phân loại này là cách thực tế để đáp ứng yêu cầu của kho: phân biệt thông tin đã xác nhận với giả định, nội dung tái dựng và suy đoán.

Bước 6: Liên hệ Hướng dẫn với Hành vi

Sau khi phân loại bằng chứng, hãy xem xét các hướng dẫn được ghi chép có thể ảnh hưởng đến hành vi quan sát được như thế nào. Tìm các quy tắc chi phối giọng điệu, tính cách, hạn chế, từ chối, chuyển hướng, lựa chọn công cụ, cấu trúc đầu ra hoặc cách xử lý an toàn.

Một phân tích cẩn trọng cần nêu rõ những gì bản ghi cho thấy mà không khẳng định rằng bản ghi đó giải thích mọi phản hồi từ nền tảng.

Quy trình Nghiên cứu Ví dụ

Giả sử bạn đang so sánh hành vi công cụ giữa hai phiên bản của một tác nhân AI. Hãy thực hiện theo quy trình sau:

1. Tìm bản ghi dành riêng cho cả hai phiên bản.
2. Xác nhận ngày thu thập và nguồn.
3. Chỉ trích xuất các định nghĩa công cụ và mô tả khả năng đã được ghi chép.
4. Ghi lại những khác biệt về tên công cụ, tham số hoặc hành vi được nêu.
5. Tách biệt khác biệt trực tiếp trong văn bản với các kết luận suy ra qua kiểm thử.
6. Lưu lại ghi chú về giao diện và môi trường.
7. Đối chiếu các phát hiện quan trọng với nguồn gốc bất cứ khi nào có thể.

Hệ thống: Tác nhân Ví dụ
Phiên bản: 2.1
Ngày: 2026-10-02
Nguồn: Tài liệu tham khảo hoặc tài liệu công khai
Bối cảnh: Được quan sát qua giao diện có thể truy cập công khai
Phát hiện: Định nghĩa công cụ hoặc nội dung hướng dẫn
Trạng thái: Đã xác nhận, đã quan sát, được tái dựng, suy luận hoặc giả định
Ghi chú: Các giới hạn liên quan và chi tiết so sánh

Đóng góp Phát hiện

Các đóng góp có thể bao gồm nội dung trích xuất mới, system prompt, định nghĩa công cụ, bản sửa tài liệu hoặc phát hiện nghiên cứu. Một đóng góp hữu ích cần có đủ siêu dữ liệu để nhà nghiên cứu khác hiểu và đánh giá.

Bản ghi Đóng góp Được Khuyến nghị

Tên Mô hình hoặc Hệ thống:
AI Ví dụ v2.1

Phiên bản:
v2.1

Ngày Trích xuất:
2026-10-02

Nguồn:
Nguồn hoặc tài liệu tham khảo

Thông tin Đã Trích xuất:
Prompt, hướng dẫn, định nghĩa công cụ hoặc cấu hình liên quan

Bối cảnh:
Cách thức và nơi thông tin được thu thập

Ghi chú:
Các giới hạn, quan sát và phân loại bằng chứng

Trước khi Gửi

1. Xác minh thông tin kỹ lưỡng nhất có thể.
2. Xác định phiên bản mô hình hoặc hệ thống khi có thể.
3. Đưa vào ngày thu thập hoặc trích xuất.
4. Bảo toàn bối cảnh ban đầu.
5. Thêm các nguồn liên quan.
6. Phân biệt sự thật đã xác nhận với suy luận hoặc suy đoán.
7. Không trình bày prompt được tái dựng hoặc chỉnh sửa như bản gốc chính thức.
8. Loại bỏ thông tin cá nhân, thông tin xác thực, bí mật xác thực và dữ liệu nhạy cảm khác.

Chất lượng, độ chính xác và bối cảnh có giá trị hơn việc chỉ đơn giản thêm nhiều mục hơn.

Mẹo Nghiên cứu Nâng cao

Theo dõi Thay đổi theo Thời gian

Hãy coi ngày và phiên bản là dữ liệu nghiên cứu cốt lõi thay vì siêu dữ liệu tùy chọn. Việc so sánh các bản ghi theo phiên bản có thể cho thấy hướng dẫn, chính sách và công cụ thay đổi như thế nào, nhưng không chứng minh được lý do thay đổi. Giữ sự khác biệt thực tế tách biệt với diễn giải.

Bảo toàn Văn bản Gốc

Khi trích dẫn tài liệu đã được ghi chép, hãy giữ nguyên cách diễn đạt và định dạng ban đầu trong phạm vi thực tế. Đặt phần bình luận vào một mục riêng để người đọc có thể phân biệt tài liệu nguồn với phần phân tích.

Sử dụng Nhiều Nguồn

Đối chiếu các nhận định quan trọng với tài liệu gốc và những tài liệu tham khảo công khai khác. Một bản ghi lịch sử hoặc do cộng đồng cung cấp có thể không đại diện cho hệ thống hiện tại.

So sánh Tương đồng

Khi so sánh các hệ thống, hãy kiểm soát phiên bản, ngày, giao diện, ứng dụng, các công cụ khả dụng và môi trường tài khoản. Khác biệt giữa các ứng dụng có thể xuất phát từ hướng dẫn của nhà phát triển hoặc cấu hình công cụ thay vì từ mô hình nền tảng.

Làm cho Phát hiện Có thể Tái lập

Ghi lại đủ thông tin về phương pháp để một nhà nghiên cứu khác có thể hiểu cách tạo ra quan sát đó. Hãy bao gồm hệ thống, phiên bản, ngày, nguồn, bối cảnh và các hạn chế, nhưng tuyệt đối không để lộ bí mật hoặc thông tin cá nhân nhạy cảm.

Sử dụng ngôn ngữ thận trọng

Ưu tiên các phát biểu chính xác như mục đã lưu trữ ghi nhận, giao diện được quan sát hiển thị hoặc bằng chứng cho thấy. Tránh khẳng định rằng một bản ghi là hiện hành, đầy đủ hoặc chính thức, trừ khi bằng chứng hỗ trợ xác lập kết luận đó.

Nghiên cứu có trách nhiệm và các hạn chế

Kho lưu trữ này предназнача cho nghiên cứu, giáo dục, phân tích, tài liệu hóa và tính minh bạch. Việc sử dụng có trách nhiệm bao gồm tôn trọng quyền riêng tư, pháp luật hiện hành, điều khoản của nền tảng và các thông lệ công bố thông tin bảo mật phù hợp.

• Không công bố thông tin cá nhân.
• Không để lộ thông tin xác thực hoặc bí mật xác thực.
• Gắn nhãn rõ ràng cho thông tin được suy luận hoặc tái dựng.
• Bảo toàn bối cảnh liên quan và tham chiếu nguồn.
• Báo cáo có trách nhiệm các phát hiện nhạy cảm về bảo mật.
• Khi có thể, hãy xác minh thông tin quan trọng với các nguồn gốc.

Kho lưu trữ này không khẳng định rằng mọi hướng dẫn được ghi chép đều là cấu hình hiện hành hoặc chính thức của một nền tảng. Các sản phẩm AI có thể thay đổi mà không báo trước, và một mục có thể chỉ áp dụng cho một phiên bản, giao diện, môi trường tài khoản hoặc thời điểm cụ thể.

Kết luận

AI Systems Transparency and Observability cung cấp một điểm khởi đầu có cấu trúc để xem xét các lớp chỉ dẫn ẩn đằng sau hành vi của AI. Hãy sử dụng kho lưu trữ bằng cách tìm các bản ghi liên quan, kiểm tra phiên bản và ngày tháng, tách biệt các lớp chỉ dẫn, xác thực nguồn và phân biệt bằng chứng với suy luận. Khi đóng góp, hãy ưu tiên tính chính xác, khả năng tái lập, bối cảnh, quyền riêng tư và công bố có trách nhiệm.