Cách sử dụng bộ sưu tập prompt AI Jailbreaks để nghiên cứu mô hình

Dự án này làm gì

AI Jailbreaks là bộ sưu tập được tuyển chọn gồm 35 prompt hoàn chỉnh, sẵn sàng dán, nhắm đến hơn 25 mô hình AI. Kho lưu trữ ghi lại các system prompt, định nghĩa persona, chính sách workspace, tệp AGENTS.md, khối cấu hình và Ollama Modelfile.

Mục đích của dự án là nghiên cứu và giáo dục: tìm hiểu cách việc định hình persona, thứ bậc chỉ dẫn, xung đột prompt và các cơ chế ghi đè chính sách có thể ảnh hưởng đến hành vi của mô hình. Những khái niệm này cũng hữu ích khi phát triển biện pháp phòng vệ trước prompt injection.

Hãy sử dụng bộ sưu tập một cách có trách nhiệm. Không sử dụng các tài liệu này để gây hại cho người khác, vi phạm pháp luật hoặc vi phạm điều khoản dịch vụ của nhà cung cấp.

Khám phá bộ sưu tập

Kho lưu trữ sắp xếp các prompt theo dòng mô hình và định dạng triển khai. Các mục tiêu hiện có gồm các mô hình ẩn OpenCode Zen, Claude, GLM và ZCode, DeepSeek, Kimi, Grok, Gemini, Mistral, Qwen, Gemma và GPT-OSS.

• OpenCode Zen: đặc tả vận hành, khóa persona và hồ sơ workspace.
• Claude: các biến thể prompt cho Opus và Sonnet.
• GLM và ZCode: system prompt và tệp bổ sung AGENTS.md.
• DeepSeek và Kimi: system prompt và hồ sơ vận hành workspace.
• Grok: chỉ dẫn cho agent, hướng dẫn xây dựng ứng dụng và một tệp cấu hình.
• Gemini, Mistral và Qwen: chính sách vận hành và system prompt.
• Ollama: Modelfile cho Gemma 4 và GPT-OSS 20B.

Hãy bắt đầu với bộ sưu tập của kho lưu trữ, sau đó chọn tệp phù hợp với cả mô hình của bạn và lớp chỉ dẫn được ứng dụng hỗ trợ.

Chọn đúng định dạng prompt

System Prompt

Sử dụng các tệp system prompt trong client hoặc API có cung cấp system message, trường custom instructions, khối chỉ dẫn agent hoặc cấu hình prompt ở cấp harness. Hãy sao chép toàn bộ nội dung tệp thay vì dùng bản tóm tắt hoặc trích đoạn.

Tệp AGENTS.md

Đối với các tệp được thiết kế rõ ràng để bổ sung dưới dạng AGENTS.md, hãy lưu tệp với đúng tên đó trong thư mục gốc của kho lưu trữ hoặc workspace. Khi đó, coding agent và các công cụ tương thích có thể tải tệp này dưới dạng chỉ dẫn cấp dự án.

Chính sách Workspace

Các tệp được mô tả là đặc tả vận hành của trợ lý hoặc hồ sơ vận hành workspace phù hợp với những môi trường hỗ trợ chỉ dẫn toàn cục lâu dài. Ví dụ, một bản cài đặt OpenCode đọc:

~/.config/opencode/AGENTS.md

Vị trí chính xác phụ thuộc vào client hoặc harness, vì vậy hãy kiểm tra tài liệu của công cụ trước khi triển khai chính sách workspace.

Ollama Modelfile

Các mục Ollama chứa khai báo FROM và một khối SYSTEM. Truyền trực tiếp tệp cho Ollama bằng một lệnh như:

ollama create gemma4-jb -f gemma4.md

Thay đổi tên mô hình và tệp nguồn khi cần cho Modelfile bạn đang kiểm thử.

Cấu hình Grok

grok-config.txt được dùng cho trường cấu hình của harness mục tiêu, không phải phần nhập hội thoại thông thường. Khi thiết lập kiểm thử, hãy xử lý các tệp cấu hình khác với prompt thông thường.

Quy trình sử dụng cơ bản

1. Chọn mục tiêu. Duyệt bộ sưu tập và chọn mô hình hoặc dòng mô hình bạn muốn đánh giá.
2. Xác định định dạng. Đọc mô tả tệp và xác định tệp đó thuộc system prompt, AGENTS.md, chính sách workspace, Ollama Modelfile hay trường cấu hình.
3. Đọc toàn bộ tệp. Mỗi mục trong kho lưu trữ được thiết kế đầy đủ và sẵn sàng dán. Hãy xem xét tệp trước khi áp dụng vào dịch vụ bên ngoài hoặc môi trường cục bộ.
4. Áp dụng trong một bài kiểm thử biệt lập. Khi có thể, hãy sử dụng workspace dùng một lần, tài khoản kiểm thử hoặc mô hình cục bộ, đồng thời tránh để lộ dữ liệu nhạy cảm.
5. Ghi lại kết quả. Ghi chú phiên bản mô hình, client, tên tệp và hành vi quan sát được để có thể tái lập kết quả.

Ví dụ: Áp dụng System Prompt

Đối với API hoặc chatbot có trường chỉ dẫn hệ thống, hãy mở một tệp liên quan như deepseek-v3.md, sao chép toàn bộ nội dung và đặt vào trường cấp hệ thống. Sau đó gửi một yêu cầu đánh giá vô hại và so sánh kết quả với hành vi mặc định của mô hình.

system: [contents of the selected repository prompt]
user: Summarize the following test document and identify its assumptions.

Kho lưu trữ không quy định một lệnh client chung vì giao diện system prompt khác nhau giữa các nhà cung cấp và ứng dụng.

Ví dụ: Áp dụng tệp AGENTS.md

Đối với tệp dành riêng cho agent, hãy tải xuống hoặc sao chép mục đã chọn vào thư mục gốc của một dự án kiểm thử và đặt tên là AGENTS.md. Chạy coding agent tương thích từ dự án đó, sau đó xác minh rằng công cụ nhận diện tệp này là chỉ dẫn cấp dự án.

project/
├── AGENTS.md
└── README.md

Mẹo đánh giá nâng cao

Theo dõi phiên bản và ngữ cảnh

Hành vi của prompt phụ thuộc vào phiên bản. Mô hình được cập nhật, thứ bậc chỉ dẫn thay đổi và system prompt có thể được luân phiên. Luôn ghi lại bản phát hành mô hình, client hoặc harness, tên tệp prompt và ngày kiểm thử.

So sánh các lớp chỉ dẫn

Cùng một đoạn văn bản có thể hoạt động khác nhau khi được đặt trong system message, chính sách workspace, AGENTS.md hoặc ô cấu hình. Chỉ kiểm thử các lớp được môi trường mục tiêu hỗ trợ và giữ các kết quả đó riêng biệt.

Sử dụng các bài kiểm thử có kiểm soát, vô hại

Đánh giá tính nhất quán bằng các tác vụ vô hại như tóm tắt, định dạng, tuân thủ vai trò hoặc các tình huống về mức độ ưu tiên của chỉ dẫn. Không đưa vào thông tin xác thực riêng tư, tài liệu mật hoặc yêu cầu hoạt động bất hợp pháp hay gây hại.

Kiểm tra các mục đã lỗi thời

Nếu một prompt không còn hoạt động như được ghi chép, hãy đối chiếu mô hình và môi trường với các ghi chú trong kho lưu trữ. Người bảo trì yêu cầu một issue chứa mô hình, phiên bản, tệp bị ảnh hưởng và hành vi quan sát được.

Duy trì các thay đổi cục bộ có thể tái lập

Khi kiểm thử nhiều tệp, hãy sử dụng quy ước đặt tên rõ ràng và giữ lại tệp gốc trong kho lưu trữ. Điều này giúp xác định dễ dàng hơn liệu kết quả xuất phát từ prompt, bản cập nhật mô hình hay thay đổi trong bộ khung kiểm thử xung quanh.

Đóng góp prompt mới

Các pull request được hoan nghênh khi tuân theo quy ước của kho lưu trữ:

1. Sử dụng một prompt cho mỗi tệp.
2. Đặt tên tệp bằng chữ thường và dấu gạch ngang, không có khoảng trắng, chẳng hạn như model-name.md.
3. Bao gồm prompt đầy đủ, sẵn sàng để dán, thay vì bản tóm tắt hoặc trích đoạn.
4. Ghi rõ prompt thuộc về đâu: trường hệ thống, AGENTS.md, Modelfile, vị trí cấu hình hoặc một bề mặt chỉ dẫn khác.
5. Tạo tệp mới có phiên bản cho các bản sửa đổi đáng kể, chẳng hạn như opus-v3.md, thay vì âm thầm ghi đè phiên bản cũ.
6. Chỉ đưa ra tuyên bố về khả năng tương thích khi bạn đã kiểm thử chúng.

Khi báo cáo sự cố, hãy nêu mô hình, phiên bản, tệp bị ảnh hưởng và mô tả ngắn gọn về hành vi đã thay đổi.

Kết luận

AI Jailbreaks cung cấp tài liệu tham khảo có cấu trúc để nghiên cứu hành vi của prompt trên nhiều dòng mô hình và môi trường triển khai. Để sử dụng hiệu quả, hãy chọn đúng định dạng tệp, áp dụng prompt trong môi trường biệt lập và được cấp phép, ghi lại chính xác bối cảnh mô hình, đồng thời xem kết quả là phụ thuộc vào phiên bản. Việc kiểm thử có trách nhiệm có thể hỗ trợ cả đánh giá mô hình lẫn tăng cường khả năng phòng vệ trước hành vi chèn prompt.