大模型越狱模板（Jailbreak Template）数据集构建与应用指南

1. 大模型越狱模板数据集是什么？

你可能听说过"越狱"这个词，通常是指绕过设备的限制获取更高权限。在大模型领域，越狱模板（Jailbreak Template）就是一些特殊的提示词或对话模板，能够绕过AI系统的安全限制，让模型输出它本不该输出的内容。比如让一个被设定为"友善助手"的AI说出一些危险言论，或者泄露训练数据等。

这些模板对研究人员来说其实很有价值。通过收集和分析这些模板，我们可以：

• 发现模型的安全漏洞
• 训练更强大的防御机制
• 提升AI系统的整体安全性

我去年参与过一个开源安全项目，就深深体会到越狱模板数据集的重要性。当时我们发现，很多看似无害的提示词组合在一起，就能让模型"破防"。这促使我们开始系统性地收集这类模板。

2. 如何构建越狱模板数据集？

2.1 数据来源的四大渠道

根据我的经验，越狱模板主要来自以下几个渠道：

1. 学术研究论文：像GPTFuzzer这类论文通常会公开他们使用的测试模板。我最近整理的DAN(CCS24)数据集就是从论文中提取的1405个模板。

2. 开源安全项目：GitHub上有不少AI安全项目会收集越狱案例。比如UltraSafety项目就提供了830个模板，不过需要注意去重。

3. 自动化测试工具：像WildJailbreak这样的自动红队测试框架，能生成5700多个测试用例。这类数据量很大，但质量参差不齐。

4. 社区众包：一些安全社区会鼓励用户提交发现的越狱方法。这类数据最具多样性，但也最需要严格审核。

2.2 数据清洗与去重实战技巧

收集来的原始数据往往存在大量重复和噪声。这里分享几个我常用的处理方法：

python复制# 使用simhash进行文本去重
from simhash import Simhash

def get_features(s):
    width = 3
    s = s.lower()
    s = re.sub(r'[^\w]+', '', s)
    return [s[i:i + width] for i in range(max(len(s) - width + 1, 1))]

def deduplicate(texts, threshold=0.85):
    uniq