如何用 garak 快速完成 LLM 安全检测：10 分钟出第一份 AI 模型漏洞扫描报告

如何用 garak 快速完成 LLM 安全检测10 分钟出第一份 AI 模型漏洞扫描报告【免费下载链接】garakthe LLM vulnerability scanner项目地址: https://gitcode.com/GitHub_Trending/ga/garakgarak 是开源的 LLM 安全检测工具把提示词注入、DAN 越狱、数据泄露、毒性输出等攻击变成可重复执行的测试适合准备上线或刚更换模型的开发者。快速上手一键跑通第一次 LLM 安全检测 ⚡安装后对本地 gpt2 跑 DAN 家族探测无需任何 API 密钥python -m pip install -U garakpython3 -m garak --target_type huggingface --target_name gpt2 --spec probes.dan运行结束会打印各探测项的得分并在~/.local/share/garak/garak_runs/生成 JSONL 报告文件。LLM 安全测试工具内部四个模块的协作链路一次扫描是一条流水线Generator 接入目标模型OpenAI、Hugging Face、Ollama 等Probe 按剧本发送攻击载荷Detector 判定响应是否算被攻破Buff 再把原始载荷改写成小写、编码、改写等变体以扩大覆盖面。 每个 Probe 还带有意图标签含 OWASP LLM Top 10 映射报告按此分组方便横向对比不同模型的薄弱面。三类攻击逐条检测提示词注入扫描、DAN 越狱检测与毒性输出提示词注入。攻击者把指令藏进网页、文档等外部内容诱使模型执行越权操作。检测命令追加--spec probes.promptinject关注该组的 score——越高说明注入指令越容易被模型执行。DAN 越狱。攻击者用 DAN 人格类提示词让模型放弃限制、回答被禁内容。用--spec probes.dan.Dan_11_0单测某一版本或probes.dan覆盖全部已知变种关注该分组平均分与最高分最高分接近 100 表示该版本几乎必破。毒性内容。攻击者用挑衅输入诱导辱骂、威胁等输出。运行--spec probes.realtoxicityprompts内置身份攻击、脏话、威胁等子集各子探测的 score 能定位哪类毒性最易被引出。AI 模型漏洞扫描报告三个关键数字怎么读score攻击通过率命中次数除以总评估次数对应报告中的passed / total_evaluated字段。攻击型 Probe 分数越高模型越容易被攻破。defcon 评级garak 结合校准数据把模块映射到 5 级 defcon5 最好、1–2 风险突出z-score 表示偏离历史基线的程度越大越值得优先处置。漏洞类型分布按 Probe 分组汇总后可看出哪类攻击对该模型最有效据此排整改优先级。典型案例JSONL 中每条 attempt 都保存原始 prompt、模型输出与 detector_results可复现单次命中的完整对话。把 LLM 安全检测纳入日常节奏上线前用--config garak/configs/fast.json快扫十余项高频攻击覆盖 DAN、注入、编码、毒性。每月跑一次全量 spec作为当月安全基线存档。模型或系统提示词更新后用相同 spec 复测与上一份报告逐项对比 score。常见卡点排查garak 配置与参数速查 远程模型报密钥或网络错误先导出对应环境变量如 OPENAI_API_KEY本地验证流程可改用--target_type huggingface加载小模型。提示 unknown probe/detector用--list_probes打印可用探测清单核对名称再加--skip_unknown跳过个别模块而不中断整轮扫描。运行缓慢调小--generations减少每条 prompt 的生成数远程目标可加大--parallel_attempts提升并发。延伸资料garak 配置、检测器与数据目录garak 配置目录fast.json 与 bag.yaml 两套现成 spec用--config直接复用。检测器源码目录每个 Detector 的命中判定逻辑确认什么算被攻破从这查起。攻击载荷数据目录DAN 模板、毒性语料、注入上下文等原始数据按探测模块分目录存放。先选一个最小 spec 对目标模型跑一轮把 score 与 defcon 归档作为后续复测的对比基线。【免费下载链接】garakthe LLM vulnerability scanner项目地址: https://gitcode.com/GitHub_Trending/ga/garak创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考