Automatic Attack Discovery for Few-Shot Class-Incremental Learning via Large Language Models

文章总结与翻译一、主要内容该研究聚焦少样本类增量学习（FSCIL）的安全问题，针对现有人工设计攻击方法（如FGSM、PGD）依赖专家知识、攻击效果差、成本高的缺陷，提出了一种基于大语言模型（LLMs）的自动攻击发现框架ACraft。核心背景FSCIL需在少量样本下增量学习新类别并避免基础类灾难性遗忘，在实际场景中应用广泛，但相关安全漏洞尚未得到充分研究。传统攻击方法存在三大问题：依赖专家知识导致开发成本高、难以适应FSCIL模型动态演化的决策边界、未考虑少样本数据稀疏性导致攻击不稳定。核心框架ACraft三大核心组件对抗算法生成器：由LLM根据提示生成攻击策略（自然语言解释）及可执行代码，支持三种生成函数（创建全新算法的Genesis函数、优化现有算法的Refine函数、融合多算法优势的Synthesis函数）。攻击效果评估器：通过多属性效用函数计算攻击算法的适应度分数，平衡攻击效果（基础类与新类性能下降幅度）和计算成本。PPO-based进化控制器：以适应度分数为奖励信号，通过近端策略优化稳定更新策略，指导LLM迭代优化攻击算法。闭环工作流程：初始化生成初始攻击算法种群→控制器采样生成新攻击算法→评估器计算适应度→基于PPO更新策略→筛选最优算法迭代，直