1277星际-XJ.1277.com|网站登陆

首页


  近日,在认知计算与群智协同创新实验室(CCCI)杨新教授和任灵飞博士(通讯作者)共同指导下,1277星际-XJ.1277.com|网站登陆2022级计算机科学与技术专业本科生陈瑾以共同第一作者完成的工作《LogicPoison: Logical Attacks on Graph Retrieval-Augmented Generation》被自然语言处理领域国际顶级会议ACL 2026主会录用。

  ACL是中国计算机学会(CCF)推荐的‌A类国际学术会议,是自然语言处理与计算语言学领域最具影响力的国际学术会议之一,在人工智能及自然语言处理领域享有较高学术声誉,主会录取率为19%。该会议计划于2026年7月2日-7日在美国加利福尼亚州圣地亚哥召开。

 该工作基于图的检索增强生成技术(GraphRAG),通过将大型语言模型(LLMs)的响应锚定于结构化知识图谱,显著提升了其推理能力。该技术依托社区检测与关系过滤技术,展现出对文本投毒、提示注入等传统RAG攻击的天然防御能力。本研究发现,GraphRAG系统的安全性本质上依赖于底层图结构的拓扑完整性。即使不改变表面文本语义,通过隐式破坏逻辑连接仍可削弱这种完整性。为利用该漏洞,提出了名为LogicPoison的新型攻击框架,其攻击目标直指逻辑推理而非注入虚假内容。具体而言,LogicPoison采用类型保持型实体交换机制,通过干扰全局逻辑枢纽破坏整体图连接性,并切断查询特定推理桥接以阻断关键多跳推理路径。该方法在保持文本表面可信度的同时,能将有效推理路径有效重定向至死胡同。多项基准测试实验表明,LogicPoison成功突破GraphRAG防御机制,不仅显著降低模型性能,其攻击效果与隐蔽性均超越当前最先进基线模型。

 CCCI实验室主页:https://ccci.swufe.edu.cn/

 CCCI微信公众号:


 联系邮箱:renlf@swufe.edu.cn 任老师


XML 地图