系统软件与安全实验室

复旦大学系统软件与安全实验室面向新生组织开展“系统安全专项实验课”

复旦白泽夏季运动会纪实

复旦大学系统软件与安全实验室对小程序模板化开发带来的安全风险进行了系统性研究，揭示了恶意行为借助模板大规模传播的现象，并开发了自动化检测工具加以识别。

团队提出了AgentGuard，一套面向工具调用型智能体的轻量级访问控制框架。AgentGuard 能够无缝集成到现有智能体系统中，用户可通过可视化界面，以表单化方式根据实际需求灵活配置安全规约；系统则对工具调用请求与安全规约进行匹配，对未授权或高风险调用进行识别与拦截，并完整记录执行轨迹，从而支持事后审计与安全溯源。

团队发表于 ICLR 2026 的工作 PRISON，首次系统研究了大模型在复杂社交博弈环境中的行为风险。研究发现：当模型面对利益冲突、信息不对称和生存压力时，它们不仅会“完成任务”，还可能表现出欺骗、推责、操控甚至策略性联盟等行为倾向。

5月27日，系统软件与安全实验室2026届毕业生学位论文答辩在复旦大学江湾校区交叉学科二号楼隆重举行。经过朝夕耕耘与不懈钻研，实验室多位博士和硕士研究生迎来了他们学术生涯的重要里程碑。让我们一起欢送他们顺利毕业，开启人生新旅程。

近日，张谧教授接受南都大数据研究院记者专访，聚焦AI智能体浪潮下的安全护栏治理问题，剖析大模型API在智能体应用场景中的安全风险，并对智能体时代的模型内生安全、权限管控与合规边界建设提出针对性的优化建议。

课题组自主研发的程序分析基础框架LIAN（莲花）中进一步拓展了鸿蒙隐私检测的能力，提出面向OpenHarmony应用的细粒度隐私泄漏检测框架HScope。HScope无需依赖应用源码，能够直接分析编译后的Ark字节码，并通过语义重建与抽象解释技术恢复程序行为，进而识别复杂UI交互、动态回调和组件间通信中潜在的敏感数据泄漏路径。

5月12日晚，杨珉教授受邀在邯郸校区逸夫楼一楼报告厅，以《人工智能安全与治理》为题面向全校师生进行了专题分享，吸引了众多师生线下到场聆听学习，现场学术氛围浓厚。本次讲座是第十二届“研究生心目中的好导师”评选系列专题讲座之一，同时也是校庆系列学术报告和未来智造（AI Agent）工程师训练营“智领未来”前沿讲坛活动系列。

我实验室鉴获得“2026数字中国创新大赛”移动互联网（APP）安全优秀案例征集赛金奖。