《计算机科学与工程系前沿讲座》危学涛 长聘副教授（研究员）："龙虾"是"好吃"，但也得"洗干净"! —AI伦理与安全（Safety）的探索与思考

以下内容根据公开信息整理，并经大模型处理生成，可能存在疏漏或误差，请以实际信息为准。

• 题目: "龙虾"是"好吃"，但也得"洗干净"! —AI伦理与安全（Safety）的探索与思考
• 主讲人：危学涛 长聘副教授（研究员） @ 南方科技大学计算机科学与工程系
• 时间：2026年4月17日 16:20-18:10
• 地点：南方科技大学智华楼 208

主讲人简介

危学涛，南方科技大学计算机科学与工程系长聘副教授（研究员）、博士生导师。承担国家重点研发计划、国家自然科学基金、广东省科技厅等科研项目10余项，已在CCF-A类、IEEE Transactions等高水平会议和期刊发表学术论文120余篇。当前研究方向包括AI伦理与安全（Safety）、大模型与智能体。

讲座简介

生成式AI技术的飞速演进，正推动智能体（AI Agent）实现能力跃迁—OpenClaw “龙虾”等开源智能体框架即是这一进程的典型缩影。其应用已从对话、日程管理等基础场景，拓展至具身智能、科学智能等前沿方向，并深入智慧医疗、智能制造、智能驾驶、智慧教育等社会关键领域，呈现出从“数字大脑”向“物理实体”与“行业专家”全面跃迁的态势。然而，随着智能体智能化水平和自主决策能力的显著提升，在带来效率革命的同时，也因其深度介入人类社会的核心领域而暴露出显性与隐性交织的安全（Safety）风险，既涉及内容安全，也关乎行为安全，其中防护机制对隐性风险的缺失更凸显了治理困境。本次报告将结合WEI Lab的研究实践，从生成式人工智能所涌现的“隐性风险”出发，探讨安全风险“漏网之鱼”的隐蔽性，“防不胜防”的复杂性，治理方法上“顾此失彼”的现实困境，以及治理路径的“三管齐下”的系统性思考。最后，提出并介绍“A因工程”（Agent Factors Engineering）这一新概念，聚焦于智能体与协作系统间的效能与安全问题，旨在促进智能体与协作系统的协同效应，确保技术创新在提升生产效率的同时，也能符合伦理规范并创造广泛的社会效益，为构建可信的AI文化生态寻求理论支撑与技术路径。

海报链接