随着人工智能技术的飞速发展，软件工程正经历着前所未有的变革。过去独立发展的人工智能和软件工程两个学科，正逐渐走向交汇并形成新的研究领域。随着ai技术的崛起，我们见证着软件工程手段的变革，同时也在面对着其所带来的问题和挑战。
se4ai（software engineering for artificial intelligence）主要涉及应对人工智能实际应用的挑战所需要的软件工程方法与技术。se4ai提供了一个框架，确保ai系统的开发和维护过程中能够应用软件工程的原则和最佳实践，使得ai系统既能满足功能需求，又具有高度的可靠性、可维护性和可扩展性。随着ai技术的不断进步和应用的不断扩展，se4ai的研究和实践将对确保ai系统的质量和可靠性发挥关键作用，同时推动ai技术的健康发展和广泛应用。
论坛重点关注应对人工智能实际应用的挑战时可能采取的技术和方法，以及人工智能和软件工程交叉领域的理论、技术或实验等方面创新性、突破性的高水平研究成果，探讨其产业界的应用案例与发展前景。欢迎软件工程、信息安全、人工智能等学科的专家和学者以及所有感兴趣的同行们前来参加。
01
论坛组织委员会
邢颖（北京邮电大学）
石川（北京邮电大学）
张涛（澳门科技大学）
孙小兵（扬州大学）
李戈（北京大学）
02
论坛议程
03
论坛报告嘉宾简介
沈超
报告题目：ai测评与修复：从智能到智能供应链安全
报告摘要：
随着智能化及大模型软件与系统的蓬勃发展，其依靠的智能供应链安全隐患日益凸显。然而，传统测评方法无法有效应对复杂安全挑战时。例如，决策机理的不透明性导致模型解释性差，高置信度下的缺陷暴露了系统在关键任务中的脆弱性。本报告将从智能供应链的组件结构出发，从底层智能组件到上层任务数据，围绕保密性、完整性与隐私性的安全维度，全流程分析智能供应链安全与隐私保护所面临的安全隐患和挑战。本报告聚焦于智能供应链底层框架的漏洞发掘、智能模型的评估修复、模型分发的质量测试、智能软件的安全攻防、以及任务数据的生成筛选。旨在发现并分析智能供应链安全和隐私风险，推动智能化及大模型软件系统的安全应用与可持续发展。
报告人简介：
沈超，西安交通大学人才办副处长、二级教授，教育部长江学者特聘教授，教育部创新团队负责人，信息物理系统教育部工程中心主任，国家优秀青年科学基金获得者，国家重点研发计划首席科学家，国防基础加强计划首席科学家，重点研发计划“先进计算与新兴软件”重点专项指南专家组成员。主要从事智能系统可信、安全、控制与测试的研究工作，发表安全四大、ai、控制等领域刊物180余篇，获最佳论文奖9次。牵头获2项省部级科学技术一等奖、科学探索奖、达摩院青橙奖、霍英东青年教师一等奖、mit tr35 china、ieee smc early career award等。主持国家重大、重点、国际(地区)合作等项目30余项，制定国内外标准5项，多份建言被中央办公厅等采纳。担任ieee tdsc、tcyb汇刊等10余个国际期刊编委、ieee xi'an smc&cs主席、acm sigsac china副主席、中国人工智能学会组织工委副主任等。
裴丹
报告题目：智能化软件中的时间序列智能
报告摘要：
在“软件定义一切”时代，智能化软件关键挑战之一是如何有效结合“白盒”的软件与“黑盒”的人工智能。时间序列智能，作为感知、认知真实世界的运行状态、并决策的通用人工智能技术的一部分，是解决上述挑战的一个关键技术。但是，它具有多领域、多任务（预测、异常检测、分类、因果推断等）、多细分模态（一元、多元、图结构、表结构等）的特点，对传统时序机器学习方法带来巨大挑战，导致其在现实中往往无法即插即用、落地困难。本报告将分享软件工程领域的时间序列智能“小模型”和基础模型的近期研究进展和落地应用，并探讨如何训练面向通用领域的、即插即用、低成本推理的时间序列基础模型，以更好支撑“软件定义一切”。
报告人简介：
裴丹，清华大学计算机系长聘副教授、博士生导师。主要研究方向是基于机器学习的智能运维（aiops)和网络时间序列智能。在智能运维领域发表了200余篇学术论文和30多项专利授权，google学术引用过万次。获中国电子学会科技进步一等奖。他是ccf国际aiops挑战赛的创办者和ccf openaiops社区发起人，其中挑战赛已成功举办七届。担任计算机网络领域旗舰期刊ieee/acm transactions on networking 编委，并曾担任ieee计算机网络领域旗舰会议icnp 2022的技术程序委员会主席。
黎立
报告题目：大模型推理优化初探
报告摘要：
大语言模型受到学术界和工业界的广泛关注，在大量领域展现出超强的潜力并被广泛应用。然而，大语言模型的落地应用受到其较大的挑战，尤其是在推理侧面临推理资源开销限制、推理时延限制、安全风险等问题。本次分享从软件工程方法角度入手，探讨解决前述挑战问题的前沿思路，分享提升大模型推理能力的初步实践结果。
报告人简介：
黎立，北京航空航天大学教授，国家级青年人才，荣获2024ieee tcse新星奖（首位华人），2023年acm北京新星奖，2023年msr ric holt青年研究成就奖，2020年澳大利亚优秀青年研究奖（decra），曾被评为全球前三最具影响力的青年软件工程研究人员。研究兴趣为智能程序分析与移动软件工程，累计发表高水平期刊和会议论文150余篇，谷歌学术引用超8500次（h-index为46），获得最佳/杰出论文奖励10项，包括2项acm sigsoft杰出论文奖、2项ieee tcse杰出论文奖、1项acm sigplan杰出论文奖等。受邀担任中科院一区期刊（acm computing survey）编委以及包括tosem、tse、icse、esec/fse、ase、issta在内的ccf a类期刊和国际会议的审稿人，多次受邀在国际会议上作特邀报告。
陈俊洁
报告题目：深度学习系统回归缺陷的检测与修复
报告摘要：
与传统软件开发相似，深度学习系统的开发同样是一个持续不断的过程。开发者需要不断迭代升级系统，以满足日益增长的用户需求并不断适配新的应用场景，这一过程也被称作软件系统的演化。深度学习系统的演化已经成为常态，值得注意的是，在演化过程中也有可能引入回归缺陷，从而影响模型的性能。回归缺陷经常被开发者忽视，却有可能造成严重的影响。针对这一问题，高效地检测并修复深度学习系统在演化过程中引入的回归缺陷至关重要。基于此，本次报告将介绍深度学习系统的演化以及回归缺陷相关内容，涵盖深度学习系统的回归缺陷检测技术drfuzz，以及回归缺陷修复技术feaprotect。
报告人简介：
陈俊洁，天津大学智能与计算学部教授，软件工程团队负责人，博士生导师，国家优青项目获得者，博士毕业于北京大学；研究方向主要为基础软件测试、可信人工智能、数据驱动的软件工程等；入选中国科协青年人才托举工程、斯坦福大学发布的全球前2%顶尖科学家年度榜单，荣获ccf优博、电子学会自然科学一等奖、六项最佳/杰出论文奖等奖项；成果在华为、百度等多家知名企业落地；担任ccf系统软件专委常委，ccf 218club副主席，ccf 118club执行委员，以及ccf-a类会议ase评审过程主席，icse、fse、ase、issta等顶会pc。
黄延胜
报告题目：大模型的测试与测评
报告摘要：
随着人工智能的发展，各类大模型层出不穷，能力也各有千秋，如何评估这些大模型的能力是一个行业里普遍重视的问题。海内外有非常多的测试测评工具，能力各有不同，缺乏标准与清晰的定制体系。本报告将介绍行业里流行的大模型测试测评体系，介绍其中的数据维护、验证标准和优缺点。并提出一种通用的大模型测试测评方法与工具。报告将对大模型的测试测评方法进行总结，并提出改进的设计方案，帮助行业更加准确的完成大模型系统的测试与测评。
报告人简介：
黄延胜，霍格沃兹测试开发学社创始人，测吧（北京）科技有限公司cto。15年以上软件测试从业经验的，先后工作于阿里巴巴、百度等名企。主要研究方向为自动化测试、ai测试应用、ai系统测试。在公司内部负责开发自动化测试智能体、ai测试平台、ai测试测评体系，所开发的方案在多家公司完成了项目应用并获得了良好的效果。
邢颖
报告题目：大模型安全评估技术研究：从提示词攻击引发的大模型系统及应用安全风险
报告摘要：
随着大模型的快速发展，提示词作为大模型的输入形式，成为研究重点。构造好的提示词，可以提升大模型使用效果，使大模型能够更好的完成特定任务。然而，攻击者通过精心设计恶意提示词，可以引导大模型输出不正确或不恰当的内容，影响集成大模型的应用程序正常运行，甚至会泄露重要数据，影响系统安全。因此，通过提示词对大模型进行安全测评很有必要。本报告将分享通过系统性地构建安全风险提示词，进行大模型安全评估的研究进展，并探讨如何有效评测大模型面对恶意提示词时的安全性，从而发现大模型面临的安全问题，促进大模型安全性的提升。
报告人简介：
邢颖，北京邮电大学副教授、博士生导师，ccf高级会员、软件工程专委会执行委员。主要研究方向为软件质量保证、网络空间安全、人工智能安全。主持国家自然科学基金、ccf-绿盟科技“鲲鹏”科研基金项目及其他部委项目多项，并承担了多个国家重点研发计划、国家自然科学基金等国家及省部级项目，申请专利10余项，出版专著《源代码分析》、《面向对象软件工程》等。在信息安全和人工智能领域知名期刊和会议上发表论文80余篇。2022、2023先后在中国软件大会“面向可解释人工智能的软件工程方法与技术”、“生成式ai与软件自动化”论坛担任主席。
04
论坛组织委员会简介
论坛主席：邢颖
个人简介：
邢颖，北京邮电大学副教授、博士生导师，ccf高级会员、软件工程专委会执行委员。主要研究方向为软件质量保证、网络空间安全、人工智能安全。主持国家自然科学基金、ccf-绿盟科技“鲲鹏”科研基金项目及其他部委项目多项，并承担了多个国家重点研发计划、国家自然科学基金等国家及省部级项目，申请专利10余项，出版专著《源代码分析》、《面向对象软件工程》等。在信息安全和人工智能领域知名期刊和会议上发表论文80余篇。2022、2023先后在中国软件大会“面向可解释人工智能的软件工程方法与技术”、“生成式ai与软件自动化”论坛担任主席。
论坛主席：石川
个人简介：
石川，北京邮电大学计算机学院教授、教育部长江学者特聘教授。主要研究方向: 数据挖掘、机器学习、人工智能和大数据分析。近5年以第一作者或通讯作者在ccf a类期刊和会议发表论文60余篇，中英文专著六部，连续入选爱思唯尔高被引学者；授权发明专利30余项，相关研究成果应用于阿里、蚂蚁、腾讯、华为、美团等公司。研究成果获得电子学会科技进步一等奖和北京市自然科学二等奖等奖项。
论坛主席：张涛
个人简介：
张涛博士，澳门科技大学计算机科学与工程学院副教授、acm/ieee/ccf高级会员，粤港澳高校区块链联盟秘书长。主要研究方向包括智能化软件工程、软件安全、智能合约漏洞检测等。发表论文100余篇，论文谷歌学术引用超过2600次，h指数为30。主持国家自然科学基金、澳门科学技术发展基金等多个项目。担任软件工程领域知名国际会议saner 2023的大会主席和internetware 2024的程序委员会主席。担任软件工程领域权威国际期刊tse, emse, jss，scp的编委。担任软件工程领域四大顶级会议（即icse, fse, ase，issta）的常驻程序委员会委员。
论坛主席：孙小兵
个人简介：
孙小兵，博士，教授，博士生导师。现任扬州大学信息工程学院（人工智能学院）院长。中国计算机学会软件工程专业委员会执行委员，江苏省人工智能学会常务理事，江苏省人工智能学会知识工程与智能服务专委主任。研究兴趣包括智能软件工程、软件与智能安全等。主持国家及部省级各类课题10余项，在icse、s&p、tosem、tdsc等会议和期刊上发表论文100余篇。相关成果获教育部自然科学二等奖等，承担的项目获蚂蚁集团科研成果优秀应用项目奖，入选江苏省“333”工程中青年科学技术带头人，巴渝学者讲座教授等。担任icse、fse、aaai等会议程序委员会委员。
论坛主席：李戈
个人简介：
李戈，ccf杰出会员，北京大学计算机学院长聘教授（博雅特聘教授），教育部长江学者，博士生导师，软件与微电子学院软件工程与数据技术系主任，中国计算机学会（ccf）软件工程专委会副主任，ccf系统软件专业委员会常委，ccf大模型论坛常委。研究方向：软件工程、人工智能、智能化软件开发。国际上 “基于深度学习的程序理解与生成”的先驱性研究者，多项成果被国际学者认为是“首创性成果”并被广泛引用。所带领的研究团队在多项研究任务中一直保持着国际领先结果，是该领域国际知名的研究团队。
