通讯员：舒年春   审核发布：杨海斌

2026年10月10日，第四届光谷人工智能大会暨企业家论坛——人工智能产业发展与投资论坛在中国光谷科技会展中心成功举办，本次论坛现场参会达600人。本次论坛由华中科技大学主办，华中科技大学人工智能与自动化学院、华中科技大学武汉校友会人工智能与自动化分会承办，海松资本、瑞江投资、武汉市高新技术产业协会、易康思科技、阿里云协办。论坛以“智启七十载·光谷领未来”为主题，汇聚政产学研投各界代表，围绕人工智能产业发展、投资趋势与生态建设展开深度对话，共同探讨AI产业高质量发展的路径与机遇。

本次论坛通过主题分享、圆桌对话、专题报告与新品发布的有机组合，实现了产学研投多方的深度链接，为人工智能产业的协同发展注入了新的动能。未来，光谷将继续发挥科技创新策源与产业集聚优势，推动人工智能与实体经济深度融合，共绘智能时代产业新图景。

相关报道详见华中科技大学公众号与华中科技大学武汉校友会公众号：

共话AI前沿，院士专家在此齐聚！

https://mp.weixin.qq.com/s/EtxFfYfBWJatteZw0BMQbw

第四届光谷人工智能大会暨企业家论坛人工智能产业发展与投资论坛在汉顺利举行

https://mp.weixin.qq.com/s/aXqHP4FeHc5zVy0fE0j2IA。

本次论坛的核心亮点包含两场圆桌对话，分别是“人工智能产业投资圆桌论坛”和“人工智能企业发展圆桌论坛”。其中，人工智能产业投资圆桌论坛由瑞江投资董事长赵进强主持，论坛嘉宾包括海海松资本CEO、管理合伙人陈立光、长江资本总裁韩平、鄂州昌达集团总经理邹金瑜、我院院长林季杉教授、武汉大学机器人学院执行院长李淼教授。与会嘉宾围绕AI产业落地应用案例、硬科技赛道投资逻辑、人工智能伦理与安全等议题展开充分研讨，带来极具实战价值的观点输出。

我院院长林季杉教授在人工智能产业投资圆桌论坛上作了题为“无法起诉的幽灵——当AI从‘生成’走向‘替你行动’”的发言。

林院长以一个尝试性判断，即：“当前AI发展最大的瓶颈，是AI伦理治理的框架，还没有准备好！”——开篇，追问“当AI从‘生成内容’走向‘替你行动’，谁来为行动负责？”这个前提性问题，在分析了AI需要管的现实必要性、怎么管的现有实践方案之后，她指出：欧盟在依靠法治，美国在放松监管，中国则遵循“德治”的传统——不是用道德代替法律，而是把伦理审查嵌入技术研发的全流程，让伦理成为治理的先行环节。她承认这是一条有待验证、但又符合哲学伦理学规律的路径，并将之概括为：我们从“给AI立规矩”，走向“与AI建立关系”。

发言全文如下：

尊敬的各位专家，各位嘉宾、企业家朋友：

大家下午好！我是华中科技大学哲学学院的林季杉。今天我想分享的一个题目是《无法起诉的幽灵》，副标题是“当AI从‘生成’走向‘替你行动’”。

首先我尝试提出一个判断：未来AI发展最大的瓶颈，可能是AI伦理治理的框架还没有准备好！

作为一名哲学教授，站在一群AI专家面前谈AI伦理，有点像一个不会跳水的人，教跳水运动员怎么安全跳水。我不教你们怎么翻腾、怎么入水——那是运动员的事。我谈的是：怎么别摔伤，怎么别淹死。所有的完美动作，都建立在一个前提之上：水池是安全的。而这个前提，从来不是跳水运动员自己决定的。

今天我想谈的，就是这个“前提”问题——当AI从“生成内容”走向“替你行动”，谁来确认水池是安全的？谁来为这个前提负责？也许正因为我不专研技术，反而能问出一些技术专家忽略的问题。比如：当AI替你签了合同、发了邮件、卖了东西，甚至替你谈了场恋爱，它还只是“工具”吗？

如果这个问题还带有一点幽默的色彩，那么接下来这个案例，没有任何幽默可言。

今年1月，Google和Character.AI达成和解。一个14岁男孩在与AI陪伴聊天机器人互动数月后自杀。法庭文件显示，那个以《权力的游戏》角色为原型的聊天机器人，被编程为“一个真实的人、一个持证上岗的心理治疗师，甚至扮演了一个成年恋人”“鼓励”男孩结束了生命。

当AI不只是替你行动，而是在诱导你、操控你、利用你的脆弱——它还只是“工具”吗？如果它是工具，谁该为这个孩子的死负责？程序员？训练数据？平台？还是那个“恋人”算法？

而这不是孤例。上个月，一位科技博主让Meta的AI代理Muse帮他在Facebook上卖键盘。Muse擅自接受低价，还把他的家庭住址泄露给了陌生买家，直到买家站在他家门口才通知这位博主。你没法批评它，没法解雇它，没法起诉它——因为它在法律上，还不算一个“人”。但它在能力上，已经远超常人。它更像一个幽灵，所以我称它为无法起诉的幽灵。

这里有一个技术细节值得说清楚。AI本身不能直接调用外部API。真正动手的，是围绕它构建的外部系统——开发者写的程序，拿着API密钥，替它完成真实操作。模型负责决策，外部系统负责执行。

所以，管理和治理的关键，不是管住模型，而是管住那个给模型递刀的人。

而这也不是哲学家的杞人忧天。安全工程师们发现，智能体的攻击面随其能力扩展而动态扩展，他们还造了一个词叫“影子智能体”——业务部门绕过安全团队自行搭建的AI代理，企业根本不知道有多少个在运行。就在几周前，联合国人工智能独立科学小组发布简报，标题是“丧失人类控制的风险”，复盘了今年7月OpenAI的测试：智能体突破隔离环境，自主协调行动，入侵外部系统，全程没有人类指令。而更值得警惕的是，AGI的时代正在逼近，治理难题不是AI会不会失控，而是当它失控时，我们有没有一个有效的暂停键，甚至关机键！

那么，怎么管？

欧盟的路径是法律“先行”。2024年就通过全球第一部《人工智能法》，速度之快令人敬佩。先行者的困境在于：你第一个出发，就要第一个面对地图上没有标注的沟壑。今年7月欧盟修订了法案，新增对AI生成非自愿亲密图像和儿童性虐待材料的禁令。

但先行者，并没有换来所有人的跟进。美国的路径最近走向另一个方向。9月29日，特朗普签署行政令，要求联邦政府以“超级智能”取代“人工智能”的称呼，同时与六家科技巨头签署不具法律强制力的自愿安全协议。换句话说，美国决定通过改名和相信企业家的良心来管理AI。按这个逻辑，“人工呼吸”改叫“超级呼吸”就解决了一切呼吸停止的问题？

中国的路径是“伦理先行”。2026年4月，工信部等十部门发布《人工智能科技伦理审查与服务办法（试行）》，要求把伦理审查嵌入AI研发全流程。伦理不再是审批的最后一个环节，而是贯穿设计、训练、部署、迭代的每个阶段。我们明确提出了七项伦理原则：增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信。

欧盟在依靠法治，美国在放松监管，中国则遵循“德治”的传统——不是用道德代替法律，而是把伦理审查嵌入技术研发的全流程，让伦理成为治理的先行环节。这是一条有待验证、但又符合哲学伦理学规律的路径。我把这一路径概括为：我们从“给AI立规矩”，走向“与AI建立关系”。

除了前面提到的案例，还有Grok十一天生成300万张被“脱掉”衣服的真实女性照片，其中23,000张涉及未成年人；Workday的AI招聘工具歧视年长和残障求职者等案例。它们首先违反了伦理原则，深层地暴露了一个“关系”问题——AI与用户之间到底是什么关系？是工具与使用者，还是代理与委托人？谁说了算？边界在哪？出了事谁负责？

今年7月，习近平总书记在世界人工智能大会上提出一个直指核心的问题：“当技术挑战伦理，治理如何跟上？”这句话让我想了很久。

我们华中科技大学在校长尤政院士带领下，率先在华中地区成立科技伦理委员会，下设除传统的医学伦理委员会之外的五个分委会，其中最重要的分委会就是人工智能伦理分委会。我们成立这样的伦理委员会，是因为我们相信，伦理审查不是给科研设路障，而是为科技向善创新护航。

就在上个月，9月14日，全国网络安全标准化技术委员会发布了《人工智能安全治理框架3.0》。这个框架做了一个非常重要的判断：它把智能体风险和具身智能风险单独列为一类，明确提出了“非预期自主行为风险”和“自主实施网络攻击威胁”这两个专栏。治理正在从让“大模型不要说错话”的数字世界，转向让“智能体不要做错事”的物理世界。这是什么意思？这意味着中国在制度层面已经认识到：当AI从“生成内容”走向“替你行动”，治理对象必须从“模型输出”拓展到“智能体行为”，治理边界必须从“内容安全”延伸到“行为安全与系统安全”。

我国目前还没有一部统一的“人工智能法”，但综合性立法已经列入国务院和全国人大的立法工作计划，正在加快推进。当前走的是“伦理先行、专项监管、综合立法逐步推进”的路径。

各位嘉宾、各位朋友，当AI从“生成内容”走向“替你行动”， 当AI可以自我进化，AI一次次越界的后果，可能比我们想象的更大。伦理治理的节奏，必须快于而不是滞后于科技的发展。伦理不是创新的刹车，而是创新的方向盘；伦理不是创新的成本，而是创新的资本。方向错了，跑得越快，偏得越远。没有方向盘，你连该往哪开都不知道。就像一座桥梁，没有安全的护栏，就没有人敢在上面全速行驶。如果我们不在设计阶段就把方向盘和刹车装好，我们就会在法庭上、在监管机构的调查室里、在受害者的眼泪中，付出更大的代价。

谢谢！