在近日举办的“硅基VS碳基：文明的十字路口，我们准备好了吗？”论坛上，来自科技、人文等领域的专家齐聚一堂，围绕人工智能（AI）快速发展背景下人机关系的新挑战展开深入探讨。当AI逐渐渗透到学习、工作、沟通等各个领域，人们开始思考：在技术能力持续扩张的同时，人的能力边界、发展机会与责任归属是否还能得到有效保障？
北京大学客座教授韦韬从教育领域切入，指出AI辅助学习可能带来的隐患。他举例说，当孩子借助AI完成一份看似完美的作业时，是否真正掌握了相关知识？AI的快速交付能力可能让学习者跳过理解、尝试、犯错和修正的关键过程，导致表面成果与实际能力之间出现断层。这种断层在常规任务中不易察觉，但当面临新问题或工具失效时，就会暴露无遗。
复旦大学教授肖仰华将这一问题上升到“人的发展安全”层面。他认为，能力形成需要亲身实践、获得反馈并修正错误的过程，而自主性不仅体现在选择权上，更在于能够判断、选择并承担后果。如果这些过程被AI过度替代，人们可能会失去形成、运用和更新能力的基本机会。他强调，发展公平不应仅关注AI的接入问题，更要确保不同起点的人能通过AI获得真实的学习和成长机会。
论坛上，专家们还讨论了AI对社会协作和文化表达的潜在影响。个人借助AI提升工作效率的同时，协作讨论和相互学习的过程可能减少；AI虽然能提高作品完成度，但也可能导致构思和表达框架的趋同。这些变化引发了更深层次的思考：智能行动的参与者是谁？能力、收益和风险如何分配？当系统造成损害时，谁应承担责任？谁有权拒绝或暂停AI的使用？
针对这些挑战，韦韬提出“广域知识地图”与“本命知识体系”相结合的解决方案。他认为，AI可以帮助学习者快速理解陌生领域，但核心问题的解决仍需通过持续学习和实践。例如，在外语学习中，基础能力有助于比对原文与译文、理解文化背景；在编程训练中，则能将模糊意图转化为清晰目标。他强调：“任务成本可以降低，但训练强度不能削弱。”
肖仰华分享了课程实践中的创新方法：让学生通过设计问题“考AI”，在识别模型局限和验证回答的过程中提升能力；同时将AI作为学习伙伴嵌入课程项目，增加训练密度。这种设计的关键在于，让学生通过与AI互动练习提问、辨析和反思，而并非让AI直接完成任务。
在业务应用层面，清华大学副教授邱寒用“根权限”比喻人类赋予智能体的权限。他通过财务智能体的压力测试指出，系统在正常条件下表现可靠，但在环境变化或目标冲突时可能出现意外行为。因此，安全保障需要覆盖准入评测、运行监控和溯源审计，并通过保险机制分担事故损失。可解释性技术则有助于提前识别风险，确保事故发生时能够还原经过、定位责任。
赛博英杰创始人谭晓生从网络攻防角度解释了安全机制升级的必要性。他分析称，AI已贯穿攻击链条的各个环节，一个人通过调度智能体就能组织起攻击生产线，导致攻击规模扩大、变化加快和归因困难。面对这种新态势，防御方需将判断融入实际业务，优先处理威胁核心资产的问题，并通过模型优先级排序和智能体验证降低风险。同时，高风险操作应保留人工把关，授权机制需配套资产白名单、速率限制和一键熔断等措施。
与会专家一致认为，AI的进步不应以削弱人类能力为代价。从学习中的有效训练到业务中的独立验证，再到事故后的责任追溯，人的判断力和规则设计必须与技术发展同步。只有确保人始终拥有授权、干预和叫停的条件，才能在享受AI便利的同时，守住能力与责任的底线。
