要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

世界五百强企业物产中大回应2000吨铜材丢失事件：正积极核实，影响有限

浙江杭州 - 2024年6月14日，世界五百强企业物产中大（600700.SH）发布公告称，公司境外子公司收到的部分铜材未能按时到货，经核实，涉及铜材数量约2000吨，价值约1.1亿元人民币。

事件发生后，物产中大立即成立了专项工作小组，积极与境外供应商及相关部门协调沟通，全力查明事件原因，并采取必要措施追回损失。

公司表示，本次事件涉及金额较小，占公司营业收入和净利润比例均微乎其微，不会对公司正常经营造成重大影响。

物产中大还表示，公司将严格按照相关法律法规履行信息披露义务，及时向市场公布事件进展情况。

业内人士指出，大宗商品在国际贸易过程中丢失或短少的事件时有发生，这与国际贸易的复杂性有关。 企业在境外开展业务时，应加强风险管理，完善内控制度，降低此类事件发生的概率。

以下是针对本次事件的一些分析和看法：

• 事件原因：目前尚不清楚铜材丢失的原因。可能是由于供应商违约、运输环节出现问题或其他原因造成的。
• 事件影响：事件涉及金额较小，对物产中大的正常经营影响有限。但公司仍需加强风险管理，避免类似事件再次发生。
• 行业启示：大宗商品企业在境外开展业务时，应加强风险管理，完善内控制度，降低此类事件发生的概率。

物产中大作为世界五百强企业，其此次事件也引起了业界的广泛关注。 如何加强风险管理，降低境外业务风险，是所有大宗商品企业都应思考的问题。