要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

大模型价格战利好多方：推动普及避免浪费，加速中国AI发展

北京2024年6月14日讯 在今日举办的2024智源大会上，百川智能CEO王小川、智谱AI CEO张鹏、月之暗面CEO杨植麟、面壁智能联合创始人、CEO李大海共同出席《尖峰对话：通往AGI之路》环节，围绕大模型议题展开了精彩讨论。其中，王小川对近期兴起的大模型价格战表达了积极看法，认为这对于中国大模型的发展是一件好事。

王小川表示，价格战可以带来两个显著好处：首先，能够推动大模型的普及。此前，由于大模型的训练成本高昂，很多企业和个人望而却步。而价格战的出现，使得大模型的使用门槛大大降低，更多用户能够以更低的成本享受大模型带来的便利。这对于大模型生态的培育以及相关技术的应用落地都将起到积极作用。

其次，价格战可以避免社会资源的浪费。在价格战之前，一些企业或机构即使自身并不具备大模型的训练能力，也出于各种原因选择自行训练。这不仅造成了资源的闲置浪费，也阻碍了大模型技术在社会层面的共享协作。价格战的出现，使得那些不具备训练能力的用户可以将需求交给专业的厂商，从而避免了不必要的浪费。

王小川进一步指出，大模型的发展离不开数据的规模和算力的支撑。而价格战的推动，可以促使更多用户加入到大模型的训练和应用中，从而产生更多数据，反哺模型的训练，形成良性循环。同时，价格战也可以倒逼大模型厂商在技术和效率上不断创新，从而降低算力成本，提升服务质量。

总体而言，王小川认为，大模型价格战是市场竞争的必然结果，也是中国大模型发展过程中的一个重要阶段。这场价格战不仅能够推动大模型的普及和应用，还能促进相关技术的进步和产业的成熟，最终为中国AI的发展注入新的活力。

除了王小川的观点之外，其他参会嘉宾也对大模型的发展前景表达了乐观态度。他们认为，大模型作为人工智能技术发展的新阶段，拥有广阔的应用前景，将在各个领域发挥重要作用。随着技术的不断进步和成本的不断下降，大模型将走进千家万户，成为人们日常生活和工作中不可或缺的工具。