要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

李开复：大模型To C市场潜力巨大，零一万物坚持用户导向

北京讯 6月14日，在北京智源大会上，创新工场董事长、零一万物CEO李开复发表演讲，表示零一万物将坚决专注于To C（面向个人用户）业务，不做“赔钱的To B（面向企业用户）”业务。

李开复表示，目前大模型To B业务面临着诸多挑战，包括：

• 大公司不认可软件价值，不愿为软件付费。 许多大公司习惯每年增加5%的预算，做和去年一样的事情，他们不太敢采用巨大颠覆式的技术。此外，中国很多大公司并不认可软件的价值，不太愿意为软件付费。这导致部分大公司只愿支付很低的价格采购大模型应用，大模型公司也只能给出折中的方案，能达到惊艳效果的方案寥寥无几。
• To B业务价格竞争激烈，容易陷入赔钱怪圈。 在To B领域，由于客户是企业，要想把产品卖得好，需要有实力的大公司买单。但由于大公司不愿为软件付费，导致To B业务价格竞争激烈，许多公司竞标时越竞越低，做一单赔一单。

李开复认为，To C市场则具有巨大的潜力。在中国，C端应用短期内更有机会，因为个人用户更容易接受新技术，也更愿意为优质的产品和服务付费。

李开复以移动时代为例阐述了他的观点。他表示，移动时代的C端应用诞生顺序是：

1. 生产力工具
2. 娱乐、音乐、游戏
3. 搜索
4. 电商
5. 社交、短视频

他认为，AI时代的C端应用也将遵循类似的顺序发展。

李开复还提醒大模型C端应用的创业者，一定要把握时间窗口，把自己应用的品牌打出来，否则很多巨头一旦看到机会，会有更多方法超越创业公司。他认为，最终胜出的大模型C端应用，不仅需要有好技术，还需要抓住时间窗口，能在短时间内打造持续的优势，比如打造品牌、积累社交链、用户数据等，让用户不离开这个平台。

零一万物是一家由李开复创办的大模型创业公司。该公司致力于开发面向个人用户的大模型应用，目前已推出多款产品，包括：

• 小鲸鱼：一款面向儿童的智能学习助手
• 智笔：一款可以进行实时翻译和写作辅助的智能笔
• 创作大师：一款可以帮助用户进行创意写作的智能写作工具

李开复表示，零一万物将继续加大研发投入，推出更多优质的大模型C端应用，为用户提供更加美好的体验。