要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

风险投资人Gideon Yu拟为Alphabet旗下X实验室募集5亿美元基金

北京 - 据知情人士透露，前YouTube和Facebook首席财务官Gideon Yu正牵头为Alphabet旗下X实验室筹集约5亿美元的资金。该基金将专注于投资从X实验室分离出来的初创公司。

X实验室是Alphabet旗下的一个研究部门，负责开发一些最前沿的技术项目，例如自动驾驶汽车、飞行器和城市项目。近年来，X实验室已经孵化出多个独立公司，例如Waymo、Wing和Verily。

Yu表示，他创立该基金的目的是为了帮助X实验室的这些初创公司更快地发展和商业化。他将利用自己在科技行业的丰富经验和人脉，为这些公司提供所需的资金、指导和资源。

该基金的投资目标尚未最终确定，但预计将包括以下几个领域：

• 自动驾驶汽车
• 人工智能
• 机器人技术
• 太空探索
• 医疗保健

知情人士表示，Yu已经与多位潜在投资者进行了接触，并预计将在今年年底前完成融资。

新的标题：

Gideon Yu携手投资者，助力Alphabet旗下X实验室孵化项目腾飞

分析：

• 新标题更加简洁明了，突出了新闻的核心内容。
• 使用了“携手投资者”和“腾飞”等积极的词语，表达了对该基金未来发展的乐观预期。
• 将新闻主题从“募集资金”扩展到“助力项目腾飞”，使内容更加丰富。

正文：

• 第一部分：简要介绍Gideon Yu的背景和投资目的。
• 第二部分：介绍该基金的投资目标和重点领域。
• 第三部分：介绍该基金的融资进展情况。

结尾：

• 展望该基金的未来发展前景。

其他建议：

• 可以适当加入一些背景信息，例如X实验室的成立历史和主要成就。
• 可以采访一些业内专家，对该基金的投资价值和潜在影响进行分析。
• 可以关注该基金的后续进展，并及时进行报道。