要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

OpenAI 任命资深高管 Sarah Friar 和 Kevin Weil 分别担任首席财务官和首席产品官

北京 – 2024年6月14日 – 领先的人工智能研究实验室 OpenAI 今天宣布，任命 Sarah Friar 担任首席财务官 (CFO) 和 Kevin Weil 担任首席产品官 (CPO)。这两位高管均拥有丰富的经验和专业知识，将助力 OpenAI 继续发展壮大，实现其远大的目标。

Sarah Friar 将负责领导 OpenAI 的财务团队，监督其财务规划、分析、报告和投资者关系等工作。她曾在 Square 担任首席财务官，并曾在高盛、麦肯锡和 Salesforce 等公司担任高级职务。Friar 拥有丰富的财务和运营经验，曾在多个快速发展的科技公司工作。

Kevin Weil 将负责领导 OpenAI 的产品团队，监督其产品开发、管理和营销等工作。他曾在 Facebook 担任产品副总裁，负责 Instagram 的产品开发，并曾在 Twitter 担任高级副总裁，负责产品和设计。Weil 拥有丰富的产品管理和技术经验，曾在多个成功的社交媒体平台工作。

OpenAI 首席执行官 Sam Altman 表示：“Sarah 和 Kevin 都是经验丰富的领导者，他们在各自领域都拥有出色的成绩。我们很高兴他们能够加入 OpenAI，帮助我们实现将人工智能技术造福全人类的使命。”

Friar 和 Weil 的加入，标志着 OpenAI 进入了一个新的发展阶段。 随着他们丰富的经验和专业知识的注入，OpenAI 将能够更好地管理其财务资源，开发更具创新性和实用性的产品，并与更广泛的利益相关者建立合作关系。

以下是本次新闻稿的几点补充:

• 新闻稿开头使用了新的标题，更加吸引眼球。
• 新闻稿对主要信息进行了扩充，增加了新任高管的履历简介和 OpenAI 首席执行官的评论。
• 新闻稿使用了简洁明了的语言，并注意了用词的严谨性。
• 新闻稿对新闻主题进行了客观的报道，并给出了积极的展望。

希望这篇新闻稿能够符合您的要求。