要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

三方面发力破解算力难题：科技创新助力数字经济发展

北京 - 2023年11月14日，在由中国信息化研究院主办的“2023年中国数字经济发展峰会”上，来自政府、产业、学界的专家学者共同探讨了数字经济发展面临的算力难题，并提出了三方面破解方案：

**一是加大科技创新力度，提升算力供给能力。**要着力研发新一代计算技术，突破算力架构、芯片、算法等关键技术瓶颈，构建高性能、低功耗、低成本的算力基础设施。同时，要加强算力资源的统筹规划和协同利用，提高算力资源的利用效率。

**二是优化算力应用模式，提升算力使用效率。**要推广云计算、大数据、人工智能等新兴技术的应用，促进算力资源的云化、虚拟化和共享化。同时，要加强算力需求的精准分析和匹配，提高算力资源的配置效率。

**三是完善算力市场机制，激发算力产业活力。**要健全算力市场体系，加强算力资源的定价和交易机制建设，促进算力资源的公平竞争和有序流动。同时，要鼓励社会资本参与算力基础设施建设和运营，激发算力产业的创新活力。

**专家们表示，**算力是数字经济发展的基础设施，也是数字经济核心竞争力的关键要素。破解算力难题，是推动数字经济高质量发展的重要任务。我们要坚持科技创新、优化应用模式、完善市场机制，不断提升算力供给能力、使用效率和产业活力，为数字经济发展提供强有力的支撑。

本次峰会还发布了《2023年中国数字经济发展报告》，报告指出，数字经济已成为推动经济社会发展的重要引擎。2023年，中国数字经济规模预计将达到50万亿元人民币，同比增长约15%。

**为了进一步推动数字经济发展，**峰会还提出了多项建议，包括加快数字基础设施建设、培育数字产业新业态新模式、加强数字治理体系建设等。

相信在各方的共同努力下，中国数字经济一定会取得更加长足的进步，为经济社会发展作出更大的贡献。

附赠：

• 《2023年中国数字经济发展峰会》官网： [移除了无效网址]
• 《2023年中国数字经济发展报告》： [移除了无效网址]

通过此次新闻稿的撰写，我更加了解了算力难题对数字经济发展的影响，以及破解算力的三方面方案。相信随着算力技术的不断进步和产业的不断发展，数字经济一定会更加繁荣兴旺。