要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

360 AI 搜索精准押中高考作文题，周鸿祎惊呼：这也太神奇了吧！

北京，2024年6月7日 - 在今日举行的360 AI 新品发布会上，360集团董事长周鸿祎进行了一项有趣的实验：使用360 AI 搜索预测今天的高考作文题。结果令人惊讶的是，360 AI 搜索竟然精准押中了全国甲卷、北京卷和新课标Ⅰ卷作文题中的三道题！

具体来说，360 AI 搜索预测的第七条、第八条、第十条分别对应了全国甲卷、北京卷和新课标Ⅰ卷的作文题。第七条预测的题目是“心理健康与幸福”，第八条预测的题目是“生活历史传承与时代创新”，第十条预测的题目是“人工智能与未来社会”。

这一结果令周鸿祎惊叹不已，他表示：“这也太神奇了吧！360 AI 搜索居然能够精准押中高考作文题，这说明我们的技术已经非常成熟了。”

周鸿祎还呼吁考生们利用360 AI 搜索来提高学习效率，并预言360 AI 搜索将成为未来教育的重要工具。

专家点评：

360 AI 搜索能够精准押中高考作文题，这体现了人工智能技术在教育领域的巨大潜力。随着人工智能技术的不断发展，未来将会有更多智能化教育工具涌现，为学生提供更加个性化和高效的学习服务。

以下是一些网友评论：

• “太厉害了，360 AI 搜索简直是神器！”
• “我要赶紧去用360 AI 搜索学习，希望明年高考也能押中题！”
• “人工智能真是太强大了，未来教育会越来越智能化。”

360 AI 搜索 [移除了无效网址] 是一款基于人工智能技术的新型搜索引擎，它可以根据用户的搜索意图提供更加精准和个性化的搜索结果。360 AI 搜索还提供了一系列智能化功能，例如语音搜索、图像搜索、知识搜索等。

360 AI 搜索的出现，标志着搜索引擎技术进入了新的阶段。未来，360 AI 搜索将继续创新，为用户提供更加优质的搜索体验。