要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

梦游症患者成购物狂：睡梦中疯狂下单 醒来账单堆积如山

英国伦敦讯 - 一名来自英国伦敦的女子近日因患有罕见梦游症而成为网络热议话题。该女子名为艾米丽，今年32岁，是一名普通的上班族。然而，在夜晚，她却会变成一名疯狂的购物狂，在梦中进行无节制的消费。

据艾米丽的丈夫约翰描述，艾米丽的梦游症始于几年前。起初，只是偶尔会在半夜起床，在家里四处走动。但随着时间的推移，她的梦游行为变得越来越离奇，甚至开始在梦中进行购物。

"有一次，我半夜醒来，发现她正坐在床上对着手机屏幕指指点点，嘴里念叨着一些我听不懂的话。" 约翰回忆道，"当时我以为她只是在做噩梦，就劝她回去睡觉。但第二天早上，我发现她的信用卡账单上多了一笔几千英镑的消费记录，我才意识到事情不对劲。"

为了解开艾米丽梦游购物的谜团，约翰带着她去看了一位睡眠专家。经过诊断，艾米丽被确诊患有一种名为" somnambulism-associated shopping disorder" 的罕见梦游症。这种疾病会导致患者在梦游状态下进行无意识的购物行为。

专家表示，这种梦游症的病因尚不明确，可能与遗传、压力或精神疾病有关。目前尚无根治方法，但可以通过药物治疗和行为干预来进行控制。

在得知自己的病情后，艾米丽感到十分震惊和沮丧。她担心会因为梦游购物而给家人带来经济负担，也担心自己会因此失去朋友和同事的信任。

为了克服梦游症，艾米丽开始尝试各种方法，包括服用药物、调整睡眠习惯和进行心理咨询。经过一段时间的努力，她的梦游行为得到了控制，梦游购物的情况也明显减少。

艾米丽的故事也引起了许多网友的共鸣。不少人表示，他们也曾有过类似的经历，在梦中做过一些奇怪的事情，醒来后也感到十分困惑。

专家提醒，如果发现自己或家人有梦游症的迹象，应及时就医进行诊断和治疗。同时，也要注意做好安全防护措施，避免发生意外事故。