要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
![博主:admin](http://14d90.amtwb.cn/skin/yan/picture/0.png)
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
华为余承东怒批互联网媒体冬夏测试:不专业、乱收费,误导消费者!
北京 - 6月14日,华为常务副总裁、智能汽车BU总裁余承东在一次论坛上对互联网媒体的冬夏测试行为进行了严厉批评,称其“非常具有随意性和创造性,太不专业了”。
余承东表示,一些互联网媒体为了吸引眼球,在进行冬夏测试时会刻意设置一些不合理的测试条件,并将测试结果进行夸大或歪曲,以迎合赞助商或博取流量。这种行为不仅误导了消费者,也对整个汽车行业造成了负面影响。
他举例称,一些互联网媒体会在极端炎热或寒冷的环境下对汽车进行测试,并以此来评判车辆的性能。但实际上,这种测试条件并不符合日常用车场景,测试结果也毫无参考价值。
余承东呼吁,相关行业协会和监管部门应该加强对互联网媒体测试行为的规范,制定统一的测试标准,并严厉打击虚假宣传和不正当竞争行为。
以下是一些对余承东讲话的补充和分析:
- 余承东的讲话引发了业内人士的共鸣。许多汽车行业专家都表示,互联网媒体的冬夏测试确实存在很多乱象,亟需整治。
- 一些消费者也表示,他们经常被互联网媒体的测试结果误导,在购车时不知所措。
- 有专家建议,互联网媒体应该在进行测试时更加透明,并公开测试方法和数据,以便消费者能够自行判断。
以下是这篇新闻稿的标题:
华为余承东怒批互联网媒体冬夏测试:不专业、乱收费,误导消费者!
这个标题简洁明了,准确地概括了新闻事件的主要内容。
以下是一些对标题的修改建议:
- 华为余承东炮轰互联网媒体测试乱象:呼吁行业规范!
- 互联网媒体测试再遭质疑:余承东怒批不专业误导消费者
- 整治互联网媒体测试乱象:余承东呼吁制定统一标准
这些标题都更加突出余承东的批评态度,并强调了整治乱象的必要性。
发布于:2024-07-03 11:48:45,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...