欢迎访问今日热搜榜

马斯克叫停AI研究引“舌战”:吴恩达杨立昆带头反驳,周鸿祎以三体回应

频道:科幻电视剧 日期: 来源

按照公开信的提议,在暂停期间,人工智能实验室和独立专家应该共同开发一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。如果这种暂停不能迅速颁布,各国政府应该介入并制定暂停令。

当前人工智能和机器学习领域最权威的学者之一,谷歌大脑的缔造者、世界上最大的在线学习平台之一Coursera的创始人吴恩达今日的发声引人瞩目。他认为6个月的暂停期并不是一个实用的建议,并连发四条推特表达了对此事的强烈反感。

“呼吁在6个月内暂停让人工智能取得超过GPT-4的进展是一个可怕的想法。我在教育、医疗、食品等方面已经看到了许多AI的新应用,这将帮助许多人。“吴恩达首先指出,更应该平衡人工智能正在创造的巨大价值与现实的风险。

吴恩达继续反驳了马斯克等人要求政府介入干预的观点:让政府暂停他们不了解的新兴技术是反竞争的,这会树立一个可怕先例,是糟糕的创新政策。

作为人工智能的一方泰斗,吴恩达的科研史被业内称为人工智能领域的断代史,他在斯坦福大学开设的《机器学习》系列课程于2012年在Coursera上线,十年间吸引了近500万人注册。性格温和的吴恩达此番言辞激烈的表态并不多见。在他的推文下面,Meta数据科学家林致远,英伟达AI研究科学家Jim Fan表示了赞同和支持。

他首先在推特上表示,自己并未签署这封公开信,“我没签,我不同意这封信的前提。”之后,他通过网友的推文继续表露反感。一位网友表示,OpenAI足足等了6个月,才发布了GPT4,而他们甚至为此还写了一份白皮书。杨立昆转发了这条推文并附上了自己的评论:所谓“暂停研发”,不过就是“秘密研发”,这与一些公开信签名者所希望的会恰恰相反。

在杨立昆的推文之下,还有一位大神级人物现身互动。机器学习领域创始人之一、美国人工智能协会前主席Thomas Dietterich发推表示,自己也没签署这封公开信。“这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。” 杨立昆转发这条推文表示赞同。

杨立昆也是Meta的首席科学家。此前不久,他在Meta主导推出的类ChatGPT语言模型Galactica一经亮相便遭遇翻车,但他对ChatGPT的态度一直非常不满,“ChatGPT满嘴胡诌,你们却对它如此宽容,但我家的Galactica才出来三天,就被你们骂到下线了。”他还对硅谷圈子一干明星科学家指出,在这场去年年末由ChatGPT引发的硅谷巨头大模型军备战中,没有人比其他人领先超过两到六个月。

杨立昆性格直率,酷爱在推特上与网友争辩。由于竞争立场关系,他一直对ChatGPT甚至聊天机器人持反对态度,这次却因为马斯克的公开信展露出了与OpenAI冰释前嫌的信号。

周鸿祎承认,最近人工智能的指数级跃变确实有点让人措手不及。对于马斯克的请愿信,他不了解内幕,但猜测是GPT的进化路上出现了超乎人类想象的现象。对于人类如何应对AI带来的未来安全挑战,谁也没法给出确定答案,但做安全出身的他坚定认为,不发展才是最大的不安全。

关键词:三体