当前位置:主页 > 科技 >

ChatGPT太火这些人却给它泼冷水

  • 科技
  • 2023-12-02 09:54
  • admin
·两位人工智能界的重磅专家,甚至因为都对ChatGPT持反对态度而消解了之前的长期矛盾。

 

  2月7日,谷歌宣布将推出ChatGPT的竞争对手巴德(Bard),但遭遇十分尴尬的错误。一张演示功能的动图显示,巴德表示,美国宇航局的詹姆斯·韦伯(James Webb)太空望远镜拍摄了太阳系外行星的第一张照片。实际上,这张照片是由欧洲南方天文台的甚大望远镜(VLT)拍摄的。谷歌表示,这凸显了对聊天机器人进行“严格测试”的必要性。

  这一错误加剧了对此类ChatGPT产品的质疑。早在2016年,微软就因为聊天机器人Tay生成种族主义和性别歧视信息道歉,Tay将女权主义比作癌症,并暗示一些暴力事件没有发生过。去年,Meta公司推出了一款对话式人工智能Blend Bot,这款机器人很快和Meta首席执行官、Facebook创始人马克·扎克伯格唱起了对台戏。Blend Bot告诉记者,在得知Facebook的丑闻后,它已经删除了自己的Facebook账户,并说:“自从删除Facebook后,我的生活好多了。”

  ChatGPT对某些问题的回答也错误频出,其言论甚至包含一些有害内容和歧视观点。自它去年底推出,直到今年初火爆“出圈”,不乏一些坚定的看衰者反复诉说着此类产品的问题,其中包括人工智能界的重磅专家,比如Meta首席AI科学家、图灵奖得主杨立昆(Yann LeCun),美国作家、Robust. AI公司创始人、纽约大学教授加里·马库斯(Gary Marcus),这两位专家甚至因为都对ChatGPT持反对态度而消解了之前的长期矛盾。

  在全球AI学术界和科技媒体界,每天都有新的文章出炉,客观冷静地探讨ChatGPT的技术成分和社会影响,给如今似乎有些过火的ChatGPT热来一丝凉风。在科学界,真理越辩越明。

美国作家、Robust. AI公司创始人、纽约大学教授加里·马库斯(Gary Marcus)。

  学术与商业考量

  除了马库斯和杨立昆,许多业内人士也给出了自己的观点。

  牛津大学(University of Oxford)计算机科学教授迈克尔·伍尔德里奇(Michael Wooldridge)说:“神经网络的灵感来自于动物大脑和神经系统中出现的细胞结构,它们被构造成大规模互联的网络,每个组件执行非常简单的任务,并与大量其他细胞通信,它们使用的结构是受我们在动物大脑中看到的所启发。”

  大型语言模型被输入由数十亿单词组成的数据集,并基于统计概率,建立一个通常跟随前一段文本的单词和句子的模型。伍尔德里奇说:“网络对什么是‘真’或‘假’没有任何概念。他们只是尽可能地写出最有可能的文本来回答所给的问题或提示。因此,大型语言模型经常出错。”

  伍尔德里奇表示,就像巴德关于望远镜的错误一样,聊天机器人会在输入的大量文本中反映出各种偏见。他说:“文本中包含的任何偏见都将不可避免地反映在程序本身中,这对人工智能来说是一个巨大的持续挑战——识别和减轻这些偏见。”

  研究人员齐拉格·沙阿(Chirag Shah)和艾米丽·M·本德(Emily M. Bender)在一篇题为《定位搜索》(situational Search)的论文中指出,聊天机器人界面的引入甚至有可能加剧偏见问题。聊天机器人不仅倾向于提供单一的答案,而且答案的权威性也因人工智能的神秘性而增强,它们的答案来自多个来源,通常没有适当的归属。而这与搜索引擎提供的链接列表相比变化巨大,在传统搜索引擎中,每个链接都可以点击和询问。

  因此,聊天机器人并不是真正的人类大脑,也只能给出听起来似乎合理的文本回答,而这些回答又会被误认为是正确答案。

  萨里大学(University of Surrey)以人为本的人工智能研究所(Institute for human - centered AI)主任安德鲁·罗戈斯基(Andrew Rogoyski)博士表示,就像谷歌在演示时的情况一样,训练AI的数据集可能导致了聊天机器人的错误。

  对于近日全网关注的ChatGPT热潮,罗戈斯基也给出了不一样的观点,他认为这本质上依旧是品牌之间的商业行为。罗戈斯基说:“大型人工智能模型真的是不可持续的,生成式人工智能和大型语言模型能够做出很厉害的事情,但它们仍然不够智能。它们不理解自己产生的输出,也不会拥有洞察力、想法这些东西。事实上,这只是品牌之间的一场战斗,利用人们当前对生成式人工智能的兴趣来重新划分商业版图。”