微软早前联手火热的ChatGPT推出新版搜寻工具引起广泛关注,然而谷歌搜寻引擎部门负责人Prabhakar Raghavan却开腔提醒人们小心掉入人工智慧的”致幻”(hallucinating)陷阱。
谷歌上周疑因感到来自ChatGPT的压力,火速发布自家AI 聊天机器人”Bard”的演示影片,不过Bard首场AI大战就临阵出糗,错指首张太阳系外行星照片为韦伯太空望远镜拍下,该照片事实上由欧洲南方天文台以极大望远镜拍摄。
谷歌搜寻引擎部门负责人:AI导致人们产生幻觉
谷歌搜寻引擎部门负责人Prabhakar Raghavan日前接受访问,指现时的AI仍有机会提供似是而非,甚至内容完全虚构的答案,导致人们产生幻觉。他发表上述言论的时间点确实尴尬,感觉就似在自家AI出糗后酸微软,但事实上经过一轮疯狂追捧后,ChatGPT的缺点最近也开始浮现。
在ChatGPT火红的这两个月,中国留学生是一群主要用户。起初他们试用ChatGPT后,无不为其强大功能惊叹,不但以它辅助阅读英语论文,甚至视之为帮助写论文的神器,然而最近有声音开始质疑ChatGPT答案的可信性。
其中有金融学科的研究生指出,ChatGPT的答案”一部分来自于网络的科普文章,一部分则根本经不起推敲”,甚至其中虽然有推荐的文献,但实际却都搜不到,”很可能是ChatGPT乱编的”,而一旦用户反驳其答案,ChatGPT使会立刻更改,即使本来输出的答案是正确的,这无疑反映了Prabhakar Raghavan所说的”致幻”陷阱。
谷歌正启动Brad的可信测试计画
当然AI除了资料搜寻,还可以用以润饰文章或生活上的各式应用,但如果资讯真确成疑,将大大限制其应用范围,甚至人们根本无法对其信任及委以工作。
ChatGPT强大的功能确为人们投下了震撼弹,但随着一阵欢腾过去,资讯真确的问题将无从回避,Brad出糗的事件就是最佳例证。目前谷歌正启动Brad的可信测试计画,Prabhakar Raghavan表示”我们显然感到急迫性,但同时也感到我们责任重大。我们不想误导大众。”
相关新闻:
Meta Masters Guild-下一个大型加密游戏
- 由领先的游戏工作室提供支持
- 早期预售现已上线
- 低硬顶,无归属
- 可玩的NFTs,奖励,质押
- Solid Proof 及Coinsniper全面审核
FightOut - 下一个100倍边运动边赚的加密货币
- 由LBank实验室、Transak支持
- 通过锻炼获得奖励
- 升级并在元宇宙中竞争
- 预售现已启动-筹集100万美元以上
- 现实世界社区,健身连锁店