
辛顿说,AI未来与人类智能的差距、就像是人类与青蛙的差别一样大。 他还提到,AI可能会帮助威权政府摧毁真相或操纵选民,在美国当前极为分裂的政治氛围下,这样的威胁应该不难想象。
根据白宫周四公布的「背景说明资料」,AI是当代最强大的科技之一,但为了把握AI所带来的机遇,必须先降低相关风险。
辛顿:GPT-4知识量较任何人多出数百倍
麻省理工科技评论网站周三报导,辛顿在宣布辞去Google工作前4天受访时表示,新一代大型语言模型(特别是OpenAI 3月发表的GPT-4)让他意识到、机器有一天可能比他原先想象的还要聪明。
辛顿说,有时他认为GPT-4就像外星人登陆,人们没有意识到是因为他们的英语说得很流利。 辛顿指出,GPT-4的知识量较任何人多出数百倍,也许是它实际上有一个比人类更好的学习算法。
纽约时报周一报道,辛顿受访时表示,他发现AI经常从大量的分析数据中学到意想不到的行为,AI未来可能危及人类。
与辛顿、Meta首席AI科学家杨立昆一同在2018年获得计算机科学界最高荣誉「图灵奖」的蒙特娄大学知名AI学者Yoshua Bengio日前与特斯拉CEO伊隆马斯克(Elon Musk)等人透过非营利组织《生命未来研究所(FLI)》发表公开信、 呼吁针对比GPT-4更强大的系统暂停训练6个月,理由是社会、人类可能面临潜在风险。