资料图片:扎克伯格在加州的Facebook总部。
不过,在脸书开发的聊天机器人自创出人类无法理解的语言后,或许扎克伯格也得同意马斯克的观点了。
据美国投资谘询网站“价值散步”7月31日报导,上周末,脸书不得不关闭其人工智能系统,原因是聊天机器人开始用自创语言对话,全然无视程序员下达的指令。“由于情况失控”,研究人员只得终止人工智能系统的全部活动。
脸书公司还公佈了聊天机器人鲍勃和爱丽丝的对话节选(直译)。
鲍勃说:“我能能我我所有事其他。”
爱丽丝说:“球(複数)有零对我对我对我对我对我对我对我对我对。”
报导称,研究人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,机器人其实是在用一种更複杂的方式来处理手头任务。
脸书的人工智能研究人员杜鲁夫·巴特拉认为,就像有时人们会“抄近道”用行话对话、以便快速解决问题一样,人工智能机器人也会自创语言,做类似的事。
巴特拉说:“为什麽计算机必须在英语语言界限范围内工作,如果它们能用一种看上去(对它们来说)更好的语言彼此更快地沟通?”
报导称,即便巴特拉所言有理,人工智能可自创语言也构成新威胁,因为这将使研发人员在创造构建人工神经网络时遭遇更大困难。目前,尚不清楚人工智能机器人能否推翻操作人员的指令。
在围绕人工智能的隔空论战中,马斯克认为,人工智能对人类文明是一个“可怕的问题和威胁”。他认为,智能机器可能会引发战争或者在街头杀人,因此需要对智能科技提早加以管控,等到发生严重后果则为时已晚。
而扎克伯格对人工智能持乐观态度。他说:“对于那些认为人工智能会导致末日的‘悲观主义者’,我并不能理解他们,他们太过于消极。从某种角度看,我认为他们很不负责任。”