美国国务院最近委托民间公司进行AI研究,随后发表令人震惊的报告,研究警告快速发展的AI技术恐将导致人类灭绝,联邦政府必须尽快采取行动,因为避免世纪灾难的时间已经所剩不多。
▲美国国务院指出AI技术快速的发展与进步,最终恐将导致人类灭绝。(示意图/翻摄Pixabay)
根据指令,自动生成影片或瞬间掌握庞大数据库、精准回答问题,AI威力强大近年不断发展成为最夯科技话题。但最新有研究警告,再这样下去,人类担心饭碗不保前,恐怕就会先全面灭绝。
电影《机械公敌》:“我的机器人不会杀人,他刚刚可是把人丢出窗外,难道这是你设定的吗?”
CNN主播:“AI不仅会操控人类,还有可能找到方法来让人类灭绝吗?”
美国国务院最近委托民间公司进行AI研究,报告警告快速发展的AI技术恐怕导致人类灭绝,联邦政府必须尽快采取行动,因为避免世纪灾难的时间已经所剩不多。
“AI教父”前Google副总裁Hinton:“如果AI变得比我们聪明,那AI很有可能控制我们,因为AI会学习我们的行为,而且很少有例子是比较不聪明的那一方控制着更有智慧的一方。”
▲研究指出,AI存在的风险是能武器化,将会造成不可逆转的伤害。(示意图/台湾微软提供)
该研究1年多来采访200多人,包括OpenAI、谷歌DeepMind、脸书母公司Meta等,AI相关公司高层指出AI风险是可以“武器化”,造成不可逆转的破坏。另外AI实验室内部存在隐忧,可能在某个时候失去对开发中系统的控制,对全球安全造成毁灭性后果。
“AI教父”前Google副总裁Hinton:“我目前也不知道怎么解决,我只希望大家能意识到这是个非常严重的问题,但我也不认为我们能停止发展脚步,因为即使美国停下来,中国也不会停。”
▲竞争压力促使AI系统加速开发,但遭窃取和武器化的几率也提高。(示意图/翻摄Unsplash图库)
研究也指出竞争压力促使企业牺牲安全,加速AI开发,导致最先进的AI系统可能“遭窃取和武器化”,用来对付美国的可能性升高。
白宫科技政策主任Prabhakar:“拜登从一开始就说得清楚,他表明我们必须确保能好好控管AI风险。”
报告出炉后引起关注,白宫发言人则强调政府将推动立法来管理这些新兴技术相关风险,要大家别太担心AI末日降临。