a&s专业的自动化&安全生态服务平台
公众号
安全自动化

安全自动化

安防知识网

安防知识网

手机站
手机站

手机站

大安防供需平台
大安防供需平台

大安防供需平台

资讯频道横幅A1
首页 > 资讯 > 正文

霍金等签发公开信:警惕人工智能潜在风险

  据国外媒体报道,在一些人眼里,人工智能对人类构成的威胁甚至超过核武器。日前,包括物理学巨匠斯蒂芬-霍金和PayPal创始人伊隆-马斯克在内的一群科学家和企业家签发了一封公开信,承诺确保人工智能研究造福人类。这封由未来生活研究所草拟的公开信警告称,如果智能机器缺乏监管,人类将迎来一个黑暗的未来。
资讯频道文章B

  在一些人眼里,人工智能对人类构成的威胁甚至超过核武器。日前,包括物理学巨匠斯蒂芬-霍金和PayPal创始人伊隆-马斯克在内的一群科学家和企业家签发了一封公开信,承诺确保人工智能研究造福人类。马斯克也投资了一家人工智能公司,目的不是赚钱,而是为了监测人工智能发展。

  特斯拉汽车公司和SpaceX公司掌门人马斯克。马斯克曾将研制自治可思考机器的做法描述为“召唤恶魔”。

  这封由未来生活研究所草拟的公开信警告称,如果智能机器缺乏监管,人类将迎来一个黑暗的未来。信中指出科学家需要采取措施,避免人工智能研究出现可能导致人类毁灭的风险。

  据国外媒体报道,在一些人眼里,人工智能对人类构成的威胁甚至超过核武器。日前,包括物理学巨匠斯蒂芬-霍金和PayPal创始人伊隆-马斯克在内的一群科学家和企业家签发了一封公开信,承诺确保人工智能研究造福人类。这封由未来生活研究所草拟的公开信警告称,如果智能机器缺乏监管,人类将迎来一个黑暗的未来。

  未来生活研究所的公开信指出科学家需要采取措施,避免人工智能研究出现可能导致人类毁灭的风险。公开信作者表示人们普遍认为人工智能研究正快速取得进步,将对整个社会产生越来越大的影响。信中称语言识别、图像分析、无人驾驶汽车、翻译和机器人运动都成为人工智能研究的受益者。

  作者们表示:“潜在的效益是巨大的。文明的每一个产物都是人类智慧的结晶。我们无法预测在人工智能技术大幅提高机器智商时我们的文明将达到怎样的程度,但根除疾病和贫困是一个难以预测的过程。”他们同时也警告称在进行人工智能研究的同时必须相应地采取防范措施,避免人工智能给人类社会造成潜在伤害。在短期内,人工智能技术将让数百万人失业。在长期内,人工智能可能潜在地让社会走向反乌托邦,机器的智商远远超过人类,做出违背编程的举动。

  公开信说:“我们研发的人工智能系统必须做我们希望它们做的事情。很多经济学家和计算机学家认为非常有必要进行研究,确定如何在让人工智能所能带来的经济效益实现最大化的同时减少负面影响,例如加剧不公平和失业。”除了霍金和马斯克外,在公开信上签名的人还包括机器智能研究所的执行理事卢克-穆豪瑟尔,麻省理工学院物理学教授和诺贝尔奖得主弗朗克-韦尔切克。

  在这封公开信发表前几周,霍金教授曾警告称人工智能将在未来的某一天取代人类。他在伦敦接受英国广播公司采访时表示:“人工智能技术的研发将敲响人类灭绝的警钟。这项技术能够按照自己的意愿行事并且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度,无法与之竞争和对抗,最终将被人工智能取代。”

  霍金曾在2014年初指出成功研发人工智能将成为人类历史上犯的最大错误。不幸的是,这也可能是最后一个错误。2014年11月,特斯拉汽车公司和SpaceX公司掌门人马斯克警告称由于机器采用人工智能,“一些极为危险的事情即将发生”,最快将在5年内。此前,他还曾将研制自治可思考机器的做法描述为“召唤恶魔”。

  10月,马斯克在麻省理工学院AeroAstro百年学术研讨会上发表讲话将人工智能称之为“我们面临的最大威胁”。他说:“我认为我们必须对人工智能抱着非常谨慎的态度。在我看来,人工智能可能是我们面临的最大威胁。因此,我们必须非常谨慎地进行人工智能研究。我越发坚信我们需要对人工智能的研究进行适当监管,可能是在国家层面和国际层面,确保我们不会做出一些非常愚蠢的事情。随着人工智能的发展,我们将召唤出恶魔。也许你会认为我们可以用类似五芒星和圣水的东西控制恶魔,但事实根本不是这样。”

参与评论
回复:
0/300
文明上网理性发言,评论区仅供其表达个人看法,并不表明a&s观点。
0
关于我们

a&s是国际知名展览公司——德国法兰克福展览集团旗下专业的自动化&安全生态服务平台,为智慧安防、智慧生活、智能交通、智能建筑、IT通讯&网络等从业者提供市场分析、技术资讯、方案评估、行业预测等,为读者搭建专业的行业交流平台。

免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
© 2024 - 2030 Messe Frankfurt (Shenzhen) Co., Ltd, All rights reserved.
法兰克福展览(深圳)有限公司版权所有 粤ICP备12072668号 粤公网安备 44030402000264号
用户
反馈