牛津、剑桥等14家机构警告:警惕AI被用于恶意目的

小说:果岭草草种子今年什么价格?作者:安海安乙更新时间:2019-04-20字数:32422

据The Verge北京时间2月23日报道,当谈论人工智能带来的危险时,我们通常强调的是意料之外的副作用。我们担心的是,我们可能会意外地开发出具有超级智慧的人工智能系统,而忘记赋予它道德;或者我们在部署刑事判决算法时,这些算法吸收了用来训练它的数据存在的种族偏见意识。

但这还不是人工智能可能带来的全部风险。

人们会主动将人工智能用于不道德、犯罪或恶意目的吗?这会带来更大问题吗?来自包括牛津大学、剑桥大学、人类的未来研究所(Future of Humanity Institute)、埃隆·马斯克(Elon Musk)投资的非营利性组织OpenAI在内的机构的二十多位专家称,这两个问题的答案是肯定的。

在这份题为《人工智能的恶意用途:预测、预防和缓解》(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)的报告中,专家列出了未来5年人工智能可能给人类带来问题的一些途径,以及人类的应对之道。报告联合作者迈尔斯·布伦戴奇(Miles Brundage)向The Verge表示,虽然人工智能可以被用来发动恶意攻击,但我们没有必要谈人工智能色变,或者绝望。

布伦戴奇表示,“我喜欢积极的态度,也就是说我们还大有可为。报告的本意不是描述悲观的未来——人类可以采取诸多预防措施,我们还有许多东西需要学习。我并不认为我们已经陷入绝境,但我把这份报告看作是行动的倡议书。”

报告的内容很广泛,但重点介绍了人工智能加剧实体和数字安全系统面临威胁和制造全新威胁的几种主要方式。它还提出了应对这些问题的5点建议,其中包括使人工智能工程师提前告知他们的研究被用于恶意目的;启动政界和学术界之间对话,避免政府和立法机关对此一无所知。

人工智能最大的威胁之一是,通过使原本要求人工完成的任务实现自动化,人工智能可以大幅度降低某些攻击的成本。

报告提出的第二个要点是,人工智能可以为现有威胁增加新维度。例如,在钓鱼攻击中,人工智能不仅能用来生成常见的电子邮件和消息,还能生成虚假音频和视频内容。

当然,人工智能还能对一些恶意行为起到“助纣为虐”的作用。例如,在政治和社会生活中左右舆论。

报告还阐述了人工智能带来的全新威胁,其中包括恐怖分子在保洁机器人中隐藏炸弹,把它送到特定场所,目标靠近后由人工智能技术自动引爆炸弹。

为了预防、减轻人工智能可能带来的危害,报告给出了5点建议:

·研究人员应当告知他们的研究可能的恶意使用方式。

·政策制定者需要向技术专家了解这些威胁。

·人工智能行业需要向网络安全专家学习如何更好地保护其系统。

·需要制定人工智能道德框架,并严格遵守。

·需要有更多人参与对这一问题的讨论,其中不应该仅仅局限于人工智能科学家和政策制定者,还应该包括伦理学家、企业和普通大众。

换句话说:就是更多的对话和更多的行动。

当前文章:http://leetaemin.cn/list_50096.html

发布时间:2019-04-20 00:03:02

宿迁紫藤是真的吗? 木香花幼苗多少钱一棵? 托住下巴再跟我去看看人家的红枫苗圃 五角枫和青枫有什么区别? 【货源分享】发芽率最高的马蹄金种子价格现在是多少钱一斤 狼尾草种子怎么种? 什么地方批发的茺蔚子种子发芽率最高? 牧草哪个品种最好? 什么种类的草坪不需要频繁的修剪? 花海可以种什么花?

74734 12704 67807 48013 62510 97182 51783 57659 20993 24123 47242 46298 80913 95964 18838 42405 66967 41638 32830 79917 84557 60631 56901

我要说两句: (0人参与)

发布