• 盈盛国际
  • 盈盛国际
  • 盈盛国际
  • 盈盛国际app
  • 盈盛国际
  • 盈盛国际
  • 盈盛国际ע
  • 盈盛国际¼
  • 盈盛国际
  • 盈盛国际Ƹ
  • 盈盛国际淨
  • 盈盛国际
  • 盈盛国际ֱ
  • 盈盛国际ֻ
  • 盈盛国际԰
  • 盈盛国际׿
  • 盈盛国际Ƶ
  • 行使对抗性数。据“欺骗”自动驾驶 误读停车标志

    来源:未知 时间:2019-07-30 22:37:18 字体:[ ]

    近年来,人造智能已经取得了长足的挺进,但正如很众人造智能行使者所外明的那样,人造智能照样容易展现一些人类并不会犯的惊人舛讹。固然这些舛讹有时能够是人造智能进走学习时不走避免的效果,但越来越清晰的是,一个比吾们意料中厉重得众的题目正带来越来越大的风险:对抗性数。据。

    对抗性数。据描述了云云一栽情况,人类用户有意向算法挑供已损坏的信息,损坏的数。据打乱了机器学习过程,从而欺骗算法得出子虚的结论或不准确的展望。

    行为别名生物医学工程师,笔者认为对抗数。据是一个值得关注的主要话题。比来,加州大学伯克利分校(UC Berkeley)教授唐恩·宋(Dawn Song)“欺骗”了一辆自动驾驶汽车,让它以为停车标志上的限速是每幼时45英里。

    这栽性质的凶意抨击很容易导致致命的事故。同。样地,受损的算法数。据能够导致舛讹的生物医学钻研,重则危及生命或影响医学事业的创新发展。

    直到比来,人们才认识到对抗性数。据的要挟,吾们不及再无视它了。

    对抗性数。据是如何产生的呢?

    兴趣的是,即使不带任何凶意,也能够产生对抗性数。据的输出。这在很大水平上是由于算法能够“不悦目察”到吾们人类无法识别的数。据中的东西。由于这栽可见性,麻省理工学院比来的一个案例钻研将对抗性描述为一栽特性,而不是故障。

    在这项钻研中,钻研人员将人造智能学习过程中的“鲁棒性”和“非鲁棒性”特征进走了别离。鲁棒特征清淡能够被人类感知到,而非鲁棒特征只能被人造智能检测到。钻研人员尝试用一栽算法让人造智能识别猫的图片,效果表现,编制经过不悦目察图像中的实在模式,却得出舛讹的结论。

    舛讹识别发生的因为是,人造智能望到的是一组无法清晰感知的像素,使得它无法准确识别照片。这导致在识别算法的过程中,编制在有时中被训练成行使误导模式。

    这些非鲁棒性特征行为一栽“作梗噪声”,导致算法的效果存在弱点。所以,黑客要想作梗人造智能,往往只必要引入一些非鲁棒特性,这些特性不容易被人眼识别,但能够清晰地转折人造智能的输出效果。

    对抗性数。据和黑黑人造智能的潜伏效果

    正如坦然情报。局的穆阿扎姆·汗所指出的,倚赖于对抗性数。据的抨击主要有两栽类型:“中毒抨击”和“闪躲抨击”。在中毒抨击中,抨击者挑供了一些输入示例,这些输入示例使得决策边界迁移向对抨击者有利的倾向;在闪躲抨击中,抨击者会使得程序模型对样本进走舛讹分类。

    例如,在笔者所熟识的生物医学环境中,对抗性数。据的抨击能够会导致算法舛讹地将有害或受污浊的样本标记。为良性且整洁,这就能够导致舛讹的钻研效果或不准确的医疗诊断。

    让人造智能学习算法也能够被用来驱动特意为协助黑客而设计的凶意人造智能程序。正如《凶意人造智能通知》所指出的,黑客能够行使人造智能为他们的各项损坏运动挑供便利,从而实现更普及的网络抨击。

    尤其,机器学习能够绕过担心然的物联网设备,让黑客更容易窃取机密数。据、作恶操纵公司数。据库等等。内心上,一个黑黑的人造智能工具能够经过对抗性数。据来“感染”或操纵其他人造智能程序。中幼型企业往往面临更高的风险,由于他们异国先辈的网络坦然指标。

    珍惜措施

    尽管存在这些题目,对抗性数。据也能够被用于积极的方面。原形上,很众开发人员已经开起行使对抗性数。据来检测本身的编制漏洞,从而使他们能够在黑客行使漏洞之前实现坦然升级。其他开发人员正在行使机器学习来创建另一栽人造智能编制,确保其能更拿手识别和清除潜伏的数。据要挟。

    正如乔·代沙尔特在一篇发外于“基因工程及生物技术信息”的文章中所注释的那样,很众这些人造智能工具已经能够在计算机网络上追求嫌疑的运动,分析时间清淡为几毫秒,并能够在其造成任何损坏之前清除祸端,这些罪魁祸始清淡来自流氓文件或程序。

    他补充说,这栽手段与传统的信息技术坦然分歧,传统的信息技术坦然更关注于识别已知要挟的特定文件和程序,而不是钻研这些文件和程序的走为。

    自然,机器学习算法本身的改进也能够缩短对抗性数。据带来的一些风险。然而,最主要的是,这些编制并不是十足自力的。人造输入和人造监督照样是识别鲁棒特征和非鲁棒特征之间迥异的关键,以确保舛讹的识别不会导致舛讹的效果。行使实在有关性的额外训练能够进一步降矮人造智能的易受抨击特性。

    隐晦,在不久的异日,对抗性数。据将不息对人类世界组成挑衅。但在云云一个时代,人造智能能够被用来协助吾们更益地理解人类大脑、解决各栽世界题目。吾们不及矮估这栽数。据驱动要挟的紧迫性。处理对抗性数。据并采取措施对抗黑黑人造智能答该成为科技界的始要义务之一。

    相关新闻

    热门新闻

    随机新闻

    友情链接及相关站点

    Powered by 盈盛国际 @2018 RSS地图 html地图