设为首页收藏本站
查看: 608|回复: 5
收起左侧

人工智能来了 八大风险不可轻忽

[复制链接]
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

    发表于 2018-8-28 20:52:39 | 显示全部楼层 |阅读模式
      人工智能正在推动一场新的工业革命,其影响范围小则涉及个人生活,大则影响国家安全,让人们在期待的同时,也带着些许忐忑。事实上,当前人工智能的发展状况与未来学家或科幻电影中作出的设想并不完全一样。
      真实进展到了哪一步

      当前,越来越多的行业都在发展人工智能技术,新概念和新算法层出不穷,但人工智能的主要应用领域是图像识别和语言翻译,图像识别领域进展要优于语言翻译,前者在某些指标上超过了人类水平,但语言翻译能力还不及人类,这是该技术进展的基本情况。

      具体说,人工智能可以做以下四个方面的工作。

      第一,数据分类。人工智能可对图像或声音等数据进行分类,安防领域中对摄像头采集数据的处理及医疗影像识别和诊断,这两个领域发展迅猛,产业前景广阔。

      第二,异常探测。人工智能可帮助发现欺诈性金融交易或新恶意软件等异常行为,可用于实时监控大规模数据,央行及其他市场金融机构正致力于类似应用。

      第三,预测。从海量数据中发现某种规律后,人工智能可基于统计特征对未来行为作出预测,这在搜索引擎的自动填充、视频和网购平台的产品推荐等领域得到广泛应用,还可用于天气预报。

      第四,优化。人工智能可对复杂的系统和任务进行优化,例如美国“深度思维”公司使用机器学习优化了谷歌数据中心的能源效率,节约了40%用于冷却的能量,使能效整体提升了15%。

      综上,人工智能确实具有诸多优势,其反应时间比人类更快,在不少领域和场景下,有优于人类的精确性、可靠性和敏捷性,也比人类更有耐心和警觉性,同时还能独立于人类进行工作。

      应用中不可忽视的弱点

      不容忽视的是,当前的人工智能技术也存在弱点,美国智库“新美国安全中心”最近发布《人工智能:每个决策者需要知道什么》报告,提示人工智能的一些弱点可能对国家安全等领域造成巨大影响。

      第一,脆弱性。目前的人工智能系统还无法超出场景或语境理解行为,其在下棋或游戏等有固定规则的范围内不会暴露出这一弱点,而一旦场景发生变化或这种变化超出一定范围,人工智能可能就立刻无法“思考”。

      第二,不可预测性。用户无法预测人工智能会做出何种决策,这既是一种优势,也会带来风险,因为系统可能会做出不符合设计者初衷的决策。

      第三,弱可解释性。人工智能或许可以帮助人类做出好的决策,但决策理由目前仍然是一个“黑箱”。例如,图像识别能力可以发现图片中的校车,但无法解释哪些图像特征让它作出这种判断,而在医学诊断领域,诊断的理由往往是重要的。

      第四,安全问题和漏洞。机器会重结果而轻过程,通过找到系统漏洞,实现字面意义上的目标,但其采用的方法不一定是设计者的初衷。例如,网站会推荐一些极端主义视频,因为刺激性内容可以增加浏览时间。再如,网络安全系统会判断人是导致破坏性软件植入的主要原因,于是索性不允许人进入系统。

      第六,系统事故。在算法不能共享的对抗性环境中,系统性错误很容易发生,导致做出无法估量的决策。比如,在国家安全领域,两种相互对抗的算法为了获得优势会采用某些导致毁灭性后果的行为,尤其在网络安全和电子战过程中,对抗性决策会非常迅速,人类几乎来不及叫停。

      第七,人机交互失败。尽管让机器提供建议,由人类做最后决策是解决人工智能某些弱点的常用方法,但由于决策者对系统局限性或系统反馈的认知能力不同,这一问题并不能得到根本解决。2016年特斯拉自动驾驶汽车撞毁事故中,人类操作员就没能理解系统给出的提示而发生致命性事故,在军事、边境安全、交通安全、执法等诸多领域都面临类似挑战。

      第八,机器学习漏洞可被对手利用。在对抗性过程中,对手还会释放有毒数据或利用人工智能行为方式的某些漏洞发起攻击,目前还没有抵御这种攻击的有效办法。

  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-8-30 22:45:51 | 显示全部楼层
    不可忽视弱点
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-8-30 22:46:42 | 显示全部楼层
    机器学习漏洞可被对手利用
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-8-30 22:46:54 | 显示全部楼层
    人机交互失败
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-8-30 22:47:34 | 显示全部楼层
    安全问题和漏洞
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-8-30 22:47:58 | 显示全部楼层
    这些不能忽视

    本版积分规则

    快速回复 返回顶部 返回列表