设为首页收藏本站
查看: 192|回复: 2
收起左侧

Google再与军方合作,AI伦理的边界在哪里?

[复制链接]

该用户从未签到

发表于 2018-6-11 22:29:56 | 显示全部楼层 |阅读模式

故事要从今年三月初说起。

今年三月,Google被爆料已经与美国国防部(五角大楼)达成合作,帮助后者开发应用于无人机的人工智能系统,项目代号Project Maven。

消息一出,瞬间风起云涌,谷歌员工表达了对此项目的强烈不满。有员工认为Google在为五角大楼开放资源,助纣为虐般地帮助后者打造无人机监控技术;还有一部分人质疑Google如此使用机器学习技术是否符合道德标准,他们认为五角大楼会将这一技术用于杀伤性武器,进而带来技术乐观派们从未想要造成的伤害。

随后,谷歌超过3100名员工联名请愿,上书CEO桑达尔·皮查伊(Sundar Pichai),表达抗议。

谷歌员工联名上书Sundar Pichai

事情到四月底进一步发酵。有媒体发现,Google删掉了其沿用十八年的座右铭“Don't be evil”在公司行为守则开头中的三处强调。仅在准则的结尾,还留有未被删掉的一句:“记住,don't be evil,如果你看到了一些你认为不正确的事情,大声说出来!”

上周五,在每周一次的“天气预报”例会上,Google Cloud首席执行官黛安·格林(Diane Greene)宣布,Google将在这次合约到期后结束与美国国防部的合作的Project Maven。

这无疑是一件大事。“胜利的消息”在谷歌内部疯传。随着一篇篇报道的蜂拥而出,这件事情似乎暂时以谷歌“向员工妥协、停止与国防部续约”的方式得以落幕。

但就在今天,谷歌CEO Sundar Pichai发表了署名题为《AI at Google:our principles》的文章,列出7大指导原则,并指出谷歌并不会终止与美军的合作。谷歌的反转让人唏嘘,虽然其明确了“不会追求的AI应用”,但技术作恶还是人作恶的问题,AI伦理再次引人深思。

AI伦理的边界在哪里?

如果说谷歌近期来不太平,那么亚马逊Alexa的日子也不好过。

亚马逊的Echo设备被指控未经许可将私人对话录音,并将音频发送给用户联系人列表中的随机一位人士。这距离上次Alexa被爆出“嘲笑人类”事件的吓人事件,还没过过去多久。

Amazon对Alexa一事的回应

这可远远不是个例。早在2016年,一个人设为19岁少女、名为Tay的聊天机器人在推特上线。这个微软开发的人工智能采用了自然语言学习技术,能够通过抓取和用户互动的数据,处理并模仿人类的对话,像人一样用笑话、段子和表情包聊天。但是上线不到一天,Tay就被“调教”成了一个满口叫嚣着种族清洗、粗野不堪的极端分子,微软只好以“系统升级”为由将其下架。


  • TA的每日心情
    开心
    3 天前
  • 签到天数: 789 天

    [LV.10]以坛为家III

    发表于 2018-6-12 18:16:59 | 显示全部楼层
    这么厉害的
  • TA的每日心情
    开心
    2018-3-4 20:22
  • 签到天数: 91 天

    [LV.6]常住居民II

    发表于 2018-6-13 22:04:44 | 显示全部楼层
    谷歌和亚马逊在中国一直不是很火啊

    本版积分规则

    快速回复 返回顶部 返回列表