天下网吧 >> 网吧系统 >> 系统动态 >> 正文

AI将非洲人标记为大猩猩:机器学习之路还有多长?

2016-11-9不详佚名

随着人工智能(AI)与机器学习技术的日益成熟,它们被用于解决复杂问题的潜力也逐渐显现出来,我们甚至有点儿期待,希望机器人能在人类失败的领域取得突破,即在决策时抛开个人偏见。

AI将非洲人标记为大猩猩:机器学习之路还有多长?

但是最近出现的许多案例显示,就像所有颠覆性技术那样,机器学习被引入的同时,也出现了许多意想不到的挑战,有时候甚至产生错误、令人讨厌的、冒犯性的后果,与人类社会信奉的道德和伦理标准截然不符。

这些故事听起来可能很有意思,但它们却促使我们反思AI技术对未来产生的影响。将来,机器人和AI将承担起更重要的责任,甚至将为它们做出的错误决定负责。

在其核心领域,机器学习利用算法分析数据、提取模式以及学习和预测,并会基于收集到的见解做出决定。它已经成为我们日常生活中使用的许多技术的基石,比如搜索引擎、面部识别应用以及数字助理等。机器学习算法获得的数据越多,它就会变得越聪明。这也就是科技公司千方百计收集更多用户和消费者数据的原因。

但是最终,机器学习只会保持其获得的数据那样聪明。这其中存在一个问题,因为同样被用于训练机器学习算法的数据,也可能会让它变得邪恶或存在偏见。就像所有孩童那样,机器学习算法往往会选择迎合其开发者的品味和偏见。更复杂的是,许多公司都以非常隐秘的方式运行内部算法,并把它们视为商业机密。

机器学习初创企业Beauty.ai今年举行了世界上首场AI驱动的选美大赛。超过6000人递交了自己的照片,AI通过对称性、皱纹等因素评估这些人的魅力。这项比赛的原意是减少人类裁判的社会偏见,但结果令人感到失望。44位获胜者中,绝大多数都是白人,只有少数亚洲人,深色皮肤人种的获胜者仅有1人。1名研究人员解释称,问题是用于训练算法的照片样本在种族方面存在不平衡性。

这并非机器算法首次出现偏见问题。今年年初,一种语言处理算法被发现,在处理艾米丽、马特等听起来像白人的名字时,显然比处理贾马尔、埃博尼等黑人名字时更愉快。

此外,微软此前被迫关闭了其聊天机器人Tay。它被设计模仿十几岁女孩的行为,却被发现满口脏话。Tay原本被期望提取用户评论,通过处理它们学习如何做出个性化回应。但是用户似乎对教授它种族歧视和纳粹言论更感兴趣。

可是,如果这些发生在敏感情况下,比如某人的生命或自由受到威胁时,将会如何?ProPublica5月份的研究显示,在评估未来犯罪倾向时,佛罗里达州执法机构使用的算法对非洲裔的评分更高。

有关这类机器学习算法存在偏见的例子不胜枚举,包括谷歌算法将非洲裔标注为大猩猩,广告投放引擎更少向女性展示高薪职位,新闻算法推广假新闻和粗俗故事等。

在传统软件中,确定某个失误是用户错误还是设计缺陷非常简单。但是机器学习并不那么透明,最大的挑战之一就是难以确定责任。开发机器学习软件与传统编码完全不同,训练算法与编写代码同样重要。即使开发者也无法精确预测机器将会做出何种决定,有时候也会对结果感到惊讶。

当Facebook被谴责在“趋势主题”模块中存在政治偏见时,事情变得更加复杂,因为这个模块部分由机器学习驱动。

当关键决定权被赋予AI时,事情将会变得更加敏感。举例来说,如果无人驾驶汽车撞倒1个行人,谁将被追究责任?司机(更精确地说车主)还是机器学习算法的开发者?

从数据库中根除这些偏见是开发公正的机器学习算法的关键,但是开发平衡数据库是非常复杂的任务。目前还没有任何相关规则或标准,可以用于评估用于训练机器学习算法的数据。有时候,研究人员利用和分享现成的框架和数据库,尽管里面存在各种偏见。

一个解决方案就是创造可共享的、受到监管的数据库,它不归任何单一实体所有,从而可预防任何人单方面操作数据。在这方面的显著努力就是AI合作组织(Partnership on Artificial Intelligence)的成立,Facebook、亚马逊、谷歌、IBM、微软以及机器学习创新领域的其他公司尝试解决AI和机器学习增长带来的恐惧。这个组织的目标包括,解决AI的伦理问题,确保AI被公开应用前接受多元化审视。

另一个有趣的努力是伊隆·马斯克(Elon Musk)创建的AI公司OpenAI,其目标是令AI研究变得更透明,防止它变成作恶工具。

将来有一天,或许机器人会变得足够聪明,可以解释自己的行为,并纠正它们的错误。但我们据此目标依然有很长的路要走。到那时,人类的责任将是预防训练AI的人类负面倾向被无限扩大。

本文来源:不详 作者:佚名

相关文章
没有相关文章
声明
声明:本站所发表的文章、评论及图片仅代表作者本人观点,与本站立场无关。若文章侵犯了您的相关权益,请及时与我们联系,我们会及时处理,感谢您对本站的支持!联系Email:support@txwb.com,系统开号,技术支持,服务联系QQ:1175525021本站所有有注明来源为天下网吧或天下网吧论坛的原创作品,各位转载时请注明来源链接!
天下网吧·网吧天下