配电箱厂家
免费服务热线

Free service

hotline

010-00000000
配电箱厂家
热门搜索:
技术资讯
当前位置:首页 > 技术资讯

裁掉数十名人工编辑后,微软的新闻AI翻车了

发布时间:2022-06-16 18:59:49 阅读: 来源:配电箱厂家
裁掉数十名人工编辑后,微软的新闻AI翻车了

前段时间,微软解雇了约50名MSN新闻编辑,同时打算用日渐成熟的AI系统取而代之的消息引发广泛讨论,不少编辑同事都担心自己的饭碗将来也会被人工智能抢走。然而事情才过去没几天,微软的AI就翻车了。据外媒报道,近日,微软新的人工智能发布软件推送了一篇文章,文中内容谈到种族主义对一位英国混血女歌手JadeThrilwall的个人影响,但文中的配图却是Jade的队友另一位混血女歌手LeighAnnePinnock的照片。显然,该AI系统在人脸识别方面犯下了错误。

(右1为JadeThirlwall,右2为LeighAnnePinnock)JadeThirlwall是英国女子组合LittleMix的一员,近期在一档与BlackLivesMatter相关的BBC访谈节目中,Jade了自己在英格兰东北部南希尔兹一个以白人为主的社区环境下成长遭遇的不平等对待。她的外祖父母来自埃及和也门,而她因为阿拉伯血统而受到同龄人的欺负。

(JadeThirlwall)Jade的这篇采访稿由《独立报》报道,并被微软旗下的MSN.com网站转载。该网站收录了来自全球各地的优质内容,内容原本由AI系统辅助数十名人工编辑混合校审,然后发表。MSN.com网站过去有数十名人工编辑策划,他们负责挑选故事、新闻和图片在网站上发表,直到上个月微软宣布裁掉约50名人工编辑。微软认为,原本辅助编辑们完成这一系列工作的AI发布系统完全有能力单独胜任这项工作。外界将MSN的这一错误归咎于微软的AI算法不可靠。值得一提的是,《卫报》媒体编辑吉姆沃特森(JimWaterson)声称,MSN正试图阻止AI编辑选择《卫报》上这篇出现配图错误的文章,MSN的工作人员也被告知等待《卫报》这篇文章的发表,并尝试从网站上手动删除它,因为微软的AI机器人编辑很有可能会认为这是MSN读者感兴趣的内容。而微软方面则否认这一错误是由于「不可靠」的人工智能造成的,称其是自动发布软件的一项新功能的逻辑出了问题。虽然消除偏见和提高准确性仍然是人工智能研究的一个重点领域,但这一错误并不是这些问题造成的。微软的一位发言人在周二的一次采访中解释说,只是我们在测试中的一个图片替换功能出了一些问题,但我们很快关闭了这一功能,并修正了图片的错误。然而,这个小小的误会并没有被忽视。JadeThirlwall本人在社交平台上发帖指责了MSN的错误:这件事发生在LeighAnnePinnock和我身上已经很多次了,一直以来都有媒体把我们弄混,这几乎成了一个恶作剧。你们不能在一个团体的四个成员中区分出两个有色人种的女人,这让我很生气!事实上,目前的AI人脸识别技术确实在肤色、性别方面存在一定的偏见。有研究表明,微软的AI人脸识别技术虽然准确率已经接近100%(仅限于白人男性),但在识别肤色较深的人种时准确率仍只有79.2%~94%。而就在两天前,另一IT巨头IBM宣布放弃所有人脸识别相关技术业务,指出人脸识别技术存在肤色、性别偏见,旨在声援日渐加深的种族歧视问题。值得一提的是,IBM的AI人脸识别技术在识别肤色较深的人种时准确率只有65.3%~88%。近期,随着BlackLivesMatter运动在欧美地区的迅速发酵,其影响力也辐射到了包括AI在内的技术领域。比如有国外专家认为编程语言中的主从(masterslave)关系是一种压迫性的比喻,Blacklist等类似名词包含对黑人的歧意等。包括谷歌在内的一些互联网公司已经开始着手处理这些问题,主动更改项目代码中的一些歧义描述,尽管这些代码语句已经被人们沿用了数十年。

小程序封面海报
表单封面海报海报