面部辨认体系存在哪些「成见」逆境？这名年青人的讲话让 Jeff Dean 不由得点赞

回到 Alexandria Ocasio-Cortez 激发的议论。她给到我们的一点开导是，AI 伦理学并非纯真的「镌汰成见的技能要领」可能「应用伦理学」。而是成见渗入到模子傍边、可能模子以不得当的方法被行使、可能轮回反馈机制增强成见，由于这些缘故起因交叉而成的新题目。

我常常追念《大西洋》杂志一篇关于德王法律部分观测护卫申请的报道中所呈现的这句话。当最终回收这些概率体系的用户将体系的机能归结为「天赐」的，而非人类，将会产生什么工作？

文章链接：

https://www.theatlantic.com/magazine/archive/2018/04/the-refugee-detectives/554090/

「BAMF 的面部辨认软件以及由它所绘制的复杂数据库，此刻看来像是「天赐的」，一位人员带有敬意地暗示道。「我从来从来没见它出过失。」

我试图给出一些现实例子，声名涉及面部的辨认手段也许导致什么样的严峻效果，以辅佐各人领略这个视频的大配景。然而，这些设法现实上都来自学界和公家的建议。「当下」这个规模正在发生「云云之多」的学术研究，这些都是那些有见地的设法的来历。我们很荣幸可以或许向 @timnitGebru、 @jovialjoy,、@hannawallach,、@mathbabedotorg,、@jennwvaughan 这样的专家们进修。

尚有很多来自学术界和社会勾当界的率领者们正在就怎样记录、领略和镌汰成见对人工智能的影响，进而镌汰人工智能对社会的负面影响，纷纷提出本身的设法。我们可以从这些处所找到这些设法 http://gendershades.org/（对行业实践和公家意识有着庞大的影响），以及这里 https://fatconference.org/index.html

我就以这些话作为本次意见颁发的收尾吧。作为一名已往常常投入在面部辨认相干研究事变的人，我很是感激这个规模的专家们，他们的功勋包罗发明白我其时所研究体系的严峻题目（以及缔造性的修复要领）。

【编辑保举】

1. Gartner：37% 受观测组织现已陈设人工智能
2. 谷歌宣布天然问答数据集 Natural Questions
3. TiDB 的数据迁徙器材现已开源
4. 这10家机构的24个调研数据让你将AI动向一手把握
5. 你与数据科学家只差这 26 条 Python 能力

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!