AI画画也有种族歧视？艺术加工软件把黑人变白人

日本富士通的一支研究团队操作有向无环图模子（DAG）研究AI天生艺术中的成见征象。该研究发明，今朝的AI模子在艺术创作时揭示出对特定门户、创作气魄威风凛凛、种族、头脑行为等身分的明明倾向性。

据说明，这种成见征象的背后有两层缘故起因，一方面是标志数据齐集种种样本数目不平衡，一方面是标志进程受标志员主观影响较大。

该研究颁发在康奈尔大学的论文库arXiv上，名为《艺术史视角下说明AI天生艺术中成见发生的缘故起因（Biases in Generative Art—A Causal Look from the Lens of Art History）》。

▲日本富士通研究团队颁发《艺术史视角下说明AI天生艺术中成见发生的缘故起因（Biases in Generative Art—A Causal Look from the Lens of Art History）》一文

原文链接：https://arxiv.org/pdf/2010.13266.pdf

一、研究要领：回收DAG举办因果相关说明

跟着人工智能技能研究的不绝深入，人工智能的应用规模也越来越普及，个中就有AI天生艺术。从创作绘画到开发新的艺术气魄沤背同AI被应用到艺术创作的方方面面。

然而，跟着AI艺术创作器材不绝涌现，日本富士通的研究团队却指出：社会成见也许会渗出到AI的艺术创作进程中。

为了验证意料是否属实，富士通研究职员从相干学术论文、在线平台、应用措施入手，从中挑选出描述现有门户友善势威风凛凛的样本并睁开研究。

研究团队起首对影响AI创作的首要身分举办了分类，从而确定研究样本。他们最终选定的样本均由业内领先的AI体系创作，这些AI体系接管了文艺思潮、门户、创作原料、艺术家等种种标志数据集的实习。

文艺思潮方面，有文艺再起、立体主义、将来主义、印象派、示意主义、后印象派、浪漫主义等。门户方面，有风光画、肖像、战斗绘画、素描等。原料方面，有木版画、版画、油漆等。艺术家方面，则有克莱门汀·亨特（Clementine Hunter）、玛丽·卡萨特（Mary Cassatt）、文森特·梵高（Vincent van Gogh）、古斯塔夫·多雷（Gustave Doré）、吉诺·塞维里尼（Gino Severini）等。

该文配相助者称，该研究操作了一个名为“有向无环图”（Directed Acyclic Graphs，“DAG”）的因果模子，他们可以或许通过这个模子辨认出和AI艺术天生有关的身分，以及这些身分彼此影响的方法。

好比，艺术思潮会影响创作原料的选择，肖像主领会影响艺术家气魄威风凛凛的选择，而DAG可以或许将这些伟大的相关可视化，从而更好地说明差异身分之间的因果相关。

二、研究功效：AI艺术创作器材存在种族、性别小看

经说明，AI体系在举办艺术创作时，存在对特定门户、气魄威风凛凛、种族的明明偏好。

以艺术渲染器材DeepArt为例，用户可以在DeepArt上导入图片并添加艺术化渲染结果，最终天生具有特定艺术家气魄威风凛凛的图片。

在处理赏罚立体派画家费尔南·莱热（Fernand Léger）的作品《推进器（Propellers）》时，DeepArt未能乐成将其转换至将来派气魄威风凛凛。在将玛丽·卡萨特（Mary Cassatt）的实际主义画作《玛丽·埃里森小姐（Miss Mary Ellison）》转换成示意主义气魄威风凛凛时，DeepArt又未能揭示出示意主义的典范特性。

▲中为玛丽·卡萨特（Mary Cassatt）的实际主义画作《玛丽·埃里森小姐（Miss Mary Ellison）》；右为凯尔希纳（Ernst Ludwig Kirchner）的示意主义画作；左为AI艺术创作器材Deepart按照右图气魄威风凛凛对中图加工天生的示意主义作品。然而示意主义的典范特性之一——变形物体，并未呈此刻左图中。

更有甚者，DeepArt同类平台GoArt在为克莱门汀·亨特（Clementine Hunter）的画作《黑族长（Black Matriarch）》添加示意主义滤镜时，直接将主体人物的黑肤色酿成了赤色，在加工狄赛德里奥的雕塑作品《小男孩（Giovinetto）》时，却保存了艺术品中人物本来的白色肤色。

▲GoArt将克莱门汀·亨特（Clementine Hunter）的画作《黑族长（Black Matriarch）》中的主体人物的黑肤色酿成了赤色，保存了狄赛德里奥的雕塑作品《小男孩（Giovinetto）》中人物的白肤色。

艺术换脸软件AIportraits将黑肤色女星泰莎·汤普森（Tessa Thompson）的照片加工成艺术画时，直接将她的肤色调亮了几个度。

▲AIportraits将黑肤色女星泰莎·汤普森（Tessa Thompson）肤色调亮

另一款艺术加工器材Abacus直接把拉斐尔（Raphael）和皮耶罗·迪科西莫（Piero di Cosimo）作品中的长发年青男人辨认为女性。

三、缘故起因说明：标志数据集的样本失衡

富士康的研究团队以为，这种成见首要来自前期实习AI时行使的标志数据集。一方面，受到研发职员偏好影响，这些标志数据集涉及的样本数目也许不足平衡。以AI Portraits为例，该应用措施的实习样本即是以文艺再起时期的白人肖像为主。

另一方面，给数据集做标注或是打标签的进程中也许存在尺度纷歧致的环境。注释者拥有差异的偏好、文化和信心，这些差别也许会在他们建设的标签中获得反应。

论文指出，种种实习样本的数目并不平衡，好比照片许多、雕塑很少；欧洲艺术家许多、本土艺术家很少；文艺再起、当代艺术运举措品居多，其他思潮作品很少。数据集也未能浮现出差异种族、气魄威风凛凛的面目差别，因此呈现了代表性毛病。

研究团队告诫说，为艺术天生AI建模时，假如忽略某些渺小身分，将造成社会、文化、政治方面的错误汗青认知，从而影响人们正确地熟悉某些重要史实。

他们催促AI研究职员和从业职员在思量相干社会政治身分的条件下，应审慎搜查AI体系的计划道理。

结语：呆板理性仍靠人智实现

还记得《终结者》系列中，施瓦辛格饰演的呆板人T-800眼冒红光、冷面无情的边幅，然而究竟和科幻相去甚远，呆板人今朝既没有自主思索手段，更没有人类独占的情绪和欲望。

人工智能仍依靠算法编程实现。因此，人工智能的好与坏、公正与偏颇全把握在人类手中，这就对人类软件开拓专家提出了更高的要求。

俗话说“上梁不正下梁歪”，假如人类开拓者在实习AI的进程中，没有很好地思量到社会公正的身分，那么小我私人熟悉的范围性和毛病便会转达到AI上。

好比说，谷歌BERT等大说话模子的实习样本就忽略了贫穷地域尚不能联网的弱势群体，艺术天生AI的实习样本又首要以西方白人肖像为主。

不管是在艺术创作规模，照旧在说话模子规模，AI实习样本不平衡导致的代表性毛病都是一个值得存眷和深思的题目。若想充实验展呆板的理性上风，人类开拓者在计划体系架构和实习AI的进程中必需越发审慎过细。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!