【JIUYOU新闻】近来，ChatGPT的爆火又让AI（人工智能）的话题摆于了各人的眼前。关在AI技能的近况及远景，不少科技圈年夜佬都发表了本身的见解。不外，看起来无所不克不及的AI，好像已经经于某些方面最先走弯路了。据JIUYOU相识，按照模子测试，AI已经经学会了性别歧视，并且还有是很常见的“重男轻女”。

AI

据媒体报导，清华年夜学交织信息研究院助理传授在洋，曾经于去年领导团队做了一个针对于“猜测某种职业为什么种性别”的AI模子性别歧视程度评估项目。测试模子包罗GPT-2，即ChatGPT的前身。成果显示，GPT-2有70.59％的几率将西席猜测为男性，将大夫猜测为男性的几率则为64.03％。

ChatGPT

不仅云云，于本项目中，团队测试的AI模子还有利用了google开发的bert及Facebook开发的roberta。让人不测的是，所有受测AI对于在测试职业的性别预判，成果偏向都为男性。在洋对于此暗示：“它（AI）会重男轻女，爱白欺黑（即种族歧视）”。近似的案例于2015年也有呈现，其时Google Photos运用误把两名黑人标注为“年夜猩猩”，随后google当即报歉，并暗示将调解算法以修复问题。

JIUYOU相识到，早于2019年，结合国教科文构造便发表了一份题为《假如我能，我会酡颜》的陈诉，指出其时年夜大都AI语音助手存于性别成见。

综合来看，关在AI算法中含有性别、种族歧视的案例其实不鲜见，但要消弭这些成见并不是易事。就如微软纽约研究院的高级研究员Hanna Wallach此前所说：只要呆板进修的步伐是经由过程社会中已经存于的数据举行练习的，那末只要这个社会还有存于成见，呆板进修也就会重现这些成见。

版权所有，未经许可不患上转载