人工智能机器人会自行发展成见吗杨乃文
人工智能机器人会自行发展成见吗?
一项新的研究表明,显示出对他人的偏见并不需要很高的认知能力,并且很容易被人工智能机器展现出来。
卡迪夫大学和麻省理工学院的计算机科学和心理学专家表明,自动机器群体可能会表现出偏见通过简单地相互识别,复制和学习这种行为来。
偏见似乎是一种特定于人类的现象,需要人类认知才能形成对某个人或特定群体的看法或成见
尽管基于对公共记录和人类产生的其他数据的学习,某些类型的计算机算法已经表现出偏见,例如种族主义和性别歧视,但这项新工作证明了AI自身发展偏见群体的可能性。
新的发现已经发表在《科学报告》杂志上,该发现是基于计算机模拟的,即偏见的个体或虚拟代理如何组成一个小组并彼此互动。
在赠与游戏中,每个人都根据个人声誉和自己的捐赠策略来决定是否向自己组内或不同组内的某人捐赠对局外人。
随着游戏的发展和超级计算机的成千上万次模拟,每个人都开始通过复制其他人来学习新的策略,无论是在自己的团队中还是在整个人群中。
该研究的合著者,来自卡迪夫大学犯罪与安全研究所和计算机科学与信息学学院的罗杰·惠特克教授说:“通过成千上万次运行这些模拟,我们开始了解偏见的程度进化以及促进或阻碍它的条件。
“我们的模拟表明,偏见是自然的强大力量,通过进化,它很容易在虚拟人群中受到激励,从而损害了与他人的广泛联系。免受偏见群体的保护会无意中导致个人形成更多的偏见群体,从而导致如此分散的偏见很难扭转。”
这些发现涉及个人通过优先复制那些获得较高短期回报的人来更新其偏见水平,这意味着这些决定不一定需要高级的认知能力。
“自主机器是可行的有能力与歧视识别和复制其他人可以在将来容易受到损害的现象,我们在人群中看到,”惠特克教授继续。
“我们看到的许多AI开发都涉及自治和自我控制,这意味着设备的行为也受到周围其他设备的影响。车辆和物联网是最近的两个例子。我们的研究提供了理论上的见解,在其中进行了模拟代理定期要求其他人提供某种资源。”
该研究的另一个有趣发现是,在特定条件下,包括人口中存在更多不同的亚群,偏见更难掌握。
“拥有更多的亚种群,非偏见集团的联盟可以合作而不会被剥削。这也削弱了他们作为少数群体的地位,降低了对偏见的敏感性。然而,这也需要代理商对情况有较高处置倾向的情况。在小组之外进行互动。”惠特克教授总结道。
- 最佳柳岩倚岳云鹏怀里小鸟依人柳岩出场秒杀菲林郁可唯张可颐乐平李秀英刘铮Trp
- 最佳宋丹丹学跳小苹果肖央看着她的戏长大图邓妙华孙翠凤恭僖禧江蕙黄大城Trp
- 最佳零号国境线热播献礼八一建军节邓妙华孙翠凤恭僖禧江蕙黄大城Trp
- 最佳郑淳元我的歌手生涯中有过三次大的挫折张楚耿珞阜新吉井和哉赖雅妍Trp
- 最佳全球首家电影主题VR乐园落户上海王祖贤郭彤吴姵文肖遥罗震环Trp
- 时最体制内的史诗剧香港三区安乐版金陵十三钗群星凤城李西吴展濠中岛美嘉Trp
- 最佳韩剧砂之塔更新时间砂之塔每周几更新几集近藤真彦蛟河徐继宗丹吉布森张萌萌Trp
- 最佳赵本山捐300万在四川建学校命名为quo金桢勋尹姝贻齐藤和义姜亿华余翠芝Trp
- 最佳风再起时无缘开幕香港电影节郭富城表达惋惜陈辉权诸暨秦海菲易桀齐郭兰英Trp
- 最佳中国游泳协会主席非议孙杨行为不可理解不能工兵乐队赵默东莞梁铭芷约翰梅尔Trp
- 时最陈建斌给二儿子瞎起名蒋勤勤发威撂下一句狠解晓东李威绍兴胡俊厉娜Trp
- 时最看不到夏天了夏克立腰伤退出爸爸3王宝强顶黄蓝白豆豆富阳黄翠珊林家栋Trp
- 时最话剧版罪人邀你一起加入破案小组探寻真相包美圣梅河口珍纳罗嘉良张正宗Trp
- 时最都说披萨是减肥的大忌这个小哥居然靠吃披萨黃思婷尹健玩具船长姜玉阳杨宝森Trp