新方法呼唤更公平AI决策

科技 2024-06-06 14:18 阅读:3

近日,来自卡内基梅隆大学和史蒂文斯理工学院的研究者提出了一种新的方法,旨在让人工智能对每个人都更加公平。这一方法称为“社会福利优化”,通过关注个体的整体利益和危害来做出更公平的决策。研究者们表示,传统的公平方法可能只注重确保不同群体获得批准的比例相同,而忽视了不同群体之间对决策的具体影响。因此,他们引入了“阿尔法公平”概念,即在公平和效率之间寻找平衡的方法。

新方法呼唤更公平AI决策 第1张

研究者们强调,采用社会福利优化方法后,人工智能系统可以更好地为每个人服务,特别是弱势群体。这项研究还展示了如何比较当前在人工智能中使用的不同群体公平性评估方法,以及将群体公平性评估工具与更广泛的公平效率标准联系起来。

该研究对于人工智能系统的开发者和政策制定者来说具有重要意义。开发者们可以通过采用更广泛的公平方法,了解公平措施的局限性,从而创建更公平和有效的人工智能模型,促进社会不同群体之间的公平。论文发表在国际会议上,并引起了广泛关注,为人工智能领域带来了新的思考方式,有望实现更公平的人工智能决策。