资讯
展览资讯 大型展会 灯光节 大型盛典 赛事 中标捷报 产品快讯 热门话题 艺术节 活动 演出 新闻 数艺报道 俱乐部签约
观点
大咖专访 观点洞察 书籍推荐 吐槽 设计观点 企业访谈 问答 趋势创新 论文 职场方法 薪资报价 数艺专访
幕后
幕后故事 团队访谈 经验分享 解密 评测 数艺访谈
干货
设计方案 策划方案 素材资源 教程 文案资源 PPT下载 入门宝典 作品合集 产品手册 电子书 项目对接
  • 0
  • 0
  • 0

分享

梁正:算法公平存“不可能三角”,分级分类定制化是务实之举

2022-07-18


梁正

清华大学人工智能国际治理研究院副院长、清华大学中国科技政策研究中心副主任、清华大学公共管理学院教授


中新经纬7月15日电(王玉玲 实习生 郭西子)近日,由对外经济贸易大学数字经济与法律创新研究中心举办的“算法公平治理与实现”研讨会在线上举行。清华大学公共管理学院教授、清华大学人工智能国际治理研究院副院长梁正认为,公平具有多维性,常常面临“不可能三角”式的挑战。分级分类定制化的治理方案可能更务实。




关于算法公平性的定义,梁正以COMPAS案件为例总结了三个视角。第一是统计平等,即COMPAS对每个种族群体,比如黑人、白人,被拘留的被告人数比例相等。第二是条件统计平等,指在有限的风险因素情况下,每个种族群体中被拘留的被告人数比例相等,即犯罪风险的概率同等。第三是预测相等,偏误的假阳性和不同种族群体预测的准确性应大致相同。


  梁正指出,在公共管理领域中,起点公平、过程公平、结果公平三者不可能同时实现。对于不同层面的算法公平性,满足其中某一个定义,可能另外一个公平性就得不到满足。公平性的定义实际上与资源分配密切相关,但常常面临“不可能三角”式的挑战。此外,梁正还提出了一些算法治理的困境,如当涉及到公平正义的问题时,用什么工具判断?这个工具可靠吗?从落实平台责任角度来讲,怎么去解决复杂性问题?梁正表示,有些从技术上来讲基本上是做不到的,但这些困境需要解决。


  梁正表示,从国外实践来看,采用分级分类定制化的治理方案可能更务实。算法公平也是保障公共利益最大化。算法分级分类,即在判断风险要素识别和分级分类基础上,我们才有相应的规制要求和力度。不同监管规则的设计应注重与具体场景相匹配。因此,从这个意义上,算法公平问题涉及社会资源分配,同时也涉及具体场景的多元因素判断。




关于我们

清华大学人工智能国际治理研究院(Institute for AI International Governance, Tsinghua University,THU I-AIIG)是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势,研究院面向人工智能国际治理重大理论问题及政策需求开展研究,致力于提升清华在该领域的全球学术影响力和政策引领作用,为中国积极参与人工智能国际治理提供智力支撑。

新浪微博:@清华大学人工智能国际治理研究院

微信视频号:THU-AIIG

Bilibili:清华大学AIIG

阅读原文

* 文章为作者独立观点,不代表数艺网立场转载须知

本内容由数艺网主动采集收录,信息来源为 “清华大学人工智能国际治理研究院” 公开网络发布内容。第三方如需转载本内容,必须完整标注原作者信息及 “来源:数艺网”,严禁擅自篡改、删减或未标注来源转载。 并附上本页链接: 若您的内容不希望被数艺网收录,或认为此举侵犯了您的合法权益,敬请通过微信 ID:d-arts-cn 联系数艺网。我们将致以诚挚歉意,并第一时间为您办理下架或删除处理。

数字媒体艺术 专家观点 算法公平存 分级分类定制化

16220 举报
  0
登录| 注册 后参与评论