资讯
展览资讯 大型展会 灯光节 大型盛典 赛事 中标捷报 产品快讯 热门话题 艺术节 活动 演出 新闻 数艺报道 俱乐部签约
观点
大咖专访 观点洞察 书籍推荐 吐槽 设计观点 企业访谈 问答 趋势创新 论文 职场方法 薪资报价 数艺专访
幕后
幕后故事 团队访谈 经验分享 解密 评测 数艺访谈
干货
设计方案 策划方案 素材资源 教程 文案资源 PPT下载 入门宝典 作品合集 产品手册 电子书 项目对接
  • 0
  • 0
  • 0

分享

【AIIG观察第67期】布鲁金斯学会:美国可通过解决偏见问题来改善其人工智能治理战略

原创 2022-05-25


海外智库观察

「布鲁金斯学会:美国可通过解决偏见问题来改善其人工智能治理战略」

2022年5月17日,布鲁金斯学会(Brookings Institution)发布其技术创新中心主任尼科尔·特纳·李(Nicol Turner Lee)以及技术创新中心研究助理Samantha Lai 所撰写的《美国可通过解决网上的偏见来改善其人工智能治理战略(The U.S. can improve its AI governance strategy by addressing online biases)》。作者指出,美国一直在努力编纂其国家人工智能倡议,该倡议侧重于六个战略支柱,分别为改善人工智能创新,推进可信的人工智能,通过人工智能创造新的教育和培训机会,通过新技术改善现有基础设施,促进联邦和私营部门利用人工智能改善现有系统以及打造有助于人工智能进一步发展的国际环境。美国商务部和美国国家标准与技术研究所于今年4月宣布了首届国家人工智能咨询委员会(National Artificial Intelligence Advisory Committee, NAIAC)的成员,该委员会将负责就如何开展国家人工智能治理工作向拜登政府提供建议。NAIAC于2022年5月4日召开了首次会议,讨论了人工智能的使用和监督问题。作者认为,国家人工智能倡议和NAIAC的建立都将有助于美国进一步建立关于人工智能的国家规范。此外,作者还指出,打造人工智能国家规范,需重点关注弱势群体受到的差别待遇。如果美国将这种考虑排除在国家治理的讨论之外,那么这种历史性和系统性的不平等将长期存在,且会限制人工智能创新,影响金融服务、招聘、刑事司法、医疗保健、教育等领域的包容性,并削弱公平和公正等民主价值观。作者还指出,虽然NAIAC在收集各利益相关者的意愿方面发挥关键作用,但是获得更具包容性和受影响群体的意见对制定和执行更具弹性的治理方法十分关键。作者基于布鲁金斯学会在此方面的研究,提出了有助于帮助美国解决偏见问题,保护弱势群体利益,促进打造具有包容性、负责任的和可信赖的人工智能系统的建议。


作者表示,首先必须界定何为人工智能偏见,美国需要对人工智能及其可能产生的相关问题有一个共同的理解。与欧盟的定义相比,美国国家人工智能倡议对值得信赖的人工智能定义显得更为宽泛和笼统,而欧盟则是根据实际风险程度对人工智能进行了定位,将人工智能的使用分为了三个不同的等级。经济合作与发展组织和其他国际机构对可信人工智能的定义则重点考虑了公民权利和人权。作者还指出,与美国相比,国际实体对偏见的定义采取了更积极主动的方式,以确保对所处理的伤害有一些共同的共识。此外,尽管美国已经采取了一些缓解人工智能歧视问题的举措,例如拜登政府将公平作为国家人工智能倡议的重点,并发布行政命令指示美国国防部投资于有助于促进多样化的人工智能项目,但作者认为美国还可以采取更多解决人工智能歧视问题的举措。


作者还指出,如果联邦政府在识别偏见和解决该问题方面出现问题,将会削弱人们对自主系统功效的信任,特别是对于其日常生活越来越依赖自主系统的公民。作者提出了7个因人工智能歧视问题而引起关注的领域。美国在住房和贷款方面存在的种族不公平性现象已由来已久,房屋评估和贷款审批中的偏见对该领域相关系统的运用仍构成挑战,已有自动抵押贷款系统被发现向黑人和西班牙裔借款人收取明显较高的抵押贷款价格。在招聘领域,如今,越来越多的公司正在使用人工智能来降低其运营成本,提高招聘效率。然而,这些系统并没有脱离实体工作场所中存在的性别差异和人种差异,已有招聘算法被证明对白人群体更为有利。在刑事司法领域,有偏见的歧视性法律的历史加强了刑事司法系统中的种族主义,该系统对低收入者和有色人种的政策和监禁比例过高。而在这一领域引入人工智能,只是在系统内创造了一个新的不公正的实施者。由司法部创建的PATTERN算法被用来预测累犯和缩短基于良好行为的刑事判决,然而该算法已被证明对有色人种存在偏见。这种风险评估工具在刑事司法系统中得到了广泛使用,但在几乎没有监督的情况下加剧了司法系统内现有的偏见。人工智能在医疗保健领域的使用也被证明会加剧社会不平等,例如,一种被用于确定移植名单安排的算法已被证实其种族系数使黑人患者在名单上的位置低于白人患者,尽管美国黑人患肾衰竭的可能性明显高于美国白人。作者表示,事关生死的问题任由有偏见的技术摆布,令有色人种面临的现有健康不平等现象更加恶化。人工智能在金融系统中的使用,也使偏见进一步延续。一些金融科技公司的算法延续了传统贷款模式中存在的偏见问题。另一个问题是信用隐形,4400万美国人因与主流金融服务脱节,而没有信用记录。由于缺乏数据,金融科技无法评估这些人群的未来借贷或信贷行为,导致他们仍然受到美国财富差距的困扰。在政治虚假信息方面,无节制的数据收集,加上人工智能在社交媒体算法中的使用,使得不良行为者能够针对边缘化群体传播虚假信息。政治虚假信息威胁着少数种族的公民权利,为他们充分参与美国的民主制度设置了障碍。许多关于人工智能的用例都依赖于人脸检测和面部识别技术,在对不同主体进行识别和分类时,这些技术存在着技术缺陷。例如,由于使用不准确的面部识别技术而导致了多次错误的逮捕。此外,还存在另外两个加剧人工智能偏见的关键因素,即数据质量和劳动力多样性。现有的数据记录了历史上边缘化社区遭受不公正待遇的情况。当这些历史遗留问题被纳入现有的数据集并显示在机器学习算法中后,其所自带的弊端也被继续延续下来。人工智能劳动力的多样也是值得关注的问题。缺乏多样性意味着机器学习算法和其他自主系统的开发会缺乏必要的生活经验,从而无法避免不良的数据处理,以及创造更好的产品或服务。


作者表示,人工智能偏见的深度和广度迫使联邦政府需要有原则的指导和解决方案。如果没有一个框架来主动解决这些国内挑战,数字竞争力就不能在美国充分实现。为了,解决上述问题,NAIAC已成立了一个关于人工智能和执法的小组委员会,负责调查偏见和数据安全问题。此举表明美国政府致力于构建以人为本的人工智能,并打击人工智能系统中常见的现有偏见。为了更好地设计和执行国家人工智能治理战略,作者还提出了几条建议。作者指出,美国需要对现有的民权制度进行更新,以确定人工智能治理的可解释性。美国还应识别并确定具体的使用案例,以提出更严格的监督和监管的建议。在考虑人工智能风险时,重要的是概述和明确哪些用例需要进行严格的监督和监管。此外,人工智能治理应该民主化,因此,应允许技术专家以外的人参与。对此,美国必须深化其对人工智能治理的参与性方法,鼓励公众投入、行业最佳实践和进行消费者披露。鉴于,人工智能偏见中的许多令人震惊的现象来自于现有的系统性不平等,且这些不平等植根于种族主义。虽然开发者团队的多样化、对数据偏见的审查以及广泛的消费者投入都将有助于在人工智能设计和执行中实现公平竞争。美国应该考虑并采用反种族主义的方法来处理人工智能系统中的偏见与歧视。


尼科尔·特纳·李(Nicol Turner Lee):布鲁金斯学会技术创新中心主任、治理研究方向高级研究员

Samantha Lai:布鲁金斯学会技术创新中心研究助理

原文链接:

https://www.brookings.edu/blog/techtank/2022/05/17/the-u-s-can-improve-its-ai-governance-strategy-by-addressing-online-biases/

行业舆情追踪

国内动态

政府监管

「香港拟立法加强关键基础设施网络安全」

5月25日,香港特区政府创新及科技局局长薛永恒表示,近年来网络攻击增加,对世界各地关键基础设施的网络安全带来重大挑战。香港现在并未有针对关键基础设施网络安全的特定法例要求,特区政府正进行准备工作,希望通过立法方式清晰订定关键基础设施营运者的网络安全责任,加强香港关键基础设施的网络安全。他指出,特区政府在制订相关网络安全标准时,亦会参考其他司法管辖区和国际间采用的标准,并计划于今年底就立法建议进行公众咨询。据悉,特区政府资讯科技总监办公室(资科办)已制订详尽的指引,并定期检讨和更新,同时成立了政府电脑保安事故协调中心,协助和协调各部门应对相关紧急事故。此外,政府网站和系统均已采用多层保安措施,侦察、堵截和抵御各种安全威胁。

来源:联合早报


「全国数字计量技术委员会和全国人工智能计量技术委员会成立」

5月20日,市场监管总局宣布成立全国数字计量技术委员会和全国人工智能计量技术委员会。上述委员会旨在支撑我国数据和人工智能的创新发展,推动各专业领域数字量具(参考数据)、智能量具(认知标准)的建立和使用,向市场监管总局提出综合性、通用性及特殊领域的国家计量技术规范的制定、修订和宣传贯彻的建议,组织专家人才共同研究和探讨数字世界及智能领域中的计量问题,组织起草相关计量技术规范,规范我国计量数据和人工智能的溯源途径和技术方法,保障数字领域计量量值的单位统一、准确可靠,确保智能评价方法可信度和一致性。

来源:36氪


政府规划

「《武汉市新型智慧城市“十四五”规划》出台,到2025年实现全面“智理”一座城」

5月23日,《武汉市新型智慧城市“十四五”规划》正式出台。《规划》从基础设施、数据资源、数据政府、公共服务、城市治理、数字经济六个方面提出32项主要指标,并将提速数字赋能改革、提扩城市大脑能力、提质数字政府建设、提效智慧民生服务、提升精细治理水平、提振数字经济生态、提高基础设施能级、筑牢网络安全屏障等八个方面工作作为主要任务。《规划》强调,要加强大数据创新应用,着力发展语音图像识别、自然语言处理、深度学习等领域,同时建设人工智能算法公共平台,推进深度学习、智能传感、智能芯片、模式识别等人工智能关键技术研究。

来源:武汉市人民政府


「杭州钱塘区首个元宇宙产业园开园」

5月21日,杭州钱塘元宇宙新天地开园。据悉,这是钱塘区首个元宇宙产业园,未来将围绕数字孪生、人工智能、虚拟数字等元宇宙核心底层技术,以及游戏、社交、教育等元宇宙新型应用场景,引进培育一批创新型中小企业,为钱塘区元宇宙产业注入强大活力。

来源:钱江晚报


「宁波首个元宇宙协作平台成立」

5月12日,宁波市首个元宇宙领域协作平台——“青媒·镇”网络联合体正式成立。据悉,该联合体将依托甬江科创区的科教研发创新区,集聚网络领域、元宇宙领域的产业和智力资源,为元宇宙产业发展搭建协作平台。近期,平台将重点推动理事单位在文旅会展影视元宇宙技术应用、智能制造元宇宙技术应用、多维多感知游戏体验、虚拟情感生活社区搭建等方面进行探索合作。

来源:宁波财经


技术运用

「奢侈品鉴别引入AI智能重塑新生态」

5月23日消息,中国企业质量服务平台携手浙江省检验检疫科学技术研究院日前推出“奢侈品AI智能鉴别”服务。据悉,AI智能鉴别能通过纹理、对比度、针脚、Logo几何形状、工艺等判断真伪,通过提取其中数以百万计的数据点进行像素级识别,可以观察到众多人眼无法看到的微观细节,准确度高达98.5%。

来源:中国发展网

国际动态

政府监管

「中非共和国将启动非洲大陆第一个加密货币投资中心」

5月24日,中非共和国总统福斯坦-阿尔尚热·图瓦德拉(Faustin-Archange Touadéra)表示将启动非洲大陆首个合法的加密货币投资中心。图瓦德拉表示,尽管国际货币基金组织发出了警告,中部非洲经济和货币共同体的银行监管机构也发出了有关禁止加密货币的提醒,但仍然无法阻止该国对数字金融的热情,政府为即将推出的“SANGO”加密计划设立了网站,投资者可以在该网站上注册。

来源:路透社


「英国要求Clearview AI 删除属于英国居民的面部识别数据」

5月23日消息,面部识别公司 Clearview AI 已被英国的隐私监管机构信息专员办公室 (Information Commissioner's Office, ICO) 命令删除属于英国居民的所有数据。ICO 还因 Clearview 未遵守英国的数据保护法而对其罚款 750 万英镑。这是该公司第四次以这种方式被要求删除国家数据,此前澳大利亚、法国和意大利也发布了类似的指令并处以罚款。Clearview 的首席执行官 Hoan Ton-That 此前在回应意大利的禁令时表示,该公司总部位于美国,欧盟立法无法对其进行约束。

来源:The Verge


「新加坡法院禁止出售“无聊猿”NFT:所有权存在纠纷」

5月23日,新加坡法院发布一份冻结禁令,在一起案件中冻结“无聊猿”NFT(Bored Ape NFT)并禁止出售。法院认为“无聊猿” NFT所有权存在纠纷,它作为贷款抵押品被取消了赎回权,在纠纷解决前不能出售。新加坡法律认为同质化代币和非同质化代币是资产,可以向其施加禁令,这次的案件审理并没有违背此原则。此次裁定表示,新加坡认为NFT是有价值的资产,值得保护。

来源:新浪科技


政府规划

「法国财政部长:全球数字税协议的实施或将延期」

5月24日,法国财政部长布鲁诺·勒梅尔(Bruno Le Maire)表示,全球数字税收协议可能要到2023年底或2024年初才能准备好,而欧盟官员们此前曾希望在今年年中签署该协议。据悉,该协议旨在将对苹果和谷歌等大型数字集团征税的权利重新分配给最终客户所在的国家/地区。这是对跨境税收规则进行重大改革的两大议案中的一个,其中还包括对大型跨国公司征收15%的全球最低公司税的计划。

来源:路透社


「西班牙将为半导体和微芯片发展投资122.5亿欧元」

5月24日,西班牙经济部长纳迪亚·卡尔维诺(Nadia Calvino)表示,西班牙政府已批准一项计划,准备在2027年前在半导体和微芯片行业投入122.5亿欧元,其中93 亿欧元将用于基础设施建设,该计划旨在全面发展西班牙在微电子和半导体行业的设计和生产能力,涵盖从设计到芯片制造的整个价值链。

来源:路透社


「《金砖国家制造业数字化转型合作倡议》发布」

5月23日,金砖国家工业互联网与数字制造发展论坛发布《金砖国家制造业数字化转型合作倡议》。《倡议》主要围绕十个方面展开,包括凝聚数字化发展共识,建设通达的数字基础设施,充分激发数据要素价值,加快制造业数字化转型,助力中小微企业包容增长,培育数字化新模式新业态,深化数字化绿色化协同,加强国际人才交流合作,共建开放协同新生态,以及构建多边国际合作机制。

来源:中国新闻网


行业自治

「 Meta 分享更多关于政治广告定向投放的数据」

5月23日,Meta表示,将在其公共广告数据库中分享更多关于投放政治和社会问题广告的广告商所做的定向选择的数据,并表示还将在“Facebook 开放研究和透明度”数据库中加入这些个人广告的详细目标信息,供学术研究人员使用。

来源:路透社


「印度加密货币平台CoinSwitch呼吁政府制定监管措施」

5月22日,加密货币平台CoinSwitch首席执行官Ashish Singhal表示,印度必须制定关于加密货币的规则,以解决监管欠缺的问题,保护投资者权益,从而促进加密行业的发展。据悉,CoinSwitch为是印度最大的加密货币平台,拥有超过 1800 万用户。

来源:路透社


科技公司

「面部识别公司Clearview AI正在扩大业务服务范围」

5月25日,人工智能面部识别公司Clearview AI宣布将扩大其业务销售范围,将从此前为警察部门提供服务扩展到对其他公司也进行销售,包括为管理学校访客管理系统的公司提供服务等。据悉,该公司使用公开照片训练其面部识别工具,此前曾帮助警方通过利用社交媒体图像来识别犯罪人员,但因违反隐私问题而饱受诟病。

来源:路透社


「高德纳提出2022年推动银行和投资服务行业发展的三大技术」

5月24日,咨询公司高德纳提出,人工智能、自主系统、隐私算法将在2022年推动银行和投资业务行业的发展。生成式AI可以应用于欺诈检测、交易预测、合成数据生成和风险因素建模;自主生成系统是自我管理的物理或软件系统,可以应用于自主债务管理、个人理财助理和自动借贷;隐私增强计算可确保在不受信任的环境中处理个人数据。

来源:高德纳


「Argo AI 正在迈阿密和奥斯汀测试完全无人驾驶汽车」

5月23日消息,由福特和大众汽车支持的初创公司 Argo AI 正在佛罗里达州迈阿密和德克萨斯州奥斯汀测试其完全无人驾驶汽车, 以测试该公司的无人驾驶出租车服,试验时Argo 员工将坐在车辆的乘客座位上。

来源:The Verge


「T-Mobile 推出 5G 产品,将与 Verizon、AT&T 争夺商业客户」

5月23日,跨国移动电话运营商T-Mobile推出了一套 5G 产品,以吸引商业客户并抢占竞争对手 Verizon 和 AT&T 的部分市场份额。T-Mobile业务集团总裁Callie Field表示,该产品套件被称为 5G 高级网络解决方案,将提供三个级别的服务——从完整的私有5G网络到通过公共网络共享空间,私有 5G 网络可帮助企业不用再在公共网络上与其他人争夺速度,并且可以使用数据密集型应用程序。

来源:路透社


「Meta 构建新的 AI 平台以创建更逼真的人体模型」

5月23日,Meta 表示,公司的人工智能团队开发了一个名为 MyoSuite 的人工智能平台,该平台可以创建更加逼真的肌肉骨骼模型,为虚拟世界提供更高质量的人体模型。

来源:CNET


「博通与云计算公司VMware洽谈收购事宜」

5月23日,据知情人士透露,美国芯片制造商博通正在与云计算公司VMware就收购进行谈判,但双方不保证会达成收购协议。若此次交易达成,将有可能成为今年以来的最大规模收购交易之一。

来源:华尔街日报、彭博社


技术运用

「亚马逊在英国送货车上安装人工智能摄像头,以监督不良驾驶行为」

5月23日消息,亚马逊已开始在英国的货车上安装人工智能摄像头来收集司机的驾驶数据,并监视他们的道路违规行为和其他不良驾驶行为,并在发现情况后发出音频警报。据悉,该摄像头不会实时监控司机,也不会记录他们的声音,只会在某些情况下将镜头画面传输给专门的安全团队。一个名为 Big Brother Watch 的隐私组织表示,该系统侵犯了英国工人的隐私,呼吁暂停该系统。

来源:engadget

 

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点


关于我们

清华大学人工智能国际治理研究院(Institute for AI International Governance, Tsinghua University,THU I-AIIG)是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势,研究院面向人工智能国际治理重大理论问题及政策需求开展研究,致力于提升清华在该领域的全球学术影响力和政策引领作用,为中国积极参与人工智能国际治理提供智力支撑。

新浪微博:@清华大学人工智能国际治理研究院

微信视频号:THU-AIIG

Bilibili:清华大学AIIG


阅读原文

* 文章为作者独立观点,不代表数艺网立场转载须知

本文内容由数艺网收录采集自微信公众号清华大学人工智能国际治理研究院 ,并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源:数艺网” 并附上本页链接: 如您不希望被数艺网所收录,感觉到侵犯到了您的权益,请及时告知数艺网,我们表示诚挚的歉意,并及时处理或删除。

数字媒体艺术 布鲁金斯学会 新媒体艺术 科技艺术

16348 举报
  0
登录| 注册 后参与评论