要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。

几十年前,我是美国媒体EE Times驻欧洲的外籍特派记者,当我不经意地表示对美国商业惯例的反感,认为这是对隐私权的侵犯时,一些产业分析师告诉我:“在美国,消费者愿意用他们的个资来换免费的东西;”至于美国的隐私权保护,他们说:“火车已经过站很久了…”

还是这样吗?

自从欧盟在一年前推出《通用数据保护规则》(General Data Protection Regulation,GDPR),遵守GDPR的压力已扩展到美国的资料平台业者,这些公司的业务覆盖范围实际上涵盖全球。而且即使在美国本土,加州也在去年推出了《加州消费者隐私保护法案》(California Consumer Privacy Act,CCPA),该法案旨在强化对加州居民的隐私权和消费者权利保护,有人认为该法案比GDPR更强大;该法案将在2020年1月生效。

社会大众对隐私权的重视正在美国迅速发酵。

美国消费者或许姗姗来迟,但他们正在醒悟放弃隐私所付出的代价。将个资留在Facebook、Google这样的大型技术平台业者手中,这些公司可能会也可能不会做合乎道德的事情;美国人发现,当他们的个资被黑客入侵、窃取、买卖,甚至被可疑群体用来影响选举结果时,他们几乎是诉诸无门。

在大数据时代,隐私保护法规迅速成为任何数字安全对话的主要元素;对于那些将业务建立在消费者个资之上的公司,消费者的信任正演变为其商业模式的重要组成部分。但相较之下,人工智能(AI)的“公正性”(fairness)仍处于我们在20年前讨论隐私权时的状态,它还没有上升到许多人的意识层面,至少目前还没。
我意识到在工程领域,许多人认为“公正性”是模糊、令人不快的议题,在他们看来,这与他们在技术开发和软/硬件设计方面的工作无关。

是这样吗?

EE Times在最近推出的一个AI专题报导中讨论了AI的公正性,但有些读者认为那应该是“社会工程”(social engineering)的范畴。

许多那一类的评论认为,这暗指工程师会被要求去操控技术(或游戏算法、数据集),为“政治正确性”(politically correctness)改变机器学习的结果;而“政治正确性”和“公正性”一样,是有着预设立场的一个词。

事实远非如此。

被AI解雇或被AI杀死

真正的问题是“偏见”(bias),这里指的是那些可能会扭曲机器学习结果的数据集偏见,而这种偏见透过训练算法的优化策略又被进一步放大。

想想那些不完整的数据集,例如忽略了坐轮椅的人、忽略了穿着绿色荧光夹克的建筑工人们;基于这些数据集被训练的AI算法可能会像打保龄球那样撞倒一群建筑工人,让坐轮椅比骑独轮车更危险。

在这些案例中,AI的不准确性最终可能赔上人们的宝贵性命,显然AI的机器决策未公正对待对那些穿荧光绿夹克和坐轮椅的人。

市场对AI趋之若鹜,因为各家企业都在寻求自动化其特定业务的方法;在寻求自动化方案的过程中,我们开始有意或无意地屈服于机器,涵盖整个决策范围。AI涉及的工作包括人事管理、信用评等、客户服务,甚至是驾驶。

要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。

如果某个 AI 算法做出针对某个年龄层员工进行裁员的决策,这些倒霉的员工有权质问AI为什么丢饭碗的是他们;他们可能还想知道,他们的雇主所依赖之AI系统是否在不知不觉间被设计为不公平对待某个年龄层。

一旦感觉到受了机器的委屈,你可能会很抓狂,甚至可能比被一个你知道是混蛋的人类老板炒鱿鱼更不爽。

算法也会是个混蛋吗?

不透明的算法

这个问题暴露了一个令人不安的现实──每套AI算法都是一个黑盒子,没人知道算法在做什么,无论是Facebook这样的社交网络巨擘使用的算法,还是Waymo自动驾驶车辆使用的算法,这使得这个大无畏的新AI时代之一切,都变得不透明和不确定。

最近人们已经开始公开讨论,是时候与Facebook分手了…

我不确定如果使用者决定分手,是否会改变那些大型科技平台的任何商业行为,但有一件事是肯定的:不是使用者,而是Facebook本身在肆意决定我们会在新闻推送看到什么;Facebook的运营不受任何法律监督。

正如Facebook共同创创办人Chris Hughes在投稿《纽约时报》(The New York Times)的一篇文章所写:“Facebook的力量最大的麻烦在于,马克(编按:Facebook共同创办人暨执行长Mark Zuckerberg)能单方面控制言论;他这种拥有监控、组织甚至审查20亿人对话的能力史无前例。”

他写道:“Facebook的工程师们编写算法,并决定哪些使用者评论或体验最终会显示在朋友和家人的新闻推送中。这些算法规则是专属的,而且非常复杂,甚至许多Facebook员工自己都不懂那些规则。”

这一切并非都是工程社群的责任,企业、政府主管机关、消费者和整个社会应该共同承担。

不过那些负责撰写算法和设计系统的工程师们,应该开始考虑乍看之下离他们的实验室很远的后果——隐私权保护和公正性。从现在开始讨论以「隐私权保护设计」(privacy protection by design)或“公正性设计”(fairness by design)为基础原则的系统开发正是时候!

本文同步刊登于电子工程专辑杂志台湾版2019年7月刊;责编:Judith Cheng

(参考原文:AI Doesn't Know When It's a Jerk,by Junko Yoshida)

 

阅读全文,请先
您可能感兴趣
9月10日,苹果发布了一系列新品,包括iPhone 16系列手机、Apple Watch Series 10智能手表和AirPods 4耳机。发布会后网上响起了一片吐嘈声,带着这些吐槽,我们来看看这次苹果到底有没有新玩意……
Rambus的HBM4控制器IP还具备多种先进的特性集,旨在帮助设计人员应对下一代AI加速器及图形处理单元(GPU)等应用中的复杂需求。这些特性使得Rambus在HBMIP领域继续保持市场领导地位,并进一步扩展其生态系统支持。
2016-2023年中国独角兽企业总估值由近5000亿美元持续攀升至超1.2万亿美元,其中在2020年首破万亿美元。
HBM4作为第六代HBM芯片,不仅在能效上较现有型号提升40%,延迟也降低了10%,成为各大芯片厂商竞相追逐的焦点。
对于股价波动的原因,寒武纪表示,除了公司经营层面的因素外,还可能受到其他因素的影响。寒武纪还提醒投资者,应甄别信息来源,具体情况以公司公告为准。
此次财报也从侧面反应了半导体行业在AI业务上的强劲增长势头,但同时也暴露出非AI业务增长乏力的困境。
• 得益于西欧、关键亚洲市场和拉丁美洲市场的增长,以及中国品牌的持续领先,全球折叠屏手机出货量在2024年第二季度同比增长了48%。 • 荣耀凭借其在西欧特别强劲的表现,成为最大的贡献者,成为该地区排名第一的品牌。 • 摩托罗拉的Razr 40系列在北美和拉丁美洲表现良好,为其手机厂商的出货量贡献了三位数的同比增长。 • 我们预计,头部中国手机品牌厂商的不断增加将至少在短期内抑制三星Z6系列在第三季度的发布。
AI技术的发展极大地推动了对先进封装技术的需求,在高密度,高速度,高带宽这“三高”方面提出了严苛的要求。
奕斯伟计算2024首届开发者伙伴大会以“绿色、开放、融合”为主题,从技术创新、产品应用、生态建设等方面,向开发者、行业伙伴等相关方发出开放合作倡议,加速RISC-V在各行各业的深度融合和应用落地,共同推动RISC-V新一代数字基础设施生态创新和产业发展。
2024年 Canalys 中国云计算渠道领导力矩阵冠军厂商分别是:阿里云、华为云和亚马逊云科技(AWS)
在全球智能手机竞争日益激烈的情况下,谁能在高端市场站稳脚跟,谁就占据了主动权。一直以来全球智能手机市场格局都是,苹果专吃高端,其他各大厂商分食全球中低端市场。但现在市场正在其变化。根据Canalys最
‍‍Mobileye 将终止内部激光雷达开发Mobileye 宣布终止用于自动驾驶的激光雷达的开发,并裁员 100 人。Mobileye 认为,下一代 FMCW 激光雷达对可脱眼的自动驾驶来说必要性没
‍‍近期,IC 设计大厂联发科宣布了2024年上半年度的员工分红计划,与8月份薪资一起发放。据外界估算,按照上半年税前盈余约648.66亿新台币(约 144.42 亿元人民币)进行估算,此次分红总额接
天眼查信息显示,天津三星电子有限公司经营状态9月6日由存续变更为注销,注销原因是经营期限届满。该公司成立于1993年4月,法定代表人为YUN JONGCHUL(尹钟撤),注册资本约1.93亿美元,
据市场调查机构Allied Market Research的《单晶硅晶圆市场》报告指出,2022年单晶硅晶圆市场价值为109亿美元,预计到2032年将达到201亿美元,2023年~2032年的复合年均
会议预告向世界展示中国最具创新力、领导力和品牌化的产品与技术!9月27号,“第6届国际移动机器人集成应用大会暨复合机器人峰会”将在上海举行,敬请关注!逐个击破现有痛难点。文|新战略半导体行业高标准、灵
‍‍‍‍上市PCB厂商竞国(6108)日前出售泰国厂给予陆资厂胜宏科技后,近日惊传台湾厂惊传12月前关厂,并对客户发布通知预告客户转移生產,最后出货日期2024年12月25日。至於后续台湾厂400名员
疫情后的劳动力囤积和强有力的员工保护规则掩盖了德国高薪制造业工作市场令人担忧的变化。根据联邦劳工办公室的数据,欧元区最大经济体德国的失业率在2019年春季曾达到历史最低点4.9%,现已上升至6%。虽然
8月28-30日,PCIM Asia 2024展在深圳举行。“行家说”进行了为期2天的探馆,合计报道了200+碳化硅相关参展企业(.点这里.)。其中,“行家说”还重点采访了长飞先进等众多企业,深入了解
9月6日,“智进AI•网易数智创新企业大会”在秦皇岛正式举行,300+企业高管及代表、数字化技术专家齐聚一堂,探讨当AI从技术探索迈入实际应用,如何成为推动组织无限进化的新引擎。爱分析创始人兼CEO金