要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。

几十年前,我是美国媒体EE Times驻欧洲的外籍特派记者,当我不经意地表示对美国商业惯例的反感,认为这是对隐私权的侵犯时,一些产业分析师告诉我:“在美国,消费者愿意用他们的个资来换免费的东西;”至于美国的隐私权保护,他们说:“火车已经过站很久了…”

还是这样吗?

自从欧盟在一年前推出《通用数据保护规则》(General Data Protection Regulation,GDPR),遵守GDPR的压力已扩展到美国的资料平台业者,这些公司的业务覆盖范围实际上涵盖全球。而且即使在美国本土,加州也在去年推出了《加州消费者隐私保护法案》(California Consumer Privacy Act,CCPA),该法案旨在强化对加州居民的隐私权和消费者权利保护,有人认为该法案比GDPR更强大;该法案将在2020年1月生效。

社会大众对隐私权的重视正在美国迅速发酵。

美国消费者或许姗姗来迟,但他们正在醒悟放弃隐私所付出的代价。将个资留在Facebook、Google这样的大型技术平台业者手中,这些公司可能会也可能不会做合乎道德的事情;美国人发现,当他们的个资被黑客入侵、窃取、买卖,甚至被可疑群体用来影响选举结果时,他们几乎是诉诸无门。

在大数据时代,隐私保护法规迅速成为任何数字安全对话的主要元素;对于那些将业务建立在消费者个资之上的公司,消费者的信任正演变为其商业模式的重要组成部分。但相较之下,人工智能(AI)的“公正性”(fairness)仍处于我们在20年前讨论隐私权时的状态,它还没有上升到许多人的意识层面,至少目前还没。
我意识到在工程领域,许多人认为“公正性”是模糊、令人不快的议题,在他们看来,这与他们在技术开发和软/硬件设计方面的工作无关。

是这样吗?

EE Times在最近推出的一个AI专题报导中讨论了AI的公正性,但有些读者认为那应该是“社会工程”(social engineering)的范畴。

许多那一类的评论认为,这暗指工程师会被要求去操控技术(或游戏算法、数据集),为“政治正确性”(politically correctness)改变机器学习的结果;而“政治正确性”和“公正性”一样,是有着预设立场的一个词。

事实远非如此。

被AI解雇或被AI杀死

真正的问题是“偏见”(bias),这里指的是那些可能会扭曲机器学习结果的数据集偏见,而这种偏见透过训练算法的优化策略又被进一步放大。

想想那些不完整的数据集,例如忽略了坐轮椅的人、忽略了穿着绿色荧光夹克的建筑工人们;基于这些数据集被训练的AI算法可能会像打保龄球那样撞倒一群建筑工人,让坐轮椅比骑独轮车更危险。

在这些案例中,AI的不准确性最终可能赔上人们的宝贵性命,显然AI的机器决策未公正对待对那些穿荧光绿夹克和坐轮椅的人。

市场对AI趋之若鹜,因为各家企业都在寻求自动化其特定业务的方法;在寻求自动化方案的过程中,我们开始有意或无意地屈服于机器,涵盖整个决策范围。AI涉及的工作包括人事管理、信用评等、客户服务,甚至是驾驶。

要充分了解何谓 AI 的“不公正”,你需要想象自己是机器决策触发之坏消息的受害者。

如果某个 AI 算法做出针对某个年龄层员工进行裁员的决策,这些倒霉的员工有权质问AI为什么丢饭碗的是他们;他们可能还想知道,他们的雇主所依赖之AI系统是否在不知不觉间被设计为不公平对待某个年龄层。

一旦感觉到受了机器的委屈,你可能会很抓狂,甚至可能比被一个你知道是混蛋的人类老板炒鱿鱼更不爽。

算法也会是个混蛋吗?

不透明的算法

这个问题暴露了一个令人不安的现实──每套AI算法都是一个黑盒子,没人知道算法在做什么,无论是Facebook这样的社交网络巨擘使用的算法,还是Waymo自动驾驶车辆使用的算法,这使得这个大无畏的新AI时代之一切,都变得不透明和不确定。

最近人们已经开始公开讨论,是时候与Facebook分手了…

我不确定如果使用者决定分手,是否会改变那些大型科技平台的任何商业行为,但有一件事是肯定的:不是使用者,而是Facebook本身在肆意决定我们会在新闻推送看到什么;Facebook的运营不受任何法律监督。

正如Facebook共同创创办人Chris Hughes在投稿《纽约时报》(The New York Times)的一篇文章所写:“Facebook的力量最大的麻烦在于,马克(编按:Facebook共同创办人暨执行长Mark Zuckerberg)能单方面控制言论;他这种拥有监控、组织甚至审查20亿人对话的能力史无前例。”

他写道:“Facebook的工程师们编写算法,并决定哪些使用者评论或体验最终会显示在朋友和家人的新闻推送中。这些算法规则是专属的,而且非常复杂,甚至许多Facebook员工自己都不懂那些规则。”

这一切并非都是工程社群的责任,企业、政府主管机关、消费者和整个社会应该共同承担。

不过那些负责撰写算法和设计系统的工程师们,应该开始考虑乍看之下离他们的实验室很远的后果——隐私权保护和公正性。从现在开始讨论以「隐私权保护设计」(privacy protection by design)或“公正性设计”(fairness by design)为基础原则的系统开发正是时候!

本文同步刊登于电子工程专辑杂志台湾版2019年7月刊;责编:Judith Cheng

(参考原文:AI Doesn't Know When It's a Jerk,by Junko Yoshida)

 

阅读全文,请先
您可能感兴趣
半导体行业正迎来一个新的建设高峰期,SEMI预测,2025年,全球范围内将有18个新的晶圆厂项目开始建设,其中15座为12英寸晶圆厂,3座为8英寸晶圆厂,大部分预计将于 2026 年至 2027 年开始运营......
尽管Imagination在RISC-V领域取得了一定的成就,但公司似乎认为继续投入资源于RISC-V处理器核心的开发并不符合其长期战略目标。Imagination决定终止其基于RISC-V指令集架构的GPGPU内核的研发工作,并将重心转向其擅长的GPU和AI领域......
这款机器人头上的摄像头可以录制视频或使用人工智能识别物体,虽然该机器人的动作仅限于挥动细小的手臂和眨动动画眼睛,但它可以与一把小型电动椅子配对,自动在家中导航。
Ken Glueck认为,美国2800亿美元的芯片法案所取得的成就,将被出口管制框架夺走,“因为在一项IFR中,它成功地将美国公司的全球芯片市场缩小了80%,并将其交给了中国。”
IP供应商、芯片设计服务提供商和AI专家在以AI为中心的设计价值链中的地位正变得更加突出。本文给出了四个设计用例,强调了服务于AI应用的芯片设计模型的重新调整。
英特尔临时联席CEO Michelle Johnston还表示,“英特尔会在2025年及以后继续增强AI PC产品组合,向客户提供领先的英特尔18A产品样品,并在2025年下半年量产”。
• 目前,iPhone在翻新市场中是最热门的商品,并将长期主导着翻新机的平均销售价格。 • 全球翻新机市场持续向高端化发展,其平均销售价格(ASP)现已超过新手机。 • 新兴市场是增长的最大驱动力,消费者对高端旗舰产品有着迫切需求。 • 由于市场固化和供应链的一些问题限制推高中国、东南亚和非洲等大市场的价格。 • 2024年,这些翻新机平均销售价格将首次超过新手机。
从全球厂商竞争来看,三季度凭借多个新品发布,石头科技市场份额提升至16.4%,连续两季度排名全球第一……
最新Wi-Fi HaLow片上系统(SoC)为物联网的性能、效率、安全性与多功能性设立新标准,配套USB网关,可轻松实现Wi-Fi HaLow在新建及现有Wi-Fi基础设施中的快速稳健集成
其中包含Wi-Fi 7和蓝牙5.4 模组FME170Q-865、Wi-Fi 6和蓝牙5.4 模组FCS962N-LP、Wi-Fi 6和蓝牙5.3模组FCU865R 、独立Wi-Fi和蓝牙模组FGM840R、高功率Wi-Fi HaLow模组FGH100M-H……
来源:《中国半导体大硅片年度报告2024》2016 年至 2023 年间,全球半导体硅片(不含 SOI)销售额从 72.09 亿美元上升至121.29 亿美元,年均复合增长率达 7.72%。2016
1月7日,据韩媒 sisajournal-e 消息,三星计划 2025 年下半年推出三折叠手机,采用 G 形双内折设计,完全展开后尺寸为 12.4 英寸。据称,有别于华为的 S 形折叠屏方式(In&O
‌‌Jan. 9, 2025 产业洞察根据TrendForce集邦咨询最新研究,随着人型机器人迈向高度系统整合,并有望从工业场景走进家庭生活,前端的AI模型训练将更为关键,以满足更多后端理解与互动需求
1月9日,市场研究机构CINNO Research发布2024年全球智能手机面板出货报告称,2024年全球智能手机面板出货量或将同比增长8.7%至22.7亿片,达到历史新高。主流手机品牌全球面板采购量
近日,联想在CES 2025展会上展示了全球首款卷轴屏PC——ThinkBook Plus Gen 6。据悉,ThinkBook Plus Gen 6卷轴屏AI PC的核心魅力在于其独有的可卷曲显示屏
‍‍美国拉斯维加斯当地时间1月7日,第58届国际消费类电子产品展(CES2025)在拉斯维加斯开幕。本届展会,TCL华星携涵盖电视、车载、显示器、笔电、平板、手机、VR等显示领域的多款重磅展品亮相,其
亚化咨询重磅推出《中国半导体材料、晶圆厂、封测项目及设备中标、进口数据全家桶》。本数据库月度更新,以EXCEL表格的形式每月发送到客户指定邮箱。中国大陆半导体大硅片项目表(月度更新)中国大陆再生晶圆项
日前,微信安卓版迎来8.0.56正式版更新,这是2025年首次版本更新。关于更新内容,依然是那9个字:“修复了一些已知问题”。虽然官方没有公布具体更新内容,但体验后发现,新版增加了朋友圈视频倍速播放等
近日,闻泰科技在一场电话会议中阐述了其出售ODM(原始设计制造)业务的战略考量。           闻泰科技表示,基于地缘政治环境变化,考虑到 ODM 业务稳健发展和员工未来发展利益最大化,公司对战
 △广告 与正文无关 1月3日,The Elec援引电子元件专业媒体内容表示,尽管取代中国PCB的努力仍在继续,但预计到2028年,中国(包括大陆和台湾省)在全球PCB销售中的份额将超过60%,在市场