扫除技术中的人类偏见，AI道德与管理基金会成立

为了促进提升人工智能(AI)技术的全球研究，业界最近集资成立了“人工智能道德与管理基金会”(Ethics and Governance of Artificial Intelligence Fund)，其关注焦点——人工智能，这项技术本身可能就备受争议。

该基金会最初由Knight Foundation、LinkedIn共同创办人Reid Hoffman、Omidyar Network、William and Flora Hewlett Foundation以及Raptor Group创办人Jim Pallotta共同集资赞助2,700万美元，未来还将努力提高大众对于AI的了解。

美国麻省理工学院媒体实验室(MIT Media Lab)以及哈佛大学(Harvard University)的Berkman Klein网络与社会研究中心(Berkman Klein Center for Internet and Society)将作为该基金会的创始锚点机构，预计将加强跨学科的工作，以及鼓励跨领域的同业对话与合作。

“AI的快速发展带来了许多艰巨的挑战，”MIT Media Lab总监Joi Ito解释，“例如，最关键的挑战之一在于如确保所‘训练’的机制不会永远存在并放大同样的人类偏见，造成社会疑虑？”

针对“社会如何与这项技术共同演进”的议题，我们如何最有效地展开更广泛且深入的讨论，以及链接计算机科学与社会科学，从而开发出既“聪明”又负有社会责任感的智能机器？

除了专注于利基的AI应用，新成立的基金会目标在于打破各学科之间的樊篱，为整个社会发挥信息功能，并与现有的计划与社群共同互补与合作；例如，即将在MIT Media Lab举行的‘AI Now’研讨会。

该基金会还将监督AI奖学金计划，确定并提供对于合作计划的支持，从目前正致力于指引AI方向和协助社会的人员与组织中建立网络，并召集该领域的专家“脑力激荡”。

Media Lab和Berkman Klein网络与社会研究中心将透过教师、研究人员、员工和附属机构等网络，满足社会对于人工智能的伦理道德期望；利用机器学习从数据中学习伦理和法律规范，以及利用数据导向的技术量化AI的潜在影响，例如，对于劳动力市场的影响。

两大机构已经展开实质的工作。MIT Media Lab持续探索一些与自动车有关的道德复杂性，这方面的研究已由Iyad Rahwan带领Scalable Cooperation小组展开研究。而Cynthia Breazeal主导的Personal Robots小组则研究人机互动的道德伦理。

哈佛大学Berkman Klein Center中心共同创办人兼法律与计算机科学教授Jonathan Zittrain说：“贯穿这些其他不同现象的线索是人与人之间的推理和判断的转变。”

“但这有时这是好事，因为它可以让我们得以释放，进一步追求其他或更深层的目标。有时，它令人深感忧心，因为它让重大决定从人们的理解与责任中分离出来。我们在这方面的许多任务将在于确定和培养促进人们自主性和尊严的技术，而不是缩减它。”

编译：Susan Hong

本文授权编译自EE Times，版权所有，谢绝转载

关注最前沿的电子设计资讯，请关注“电子工程专辑微信公众号”。