文件显示,这套行为准则共包含11项内容,旨在推广全球范围内的安全、可靠和值得信赖的人工智能,并将为开发最先进的人工智能系统的组织提供自愿行动指南,包括最先进的基础模型和生成性人工智能系统。

10月30日,一份文件显示,七国集团(G7)将于周一就开发先进人工智能(AI)系统的公司的行为准则达成一致,此举正值各国政府纷纷寻求减轻这项技术的风险和潜在的滥用。

该文件显示,考虑到人工智能可能带来的隐私和安全风险,这套自愿行为准则将成为一些主要国家管理人工智能的重要里程碑。

今年5月,由加拿大、法国、德国、意大利、日本、英国和美国,以及欧盟组成的七国集团领导人,在“广岛人工智能进程”(Hiroshima AI process)部长级论坛上启动了这项制定人工智能行为准则的工作,并就人工智能发展的11项原则草案达成一致。

文件显示,这套行为准则共包含11项内容,旨在推广全球范围内的安全、可靠和值得信赖的人工智能,并将为开发最先进的人工智能系统的组织提供自愿行动指南,包括最先进的基础模型和生成性人工智能系统。

该准则敦促企业采取适当措施,识别、评估和缓解人工智能生命周期中的风险,并在人工智能产品投放市场后处理误用事件和模式。这些公司应该发布关于人工智能系统的能力、限制以及使用和误用的公开报告,并在安全控制方面进行大力投资。其最终的目的是帮助企业抓住这项技术的裨益,并应对它们可能带来的风险和挑战。

当前,欧盟凭借其严厉的人工智能法案,在监管这项新兴技术方面走在了前列。相比之下,日本、美国和东南亚国家则采取了相对柔和的不干涉模式,来促进经济增长。

AI是一把双刃剑

人工智能的快速发展和在各个领域的广泛“覆盖”给立法者和科技界带来了一个难题,即如何在不影响技术发展和创新进程以及不扼杀创造精神的情况下有效控制人工智能带来的风险。

去年11月初,英国将举办首届人工智能安全高级别会议,约100名嘉宾将出席会议。会议重点讨论了恐怖分子利用这一先进技术制造大规模杀伤性武器的风险。

分析人士表示,这次高级别会议将有助于强调英国作为世界领先技术中心之一的地位。

科技公司本身虽然从人工智能产品中获益匪浅,但也就如果这项技术朝错误的方向发展、被用于不良目的将会产生严重后果敲响了警钟。

微软集团董事长重申,人工智能有潜力成为有用的工具,但如果超出人类控制范围,也存在成为反人类武器的风险。他同时强调,各国需要鼓励科技企业做正确的事,并制定法规和政策以确保所有情况下的安全。

针对众多大型科技公司(Big Tech)加入人工智能这一潜在领域的激烈竞争,德国联邦反垄断局主席安德烈亚斯·蒙特警告说,人工智能可以增强大型科技公司的市场力量,并呼吁监管机构对任何反竞争行为提高警惕。

不可否认人工智能带来的好处,但从人工智能的“获利”到为不正当目的“滥用”这项技术的距离也很短。

英国伦敦政治经济学院的一项调查结果显示,人工智能给新闻活动带来好处和风险。高达85%的受访者使用过生成式人工智能工具(通常是ChatGPT或Google Bard)来撰写新闻摘要和标题。

然而,60%的受访者表示担心人工智能对新闻价值的道德风险,包括准确性、公平性、透明性等。

此前,荷兰AI Sensity公司进行的研究结果显示,网络上传播的使用deepfake技术的视频中约有96%含有不健康内容,且大多数造假受害者是女性。

加强人工智能管理需要与鼓励投资相结合,以最大限度地发挥技术潜力,例如推动投资建设人工智能研发中心等。

若得到合理控制,这项先进技术将有利于促进社会经济发展,成为人类生活的“得力助手”。本月早些时候,欧盟委员会数字主席维拉・朱罗娃(Vera Jourova)在日本京都举行的互联网治理论坛上曾表示,行为准则是确保安全的坚实基础,在监管到位之前,它将充当桥梁的作用。

 

责编:Luffy
阅读全文,请先
您可能感兴趣
凭借先进的3nm制程工艺和SoIC-MH封装技术,M5芯片在性能、能效和AI能力上均实现了显著提升。首批搭载M5芯片的设备陆续上市......
随着AI模型规模越来越大,所需的训练硬件也需同步升级。然而,目前缺乏一种开放的互连标准来支持AI加速器间的高效通信。
AI正稳步改变半导体行业,这一趋势在领先EDA公司和硅片代工厂表现得尤为突出。三大EDA工具制造商(Cadence、Synopsys和西门子EDA)已宣布与台积电合作,致力于为先进芯片制造节点开发AI驱动的设计流程。本文将简要回顾这些合作的现状。
最近发布的GeForce RTX 5080显卡晶体管数量、die size相比前代RTX 4080都没什么大变化,这真的能有性能提升吗?
台积电计划在 3 月前投资超过 2000 亿新台币(约合 61.2 亿美元),扩建其位于台湾南部科学园区三期的CoWoS生产设施。知情人士透露,台积电之所以做出这一决定,是因为人工智能(AI)驱动的先进封装需求比预期更为强劲......
尽管市场上有传言称英伟达大幅削减了对台积电CoWoS-S封装的需求,甚至有报告指出砍单幅度高达80%,但台积电和英伟达均对此进行了否认......
全球人形机器人领域上市公司的百强名单将人形机器人产业链区分为大脑、身体以及集成三大核心环节,覆盖全球共计100家上市公司。中国共37家企业上榜(中国大陆32家,台湾5家),其中深圳7家,占中国大陆上榜企业近四分之一,包括比亚迪、腾讯、优必选、速腾聚创、雷赛智能、兆威机电、汇川技术等......
DeepSeek模型虽降低AI训练成本,但AI模型的低成本化可望扩大应用场景,进而增加全球数据中心建置量。光收发模块作为数据中心互连的关键组件,将受惠于高速数据传输的需求。未来AI服务器之间的数据传输,都需要大量的高速光收发模块......
凭借新一代3nm制程工艺与全新架构,骁龙® 8至尊版的单核和GPU 性能提升均超过 40%,使得Find N5在性能上实现质的飞跃……
简化物联网连接:应用就绪型软件构建模块
别再盯着欧美了,日韩在全球半导体市场也是一股不可忽视的力量。韩国,按销售额来看,是全球半导体第二大国,仅次于美国。日本,半导体设备和材料领域的王者,在部分领域能做到近乎垄断。不只有三星和SK海力士,存
据业内人士2月11日透露,三星显示器近期限时推出名为“平衡假期”的特别假期。具体内容是,每周平均工作超过52小时的员工可获得三天带薪休假,每周工作超过60小时的员工可获得六天带薪休假。上个月,三星显示
当地时间2025年2月10日,恩智浦半导体公司 (NXP) 宣布,已与高性能、节能和可编程离散神经处理单元 (NPU) 领域的行业领导者 Kinara 达成最终收购协议。此次收购将以全现金方式进行,
据业内人士2月11日透露,三星显示器近期限时推出名为“平衡假期”的特别假期。具体内容是,每周平均工作超过52小时的员工可获得三天带薪休假,每周工作超过60小时的员工可获得六天带薪休假。上个月,三星显示
据IT业界9日报道,苹果公司最近进入了“可折叠iPhone”零部件供应商选择的最后阶段,据观察,三星显示器已决定独家供应初期面板量。据悉,三星将供应约1500万至2000万片,并将于明年5月开始量产,
点击蓝字 关注我们SUBSCRIBE to USImage: GM消息人士向“GM Authority”透露,雪佛兰Blazer的内燃机版本据说即将停产,最终将仅以电动汽车(EV)的形式投放(http
2月10日盘后,光峰科技发布公告,于近日收到某知名车企出具的开发定点通知书,将为其旗下新时代科技品牌的SUV车型供应智能座舱显示产品,预计2025年内量产供货。光峰科技认为,随着消费者对智能座舱需求的
2022年下半年以来,需求下降,芯片价格跳水,芯片行情趋向寒冷,拼价格、拼服务、拼账期成为常态,持续的低迷之下,芯片人都开始靠省钱过日子。同时,我们发现,行情冷淡的时候,订货、配单、PPV(Purch
近日,摩根士丹利发布了题为《The Humanoid 100: Mapping the Humanoid Robot Value Chain》的报告,该报告公布了全球人形机器人产业链百强企业榜单。这一
我是芯片超人花姐,入行20年,有40W+芯片行业粉丝。有很多不方便公开发公众号的,关于芯片买卖、关于资源链接等,我会分享在朋友圈。扫码加我本人微信👇2月15日,芯片超人开年首场芯片大会,2025年AI