苹果在这次的iPhone 12产品布局中,首次将iPhone 12 Pro Max与其他产品,在摄像头的硬件配置上拉开了差距——比iPhone 12 Pro都还要好。主要体现在iPhone 12 Pro Max的主摄配备了面积“增大47%”的CMOS图像传感器(以下简称CIS),而且防抖方案换成了“传感器位移式光学图像防抖”(sensor-shift),另外长焦镜头拉远到等效65mm焦距——比iPhone 12系列的其他机型都更远。
CIS面积增大47%是什么概念呢?这一点苹果官方并没有提及,来看看TechInsights的数据[1]:iPhone 11 Pro的主摄(广角摄像头)CIS的die size为5.78mmx7.01mm,具体为40.5mm²。那么面积增大47%,也就是指iPhone 12 Pro Max摄像头CIS的die size大约在59.6mm²——需要注意的是,CIS die并非所有区域都为活跃像素阵列,所以这个值很可能是不准确的。
*参考:若按iPhone 11主摄CIS活跃像素阵列为1/2.55”来算,如果苹果所说47%的面积增加是指像素阵列,那么iPhone 12 Pro Max主摄CIS像素阵列可能在1/2.1”左右。这个尺寸与三星Galaxy S20 Ultra所用1亿像素S5KHM1的1/1.33”仍有着不小的差距。不过1/2.1”只是个推测数据,具体还是要等分析机构去发现。
*另:三星S5KHM1的整体die size为88.4mm²。需要注意的是,这里的单位”并不指常规意义上的英寸。不同CIS die size不宜直接比较。
再次声明,上面的数据比较是不严谨的。不过我们知道,对于摄影而言,CIS像素阵列部分的尺寸越大,则拍摄相同场景的光通量就更大,也就能够获得更优的画质。苹果在宣传资料中也提到了“低光拍摄效果提升87%”,以及单像素尺寸增大至1.7μm。
当然我们也不能单以CIS尺寸来论英雄,毕竟iPhone 12 Pro Max主摄才1200万像素,而三星Galaxy S20 Ultra主摄是1亿像素——后者单像素尺寸是0.8μm,前者的单像素尺寸则达到了1.7μm。本文主要尝试探讨iPhone摄像头进化史中的CIS,其他成像的系统设计会略有涉及。
iPhone摄像头进化史,也基本可以看做是手机CIS的发展史,即便iPhone并没有完全遵循CIS的技术趋势做推进。恰好借此机会,也能通过上、下两篇文章来回顾近代手机拍照的技术发展与突破。
iPhone摄像头CIS发展史:寻常而另类
从有据可考的历史来看,TechInsights(及前Chipworks)在2014年曾经总结过此前历代iPhone摄像头CIS的发展史。如下图所示:
这张图的出处现已无迹可寻,而且2014年之后就没有整理数据了(TechInsights去年曾给出另一份总结数据,但不知为何已被删除)。我以TechInsights的这张图为依据,尝试整理扩展这张图,到2020年的iPhone 12 Pro Max为止。那么其后续就变成了下表这样:
以上数据主要整理自TechInsights历年的分析,以及苹果官网。仔细观察2007-2020年历代iPhone摄像头CIS及成像系统的变化,除了CIS供应商从Aptina变为OmniVision,到如今稳定在索尼(不过某些分析机构的信息显示,早年某些iPhone产品可能同时采用两个CIS供应商),大致还可以总结CIS及成像系统进化中的如下特点:
(1)CIS分辨率或像素数量在变高,从iPhone初代的200万像素,发展至如今的1200万像素;
(2) CIS面积在逐年变大,至少从iPhone 6的29.3mm²,一路推进到了如今的59.6mm²(再次声明,CIS die size并不等于像素阵列区域的尺寸);
(3) 在CIS工艺技术上,有几个重要的技术更新点:
- 2010年,iPhone 4开始采用BSI背照式CIS,以前是FSI;
- 2013年,iPhone 5S开始采用stacked堆栈式CIS;
- 2014年,iPhone 6开始增加PDAF像素(苹果称其为Focus Pixel);
- 2015年,iPhone 6S开始在像素间增加DTI(深槽隔离);
(4)而在整个成像系统上,又有如下几个重要的技术更新点:
- 2014年,iPhone 6 Plus摄像头首次加入镜头光学防抖;
- 2016年,iPhone 7 Plus首次采用双摄方案(加入长焦镜头);
- 2019年,iPhone 11 Pro首次采用三摄方案(加入超广角镜头);
这些改进实则与移动成像技术的发展趋势基本吻合,而且有一点特别值得一提:苹果在采用最新CIS及成像技术的问题上,早前是相对积极的:iPhone通常都会以相对比较快的速度采用上游出现的新技术——虽然这些年的速度已经放缓了不少。所以说iPhone的摄像头发展是寻常的、大众的。
但在像素的堆砌,以及单像素尺寸的变化上,iPhone的摄像头却又显得格外与众不同。所以说iPhone的摄像头发展又有些另类。
我不打算将这里的技术做一一说明,因为其中的不少应该是很多人耳熟能详的了。而且其中有一些是具有关联关系的,这里以两个节点为线索做探讨:堆栈式CIS,与单像素尺寸变化。
Stacked CIS的率先采用
像素阵列(或者说光电二极管)与逻辑电路(ISP)以前都是放在同一块die上的。索尼2012年宣布面向消费电子市场,推出首个堆栈式(stacked)芯片CIS摄像头系统。当时的首颗堆栈式CIS采用硅通孔TSV,将90nm的CIS与叠在下方的65nm ISP(请注意这里的ISP与手机SoC中的ISP不同)互联到一起——所以称为堆栈式CIS,或者也有译作“层积式”和“堆叠式”的。上方CIS die也就是像素阵列,以及行驱动最后阶段、列并行ADC的comparator部分。
2013年的iPhone 5S已经开始采用这种技术。iPhone 5S应该是首个将这种3D堆叠方案作了大规模生产的手机设备。这种技术将逻辑die与光电二极管die在不同的wafer上制造,而且采用不同的工艺(甚至不同的生产厂),降低了生产成本;另外也极大减少了整个CIS的尺寸(所以前文才说,整个CIS的die size,不等于像素阵列大小,也不宜用来直接对比;比如iPhone 5尚未采用堆栈式CIS,其CIS die size达到了35.7mm²,看起来比iPhone 8还大,但实际像素阵列所占面积是比iPhone 8的CIS小了很多的)。
同时代,索尼推的第二代堆栈式CIS有款明星产品:IMX214,后来被大量Android手机采用。这也是90/65nm(CIS/ISP)工艺制造的CIS,不过索尼简化了其中的工艺流程,完全去掉了STI工艺模块;与此同时将整个列读出链(column readout chain)和外围晶体管移到了下层的ISP die。
2014年,iPhone 6所用的堆栈式CIS,其中的ISP die是用台积电40nm工艺生产的,CIS die则来自索尼——这其实也是索尼当年推堆栈式CIS灵活性的表现,即堆叠的两层可由不同生产工艺,甚至不同生产厂去生产。
在早前1亿像素的分析文章中,我还提到三星的这种“堆栈”,已经开始加入DRAM叠层。这种三层堆叠是在2018年出现的,索尼当时也开发出了三层堆叠结构:索尼的方案是把DRAM单元夹在CIS像素阵列和ISP之间,实现更快的数据读出。
来源:TechInsights[3]
三星的方案则相对比较粗暴,是将DRAM die以倒装的方式置于ISP与CIS双die堆叠后方,DRAM融合了两层RDL层以及一个高厚径比的TSV贯穿到ISP,实现连接,如上图。索尼则采用完整的TSV互联方式,连接DRAM后方的RDL层。
在堆叠互联的具体工艺上,这里再多说几句:所谓的堆叠互联,也就是怎么把不同的叠层“粘”或者连到一起。比较早出现的是一种direct bond技术。iPhone 5S的摄像头CIS即采用这种方案,通过TSV互联。三星、索尼、OmniVision此前都采用这种方案。
来源:FIERCE Electronics[3]
2016年,索尼转而采用一种名为铜hybrid bond的互联技术,实现了两层wafer更弹性化的互联方案——能够很大程度节约TSV占据的die空间。去年出现的“第四代BSI”技术,实现了三层堆叠——也就是三星将光电二极管层、ISP层以及DRAM存储层叠到一起的方案(叠DRAM层是实现960fps高帧率拍摄的基础)。
索尼在 IEDM 2018会议上提到了像素级别的互联正在开发中。今年索尼发布了第五代BSI CIS,采用的就是像素级别的hybrid bond互联(如上图)——这是TSV完全做不到的,每个像素都与对应的ADC连接,就能实现全像素的并行模数转换。
也就是像素与逻辑层之间高密度互联,最终实现大量并行信号传输,让高速读取、写入全像素数据成为可能。这些对实时全局快门,以及实时要求比较高的应用都是很有价值的——虽然似乎移动成像并不怎么关注实时性,这项特性对自动驾驶、医疗成像还是更有价值。另外,像素级别的互联似乎离大规模上市还需要一点时间,而Cu-Cu hybrid bond互联与TSV的direct bond互联,还将在一段时间内共存。
来源:TechInsights[3]
从TechInsights的分析来看,苹果是从iPhone 8时期开始采用hybrid bond互联的[5];iPhone XS采用索尼6.0μm间距的Cu-Cu hybrid bond——TechInsights形容其为“big wins”。实际上,三星今年的Galaxy S20 Ultra摄像头的CIS也还在用TSV。
值得一提的是,这些互联技术主要来自Xperi的授权。预计CIS堆叠互联方案,未来的技术趋势主要有两个,其一是间距减少,实现更高的chip-to-chip互联密度;第二是CIS叠层增多,典型的就是三层——加DRAM die。iPhone目前还没有应用三层堆叠方案——似乎以其像素数据量和实现的拍摄特性来看,也的确暂时没有必要。
像素越来越高,但单像素尺寸……
除了堆栈式CIS技术,另一个比较重要的线索是“像素”。不过高像素的趋势在iPhone身上表现得并不明确。虽然2007-2011年,iPhone摄像头CIS分辨率很快从200万像素提升到了800万;可是2015年的iPhone 6s就已经在用1200万像素CIS,6年过去了,iPhone 12也仍然是1200万像素巍然不动。在这一点上,可以认为苹果是比较逆主流趋势的:毕竟索尼、三星4800万、1亿像素CIS已经大量用到了Android手机上。
相对像素数量,另一个可考察的指标是单像素尺寸——也就是上表中的Pixel Size。这一点更能表现iPhone的“非主流”。虽然在iPhone出现的前6年,单像素尺寸也在变小,但从2013年开始,iPhone摄像头CIS的单像素尺寸就变得忽高忽低。到今年iPhone 12 Pro Max的1.7μm,又创造了一个新高,和iPhone 4时期大致一样。这就让iPhone摄像头CIS的发展略有些另类。
有关这个问题,还是来看看业界的主流方向是什么样的:
来源:TechInsights[6]
TechInsights去年就总结过这十多年来,移动CIS的像素尺寸大趋势是越来越小的。而且CIS制造商这些年也始终在比赛谁的像素尺寸更小,并将更多的像素放到一块图像传感器上——这样分辨率也就上去了。
即便CIS整体尺寸这些年也变大了很多,如果单看像素阵列区域的尺寸,自智能手机问世初期的CIS对角线1/4”发展到现如今的1/1.33”,有近9倍的面积变化,但它依然赶不上像素数量的飙升。今年三星在GH1这枚CIS上,就已经让像素尺寸下探到了0.7μm,而且大趋势还要往更小去走。
在像素缩减的竞赛中,市场参与者花了大量的心思来改进工艺,目标都是让像素更小。要将像素做小,需要考虑的问题很多,比较重要的一点就是像素变小了,则其感光能力就会显著变差。所以保持像素越来越小,但又要缓解CIS感光能力问题的方案又在不断涌现。
2009年之前,主流的CIS还在用FBI(frontside-illuminated,前照式)像素结构。对于这种CIS而言,光在抵达CIS的时候,首先穿过像素最上层的微透镜(microlens),再穿过下一层的色彩滤镜(color filter),随后需要穿过一堆互联电路,最后才会抵达光电二极管。
FSI时期也涌现了为提升集光效率而出现的技术,比如说松下的SmartFSI,在像素的色彩滤镜之间加入隔离墙。这一点似乎也为三星后来DTI升级版的ISOCELL Plus提供了思路。
来源:OmniVision
FSI时期的单像素尺寸极限最终还是来到了1.4μm,所以从2009年,CIS制造商开始转往BSI(backside illumination,背照式)结构——BSI结构也是前文提到堆栈式CIS的基础。在BSI结构下,光从硅基层的背面进入到像素中,或者说互联电路被移到了另一面,如上图所示。
如此一来,光能以更短的路径抵达光电二极管,提升量子效率。BSI对于像素尺寸的缩减来说是非常重要的技术。实际上,我在《为什么1亿像素手机拍照,画质也不过如此?》一文中,还提到过,BSI的价值还在于能够做更大的CIS,增加更具弹性的有效焦距,以及让手机摄像头模组更紧凑等等。
与此同时,像素缩减光靠BSI也是不够的。2010年但像素尺寸在1.4μm上下之时,业界又普遍开始做DTI(deep trench isolation,深槽隔离)技术。这种技术伴随的,一方面是像素阱做深,提升像素容量(考虑到像素上表面积变小,就必须将纵向高度做深),另一方面则是像素之间出现隔断,减少像素间的串扰(像素变高就必须做好防串扰工作)。
DTI技术中比较知名的就是三星的ISOCELL像素了。初代ISOCELL技术的光学堆栈部分(也就是从microlens到色彩滤镜部分)还比较厚,是1.9μm(如下图,同期索尼走到了1.5μm)。
不过在嵌入式色彩滤镜三星初代DTI技术结合后,针对减少相邻像素间的串扰问题,仍是卓有成效的。初代隔离深槽深入了1.6μm。基于铪氧化物的深槽填充,提供了一个电荷俘获层,以钝化Si表面,也作为抗反射层存在,如下图所示。后续三星也对ISOCELL工艺进行了更深入的改良,后来更为人所知的,应该是像素间的完整隔离。
来源[7]
索尼的DTI方案与三星实则是同期推出的,而且在具体实施上又有较大差异,有关两者DTI工艺的更多内容在《小米1亿像素拍照手机是噱头吗?高像素技术探秘》一文中已经有比较详细的介绍。
即便在以上多重技术加持下,像素尺寸变小的速度仍然在变慢。以前像素尺寸每年都会有缩减,但1.4μm节点下降到1.2μm花了3年时间,达到1μm又花了4年时间。到2018年出现的0.9μm,中间又间隔了3年。TechInsights认为,1.2μm-0.9μm节点步进如此缓慢的原因,主要与DTI技术及相应钝化方案的开发比较迟滞有关。随后三星与索尼的竞赛激化,2019年索尼率先发布0.8μm像素,今年三星率先推0.7μm节点。
发展到如今,单像素尺寸的缩减也正面临瓶颈。随着像素缩减至0.7μm甚至更小,许多层面的设计和结构都需要做优化。比如说B-DTI(后端深槽隔离)、深二极管的植入物、色彩滤镜与微透镜的光学结构变化等,都是开发的重点。像素内晶体管与互联也都需要更新。
小结一下,在移动CIS领域,BSI、DTI都为推动像素小型化起到了相当的作用。苹果在2010年的iPhone 4摄像头之上引入了BSI CIS;而DTI的引入,则是在2015年iPhone 6s。
或许2015年1200万像素还算是高像素,1.22μm的像素尺寸也不算大(至少iPhone 6s相比iPhone 6,是从800万像素->1200万像素,1.5μm->1.22μm的变化)。但苹果在随后几代iPhone产品中,都并未增加摄像头CIS的像素数量,而且单像素尺寸还变大了。
即便iPhone此后再未与高像素结缘,CIS的像素阱加深、DTI改进,以及BSI结构将互联电路移到后方也都能够实实在在地提升CIS的感光效率,所以iPhone仍然在享受当代CIS技术改进带来的价值,即便苹果似乎并不怎么信奉高像素。比如iPhone XS摄像头CIS的单像素尺寸又回归到了1.4μm(iPhone 8/X为1.22μm),即便如此,B-DTI也同时加深了像素阱(active Si的厚度)。至于苹果为何没有采用高像素,这是本文的下篇将要尝试探讨的话题。
其他工艺改进,与系统方案变化
近两年移动CIS技术进步中,另外两个比较重要的变化分别是PDAF(Phase Detection Auto Focus)相位检测对焦像素技术,以及色彩滤镜(Color Filter)不再单纯采用Bayer阵列。
后者目前与iPhone的关系并不大,许多Android手机都有在这方面做改进的动向——比如早两年,很多手机摄像头的CIS就不再采用RGGB(红绿绿蓝)这种传统的Bayer色彩滤镜排列,而可能采用RGBC(红绿蓝+透明像素),或者RYYB(红黄黄蓝)色彩滤镜排列。新型的色彩滤镜排列,很大程度上也是为实现小像素所做的,改进感光效率的方案。
而在更高像素时代,TetraCell、Quad Bayer等色彩滤镜像素排列方案也相继诞生。考虑到iPhone并没有做高像素,所以新型的色彩滤镜排列方案,对苹果也就没有太大价值了。
而PDAF相位对焦像素技术的进化,则一直在伴随iPhone的摄像头进步。苹果设备的摄像头首次加入PDAF相位对焦像素(苹果称其为Focus Pixel)是在2014年的iPhone 6之上,所以iPhone 6实现了明显更快速的对焦。随后iPhone摄像头CIS之上的Focus Pixel逐年增多,2017年iPhone 8/X摄像头CIS之上的Focus Pixel结构发生变化,出现了上下位置的掩蔽像素(Masked)。
来源:TechInsights[8]
2018年的iPhone XS摄像头CIS的Focus Pixel密度增大;而去年iPhone 11摄像头CIS之上则实现了Focus Pixel的100%覆盖,有可能是完整覆盖的双光电二极管相位检测自动对焦(Dual PD)。这也是索尼和三星前两年就开始大规模推广的。
佳能的“dual pixel”CIS,每两个共享的像素就有4个光电二极管(左);iPhone 6的Focus Pixel,即左/右部分掩蔽的这些像素(右)[9]
索尼今年年初针对Quad Bayer阵列4800万像素还新推一种2x2 On-Chip Lens Solution的PDAF方案,这里不再详述,有兴趣可移步《索尼为什么还不出1亿像素CIS?华为该着急了!》一文做了解。
很显然,iPhone摄像头这些年的技术推进,正是CIS技术发展本身的写照。iPhone唯一没有参与到CIS发展趋势中去的,恐怕就只有“高像素”和“小像素”了。但前文的介绍也很清楚地显现了,即便iPhone没有加入到高像素阵营来,它也实质上受到了高像素推进趋势带来的一些技术的客观恩惠。
如此,iPhone在移动成像技术的发展中,就成了既迎合时代,又略有些另类的手机设备。而其“另类”和“寻常”都体现在了iPhone 12 Pro Max这款设备上。有关其“另类”与“寻常”的更多注解,将在本文的下篇开启。
除了这些CIS层面的变化,在整个成像系统层面,iPhone也在迭代中相继加入了镜头的光学防抖(以及iPhone 12 Pro Max的传感器防抖),以及多摄——包括长焦镜头与超广角镜头。这些属于时代发展的必然了。
在更具体的软件实施方案层面,苹果自iPhone 7开始格外注重拍照的computational photography,并着意于多张堆栈,用以实现HDR、夜间模式拍摄等摄影加强功能。直到iPhone 11,苹果提出“Deep Fusion”这样的概念。这些是“后手机摄影时代”的另一个重点,也是手机拍照越来越往后处理、计算倾斜的表现。
有关这部分,以及iPhone在手机拍照系统构建上的另一个重点——“体验加强”部分的努力,都将在本文的“下篇”中做探讨。
点击这里,参与5G射频前端的模组化设计和市场发展趋势研讨会
参考来源:
[1] Apple iPhone 11 Pro Max Teardown - TechInsights
(https://www.techinsights.com/blog/apple-iphone-11-pro-max-teardown)
[2] Samsung Galaxy S20 Ultra 5G Teardown Analysis - TechInsights
(https://www.techinsights.com/blog/samsung-galaxy-s20-teardown-analysis)
[3] The State-of-the-Art of Smartphone Imagers Part 1: Chip-stacking and chip-to-chip interconnect - TechInsights
(https://techinsights.com/blog/part-1-chip-stacking-and-chip-chip-interconnect)
[4] Direct Bond Technology Enables CMOS Image Sensor Evolution - FIERCE Electronics
(https://www.fierceelectronics.com/components/direct-bond-technology-enables-cmos-image-sensor-evolution)
[5] Apple iPhone 8 Plus Teardown - TechInsights
(https://www.techinsights.com/blog/apple-iphone-8-plus-teardown)
[6] The State-of-the-Art of Smartphone Imagers Part 2: Pixel Scaling and Scaling Enablers - TechInsights
(https://techinsights.com/blog/part-2-pixel-scaling-and-scaling-enablers)
[7]J. Ahn, et al., “A 1/4-inch 8Mpixel CMOS Image Sensor with 3D Backside-Illuminated 1.12μm Pixel with Front-side Deep-Trench Isolation and Vertical Transfer Gate”, ISSCC 2014
[8] Apple iPhone XS Max Teardown - TechInsights
(https://www.techinsights.com/blog/apple-iphone-xs-max-teardown)
[9]The State-of-the-Art of Mainstream CMOS Image Sensors, Ray Fontaine
(https://www.imagesensors.org/Past%20Workshops/2015%20Workshop/2015%20Papers/Sessions/Session_1/1-01_The%20State-of-the-Art%20of%20Mainstream%20CMOS%20Image%20Sensors_Final.pdf)
责编:Yvonne Geng
- 学习,正遇到镜头的问题图 像四周颜色亮度和中间不一致。不知道怎么调
- 感谢作者,学到了很多~想问什么时候出下篇呀~想看看各家在算法上的精进,以及算法是如何和CIS硬件结合的~
- 错误纠正,堆栈式最早大批量上市使用的是sony自家的 xperia Z,不是iphone5S
- 好文章,虽然看不懂再说什么