【发明授权】信号处理装置和成像装置_索尼公司_201780010035.5 

申请/专利权人:索尼公司

申请日:2017-01-18

发明/设计人:山丈浩章;馆真透

公开(公告)日:2021-01-19

代理机构:北京信慧永光知识产权代理有限责任公司

公开(公告)号:CN108605091B

代理人:梁兴龙;曹正建

主分类号:H04N5/232(20060101)

地址:日本东京

分类号:H04N5/232(20060101);G03B19/07(20060101)

优先权:["20160304 JP 2016-041718"]

专利状态码:有效-授权

法律状态:2021.01.19#授权;2019.02.15#实质审查的生效;2018.09.28#公开

摘要:根据本公开实施方案的信号处理装置设有定位部和合成部。所述定位部基于视角彼此不同的两条RAW数据来生成所述两条RAW数据的定位数据。所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。

主权项:1.一种成像装置,包括:生成视角彼此不同的RAW数据的两个成像器件;定位部,所述定位部基于由各个所述成像器件生成的两条RAW数据来生成所述两条RAW数据的定位数据;和合成部,所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成,以生成后续去马赛克处理用的合成RAW数据。

全文数据:信号处理装置和成像装置技术领域[0001]本公开涉及信号处理装置和成像装置。背景技术[0002]已经提出了使用两个成像装置来拾取具有宽视野和高分辨率的图像的成像系统例如,参见专利文献1。[0003][引用文献列表][0004][专利文献][0005]专利文献1:日本未审查专利申请公开No.2003-134375发明内容[0006]单板式图像传感器用于多数的静物相机、摄像机等。在包括单板式图像传感器的成像装置中,生成其中针对各像素设定RGB颜色之一的信息的RAW数据马赛克数据),并且将经过去马赛克处理的所生成的RAW数据作为图像数据输出。在图像数据中,各像素设有全部RGB的颜色信息,并且图像数据的格式是诸如JPEG和TIFF等通用图像格式。[0007]在专利文献1所公开的两个成像装置中使用单板式图像传感器并且输出其中各像素设有全部RGB的颜色信息的图像数据的情况下,在每个成像装置中进行去马赛克处理。此夕卜,在专利文献1所公开的发明中,进行将经过去马赛克处理的图像数据彼此合成的处理。因此,由于针对各像素的大量颜色信息而导致发生处理成本和功耗变得非常大的问题。期望提供能够降低处理成本和功耗的信号处理装置和成像装置。[0008]根据本公开实施方案的第一信号处理装置包括定位部和合成部。所述定位部基于视角彼此不同的两条RAW数据来生成所述两条RAW数据的定位数据。所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。[0009]根据本公开实施方案的第一成像装置包括生成视角彼此不同的RAW数据的两个成像器件。第一成像装置还包括定位部和合成部。设置在第一成像装置中的定位部基于由各个所述成像器件生成的两条RAW数据来生成所述两条RAW数据的定位数据。设置在第一成像装置中的合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。[0010]在根据本公开各个实施方案的第一信号处理装置和第一成像装置中,基于根据两条RAW数据生成的定位数据,将视角彼此不同的两条RAW数据彼此合成。结果,在对RAW数据进行去马赛克处理之前的状态下进行合成。因此,针对各像素的颜色信息量小于已经过去马赛克处理的图像数据的颜色信息量,这使得可以抑制合成所需的计算量。[0011]根据本公开实施方案的第二信号处理装置包括定位部和合成部。所述定位部基于视角彼此不同的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据。所述合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。[0012]根据本公开实施方案的第二成像装置包括生成视角彼此不同的RAW数据的三个以上的成像器件。第二成像装置还包括定位部和合成部。设置在第二成像装置中的定位部基于由各个所述成像器件生成的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据。设置在第二成像装置中的合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。[0013]在根据本公开各个实施方案的第二信号处理装置和第二成像装置中,基于根据三条以上的RAW数据生成的定位数据,将视角彼此不同的三条以上的RAW数据进行合成。结果,在对RAW数据进行去马赛克处理之前的状态下进行合成。因此,针对各像素的颜色信息量小于已经过去马赛克处理的图像数据的颜色信息量,这使得可以抑制合成所需的计算量。[0014]根据本公开各个实施方案的第一和第二信号处理装置以及第一和第二成像装置,在对RAW数据进行去马赛克处理之前的状态下进行合成。这使得可以将去马赛克处理的次数减少到一次。此外,待合成的RAW数据包括比现有技术中要合成的彩色图像数据更少量的针对各像素的颜色信息。这使得可以抑制合成所需的计算量。因此,可以降低去马赛克处理和合成处理所需的处理成本和功耗。需要注意的是,通过本公开实现的效果不一定限于这里记载的效果,并且本公开可以实现本说明书中记载的任何效果。附图说明[0015]图1是示出了根据本公开实施方案的成像装置的示意性构成的例子的图。[0016]图2是示出了成像装置的示意性构成的例子的图。[0017]图3是示出了图1和图2的成像装置的功能块的例子的图。[0018]图4是示出了图3的成像元件中的像素阵列的例子的图。[0019]图5是示出了通过图3的合成处理部进行信号处理的概念的例子的图。[0020]图6是示出了图3的合成处理部的功能块的例子的图。[0021]图7是示出了通过图6的合成处理部进行信号处理过程的例子的图。[0022]图8是示出了像素内插的例子的图。[0023]图9是示出了在中心像素是G像素的情况下的内插滤波器的例子的图。[0024]图10是示出了在中心像素是R像素或B像素的情况下的内插滤波器的例子的图。[0025]图11是示出了图6的融合部的内部构成的例子的图。[0026]图12是示出了图6的融合部的内部构成的例子的图。[0027]图13是示出了图6的LPF部的内部构成的例子的图。[0028]图14是示出了在图13的LPF部内并列配置的多个LPF部中的一个滤波器的例子的图。[0029]图15是示出了在图13的LPF部内并列配置的多个LPF部中的一个滤波器的例子的图。[0030]图16A是示出了通过图6的相关处理部进行相关处理的例子的图。[0031]图16B是示出了通过图6的相关处理部进行相关处理的例子的图。[0032]图17是示出了图1的成像装置的示意性构成的变形例的图。[0033]图18是示出了图1的成像装置的功能块的变形例的图。[0034]图19是示出了图18的合成处理部的功能块的例子的图。[0035]图20是示出了现有的成像装置的功能块的例子的图。具体实施方式[0036]下面参照附图对用于实施本公开的模式进行详细说明。需要注意的是,按照以下顺序进行说明。[0037]1•实施方案[0038]2.变形例[0039]〈1•实施方案〉[0040][构成][0041]图1和图2各自示出了根据本公开实施方案的成像装置1的示意性构成的例子。成像装置1使用两个成像器件10和20来获取具有宽视角和高分辨率的图像,并且在不使用机械变焦机构的情况下进行光学变焦。[0042]例如,两个成像器件1〇和20被布置成在物理配置中彼此水平。例如,如图1所示,成像器件10的光轴AX1和成像器件20的光轴AX2彼此平行。例如,如图2所示,光轴AX1和光轴AX2可以不彼此平行。此时,光轴AX1和光轴AX2优选地指向其中光轴An和光轴AX2之间的距离随着距成像装置1的距离增加而减小的方向。[0043]如图1和图2所示,成像器件20具有成像区域R2,该成像区域是成像器件10的成像区域R1的除了外缘之外的区域。两个成像器件10,20分别生成视角彼此不同的RAW数据Irawl和RAW数据Iraw2。成像器件10通过成像生成视角相对宽的RAW数据Irawl第一RAW数据)。成像器件2〇通过成像生成视角窄于RAW数据Irawl的视角的RAW数据Iraw2第二RAW数据)。稍后详细说明RAW数据Irawl和RAW数据Iraw2。[0044]图3示出了成像装置1的功能块的例子。成像装置1例如包括两个成像器件1〇和20、信号处理部3〇信号处理装置和控制部40。控制部40控制两个成像器件10和20以及信号处理部30。[0045][成像器件10][0046]成像器件10例如包括成像元件11和光学透镜12。光学透镜12会聚被写体光L1,并使会聚的被写体光L1进入成像元件11的光入射面。例如,将光学透镜12固定在成像器件1〇中。此时,成像器件10的焦距固定为恒定值。例如,成像器件1〇还可以包括在成像元件ii的光入射面侧上的虹膜和可变光学LPF。稍后说明成像元件11。[0047][成像器件20][0048]成像器件2〇例如包括成像元件21和光学透镜22。光学透镜12会聚被写体光L2,并使会聚的被写体光L2进入成像元件21的光入射面。例如,光学透镜22固定在成像器件20中。此时,成像器件2〇的焦距固定为恒定值。例如,成像器件2〇还可以包括在成像元件21的光入射面侧上的虹膜和可变光学LPF。[0049][成像元件11和21][0050]接着,对成像元件11和21进行说明。例如,成像元件!1和21各自包括受光部和滤色器阵列。受光部包括以预定间隔二维配置的多个光电转换元件。滤色器阵列配置在受光部的光入射面上。成像元件11和21是单板式固态成像元件,并且各自例如包括单板式CCD电荷1¾合器件)图像传感器或单板式CMOS互补金属氧化物半导体)图像传感器。例如,如图4所示,在各成像元件11和21中,滤色器阵列是包括RGB阵列的拜耳阵列。需要注意的是,滤色器阵列例如可以是RGBW阵列或者黄色⑺、青色C、品红色⑽等的阵列。需要注意的是,在下文中,以滤色器阵列是包括RGB阵列的拜耳阵列的情况为例进行说明。[0051]例如,成像元件11和21通过受光部和滤色器阵列对经由透镜12和22进入的被写体光L1和被写体光L2进行离散地采样,以生成RAW数据Irawl和RAW数据Iraw2。成像元件11生成视角相对宽的RAW数据Irawl。例如,使成像器件10的焦距相对较短使得可以获得视角相对宽的RAW数据Irawl。成像元件21生成视角窄于RAW数据Irawl的视角的RAW数据Iraw2。例如,使成像器件10的焦距相对较长使得可以获得视角相对窄的RAW数据Iraw2。[0052]RAW数据Irawl和Iraw2中的每一个是马赛克数据,其中针对各像素设定包括在滤色器阵列中的多种颜色信息中的一种颜色信息。在滤色器阵列是包括RGB阵列的拜耳阵列的情况下,RAW数据Irawl和Iraw2中的每一个是马赛克数据,其中针对各像素设定包括在滤色器阵列中的红色信息、绿色信息和蓝色信息中的一种颜色信息。为了从RAW数据Iraw;^pIraw2生成彩色图像数据Ic〇l,需要去马赛克处理以从RAW数据Irawl*Iraw2生成针对所有像素的全部颜色信息。在本实施方案中,对进行去马赛克处理之前的RAW数据Irawl和Iraw2进行合成。稍后详细说明RAW数据Irawl和Iraw2的合成。[0053][信号处理部30][0054]接着,给出信号处理部30的说明。例如,如图3所示,信号处理部30包括合成处理部31和相机信号处理部32。合成处理部31合成分别由成像器件1〇和20生成的两条RAW数据Irawl和IraW2,由此生成合成RAW数据Iraw。相机信号处理部32对由合成处理部31生成的合成RAW数据Iraw进行去马赛克处理,由此生成彩色图像数据Icol。彩色图像数据13〇1例如包括针对各像素的包括在滤色器阵列中的所有种类的颜色信息。在滤色器阵列是包括RGB的拜耳阵列的丨青况下,彩色图像数据];〇〇1例如包括针对各像素的RGB的颜色信息。[0055]图5示出了由合成处理部31进行的信号处理的概念的例子。在图5中,因为优先考虑由合成处理部31进行的信号处理的可理解性,所以简要说明信号处理。因此,在图5中使用不同于上述附图标记的附图标记。[0056]合成处理部31从成像器件10获取宽图像数据“丨如,并且从成像器件20获取远摄图像数据Itele。远摄图像数据Itele的视角小于宽图像数据lwide的视角。远摄图像数据Itele对应于宽图像数据Iwide的除了外缘之外的预定区域a。合成处理部31基于成像器件10和20中的每一个的放大倍率以及宽图像数据Iwide和远摄图像数据11:51£5中的每一个的图像尺寸来设定预定区域a。[OO57]合成处理部31从宽图像数据Iwide裁剪预定区域a以生成宽图像数据Iwide’。合成处理部31基于成像器件10和20中的每一个的放大倍率来缩小远摄图像数据11:£51£5,以生成远摄图像数据Itele’。合成处理部W将宽图像数据Iwide’和远摄图像数据11:31£5,彼此合成以生成合成图像数据Ifusion。假定成像器件1〇的放大倍率被设定为丨倍,并且成像器件20的放大倍率被设定为2倍。此时,例如,在由使用者指定的放大倍率是丨倍的情况下,合成处理部31输出宽图像数据Iwide作为合成RAW数据Iraw。例如,在由使用者指定的放大倍率为2倍以上的情况下,合成处理部31输出放大了由使用者指定的放大倍率的远摄图像数据Ite1e作为合成RAW数据Iraw。例如,在由使用者指定的放大倍率是丨倍〜2倍的情况下,合成处理部31输出其中预定区域a已被替换为合成图像数据Ifusi〇n合成图像数据Imerge的宽图像数据Iwide作为合成RAW数据lraw。[0058]需要注意的是,实际上,在宽图像数据Iwide’和远摄图像数据Itele,中可以包括由视差引起的位置偏差、成像器件10和20之间的感度差异和曝光差异。合成图像数据Ifusion可以包括超过每个成像器件10和2〇的奈奎斯特频率Nyquistfrequency的高频分量。宽图像数据Iwide’和远摄图像数据Itele’根据定义是马赛克数据;因此,优选地对宽图像数据Iwide’和远摄图像数据Itele’进行像素内插,以便高精度地将宽图像数据Iwide’和远摄图像数据Itele’彼此合成。因此,优选地,合成处理部31对宽图像数据Iwic[e,和远摄图像数据Itele’进行下述的各种信号处理。[0059]图6示出了合成处理部31的功能块的例子。图7示出了由合成处理部31进行的信号处理的过程的例子。[0060]合成处理部31包括定位部130和合成部140。定位部130基于分别由成像器件1〇和20生成的两条RAW数据Irawl和Iraw2来生成两条RAW数据Irawl和Iraw2的定位数据。合成部140基于由定位部130生成的定位数据将两条RAW数据Irawl和lraw2彼此合成。[0061]例如,定位部130包括裁剪部131、增益校正部132、像素校正部133和134、缩小部135以及视差计算部136。[0062]裁剪部131在RAW数据Irawl中指定要与RAW数据Iraw2合成的融合区域艮对应于图5中的区域a。具体地,裁剪部HI基于成像器件1〇和2〇中的每一个的放大倍率以及RAW数据Irawl和Iraw2中的每一个的图像尺寸来指定融合区域0。裁剪部131例如基于成像器件10和20中的每一个的放大倍率以及RAW数据Irawl和Iraw2中的每一个的图像尺寸来指定RAW数据Irawl中的融合区域0的坐标。裁剪部1:31例如基于指定的坐标,从RAW数据Irawl*裁剪与融合区域财目对应的RAW数据Irawla步骤S101。[0063]需要注意的是,合成处理部31可以对RAW数据Irawla和RAW数据Iraw2进行0PB光学黑色减法。0PB减法指示消除例如由暗电流引起的噪声成分。例如,合成处理部3丨可以从RAW数据Irawla和Iraw2中消除在成像器件1〇和20被遮光的情况下生成的噪声成分。此时,在由于消除噪声成分而在RAW数据Irawla和Iraw2中存在具有负值的像素的情况下,合成处理部31保持该像素的坐标。[0064]增校正部132针对各颜色彳目息在RAW数据Iraw1a和Iraw2中计算增益比(例如,RGB增益比)。例如,增益校正部132针对各颜色信息计算RAW数据Irawla内的平均值,并针对各颜色信息计算RAW数据Iraw2内的平均值。例如,增益校正部132根据针对各颜色信息的RAW数据Irawla和Iraw2的平均值之比来计算针对各颜色信息的校正增益。增益校正部132基于计算出的校正增益来校正RAW数据Iraw2步骤S102,由此生成RAW数据Iraw2a。[0065]像素校正部I33基于包含在RAW数据Irawla中的预定种类的颜色信息(例如,绿色信息进行RAW数据Irawla中包含的所有像素的内插,以生成包括预定种类的颜色信息(例如,绿色信息的内插RAW数据Irawlb作为定位数据步骤S103。像素校正部134基于包含在RAW数据Iraw2a中的预定种类的颜色信息例如,绿色信息进行RAW数据iraw2a中包含的所有像素的内插,以生成包括预定种类的颜色信息例如,绿色信息)的内插RAW数据Iraw2b作为定位数据。[0066]例如,如图8所示,像素校正部133从包括RGB阵列的拜耳阵列的RAW数据Iraw1a中生成包括绿色信息的内插RAW数据Irawlb。此外,例如,如图8所示,像素校正部133从包括RGB阵列的拜耳阵列的RAW数据lraw2a中生成包括绿色信息的内插RAW数据Iraw2b。此时,在中心像素要内插的像素是G像素的情况下,像素校正部133例如使用图9所示的内插滤波器F来校正中心像素的绿色信息。此外,在中心像素要内插的像素是!^像素或B像素的情况下,像素校正部133利用例如使用图10所示的内插滤波器F生成的绿色信息来替换中心像素的颜色信息。[0067]缩小部135基于成像器件10和20中的每一个的放大倍率来缩小内插RAW数据Iraw2b步骤S104。视差计算部136基于内插RAW数据Irawlb和Iraw2c来计算视差信息Disp作为定位数据步骤Sl〇5。视差信息Disp对应于由成像器件10的位置和成像器件20的位置的未对齐而引起的图像上的位置偏差量。视差计算部136例如使用两个图像之间的运动矢量估算法从内插RAW数据Irawlb和Iraw2c中生成视差信息Disp。[0068]例如,合成部140包括融合部141、LPF部142、相关处理部143、合并部144和选择部145〇[0069]融合部141对两条内插RAW数据Irawlb和Iraw2c进行合成,由此生成合成RAW数据Iraw3a步骤S106。具体地,融合部141基于视差信息Disp对两条内插RAW数据Irawlb和Iraw2c进行合成,由此生成合成raw数据lraw3a。[0070]图11示出了融合部141的内部构成的例子。例如,融合部141包括LPF部141A、HPF141B、视差校正部141C和重叠部MIDoLPF部141A提取内插RAW数据Irawlb中的低频分量以生成内插RAW数据Iraw1c。HPF141B提取内插RAW数据Iraw2c中的高频分量以生成内插RAW数据Iraw2cL视差校正部141C基于视差信息Disp对内插RAW数据Iraw2d进行校正以生成内插RAW数据Iraw2e。重叠部141D将内插RAW数据Iraw2e添加到内插RAW数据Irawlc以生成合成RAW数据Iraw3a。[0071]需要注意的是,例如,如图12所示,融合部141可以包括映射处理部141E,其在将内插RAW数据Iraw2e添加到内插RAW数据Irawlc的情况下对内插RAW数据Iraw2e进行映射处理。作为映射,例如,从融合结果、输入信号和视差信息Disp来检测容易发生融合失败的部分,并且生成融合可靠性。可靠性低的部分的融合效果因使用映射而变弱,导致在最终结果中融合失败变得难以检测。此外,可以使用映射以使在由后述的相关处理部143生成的RAW数据Iraw3c与在将RAW数据Iraw3c和RAW数据Irawl彼此合成的情况下的RAW数据Irawl之间的边界处的分辨率平滑变化。在这种情况下,映射具有朝向合成数据的外缘分阶段地减弱融合效果的形状。[0072]LPF部142使包含在合成RAW数据Iraw3a中的超过成像器件10和20中的每一个的奈奎斯特频率的高频分量衰减,以生成合成RAW数据Iraw3b步骤S107。结果,抑制了伪色的发生。图13示出了LPF部142的内部构成的例子。LPF部142具有例如其中截止频率彼此不同的多个LPF彼此平行配置的构成。LPF部142例如包括通过串联连接LPF142A和增益部142D而构成的第一路径P1、通过串联连接LPF142B和增益部142E而构成的第二路径P2以及仅设有增益部142C的第三路径P3。例如,如图14所示,LPF142A使用成像器件10的奈奎斯特频率Nyql作为截止频率,并且具有其中衰减率随着接近截止频率而增大的滤波器特性。例如,如图15所示,LPF142B使用成像器件10的奈奎斯特频率Nyql和成像器件20的奈奎斯特频率Nyq2之间的频率作为截止频率,并且具有其中衰减率随着接近截止频率而增大的滤波器特性。结果,在LPF部142中,可以通过选择LPF部142A或LPF部142B来调整高频衰减的水平。[0073]第一路径P1、第二路径P2和第三路径P3彼此平行连接。LPF部142被构造成使得根据来自控制部40的控制信号独立地设定各个增益部142C,142D和142E的增益。因此,例如,在将控制信号供给到LPF部142以使得增益部142C和142D中的每一个的增益变为零并且使得增益部14沈的增益变为1的情况下,LPF部142用作LPF部14邪。此外,例如,在将控制信号供给到LPF部142以使得增益部142C的增益变为零并且使得增益部142D和142E中的每一个的增益变为1的情况下,LPF部142用作彼此平行配置的LPF部142A和142B。[0074]相关处理部143对合成RAW数据Iraw3a或己经过预定处理的合成RAW数据Iraw3a合成RAW数据Iraw3b进行相关处理涉骤Sl〇8。例如,如图16A所示,相关处理部143将作为RAW数据Irawl与内插RAW数据Irawlb之差的色差分量(Irawl-Irawlb添加到合成RAW数据Iraw3a或合成RAW数据Iraw3b中。色比可以用在相关处理中。例如,如图16B所示,相关处理部143可以将合成RAW数据Iraw3a或合成RAW数据Iraw3b与作为RAW数据Irawl和内插RAW数据Irawlb之比的色比分量(IrawlIrawlb相乘。结果,相关处理部143生成包括与RAW数据Irawl和Iraw2的阵列相对应的阵列的RAW数据Iraw3c第三RAW数据)。[0075]合并部144将RAW数据Irawal和RAW数据Iraw3c彼此合成以生成去马赛克处理demosaicprocessing用的RAW数据Iraw3d第四RAW数据)(步骤S109。此时,合并部144在RAW数据Iraw3c的周缘中设置具有零颜色信息的框形区域,以使得RAW数据Iraw3c的图像尺寸等于RAW数据Irawal的图像尺寸。随后,合并部144例如将RAW数据Irawal中的融合区域a的颜色信息设定为零。此外,例如,合并部144将图像尺寸等于RAW数据Irawal的图像尺寸的RAW数据Iraw3c添加到RAW数据Irawal。换句话说,例如,合并部144用RAW数据Iraw3c替换RAW数据Irawal中的融合区域a。[0076]需要注意的是,在合成处理部31进行0PB减法的情况下,在合成处理之前,考虑到符号,合并部144可以将0PB减法中消除的噪声成分添加到RAW数据IraW3c中。[0077]选择部14f5根据使用者指定的放大倍率选择要输出的合成RAW数据Iraw。假定成像器件10的放大倍率被设定为1倍,并且成像器件20的放大倍率被设定为2倍。此时,例如,在由使用者指定的放大倍率为1倍的情况下,选择部145输出RAW数据Irawl作为合成RAW数据Iraw。例如,在由使用者指定的放大倍率为2倍以上的情况下,合成处理部31输出放大了由使用者指定的放大倍率的RAW数据Iraw2作为合成RAW数据Iraw。例如,在由使用者指定的放大倍率为1倍〜2倍的情况下,合成处理部31输出RAW数据IraWd作为合成RAW数据Iraw。[0078][效果][0079]接着,对由成像装置1实现的效果进行说明。[0080]图2〇示出了现有的成像装置2〇〇的功能块的例子。成像装置2〇〇包括两个成像器件210和220。成像装置200包括相机信号处理部230和相机信号处理部240。相机信号处理部23〇将由成像器件210获得的RAW数据Irawl转换成彩色图像数据Icoli。相机信号处理部240将由成像器件220获得的RAW数据Imw2转换成彩色图像数据Ic〇l2。成像装置200还对由相机信号处理部230和240获得的彩色图像数据Ic〇ll和Ic〇l2进行合成,以生成彩色图像数据Icol3。如上所述,在现有的成像装置2〇〇中,在成像器件210和220中的每一个中进行彩色成像去马赛克处理),并且在进行彩色成像去马赛克处理之后进行图像合成。因此,由于针对各像素的大量颜色信息而导致发生处理成本和功耗极大地增加的问题。[0081]相反,在本实施方案中,基于根据两条RAW数据Irawl和Iraw2生成的定位数据将视角彼此不同的两条RAW数据Irawl和Iraw2彼此合成。换句话说,在本实施方案中,在对raw数据进行去马赛克处理之前的状态下进行合成。这使得可以将去马赛克处理的次数减少到一次。此外,在本实施方案中待合成的RAW数据Irawl和Iraw2包括比现有技术中要合成的彩色图像数据Icoll和Icol2更少量的针对各像素的颜色信息。这使得可以抑制合成所需的计算量。因此,可以降低去马赛克处理和合成处理所需的处理成本和功耗。[0082]此外,在本实施方案中,从合成处理部31输出RAW数据Iraw。因此,前一个相机信号处理部23〇等可以在合成处理部31之后用于相机信号处理部32,而不添加任何改变。换句话说,在本实施方案中,相对于单一成像器件的RAW输出的去马赛克处理之后的处理根本未被修改的构成可适用于相机信号处理部32。因此,在本实施方案中,与使用单一成像器件的情况相似,可以容易地降低去马赛克处理和合成处理所需的处理成本和功耗。[0083]此外,在本实施方案中,成像器件1〇的成像区域則的除了外缘之外的区域对应于成像器件20的成像区域R2。此外,在本实施方案中,视角相对宽的RAW数据Irawl以及视角窄于RAW数据Irawl的视角的RAW数据Iraw2由成像器件10和20生成。因此,将合成RAW数据Iraw的除了外缘之外的预定区域融合区域的和RAW数据Iraw2彼此合成。换句话说,将RAW数据Iraw2嵌入框形RAW数据Irawl中。结果,可以使用两个成像器件1〇和20来获得具有宽视角和高分辨率的图像,并且可以在不使用机械变焦机构的情况下进行光学变焦。[0084]此外,在本实施方案中,基于包含在RAW数据Irawl和Iraw2中的预定种类的颜色信息来进行RAW数据Irawl和Iraw2中包含的所有像素的内插。这使得可以按与在对RAW数据Irawl和Iraw2进行去马赛克处理之后进行的合成处理中的精度同等程度的精度来进行合成处理。[0085]此外,在本实施方案中,基于从两条RAW数据Irawl和Iraw2生成的两条内插RAff数据Irawlb和Iraw2b来生成视差信息Disp作为定位数据。因此,使用视差信息Disp允许提高内插RAW数据Irawlb和内插RAW数据Iraw2c的合成精度。[0086]此外,在本实施方案中,包含在合成RAW数据Iraw3a中的超过成像器件10和20中的每一个的奈奎斯特频率的高频分量由LPF部142衰减。这使得可以抑制在将RAW数据Irawal和RAW数据Iraw3c彼此合成的情况下发生的伪色。此外,在本实施方案中,LPF142A和LPF142B平行配置,并且可以选择LPF142A和LPF142B中的一个。这使得可以通过选择LPF142A或LPF142B来调整高频衰减的水平。[0087]此外,在本实施方案中,色差分量Irawl-Irawlb被添加到合成RAW数据Iraw3c或已经过预定处理的合成RAW数据Iraw3a合成RAW数据Imw3b中。如上所述,在本实施方案中,在进行具有较少量颜色信息的合成处理之后,将丢失颜色信息返回到合成RAW数据Iraw3c或合成RAW数据Iraw3b。因此,在本实施方案中,可以在降低合成处理所需的处理成本和功耗的同时提高合成精度。[0088]此外,在本实施方案中,对通过将RAW数据Irawl和RAW数据Iraw3c彼此合成而生成的RAW数据Iraw3d进行去马赛克处理。如上所述,在本实施方案中,在进行RAW数据的合成之后进行去马赛克处理,因此与在进行去马赛克处理之后进行合成的情况相比,可以降低处理成本和功耗。[0089]2•变形例〉[0090]接着,对根据上述实施方案的成像装置1的变形例进行说明。[0091]成像装置1包括上述实施方案中的两个成像器件10和20;然而,成像装置1可以包括三个以上的成像器件。例如,如图17和图18所示,成像装置1可以包括三个成像器件10,20和50。例如,三个成像器件10,20和50被布置成在物理配置中彼此水平。例如,如图17所示,成像器件10的光轴AX1、成像器件20的光轴AX2和成像器件50的光轴AX3彼此不平行。此时,光轴AX1、AX2和AX3优选地指向其中光轴AX1、AX2和M3的间隙随着距成像装置1的距离增加而相互减小的方向。光轴AX1、AX2和AX3可以彼此平行。[0092]在本变形例中,定位部130基于由成像器件10和20生成的三条以上的RAW数据Irawl,Iraw2和Iraw4来生成三条以上的RAW数据Irawl,Iraw2和Iraw4的定位数据。合成部140基于由定位部130生成的定位数据将三条以上的RAW数据Irawl,Iraw2和Iraw4彼此合成。[0093]在本变形例中,成像器件20具有成像器件10的成像区域R1的除了外缘之外的区域作为成像区域R2。成像器件50包括成像元件51和光学透镜52,并且具有成像器件20的成像区域R2的除了外缘之外的区域作为成像区域R3。三个成像器件10,20,50分别生成视角彼此不同的RAW数据Irawl,Iraw2和Iraw4。成像器件10通过成像生成视角最宽的RAW数据Irawl第一RAW数据)。成像器件20通过成像生成视角窄于RAW数据Irawl的视角的RAW数据Iraw2第二RAW数据)。成像器件50通过成像生成视角窄于RAW数据Iraw2的视角的RAW数据Iraw4第三RAW数据)。[0094]在本变形例中,合成处理部31对RAW数据Irawl的除了外缘之外的预定区域和RAW数据Irawa2进行合成,并且对RAW数据Irawa2的除了外缘之外的预定区域和RAW数据Iraw4进行合成。[0095]图19示出了根据本变形例的合成处理部31的功能块的例子。在本变形例中,定位部130包括用于RAW数据Iraw3的信号处理块,例如,增益校正部137、像素校正部138和缩小部139。[0096]增益校正部137针对各颜色信息在RAW数据Iraw2和Iraw3中计算增益比(例如,RGB增益比)。例如,增益校正部137针对各颜色信息计算RAW数据Iraw2内的平均值,并针对各颜色信息计算RAW数据Iraw3内的平均值。例如,增益校正部137根据针对各颜色信息的RAW数据Iraw2和Iraw3的平均值之比来计算针对各颜色信息的校正增益。增益校正部137基于计算出的校正增益来校正RAW数据Iraw3,由此生成RAW数据Iraw4a。[0097]像素校正部138基于包含在RAW数据Iraw4a中的预定种类的颜色信息(例如,绿色信息)进行在RAW数据Iraw4a中包含的所有像素的内插,以生成包括预定种类的颜色信息例如,绿色信息)的内插RAW数据Iraw4b作为定位数据。像素校正部138基于包含在RAW数据Iraw4a中的预定种类的颜色信息例如,绿色信息进行在RAW数据Iraw4a中包含的所有像素的内插,以生成包含预定种类的颜色信息例如,绿色信息)的内插RAW数据Iraw4b作为定位数据。[0098]例如,如图8所示,像素校正部138从包括RGB阵列的拜耳阵列的RAW数据IraW4a中生成包括绿色信息的内插RAW数据Iraw4b。此时,在中心像素(要内插的像素是G像素的情况下,像素校正部138例如使用图9所示的内插滤波器F来校正中心像素的绿色信息。此外,在中心像素要内插的像素是R像素或B像素的情况下,像素校正部138利用例如使用图1〇所示的内插滤波器F生成的绿色信息来替换中心像素的颜色信息。[0099]缩小部139基于成像器件20和50中的每一个的放大倍率来缩小内插RAW数据Iraw4b。视差计算部136基于内插RAW数据Irawlb,Iraw2c和Iraw4c来计算视差信息Disp作为定位数据。视差信息Disp对应于由成像器件10的位置和成像器件20的位置的未对齐而引起的图像上的位置偏差量以及由成像器件20的位置和成像器件50的位置的未对齐而引起的图像上的位置偏差量。视差计算部136例如使用两个图像之间的运动矢量估算法从内插RAW数据Irawlb,Iraw2c和Iraw4c中生成视差信息Disp。[0100]在本变形例中,融合部141对两条内插RAW数据Irawlb和Iraw2c进行合成,并且对两条内插RAW数据Iraw2c和Iraw4c进行合成,由此生成合成RAW数据Iraw3a。具体地,融合部141基于视差信息Disp对两条内插RAW数据Irawlb和Iraw2c进行合成并且对两条内插RAW数据Iraw2c和Iraw4c进行合成,由此生成合成RAW数据Iraw3a。在本变形例中,基于根据两条RAW数据Irawl和Iraw2生成的定位数据来合成视角彼此不同的两条RAW数据Irawl和Iraw2。此外,基于根据两条RAW数据Iraw2和lraw4生成的定位数据来合成视角彼此不同的两条RAW数据Iraw2和Iraw4。换句话说,在本实施方案中,在对RAW数据进行去马赛克处理之前的状态下进行合成。这使得可以减少去马赛克处理的次数。此外,在本实施方案中待合成的RAW数据Irawl,Iraw2和Iraw4包括比现有技术中要合成的彩色图像数据更少量的针对各像素的颜色信息。因此,可以降低去马赛克处理和合成处理所需的处理成本和功耗。[0102]此外,在本变形例中,成像器件10的成像区域R1的除了外缘之外的区域对应于成像器件20的成像区域R2,并且成像器件20的成像区域R2的除了外缘之外的区域对应于成像器件5〇的成像区域R3。此外,在本变形例中,视角相对宽的RAW数据Irawl、视角窄于RAW数据Irawl的视角的RAW数据Iraw2和视角窄于RAW数据Iraw2的视角的RAW数据Iraw4由成像器件10,20和50生成。因此,将合成RAW数据Iraw的除了外缘之外的预定区域融合区域¢和RAW数据Iraw2彼此合成。此外,将RAW数据Iraw2的除了外缘之外的预定区域和RAW数据Iraw4彼此合成。换句话说,将RAW数据Iraw2嵌入框形RAW数据Irawl中,并将RAW数据Iraw4嵌入框形RAW数据Iraw2中。结果,可以使用三个成像器件1〇,20和50来获得具有宽视角和高分辨率的图像,并且可以在不使用机械变焦机构的情况下进行光学变焦。[0103]虽然参照实施方案及其变形例对本公开进行了说明,但是本公开不限于上述实施方案等,并且可以进行各种变形。需要注意的是,本说明书中记载的效果仅是例子。本公开所实现的效果不限于本说明书中记载的效果。本公开可以实现除本说明书中记载的效果以外的效果。[0104]此外,本公开可以具有以下构成。[0105]⑴一种成像装置,包括:[0106]生成视角彼此不同的RAW数据的两个成像器件;[0107]定位部,所述定位部基于由各个所述成像器件生成的两条RAW数据来生成所述两条RAW数据的定位数据;和[0108]合成部,所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。[0109]⑵根据⑴所述的成像装置,其中[0110]所述两条RAW数据包括视角相对宽的第一raW数据和视角窄于第一数据的视角的第二RAW数据,[0111]作为所述两个成像器件中的一个的第一成像器件通过成像生成第一RAW数据,和[0112]作为所述两个成像器件中的另一个的第二成像器件具有第一成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第二RAW数据。[0113]⑶根据2所述的成像装置,其中所述合成部将第一RAW数据的除了外缘之外的预定区域和第二RAW数据彼此合成。[0m]⑷根据⑴〜⑶中任一项所述的成像装置,其中所述定位部基于包含在所述RAW数据中的预定种类的颜色信息进行包含在所述RAW数据中的所有像素的内插,以生成包括所述预定种类的颜色信息的内插RAW数据作为所述定位数据。[0115]5根据4所述的成像装置,其中所述定位部基于从所述两条RAW数据生成的两条内插RAW数据来生成视差信息作为所述定位数据。[0116]6根据5所述的成像装置,其中所述合成部基于所述视差信息来对所述两条内插RAW数据进行合成,以生成合成RAW数据。[0117]7根据6所述的成像装置,其中所述合成部使包含在所述合成RAff数据中的超过所述成像器件中的每一个的奈奎斯特频率的高频分量衰减。[0118]8根据4所述的成像装置,其中所述合成部对所述两条内插RAW数据进行合成以生成合成RAW数据,其后使包含在所述合成RAW数据中的超过所述成像器件中的每一个的奈奎斯特频率的高频分量衰减。[0119]9根据4所述的成像装置,其中所述合成部将色差分量添加到所述合成RAW数据或已经过预定处理的所述合成RAW数据,或者将所述合成RAW数据或已经过预定处理的所述合成RAW数据与色比分量相乘,以生成包括与所述RAW数据的阵列相对应的阵列的第三RAW数据,所述色差分量是第一RAW数据和从第一RAW数据生成的内插RAW数据之差,并且所述色比分量是第一RAW数据与所述内插RAW数据之比。[0120]10根据9所述的成像装置,其中所述合成部将第一RAW数据和第三RAW数据彼此合成以生成去马赛克处理用的第四RAW数据。[0121]11根据(10所述的成像装置,还包括对第四RAW数据进行去马赛克处理的相机信号处理部。[0122]12—种成像装置,包括:[0123]生成视角彼此不同的RAW数据的三个以上的成像器件;[0124]定位部,所述定位部基于由各个所述成像器件生成的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据,和[0125]合成部,所述合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。[0126]13根据(12所述的成像装置,其中[0127]所述三条以上的RAW数据包括视角最宽的第一RAW数据、视角窄于第一RAW数据的视角的第二RAW数据和视角窄于第二RAW数据的视角的第三RAW数据,[0128]作为所述三个以上的成像器件中的一个的第一成像器件包括通过成像生成第一RAW数据的第一成像元件,[0129]与所述三个以上的成像器件中的第一成像器件不同的第二成像器件具有第一成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第二RAW数据,和[0130]与所述三个以上的成像器件中的第一成像器件和第二成像器件不同的第三成像器件具有第二成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第三RAW数据。[0131]14根据(13所述的成像装置,其中所述合成部对第一RAW数据的除了外缘之外的预定区域和第二RAW数据进行合成,并且对第二RAW数据的除了外缘之外的预定区域和第三RAW数据进行合成。[0132]15—种信号处理装置,包括:[0133]定位部,所述定位部基于视角彼此不同的两条RAW数据来生成所述两条RAW数据的定位数据;和[0134]合成部,所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。[0135]16根据15所述的信号处理装置,其中[0136]所述两条RAW数据包括视角相对宽的第一RAW数据和视角窄于第一RAW数据的视角的第二RAW数据,和[0137]所述合成部将第一RAW数据的除了外缘之外的预定区域和第二RAW数据彼此合成。[0138]17—种信号处理装置,包括:[0139]定位部,所述定位部基于视角彼此不同的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据;和[0140]合成部,所述合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。[0141]18根据I7所述的信号处理装置,其中[0142]所述三条以上的RAW数据包括视角最宽的第一RAW数据、视角窄于第一RAW数据的视角的第二RAW数据和视角窄于第二RAW数据的视角的第三RAW数据,和[0143]所述合成部对第一RAW数据的除了外缘之外的预定区域和第二RAW数据进行合成,并且对第二RAW数据的除了外缘之外的预定区域和第三RAW数据进行合成。[0144]本申请基于并要求于2016年3月4日向日本专利局提交的日本专利申请N〇.2016-〇41718的优先权,其全部内容通过引用并入本文。[0145]本领域技术人员应当理解的是,取决于设计要求和其他因素,可以进行各种修改、组合、子组合和变更,只要它们在所附权利要求书或其等同物的范围内即可。

权利要求:1.一种成像装置,包括:生成视角彼此不同的RAW数据的两个成像器件;定位部,所述定位部基于由各个所述成像器件生成的两条RAW数据来生成所述两条RAW数据的定位数据;和合成部,所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。2.根据权利要求1所述的成像装置,其中所述两条RAW数据包括视角相对宽的第一RAW数据和视角窄于第一RAW数据的视角的第二RAW数据,作为所述两个成像器件中的一个的第一成像器件通过成像生成第一RAW数据,和作为所述两个成像器件中的另一个的第二成像器件具有第一成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第二RAW数据。3.根据权利要求2所述的成像装置,其中所述合成部将第一RAW数据的除了外缘之外的预定区域和第二RAW数据彼此合成。4.根据权利要求2所述的成像装置,其中所述定位部基于包含在所述RAW数据中的预定种类的颜色信息进行包含在所述RAW数据中的所有像素的内插,以生成包括所述预定种类的颜色信息的内插RAW数据作为所述定位数据。5.根据权利要求4所述的成像装置,其中所述定位部基于从所述两条RAW数据生成的两条内插RAW数据来生成视差信息作为所述定位数据。6.根据权利要求5所述的成像装置,其中所述合成部基于所述视差信息来对所述两条内插RAW数据进行合成,以生成合成RAW数据。7.根据权利要求6所述的成像装置,其中所述合成部使包含在所述合成RAW数据中的超过所述成像器件中的每一个的奈奎斯特频率的高频分量衰减。8.根据权利要求4所述的成像装置,其中所述合成部对所述两条内插RAW数据进行合成以生成合成RAW数据,其后使包含在所述合成RAW数据中的超过所述成像器件中的每一个的奈奎斯特频率的高频分量衰减。9.根据权利要求4所述的成像装置,其中所述合成部将色差分量添加到所述合成RAW数据或己经过预定处理的所述合成RAW数据,或者将所述合成RAW数据或已经过预定处理的所述合成RAW数据与色比分量相乘,以生成包括与所述RAW数据的阵列相对应的阵列的第三RAW数据,所述色差分量是第一RAW数据和从第一RAW数据生成的内插RAW数据之差,并且所述色比分量是第一RAW数据与所述内插RAW数据之比。10.根据权利要求9所述的成像装置,其中所述合成部将第一RAW数据和第三RAW数据彼此合成以生成去马赛克处理用的第四RAW数据。_11.根据权利要求10所述的成像装置,还包括对第四RAW数据进行去马赛克处理的相机信号处理部。12.—种成像装置,包括:生成视角彼此不同的RAW数据的三个以上的成像器件;定位部,所述定位部基于由各个所述成像器件生成的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据,和_合成部,所述合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。13.根据权利要求12所述的成像装置,其中所述三条以上的RAW数据包括视角最宽的第一RAW数据、视角窄于第一RAW数据的视角的第二RAW数据和视角窄于第二RAW数据的视角的第三RAW数据,作为所述三个以上的成像器件中的一个的第一成像器件包括通过成像生成第一RAW数据的第一成像元件,与所述三个以上的成像器件中的第一成像器件不同的第二成像器件具有第一成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第二RAW数据,和与所述三个以上的成像器件中的第一成像器件和第二成像器件不同的第三成像器件具有第二成像器件的成像区域的除了外缘之外的区域作为成像区域,并且通过成像生成第三RAW数据。14.根据权利要求13所述的成像装置,其中所述合成部对第一RAW数据的除了外缘之外的预定区域和第二RAW数据进行合成,并且对第二RAW数据的除了外缘之外的预定区域和第三RAW数据进行合成。15.—种信号处理装置,包括:定位部,所述定位部基于视角彼此不同的两条RAW数据来生成所述两条RAW数据的定位数据;和合成部,所述合成部基于由所述定位部生成的定位数据将所述两条RAW数据彼此合成。16.根据权利要求15所述的信号处理装置,其中所述两条RAW数据包括视角相对宽的第一RAW数据和视角窄于第一RAW数据的视角的第二RAW数据,和所述合成部将第一RAW数据的除了外缘之外的预定区域和第二RAW数据彼此合成。17.—种信号处理装置,包括:定位部,所述定位部基于视角彼此不同的三条以上的RAW数据来生成所述三条以上的RAW数据的定位数据;和合成部,所述合成部基于由所述定位部生成的定位数据将所述三条以上的RAW数据彼此合成。18.根据权利要求17所述的信号处理装置,其中所述三条以上的RAW数据包括视角最宽的第一RAW数据、视角窄于第一RAW数据的视角的第二RAW数据和视角窄于第二RAW数据的视角的第三RAW数据,和所述合成部对第一RAW数据的除了外缘之外的预定区域和第二RAW数据进行合成,并且对第二RAW数据的除了外缘之外的预定区域和第三RAW数据进行合成。

百度查询: 索尼公司 信号处理装置和成像装置