您好,欢迎来到尚佳旅游分享网。
搜索
您的当前位置:首页大场景的视频全景图拼接

大场景的视频全景图拼接

来源:尚佳旅游分享网
总第253期 计算机与数字工程 Vo1.38 No.11 2010年第11期 Computer 8L Digital Engineering 141 大场景的视频全景图拼接 徐则中” 庄燕滨¨ (常州工学院计算机信息工程学院 常州213O02)(常州市软件技术研究与应用重点实验室 常州213002) 摘要为了解决大场景全景图拼接过程中的误差累积问题,提高图像拼接的一致性,提出了一个新的全景图拼接算 法。把全局图像配准看作是一个统计估计问题,运用增广的卡尔曼滤波对图像的全局变换参数进行递归地增广和估计。实 验结果表明,得到的变换参数是全局一致的,生成的全景图不存在拼接裂缝。拼接算法考虑了各种不确定性,适用于噪声大 场景的全景图拼接 关键词全景图;图像拼接;图像配准;图形融合 中圈分类号TP302.4 Video Panoramic Mosaicing for Large—scale Scene Xu Zezhong ’。 Zhuang Yanbin ’ (Dept.of Computer Information and Engineering,Changzhou Institute of Technology”,Changzhou 213002) (Changzhou Key Laboratory of Software Technology and Applicationz ,Changzhou 213002) Abstract In order to deal with the problem of registration error accumulation and to improve the global consistency of image mosaics,a method of video panoramic mosaicing is proposed.The problem of global image alignment is considered as a stochastic estimation problem.The global transformation parameters of video images are augmented and estimated recur— sively with augmented Kalman filter.Experimental results show that the transformation parameters are globally consistent and the panoramic mosaic is free of mosaicing gap.The proposed video panoramic mosaicing method takes account of various uncertainties and is suitable for large-scale noisy scene. Key Words panorama,image mosaicing,image registration,image blending CIass Number TP302.4 1 引言 矩阵。然而,由于测量噪声、光照条件等不确定性, 相邻图像之间的两两配准存在误差,并且随着递推 图像拼接就是对相互重叠的图像序列进行配 过程向后传播,造成图像配准结果的不一致,出现 准和融合,生成一幅图像。广泛应用于视频压 拼接裂缝。 缩 、视频检索[ 、超分辨率 、遥感 、全景图 ] 为了克服误差积累和拼接裂缝问题,运用全局 等。视频全景图像拼接是对视频图像序列进行配 优化技术[】 nj对全部配准参数进行优化,使得误 准和融合,生成一个完整的、全视角的全景图。图 差最小。当用于视频序列图像拼接时,计算量太 像拼接[6]包括图像配准和图像融合,其中图像配 大。image-to-mosaic技术_1 叫。]把每一帧图像直接 准I_73是图像拼接的关键。 与当前已拼接的全景图像进行配准,不存在误差积 传统的全局图像拼接[8]方法首先在相邻的图 累问题。这种方法的缺点是对先前出现的误差,在 像之间进行两两配准[9],计算局部变换矩阵,然后 后续的配准过程中不进行修正。基于图的方 把这些局部变换矩阵进行递推组合,计算全局变换 法L1 叫5]首先构造一张图,然后试着在图中寻找一 收稿日期:2010年6月20日,修回日期:2010年8月27日 基金项目:江苏高校“青蓝工程”,江苏教育自然基金项目(编号:o8KJD520002)资助。 作者简介:徐则中,男,博士,副教授,研究方向:图形图像处理、不确定信息处理、智能机器人导航。 徐则中等:大场景的视频全景图拼接 第38卷 条最佳路径,使得沿该路径进行递推组合,误差最 小。但是,要求事先得到全部图像,不能在线处理, 需要对图进行穷尽搜索。 近年来,为了处理配准过程中的不确定信息, 把统计估计技术引入到图像拼接算法中,在文献 心水平旋转。这样,就可以用更少的参数来表示图 像变换矩阵。然而,考虑到大场景下,采样精度、采 样分辨率等各种不确定性,为了构建精确的全景 图,文中仍然运用8参数的单应性矩阵作为图像变 换模型。 [16~17]中,把图像的配准问题看作是移动机器人 领域中的同时定位与地图构建问题(Simultaneous Localization and Map—building,SLAM)】8l。系统 3 图像拼接 首先构造系统模型,运用增广卡尔曼滤波进行 状态向量包含当前摄像机的位置姿态和所有环境 特征的位置。运用扩展卡尔曼滤波(Extended Kalman Filter,EKF)对当前视点位置姿态进行递 归地滤波估计。因为系统状态向量只包含当前的 摄像机位置姿态,不能保证各图像变换参数的一致 性,仍然存在着闭环问题。 针对以上问题,文中提出了一个全局一致的图 像拼接方法。把对应各帧图像的全局变换参数放 在同一个状态向量和协方差矩阵中,运用增广的卡 尔曼滤波技术对变换参数进行递归地增广和估计, 结果是全局一致的。 2变换模型 为了构建全局一致的全景图,选择圆柱体作为全 景图模型,选择平面单应性矩阵作为图像变换模型。 2.1柱面投影模型 为了保持实际场景的视觉一致性,将视频图像 序列映射到一个柱面坐标空间上,进行柱面投影, 得到柱面图像序列。 假设在平面图像中像素坐标为( , ),平面图 像的高度和宽度分别为H和W,柱面半径为r。则 在柱面图上像素的坐标( , )为: 一r*r  atan (x--W ̄21I +W/2/ 、 , / —r*—===兰二=二 二二=二 一 —兰 +H/2 (1)l  J(z-w/2)。+r 2.2图像变换模型 图像变换关系可用一个3 x 3的变换矩阵来表 示。设( , )是原图像中一个像素点坐标,(“ , )是 变换后的像素点坐标,图像变换模型可以表示为: f Ia b s]f“1l J  ~AJ—l f d t l l i (2) 【P f Ijl1 J 其中,矩阵A是从图像I到图像I 的单应性变换矩 阵。 在构建全景图时,通常限定摄像机仅仅绕着光 图像全局配准,计算序列图像的全局变换矩阵参 数。然后,对序列图像进行融合。 3.1系统状态空间 增广的系统状态空间包含图像的变换矩阵参 数,第k时刻的系统状态表示为: a (正) bi(志) X c ( ) 一 d (志) (3) D(走) / ..., 是 ( ) 门●●● s(矗) X t (是) 其中,X (忌)是对应第i帧图像的全局变换参数, 是到目前已经配准的图像数目。系统协方差矩阵 一 表示为: 1(是)…P (走)] P(走)一I ! ‘. I (4) LP 1(志)…P (走) 其中,P (走)是X (走)与xj(惫)的互相关。协方差 矩阵包含了各个变换参数的相关性,对图像配准的 一致性是非常重要的。 3.2系统模型 既然对应各个图像的全局变换参数是静态的, 系统运动模型是一个单位矩阵 ,从而可以忽略。 3.2.1 系统增广模型 当配准一帧新图像时,首先估算它的全局变换 矩阵参数,然后添加到系统状态向量中。对于视频 序列图像的拼接,由于较高的采样率,连续两帧图 像之间的相对变换很小,可以用前一相邻图像的全 局变换参数来近似当前图像的全局变换参数,即: Xl(忌一1) 4- (是) X (点一1) X (志一1) 一G*X(尼一1)4- (是) (5) 2010年第11期 计算机与数字工程 143 其中,G是系统增广矩阵,cU(是)是关于摄像机运动 的不确定性,表示成均值为0,方差为Q的高斯噪 声向量。 3.2.2 系统观测模型 在已经配准的图像中搜索匹配的特征对,如果 找到一个匹配的特征,它在其中一帧图像中的像素 坐标为[“ , ] ,在另一帧图像中的像素坐标为 [“ ,V2] 。分别基于这两帧图像的当前状态估计, 把象像的局部坐标变换成全局坐标。把变换后的 全局坐标的差看作是系统观测值,系统观测模型 为: Z一 (X (忌),X,(忌))+u(是) 垒 ± ± 一 ± ± eiu1+ 1.91 ejU 2+fJV2+1 l+v(k)(6) c 1+d 1+s Ci“2+d, 2-4-S 其中,u(是)是关于图像噪声和像素坐标变换的不确 定性,表示成均值为0,方差为R的高斯噪声向量。 3.3图像配准 在开始的时候,系统状态向量和协方差矩阵只 包含对应第一帧图像的变换参数,均值和方差初始 化为:E1 0 0 1 0 0 0 ol 和P。。然后,对应其它图 像的全局变换参数逐渐增广到系统状态向量中,进 行滤波更新。 3.3.1 增广 基于系统增广模型计算新图像的全局变换参 数,并添加到系统状态向量中。系统状态向量和协 方差矩阵增广为: FX (忌一1)] X一(是)一I  JL X№(是)_J 厂P十(志一1) (G*P ( ~1)) ] P一(志)一} LG*P (足一1) G*P+(忌一1)*Gr+Q_. J  f(7) 其中,X+和P 表示后验的状态估计,X一和P~表 示先验的状态估计。 3.3.2 更新 基于系统观测模型计算预测观测值,而实际观 测是一个0向量。新息、新息方差和卡尔曼增益 为: V(忌)一0一(^(X (是),X (尼))-9v(k)) S(忌)一V h*P一(忌)*V h +R W=P~(是)*V h *S(k)一 (8) 其中,V h是观测模型的偏微分构成的雅可比矩阵, 是一个只含有少量非零元素的稀疏矩阵。 系统状态向量和协方差矩阵更新为: X (是)一X一(走)+W*V(忌) P (愚)一P一(忌)——V *S(k)*W (9) 在每一步,对系统状态向量和协方差矩阵进行 递归的增广和更新,最后得到全局一致的、精确的 对应各图像的全局变换矩阵参数。 3.4图像融合 图像融合的任务就是把配准后的视频图像序 列拼接成一幅完整的、全视角的柱面全景图像。对 图像序列经过全局配准以后,得到对应每帧图像的 全局变换参数 ,b,f,d,e,f,S,t5 ,则对应第 i帧图像的单应性变换矩阵A 为: f口 6 s ] A 一1 【 f d t1  lj  (10) 基于对应的单应性变换矩阵,把各图像帧中的 像素坐标变换到全局坐标空间中,对视频图像序列 进行融合。对于重叠区域的像素点,运用加权平均 方法对像素值进行平滑过渡处理。 4 实验结果 把摄像机固定在三角架上,在实验室楼顶上进 行视频图像采集。图像采样频率为30FPS,图像尺 寸为640×480像素。在进行视频图像采集时,摄 像机绕着它的光心水平旋转,共采集了1500帧图 像。图1中显示了其中的6帧图像。运用文中的 图像拼接算法,对视频图像序列进行全局一致地拼 接,构建全景图。全景图包含4459×637个像素, 如图1所示。 图1图像序列和全景图 J 娃:月 目 {五 把序列图像的拼接看作是一个随机估计问题一 提出了一个全局一致的视频全景图像拼接方法。 运用增广的卡尔曼滤波,把各图像的全局变换参数 144 徐则中等:大场景的视频全景图拼接 第38卷 放在同一个系统状态向量和同一个协方差矩阵中 E9]E.Zagrouba,W.Barhoumi,s.Amri.An efficient im— age-mosaicing method based on mulifteature matching 进行滤波估计。在滤波估汁过程中,维持了各变换 参数的互相关性,所以拼接结果是全局一致的。拼 [J_].Machine VMon and Applications,2009。20:l39~ 162 接方法考虑到了图像采样精度、采样分辨率等各种 不确定性,提高了对图像噪声等不确定信息的处理 能力,特别适合大场景的全景图拼接。 参考文献 [1O]F.Kahl,S.Agarwal,1VL Chandraker,et aL.Practi-一 cal Global Optimization for Mulitview GeometryEJ]. International Journal of Computer Vision,2008,79: 271~284 [11]吴飞,肖鸿开,赵勇,等.大视场视频全景图生成研究 E1] H。Leung, Chen.Compression with Mosaic LJ].浙江大学学报(32学版),2006,40(3):395 ̄398 Prediction for Image-Based Rendering Applications [12]李庆忠,耿晓玲,王冰.大视场视频全景图快速生成方 法LJ].计算机工程,2009,35(22):170 ̄172 [C]//IEEE Inf1.Conf.on Multimedia and Expo, 2000:1649~1652 [13]A.Cervantes,K.Y.Kang.Progressive mulit-image registration based on feature tracking[C]//Interna— tional Conference on Image Processing,Computer Vi— sion and Pattern Recognition,Las Vegas,2006:633~ 639 [23 M.Irani,P.Anandan.Video indexing based on mosa— ic representations[c]//Proceedings of the IEEE,1998, 86(5):905~921 [33 M.Elad,八Feuer.super,_resolution reconstruction of image sequences[J].IEEE Transactions on Pattern A— nalysis and Machine Intelligence,1999,21:817 ̄834 [14]E.Y.Kang,I.Cohen,G.Medioni.A graph-based global registration for 2D m0saics[C]//15th Intema-- tional Conference on Pattern Recognition,Barcelrona, Spain,20O0:257 ̄260 r4]D.Fedorov,L M.Fonseca,c.Kenney,et a1.Auto— matic Registration and Mosaicing System for Remotely Sensed Imagery[-C]//SPIE 9th International Symposi一- um on Remote Sensing,Crete,G ̄'eece,2002:24~27 [1 5]P.E.Zhang,E.Milios,J.Gu..Graph-based auto-‘ matic consistent image mosaicing[C]//Proceedings of the 2004 IEEE International Conference on Robotics and Biomimetics,Shenyang,China,2004:558 ̄563 [5]H.Y_Shum,R.Szdiski.Construction of panoramic mosaics with global and local alignment[J].Interna-一 tional Journal of Computer Vision,2000,36:101~13O [16]A.Davison,I.Reid,N.Mohon,et a1.Mono— St.AM:Real—Time Single Camera SLAM[J].IEEE Transactions on Pattern Analysis and Machine Intelli— gence,2007,29:1O52~1067 [6]R Szeliski.Image alignment and stitching:A tutorial I-J].Foundations and Trends in Computer Graphics and Computer Vision,2006,2:1~104 [7]&Zitova,J.Flusser.Image registration methods:A survey[J].Image and Vision omputCing,2003,21:977 ~[17]J.Civera,A.J.Davison,J.A.Magall n,et a1.Drift- Free Real—Time Sequential MosaicingVJ].Internation-一 al Journal of Computer Vision,2009,81:128~137 1000 [83八Hibol,R Garcia,().Delaunoy,et aL A New Global Alignment Method for Feature Based Image [18]R.Smith,M.Self,P.CheesemarL estimating uncer-- tian spatial relationships in robotics[C]//autonomous robot vehicles,I.Cox and G.Wilong,ediftors, Springer Verlag,1990:l67~193 Mosaicing[C]//Lecture Notes In Computer Science, 2008,5359:257~266 :! {1 ; {1 : {1 :}{!;; {! {!;; !:. {1 1 {! . 1 {! { ; ’矫 ! ≥ f ;看 (上接第126页) [7]C Zhai,J Lafferty..Two-stage language models for in— formation retrieval[C]//Proceedings of the 25 ACM SIGIR Conf( ̄rence。2002 兴趣模型I-J].东北师大学报自然科学版,2003,35(3): 99~1O4 [11]Mitchell T M.机器学习[M].北京:机械工业出版社, 2003 [8]庄越挺.潘云鹤.吴飞.网上多媒体信息分析与检索 EM].北京:清华大学出版社,2002 E12]Bin Ling,Colin Mlison.An Agent—based Knowledge Sharing Model for Inf0rmation Retrieval on the Inter— [9]Bollacker KD,Lawrence S,Giles CL.Discovering rele— vant scientiifc literature on the Wch[J].IEEE Intdh— gent Systems,2000,15(2):42 ̄47 net[C]//Proceedings of the 3rd International Confer— ence on Enterprise Information Systems(ICEIS- 2001),2001:l118~1125 [1O]孙铁利,杨风芹.根据用户隐式反馈建立和维护用户 

因篇幅问题不能全部显示,请点此查看更多更全内容

Copyright © 2019- shangjiatang.cn 版权所有 湘ICP备2022005869号-4

违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com

本站由北京市万商天勤律师事务所王兴未律师提供法律服务