发表年份:2007年
单位:ST Microelectronics, India; Computer Sciences Corporation, India
作者:Nisheeth Gupta, Nikhil Gupta
主要问题:图像配准算法的高计算需求限制了其在实时场景下的应用;同时难以在保持性能的前提下处理不同大小的搜索和参考图像。
设计与优化:
数据结构:利用参考和搜索帧数据序列实现并行处理
算法:实现优化版归一化互相关函数(NCCF)、均方误差(MSE)和蓝屏技术(BST)
硬件架构:基于脉动阵列的VLSI架构,包含256个窗口处理器(WPs)实现并行计算
电路层次:每个WP包含两个MAC单元、一个18位2:1多路复用器和寄存器
解决的关键问题:实现了实时图像配准,支持不同图像尺寸和跟踪范围,兼容多种算法。
里程碑成就:提出的架构灵活处理大小不同的搜索/参考图像,支持芯片级联以提高性能,在硬件约束条件下实现实时操作。
遗留问题:处理非常大的参考图像(>16×16像素)时效率降低,级联芯片增加成本。
发表年份:2011年
单位:中国科学院半导体研究所
作者:Wancheng Zhang, Qiuyu Fu, Nan-Jian Wu
主要问题:传统机器视觉系统存在I/O负载重、功耗大、难以执行高速迭代图像处理等问题。以往的视觉芯片存在SIMD PE阵列难以处理行并行和非并行操作、PE与像素一对一映射降低灵活性、PE面积远大于感知像素导致分辨率受限等问题。
设计与优化:
数据结构:灵活的像素-PE映射关系,支持多像素到单PE、单像素到单PE或单像素跨多PE的映射
算法:支持低/中/高级图像处理算法,通过不同级别的并行性实现;专用编译器将N位数据算法转换为1位PE操作
硬件架构:集成CMOS图像传感器、SIMD PE阵列、SIMD行处理器(RPs)和嵌入式微处理器(MPU)
电路层次:每个PE由1位ALU和两个SRAM组成,允许PE组合成更大单元(2位或4位PE)
解决的关键问题:高效处理各种复杂度的算法,支持灵活的像素-PE映射,集成片上传感器实现图像质量动态增强。
里程碑成就:实现目标跟踪、模式提取和图像识别应用,实现超过1000fps的高速图像捕获,高效处理低/中/高级图像算法。
遗留问题:文中未明确提及未解决问题,但指出需根据应用要求动态重构PE和RP数量。
发表年份:2012年
单位:台湾国立清华大学
作者:Feng-Cheng Huang, Shi-Yu Huang, Ji-Wei Ker, Yung-Chang Chen
主要问题:尺度不变特征变换(SIFT)算法虽然健壮性高,但计算密集且内存需求大,软件实现难以满足实时应用需求。
设计与优化:
数据结构:开发段缓冲方案,以流的方式提供数据,减少50%的内存需求
算法:设计全硬件SIFT加速器,采用三级流水线架构加速关键点识别和特征描述生成
硬件架构:实现两个交互硬件组件:关键点识别和特征描述生成,实现并行化和高速数据传输
电路层次:未详细说明
解决的关键问题:成功加速整个SIFT操作,包括关键点识别和特征描述生成,实现VGA图像的实时处理(特征点<890个)。
里程碑成就:迄今最快的全硬件SIFT加速器,VGA图像帧处理时间33毫秒,支持实时操作。
遗留问题:文中未明确提出未解决问题,但暗示更高分辨率图像或复杂场景可能需要进一步优化。
发表年份:2013年
单位:塞浦路斯大学
作者:Christos Ttofis, Stavros Hadjitheophanous, Athinodoros S. Georghiades, Theocharis Theocharides
主要问题:立体视觉系统中视差图计算需要大量计算资源;现有软件实现需要高端硬件才能实现实时处理;专用硬件如GPU或DSP功耗过高或缺乏嵌入式系统所需的灵活性。
设计与优化:
数据结构:使用二值边缘检测图像(每像素1位)替代灰度图像(每像素8位),降低内存和计算需求
算法:结合边缘检测和基于绝对差之和(SAD)的块匹配算法,减少搜索空间并提高效率
硬件架构:整合边缘检测单元(EDU)和视差计算单元(DCU),采用流水线和并行化设计,优化FPGA实现
电路层次:未详细说明
解决的关键问题:在FPGA平台上为高分辨率图像(1,280×1,024像素)实现50 FPS实时视差图计算。
里程碑成就:有效利用边缘检测减少搜索空间并提高性能,质量与现有使用局部立体对应方法的硬件实现相当。
遗留问题:生成的视差图是稀疏的,需要插值生成密集图;复杂插值方法对性能的影响需进一步研究。
发表年份:2014年
单位:密歇根大学
作者:Dongsuk Jeon, Michael B. Henry, Yejoong Kim, Inhee Lee, Zhengya Zhang, David Blaauw, Dennis Sylvester
主要问题:微型自主飞行器(MAVs)受严格功率预算限制,需要能效高的特征提取算法;传统计算机视觉技术功耗大,不适合电池供电系统。
设计与优化:
数据结构:提出圆形采样区域,统一方向分配和特征描述为一步,减少内存需求和硬件复杂度
算法:优化SURF算法,将尺度空间限制在单个八度,增加额外滤波器补偿特征损失;用快速定位技术替代矩阵插值运算
硬件架构:设计匹配吞吐量加速器架构,使用完全展开滤波器和单流描述符,通过算法-架构协同优化实现低时钟频率(27 MHz)操作
电路层次:开发基于移位锁存器延迟元件和平衡泄漏读出技术的低功耗FIFO架构
解决的关键问题:将功耗降至2.7 mW,同时在全VGA帧上保持高质量特征提取,能效比之前最先进设计提高3.5倍。
里程碑成就:在470 mV供电电压下实现30 fps VGA视频实时处理,功耗仅2.7 mW;能效优于先前工作,适合MAV应用。
遗留问题:由于滤波器尺度有限,有效特征匹配数量减少(平均少30%);更广泛应用需要额外高斯滤波器或图像二次采样。
发表年份:2014年
单位:中国科学院半导体研究所
作者:Cong Shi, Jie Yang, Ye Han, Zhongxiang Cao, Qi Qin, Liyuan Liu, Nan-Jian Wu, Zhihua Wang
主要问题:传统视觉系统受串行图像传输和处理瓶颈限制;多数可编程视觉芯片采用冯·诺依曼架构,在高级图像处理中因顺序指令执行和共享内存总线产生瓶颈;集成高性能神经网络需要大量芯片面积和高效资源利用。
设计与优化:
数据结构:架构包括像素并行PE阵列处理器、行并行RP阵列处理器和动态可重构SOM神经网络;PE阵列采用SIMD方式工作,SOM网络利用向量并行性
算法:SOM神经网络采用LVQ方法训练,实现快速模式识别;高级图像处理分解为通用模式识别(SOM处理)和特定任务(双核MPU处理)
硬件架构:集成混合架构,结合冯·诺依曼型处理器(PE阵列、RP阵列、双核MPU)和非冯·诺依曼型SOM神经网络;动态重构使PE阵列和SOM网络共享硬件资源
电路层次:每个4×4 PE子阵列可重构为一个SOM神经元,减少芯片面积;PE电路支持多位操作的位串行处理;SOM神经元电路用链式1位ALU实现16位ALU
解决的关键问题:混合架构通过集成SOM神经网络消除高级处理瓶颈,实现向量并行模式识别,显著提速;动态重构减少芯片面积,实现低高级图像处理的高效实现。
里程碑成就:实现超过1000 fps处理速度,展示手势识别、人脸检测和地平线估计应用;通过动态重构和子采样支持灵活图像处理。
遗留问题:文章未讨论更大神经网络或更高分辨率图像的可扩展性潜在限制;SOM网络中向量维度和每个组件有效位数的权衡可能限制某些应用的精度。
发表年份:2014年
单位:加州大学圣地亚哥分校
作者:Quentin Gautier, Alexandria Shearer, Janarbek Matai, Dustin Richmond, Pingfan Meng, Ryan Kastner
主要问题:将计算密集型3D重建算法(ICP和体积集成)嵌入FPGA资源有限的平台,同时保持实时性能;优化内存带宽和克服硬件限制是重大挑战。
设计与优化:
数据结构:修改数据结构优化内存访问模式,包括从结构数组转换为数组结构以更好利用全局内存
算法:优化包括循环展开、内核专用化、用FPGA特定通道和移位寄存器替代GPU风格树缩减,以及微调缩减参数
硬件架构:使用Altera OpenCL SDK在Altera Stratix V FPGA上实现设计,利用编译器优化和自定义硬件功能
电路层次:未详细说明
解决的关键问题:成功在FPGA上嵌入迭代最近点(ICP)算法并通过下采样输入数据和优化内存使用实现实时性能;展示OpenCL可用于FPGA设计。
里程碑成就:实现ICP在FPGA上以26-28 FPS运行的异构系统,与GPU上运行的KinectFusion应用其他部分集成。
遗留问题:高面积利用率阻止在同一FPGA上集成多个算法(如ICP和体积集成);GPU和FPGA间数据传输仍是瓶颈,尤其是高分辨率输入。
发表年份:2015年
单位:意大利巴勒莫大学
作者:Silvia Franchini, Antonio Gentile, Filippo Sorbello, Giorgio Vassallo, Salvatore Vitabile
主要问题:医学影像中的复杂几何问题如图像分割、形状逼近、3D建模和体积数据注册;共形几何代数(CGA)提供简单通用算子解决这些问题,但高维度和计算复杂度阻碍了应用。
设计与优化:
数据结构:未详细说明
算法:开发了简化的CGA几何运算代数公式,支持硬件导向并行算法
硬件架构:设计名为ConformalALU的协处理架构,原生支持完整CGA几何运算(反射、平移、旋转和均匀缩放)
电路层次:在FPGA板上实现ConformalALU原型,与通用PowerPC处理器集成为协处理核心
解决的关键问题:与通用CPU软件实现相比,ConformalALU实现CGA几何运算显著加速(最高56倍)。
里程碑成就:ConformalALU原型展示了加速医学影像任务如分割、3D建模和体积配准的可行性。
遗留问题:文章未明确提及未解决问题,但架构进一步优化或可扩展性可能是未来工作方向。
发表年份:2015年
单位:密歇根大学
作者:Phil Knag, Jung Kuk Kim, Thomas Chen, Zhengya Zhang
主要问题:设计可扩展架构支持神经元间高效通信同时最小化功耗和内存开销;确保低延迟通信和减少尖峰碰撞概率是关键问题。
设计与优化:
数据结构:权重内存分为核心内存和辅助内存以节省推理功耗,学习过程中只启用辅助内存
算法:使用SAILnet算法,基于神经元尖峰更新权重和阈值的局部学习规则;应用近似技术简化学习和推理过程
硬件架构:设计两层混合网络架构,结合总线结构(下层)和环形结构(上层)平衡通信延迟和尖峰碰撞概率
电路层次:实现内存优化技术,如减少推理字长和将内存分区为核心辅助部分以最小化功耗
解决的关键问题:利用稀疏脉冲神经网络和高效内存分区实现高吞吐量低功耗推理。
里程碑成就:在65nm CMOS ASIC上成功实现256神经元稀疏编码处理器,在310 MHz下实现1.24 Gpixel/s最大推理吞吐量,片上学习在数秒内完成。
遗留问题:处理更大输入图像和扩展应用范围需进一步改进;总线大小和环形长度权衡仍需优化。
发表年份:2015年
单位:韩国KAIST
作者:Injoon Hong, Gyeonghoon Kim, Youchang Kim, Donghyun Kim, Byeong-Gyu Nam, Hoi-Jun Yoo
主要问题:无标记相机姿态估计(CPE)面临三大挑战:实现实时性能(30 fps)、处理大量3D地图点以支持大工作空间、实现低功耗浮点运算以确保CPE稳定性。
设计与优化:
数据结构:未详细说明
算法:提出推测执行(SE)和可重构数据排列层(RDL)显著减少计算时间
硬件架构:架构包括可重构无标记CPEE,含跟踪处理器(TP)、映射处理器(MAP)和特征匹配处理器(FMP);设计集成对数处理元素(LPEs)实现低功耗浮点运算
电路层次:实现对数转换器(LOGC)和指数转换器(EXPC)高效浮点运算
解决的关键问题:提出的无标记CPEE实现实时无标记相机姿态估计,支持约6000个3D地图点,重建误差<1像素,功耗仅27 mW。
里程碑成就:在65 nm Logic CMOS技术成功制造,实现92 fps无标记相机姿态估计,显著降低功耗和处理时间。
遗留问题:未明确提及
发表年份:2017年
单位:麻省理工学院
作者:Yu-Hsin Chen, Tushar Krishna, Joel S. Emer, Vivienne Sze
主要问题:最小化数据移动能耗(比计算本身更耗能),同时支持高并行性和适应不同CNN形状。
设计与优化:
数据结构:实现四级内存层次结构,包括DRAM、GLB、PE间通信和PE暂存器(spads)
算法:提出行静态(RS)数据流,重构空间架构映射CNN计算,通过局部最大化数据重用优化能效
硬件架构:空间架构含168个处理元素(PEs)、片上网络(NoC)支持多播和点对点单周期数据传输、行程长度压缩(RLC)利用零数据统计
电路层次:未详细说明
解决的关键问题:通过优化数据流和压缩技术,最小化任何CNN形状的数据移动能耗,实现高吞吐量和能效。
里程碑成就:展示可重构CNN加速器可行性,支持当代先进CNN如AlexNet和VGG-16,并提供基准性能指标。
遗留问题:本机支持的最大滤波器高度受硬件限制为12,更高PE集可能需要进一步优化。
发表年份:2017年
单位:密歇根大学
作者:Ziyun Li, Qing Dong, Mehdi Saligane, Benjamin Kempke, Shijia Yang, Zhengya Zhang, Ronald Dreslinski, Dennis Sylvester, David Blaauw, Hun Seok Kim
主要问题:半全局匹配(SGM)算法计算复杂度高(2 TOP/s)、内存带宽要求极高(38.6 Tb/s)、功耗大(>35W),难以在微型飞行器上实现HD分辨率实时处理。
设计与优化:
数据结构:以重叠50×50像素块处理输入图像,减少95.4%内存需求
算法:实现依赖解析对角扫描SGM,支持代价聚合中的激进流水线和并行性
硬件架构:设计深度流水线架构,采用超宽自定义SRAM,片上访问带宽达1.64 Tb/s
电路层次:采用HVT晶体管和偏斜反相器的自定义高带宽SRAM,减少泄漏功率和感应放大器开销
解决的关键问题:实现全HD(1920×1080)30 fps实时深度估计,512级深度分辨率,功耗仅836 mW。
里程碑成就:首个通过KITTI基准测试的SGM ASIC实现,视差范围和能效显著提升。
遗留问题:未明确提及,但功耗进一步降低和更高分辨率处理速度提升可能是未来探索方向。
发表年份:2017年
单位:卡内基梅隆大学
作者:Weijing Shi, Xin Li, Zhiyi Yu, Gary Overett
主要问题:DNN和CNN等高级算法计算复杂度高,不适合资源受限平台;有限内存带宽和片上存储给高吞吐量和低功耗带来挑战。
设计与优化:
数据结构:实现重叠图像块共享存储和紧凑表示,减少内存使用
算法:引入重排数值运算最小化特征提取中的冗余计算和内存访问;实现自适应工作负载分配平衡并行单元处理
硬件架构:基于FPGA流水线架构设计加速器,包含多个级联分类器并行处理单元
电路层次:通过位数组和迭代过滤实现快速图像块集成,高度并行化架构
解决的关键问题:提出的硬件加速器实现高清视频高吞吐量(126帧/秒)和能效(0.041 J/帧),同时保持高检测精度(99.80%)。
里程碑成就:展示基于FPGA的交通标志检测系统可行性,使用级联分类器优化内存访问和计算效率。
遗留问题:自适应工作负载分配的缓冲区大小受片上SRAM限制,极端工作负载变化可能导致溢出。
发表年份:2018年
单位:Intel, Oregon
作者:Vivek De, Dennis Sylvester, James Myers, Jun Deguchi, Shinichiro Shiratake, Ingrid Verbauwhede
主要问题:实现能效的同时保持性能,处理功耗、信号处理效率、物理尺寸、工艺技术和实现成本方面的冲突需求。
设计与优化:
数据结构:未详细说明
算法:优化机器学习算法,包括深度神经网络和脉冲神经网络,用于本地传感器数据处理
硬件架构:讨论低功耗SoC、模拟前端、数据转换器、内存系统、无线电路和安全原语的各种硬件架构
电路层次:探索超低电压操作、定制SRAM设计和自适应PVT补偿等电路技术
解决的关键问题:通过创新硬件和算法设计改善IoT边缘设备的能效和安全性。
里程碑成就:涵盖集成传感器、低功耗数据转换器、智能内存系统、超低功耗无线连接、压缩成像和硬件安全等显著进展。
遗留问题:设备变异性、新兴内存技术耐久性有限以及更高效安全硬件需求等问题仍未解决。
发表年份:2018年
单位:中国航天科技集团第九研究院西安微电子技术研究所
作者:Quan Zhou, Liang Yang, Xin Yan
主要问题:空间导向应用需要高速卷积解决方案,而空间级DSP性能落后于商业处理器;原始乘加操作导致卷积计算中的指令相关和数据缺失等待。
设计与优化:
数据结构:未详细说明
算法:提出可重构卷积指令(rvCONV)和脉动式MAC架构优化卷积计算,实现无中断数据流提高芯片计算效率
硬件架构:引入基于网络片上(NoC)架构的多核抗辐射DSP(Revealer1601),将子核作为协处理器集成,包含任务分区和映射方案
电路层次:未详细说明
解决的关键问题:使用可重构指令和脉动架构实现高速卷积计算,显著减少实时模板匹配任务所需时间。
里程碑成就:在自主设计DSP上50毫秒内完成128×128模板匹配任务,性能超越通用DSP和GPU。
遗留问题:硬件组件在极端条件下的耐久性和可靠性,以及解决方案对更大数据集或更复杂任务的可扩展性未完全解决。
通过对2007-2018年间发表的15篇图像处理与计算机视觉硬件加速相关文献的分析,可以清晰地看到该领域的研究呈现以下几个重要趋势:
首先,从技术演进角度看,早期研究(2007-2012)主要聚焦于传统图像处理算法的硬件实现,如图像配准(Gupta等,2007)和特征提取(Huang等,2012)。2014年前后,神经网络开始融入视觉处理芯片(Shi等,2014),标志着向AI驱动的计算机视觉硬件转变。到2017-2018年,深度学习硬件加速(Chen等,2017)成为主流,同时功耗优化和边缘计算也成为关键关注点(De等,2018)。
其次,从性能指标看,处理分辨率从早期VGA级别发展到全高清(1920×1080),如Li等(2017)的立体深度处理器;处理速度从数十帧每秒提升到1000fps(Shi等,2014);功耗效率也有显著提升,如Jeon等(2014)的2.7mW特征提取加速器和Li等(2017)的2.3TOPS/W效率。
第三,从设计策略看,有几条清晰的技术路线:(1)并行架构普遍采用,从SIMD阵列(Zhang等,2011)到多核并行处理(Zhou等,2018);(2)内存优化成为关键,通过重构数据布局、共享内存和压缩技术减少访存成本;(3)算法-硬件协同设计日益重要,如Chen等(2017)提出的行静态数据流和Jeon等(2014)的算法-架构协同优化;(4)可重构性成为硬件设计趋势,提高适应性和资源利用率。
从地域分布看,该领域呈现多极化发展格局:美国(MIT、密歇根大学)在深度学习加速器和低功耗设计领域处于领先地位;中国(中科院、航天科技集团)在可重构视觉芯片和多核并行处理方面贡献显著;台湾在特征提取加速器方面有独特优势;韩国(KAIST)在移动AR处理器领域具有创新性。
总体而言,图像/点云配准建模芯片加速领域正向更高效能(高分辨率、低延迟)、更低功耗、更强适应性和更深度AI集成方向发展,同时数据结构-算法-架构深度耦合优化成为提升性能与能效的关键路径。
图像/点云配准建模芯片加速领域的发展可以通过几个关键里程碑来追踪:
图像特征提取加速的里程碑始于Huang等(2012)提出的SIFT硬件加速器,通过三级流水线和段缓冲方案实现VGA图像33ms处理时间。随后Jeon等(2014)在SURF算法基础上提出能效优化,将功耗降至2.7mW,为资源受限平台如微型无人机打开可能性。Knag等(2015)将特征提取与神经网络结合,通过稀疏编码神经网络实现片上学习,标志着特征提取向神经网络方向演进。
几何计算加速方面,Ttofis等(2013)针对视差图计算提出边缘导向架构,实现50fps的实时处理;Franchini等(2015)的ConformalALU为医学影像提供几何代数加速;Li等(2017)则将立体深度处理推进到全高清分辨率实时处理。
点云处理相关的里程碑主要体现在Gautier等(2014)的实时3D重建FPGA实现,通过OpenCL优化ICP算法,为点云配准提供硬件加速方案。
视觉神经网络处理器的发展始于Zhang等(2011)和Shi等(2014)提出的可编程视觉芯片,结合多级并行处理与神经网络;Chen等(2017)的Eyeriss则代表了针对卷积神经网络优化的专用硬件,通过行静态数据流实现能效优化。
综合视觉处理平台方面,Hong等(2015)的无标记相机姿态估计引擎和Shi等(2017)的交通标志检测加速器展示了针对特定应用的综合优化方案。Zhou等(2018)的可重构多核并行卷积则代表了指令级优化与多核架构结合的方向。
从2007年到2018年,图像/点云处理硬件加速器在性能、面积和功耗三方面都取得了显著进步:
性能方面,处理速度从早期的实时(30fps)提升到超高速(1000fps,Shi等,2014);分辨率从VGA(640×480)扩展到全高清(1920×1080,Li等,2017);计算密度从GMAC/s级别提升到TOPS级别(Li等,2017的2.3TOPS/W)。
面积效率方面,主要通过三个策略实现优化:(1)算法简化与硬件协同设计,如Jeon等(2014)将SURF算法简化为单个八度;(2)资源共享与动态重构,如Shi等(2014)提出PE阵列与SOM神经网络共享硬件;(3)存储层次优化,如Chen等(2017)的四级内存层次与数据重用策略。
功耗优化方面,早期设计很少明确提及功耗数据,而2014年后功耗成为关键指标:Jeon等(2014)实现2.7mW的超低功耗特征提取;Hong等(2015)的27mW相机姿态估计引擎;Li等(2017)的2.3TOPS/W立体深度处理器。功耗优化主要通过低电压设计、专用电路(如对数运算单元)、数据压缩和减少内存访问实现。
整体趋势表明,随着应用场景(如移动设备、无人机、AR/VR)对实时性和能效的需求增长,硬件加速器设计日益注重多目标优化,尤其是在保持或提升性能的同时大幅降低功耗。
尽管已有研究取得了显著进展,但在数据结构-算法-架构深度耦合优化方面仍存在几个明显不足:
数据结构适应性不足:大多数设计采用固定数据布局和处理流程,无法适应不同场景下数据特性的变化。例如,Li等(2017)的立体视觉处理器使用固定的块大小(50×50像素),无法根据场景复杂度动态调整。
算法与硬件反馈机制缺乏:现有设计多为单向优化,算法根据硬件特性优化,但缺乏运行时反馈机制使算法能根据硬件状态动态调整。这导致在不同输入数据和硬件状态下难以保持最佳效能。
存储层次与计算分离:尽管Chen等(2017)等工作尝试优化数据移动,但大多数设计仍未真正解决计算与存储分离的冯·诺依曼瓶颈。计算单元和存储单元之间的数据移动仍是能耗和性能瓶颈。
多模态融合能力有限:现有加速器多针对单一任务(如特征提取、立体匹配)优化,缺乏对多种传感数据(如图像、点云、IMU等)的融合处理能力,这限制了在复杂场景下的应用。
异构资源协同不足:虽然如Hong等(2015)和Zhou等(2018)的工作采用多种处理单元,但异构资源间的任务划分多为静态,难以根据工作负载动态调整,导致资源利用不均衡。
端到端优化不完整:大多数加速器专注于算法中间层次的优化,缺乏从传感器数据获取到最终决策的端到端优化视角,导致系统级效能受限。
这些不足点突显了本项目研究的必要性与科学意义。通过探索数据结构-算法-架构深度耦合优化的新方法,尤其是动态适应、多模态融合和近存计算等方向,有望突破当前图像/点云配准建模加速器的性能瓶颈,为智能感知系统提供更高效的硬件支撑。
| 文献 | 任务类型 | 采用的算法 | 主要优化策略 | 实现平台 |
|---|---|---|---|---|
| Gupta et al. (2007) | 图像配准 | NCCF, MSE, BST | 脉动阵列架构,256窗口处理器并行计算 | VLSI |
| Zhang et al. (2011) | 通用视觉处理 | 多级图像处理算法 | 灵活像素-PE映射,多级并行处理,专用编译器 | 0.18μm CMOS |
| Huang et al. (2012) | 特征提取 | SIFT | 段缓冲方案,三级流水线架构 | 未说明 |
| Ttofis et al. (2013) | 视差图计算 | 边缘检测+块匹配(SAD) | 二值边缘检测图像,流水线并行设计 | Xilinx Virtex-5 FPGA |
| Jeon et al. (2014) | 特征提取 | 优化SURF | 圆形采样区域,匹配吞吐量架构,移位锁存器FIFO | 28nm LP CMOS |
| Shi et al. (2014) | 通用视觉处理 | SOM神经网络+LVQ | 动态可重构PE阵列与SOM网络,多级并行性 | 0.18μm CMOS |
| Gautier et al. (2014) | 3D重建 | ICP, 体积集成 | 内存访问优化,循环展开,内核专用化 | Altera Stratix V FPGA |
| Franchini et al. (2015) | 医学图像处理 | 共形几何代数 | 简化几何运算代数公式,协处理架构 | Xilinx Virtex-5 FPGA |
| Knag et al. (2015) | 特征提取编码 | SAILnet稀疏编码 | 内存分区,两层混合网络,位串行处理 | 65nm CMOS |
| Hong et al. (2015) | 相机姿态估计 | 无标记CPE | 推测执行,可重构数据排列层,对数处理元素 | 65nm Logic CMOS |
| Chen et al. (2017) | CNN加速 | CNN | 行静态数据流,四级内存层次,零压缩技术 | 未说明 |
| Li et al. (2017) | 立体深度处理 | SGM | 块处理,依赖解析对角扫描,超宽自定义SRAM | 40nm GP CMOS |
| Shi et al. (2017) | 交通标志检测 | 级联分类器 | 重排数值运算,共享图像存储,自适应工作负载 | Xilinx ZC706 FPGA |
| De et al. (2018) | IoT边缘处理 | 深度/脉冲神经网络 | 超低电压操作,定制SRAM,自适应PVT补偿 | 不适用(综述) |
| Zhou et al. (2018) | 并行卷积 | 模板匹配卷积 | 可重构卷积指令,脉动MAC架构,数据块存储 | 自研DSP(Revealer1601) |
基于对2007-2018年间该领域研究的分析,图像/点云配准建模芯片加速未来发展趋势可从以下几个方面预测:
动态自适应数据结构:未来设计将更注重运行时可重构的数据结构,根据输入特性、计算负载和能量预算自动调整。如动态稀疏表示、自适应量化和层次化数据组织结构。
近存/计算内存架构:解决存储墙问题的关键是将数据结构与物理存储深度融合,如基于ReRAM/MRAM的计算内存阵列,减少甚至消除数据搬运开销。
多模态统一表示:发展统一高效的表示方法,同时处理图像、点云、IMU等多种输入,支持跨模态特征提取和融合。
神经网络压缩与剪枝:随着Chen等(2017)Eyeriss等工作的推进,更高效的网络压缩、量化和剪枝技术将与硬件协同设计,为边缘设备提供更高能效。
动态精度算法:根据任务复杂度和能源预算动态调整计算精度,在精度和能效间取得最佳平衡。
迁移学习/持续学习优化:面向硬件的迁移学习和增量学习算法,减少在边缘设备上的训练和适应成本。
异构架构进一步融合:类似Shi等(2014)的混合架构将更广泛采用,但会更加灵活和智能,整合传统处理器、神经网络加速器、可编程逻辑和专用计算单元。
细粒度可重构性:从Zhou等(2018)的指令级重构发展到更细粒度的数据路径和功能单元重构,提高资源利用率和适应性。
自适应功耗管理:超越当前的静态功耗优化,实现动态功耗分配和任务调度,最大化能效比。
车载/无人机实时感知:类似Li等(2017)的立体视觉处理器会进一步优化,专注于高分辨率、低延迟、强鲁棒性场景理解和导航。
AR/VR沉浸感知:延续Hong等(2015)相机姿态估计研究,发展更高效的SLAM、手势识别和环境理解加速器,支持下一代AR/VR体验。
医疗/工业专用处理:针对医疗影像处理和工业检测等特定领域,开发算法-硬件深度协同的专用加速方案。
传感器-处理器协同设计:将传感器前端与处理器深度集成,实现光学/激光雷达信号处理的端到端优化。
多芯片封装与3D集成:通过先进封装和3D堆叠技术,实现异构系统集成,克服单芯片面积和功耗限制。
软硬协同优化框架:发展自动化工具链,支持从高级算法描述到硬件实现的端到端映射和优化。
综上所述,图像/点云配准建模芯片加速的未来发展将呈现"更高性能、更低功耗、更强适应性、更深度集成"的总体趋势,同时数据结构-算法-架构的深度耦合优化将成为关键技术路径。
[1] N. Gupta and N. Gupta, "A VLSI Architecture for Image Registration in Real Time," IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 15, no. 9, pp. 981-989, 2007.
[2] W. Zhang, Q. Fu, and N.-J. Wu, "A Programmable Vision Chip Based on Multiple Levels of Parallel Processors," IEEE Journal of Solid-State Circuits, vol. 46, no. 9, pp. 2132-2147, 2011.
[3] F.-C. Huang, S.-Y. Huang, J.-W. Ker, and Y.-C. Chen, "High-Performance SIFT Hardware Accelerator for Real-Time Image Feature Extraction," IEEE Transactions on Circuits and Systems for Video Technology, vol. 22, no. 3, pp. 340-351, 2012.
[4] C. Ttofis, S. Hadjitheophanous, A. S. Georghiades, and T. Theocharides, "Edge-Directed Hardware Architecture for Real-Time Disparity Map Computation," IEEE Transactions on Computers, vol. 62, no. 4, pp. 690-704, 2013.
[5] D. Jeon, M. B. Henry, Y. Kim, I. Lee, Z. Zhang, D. Blaauw, and D. Sylvester, "An Energy Efficient Full-Frame Feature Extraction Accelerator With Shift-Latch FIFO in 28 nm CMOS," IEEE Journal of Solid-State Circuits, vol. 49, no. 5, pp. 1271-1284, 2014.
[6] C. Shi, J. Yang, Y. Han, Z. Cao, Q. Qin, L. Liu, N.-J. Wu, and Z. Wang, "A 1000 fps Vision Chip Based on a Dynamically Reconfigurable Hybrid Architecture Comprising a PE Array Processor and Self-Organizing Map Neural Network," IEEE Journal of Solid-State Circuits, vol. 49, no. 9, pp. 2067-2082, 2014.
[7] Q. Gautier, A. Shearer, J. Matai, D. Richmond, P. Meng, and R. Kastner, "Real-time 3D Reconstruction for FPGAs: A Case Study for Evaluating the Performance, Area, and Programmability Trade-offs of the Altera OpenCL SDK," in 2014 International Conference on Field-Programmable Technology (FPT), pp. 326-329, 2014.
[8] S. Franchini, A. Gentile, F. Sorbello, G. Vassallo, and S. Vitabile, "ConformalALU: A Conformal Geometric Algebra Coprocessor for Medical Image Processing," IEEE Transactions on Computers, vol. 64, no. 4, pp. 955-970, 2015.
[9] P. Knag, J. K. Kim, T. Chen, and Z. Zhang, "A Sparse Coding Neural Network ASIC With On-Chip Learning for Feature Extraction and Encoding," IEEE Journal of Solid-State Circuits, vol. 50, no. 4, pp. 1070-1079, 2015.
[10] I. Hong, G. Kim, Y. Kim, D. Kim, B.-G. Nam, and H.-J. Yoo, "A 27 mW Reconfigurable Marker-Less Logarithmic Camera Pose Estimation Engine for Mobile Augmented Reality Processor," IEEE Journal of Solid-State Circuits, vol. 50, no. 11, pp. 2513-2523, 2015.
[11] Y.-H. Chen, T. Krishna, J. S. Emer, and V. Sze, "Eyeriss: An Energy-Efficient Reconfigurable Accelerator for Deep Convolutional Neural Networks," IEEE Journal of Solid-State Circuits, vol. 52, no. 1, pp. 127-138, 2017.
[12] Z. Li, Q. Dong, M. Saligane, B. Kempke, S. Yang, Z. Zhang, R. Dreslinski, D. Sylvester, D. Blaauw, and H. S. Kim, "A 1920×1080 30fps 2.3TOPS/W Stereo-Depth Processor for Robust Autonomous Navigation," in 2017 IEEE International Solid-State Circuits Conference (ISSCC), pp. 62-63, 2017.
[13] W. Shi, X. Li, Z. Yu, and G. Overett, "An FPGA-Based Hardware Accelerator for Traffic Sign Detection," IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 25, no. 4, pp. 1362-1372, 2017.
[14] V. De, D. Sylvester, J. Myers, J. Deguchi, S. Shiratake, and I. Verbauwhede, "Intelligent Energy-Efficient Systems at the Edge of IoT," in 2018 IEEE International Solid-State Circuits Conference (ISSCC), pp. 502-504, 2018.
[15] Q. Zhou, L. Yang, and X. Yan, "Reconfigurable Instruction-Based Multicore Parallel Convolution and Its Application in Real-Time Template Matching," IEEE Transactions on Computers, vol. 67, no. 12, pp. 1780-1793, 2018.