计算机视觉开始一门新兴人工智能

网友投稿 296 2024-02-19


本文作者魏秀参,本文首发于作者的知乎专栏《欲穷千里目》, AI研习社获其授权发布。

计算机视觉开始一门新兴人工智能

计算机视觉 (Computer Vision, CV) 是一门研究如何使机器“看”的科学。1963年来自MIT的Larry Roberts发表的该领域第一篇博士论文“Machine Perception of Three-Dimensional Solids”(),标志着CV作为一门新兴人工智能方向研究的开始。

在发展了50多年后的今天,我们就来聊聊最近让计算机视觉拥有「无中生有」能力的几个有趣尝试:1)超分辨率重建;2)图像着色;3)看图说话;4)人像复原;5)图像自动生成。可以看出,这五个尝试层层递进,难度和趣味程度也逐步提升。(注:本文在此只谈视觉问题,不提太过具体的技术细节,若大家对某部分感兴趣,以后再来单独写文章讨论 :)

超分辨率重建 (Image Super-Resolution)

去年夏天,一款名为“waifu 2x”()的岛国应用在动画和计算机图形学中着实火了一把。waifu 2x借助深度「卷积神经网络」(Convolutional Neural Network, CNN) 可以将图像的分辨率提升2倍,同时还能对图像降噪。简单来说,就是让计算机「无中生有」的填充一些原图中并没有的像素,从而让漫画看起来更清晰真切。大家不妨看看下图,真想童年时候看的就是如此高清的龙珠()啊!

不过需要指出的是,图像超分辨率的研究始于2009年左右,只是得力于「深度学习」的发展,waifu 2x可以做出更好的效果。在具体训练CNN时,输入图像为原分辨率, 而对应的超分辨率图像则作为目标,以此构成训练的“图像对” (image pair),经过模型训练便可得到超分辨率重建模型。waifu 2x的深度网络原型基于香港中文大学汤晓欧教授团队的工作[1]。有趣的是,[1]中指出可以用传统方法给予深度模型以定性的解释。如下图,低分辨率图像通过CNN的卷积 (convolution) 和池化 (pooling) 操作后可以得到抽象后的特征图 (feature map)。基于低分辨率特征图,同样可以利用卷积和池化实现从低分辨率到高分辨率特征图的非线性映射 (non-linear mapping)。最后的步骤则是利用高分辨率特征图重建高分辨率图像。实际上,所述三个步骤与传统超分辨率重建方法的三个过程是一致的。

图像着色 (Image Colorization)

顾名思义,图像着色是将原本「没有」颜色的黑白图像进行彩色填充。图像着色同样借助卷积神经网络,输入为黑白和对应彩色图像的image pair,但是仅仅通过对比黑白像素和RGB像素来确定填充的颜色,效果欠佳。因为颜色填充的结果要符合我们的认知习惯,比如,把一条汪星人的毛涂成鲜绿色就会让人觉得很怪异。于是近期,早稻田大学发表在2016年计算机图形学国际顶级会议SIGGRAPH上的一项工作[2]就在原来深度模型的基础上,加入了「分类网络」来预先确定图像中物体的类别,以此为“依据”再做以颜色填充。下图分别是模型结构图和颜色恢复demo,其恢复效果还是颇为逼真的。另外,此类工作还可用于黑白电影的颜色恢复,操作时只需简单的将视频中每一帧拿出来作colorization即可。

"看图说话" (Image Caption)

常说“图文并茂”,文字是除图像外另一种描述世界的方式。 近期,一项名为“image caption”的研究逐渐升温起来,其主要任务是通过计算机视觉和机器学习的方法实现对一张图像自动地生成人类自然语言的描述,即“看图说话”。值得一提的是,在今年的CV国际顶会CVPR上,image caption被列为了一个单独的session,其热度可见一斑。一般来讲在image caption中,CNN用来获取图像特征,接着将图像特征作为语言模型LSTM(RNN的一种)的输入,整体作为一个「end-to-end」的结构进行联合训练,最终输出对图像的语言描述(见下图)。

目前image caption领域的最好结果[3]来自澳大利亚University of Adelaide的Chunhua Shen教授()团队。与之前image caption工作相比,他们的改进与刚才提到的颜色恢复简直有异曲同工之妙,同样是考虑利用图像中物体的类别作为较精准的“依据”来更好的生成自然语言描述,即下图中的红色框框圈起的部分。Image caption的急速发展不仅加速了CV和NLP在AI大领域内的交融,同时也为增强现实应用奠定了更加坚实的技术基础。另外,我们更乐于看到今后日趋成熟的image caption技术嵌入到穿戴式设备上,那一天盲人便可以间接的“看到光明”。

人像复原 (Sketch Inversion)

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:脸书收购初创公司视觉部门
下一篇:基于PAC的机器视觉应用方案
相关文章

 发表评论

暂时没有评论,来抢沙发吧~