读《环境光遮蔽技术在图形图像中若干关键技术的研究》总结-其二--相关理论背景
第二章相关理论背景:
2.1环境光遮蔽:
2.1.1数学定义:
AO有效取值范围为AO∈[0,1];
X为物体表面上一点;
Π是圆周率常数
n为x对应物体表面的法向量;
S+是以该点表面法向量为中心的上半球面围成的区域,
w为每次出射光线的方向;
V(x,w)是一个布尔函数,判断从当前点发射的测试光线与其他几何结构间是否存在遮挡。存在为1,否则为0.
<.>为一个点乘操作。
由以上定义可知,环境光遮蔽仅与物体的几何结构相关,与光照和构成材质无关。
环境光遮蔽仅描述了物体周围的几何结构形成的局部可见性。在实际使用的时候,需要在特定的光照模型下结合环境光源使用。另外,环境光遮蔽的一个默认假设是场景必须满足Lambertian假设,即物体表面的材质满足漫反射要求。在该假设下,物体表面材质的反射率是独立于光照和观察视点的。
2.1.2常用光照模型
环境光遮蔽在本文中被应用于了两种光照模型场景中
第一,方向光源搭配环境光源模型。该模型包含了两种光源,分别为方向光源和环境光源。该模型使用方向光源近似高频光源,使用环境光遮蔽模拟低频光源。
2.2本征图像
本征图像,是指将衣服图像分成两个部分--反射图和照射图(或称为本色图和高光图),这两幅分解得到的图像就是原图像的本征图像。
照射图:或称为高光图,反应原图像光照情况的图像
反射图:或称为本色图,是指在变化的光照条件下能够维持不变的图像部分,反射图是原图像去掉高光后的图像。
I表示原始图像,R表示反射分量,S表示照射分量。
本征图像获取方法由很多,对于不同图像形式,单张图像和图像序列,提取方法是不同的。
2.2.1概述
I(x)=ρ(x)*L(x).
ρ为反射率贴图,L为光照贴图
对反射率贴图的修改可以实现对图像中场景的材质编辑,对光照贴图的修改则可以实现对象中环境的编辑.
本征图像分解与通过图像计算环境光遮蔽具有一定的相似性,因为环境光遮蔽的计算实际上是对光照贴图的进一步分解,将高频信号和低频信号进行剥离。所有,基于图像的环境光遮蔽算法大多会采用类似于本征图像中反射率和光照分解过程作为基本求解思路。
2.2.2常用先验假设
引入合适的先验假设对问题进行简化。现在对一些常见的先验假设进行介绍。
光照光滑假设:假设光照贴图是光滑的,而材质贴图则是非光滑的.
材质光滑假设:为了处理高频光照的情形。
EoI假设
反射率稀疏假设
非局部假设
人脸模型
基于学习的方法。
2.2.3验证方法
pbrt 等
2.3卷积神经网网络
卷积层:
(1):卷积核的大小。
(2):输入图像填充边长。
(3):卷积步长
池化层:丢弃无用信息,感受野扩大,计算更加高效.
非线性**层:卷积神经网络拟合各种非显性问题存在理论可能性。
归一化层:BatchNorm
2.3.3U-net网络结构:
通过探究不同网络结构拓扑结构设计将基本组件搭建成为一个针对特定任务的高效求解方案一直是卷积神经网络领域的研究重点.根据任务的不同,研究人员提出乐这种不同的设计方案和优化策略。在图像分类任务中........
语义分割,FCN U-Net
本章对相关领域和研究方法进行了介绍,先介绍了环境光遮蔽的数学定义以及常搭配使用的光照模型。
常用的解决思路,以及先验假设以及验证方法,
最后使用较多的卷积神经网络方法进行了背景知识铺垫。
第三章基于动态光源图像的环境光遮蔽估计
主要贡献在于输入无先验假设
第四章单帧图像下的环境光遮蔽估计
4.1引言
使用卷积神经网络作为特征提取器,将其与已有的分解算法流程相结合,随后,设计了第一个端到端的对光照贴图和反射率进行回归的本征图像分解网络。更进一步,通过渲染大量带镜面反射的仿真数据没解决了单帧图像在非Lambert假设下的反射率,散射光照和镜面光照三者的分解问题。
4.2问题定义和光照模型
本方法拟解决的问题是给定一张自然光照下的图像,能否估计其中目标物体的环境光遮蔽情况。
4.3卷积网络设计
4.3.1基本U-Net结构设计
端到端预测结构
接受自然图像作为输入,通过编码器和解码器后直接输出一个单通道和输入图像同样分辨率的环境光遮蔽预测结果。
此人并非单纯的使用了CNN,也探究了一些改进措施:
二段预测结构
二段预测结构将问题分为两个独立的步骤:
(1):从自然图像中对反射率图像和光照图进行分离
(2):从光照图中对环境光遮蔽进行估计。
为什么进行这样的设计?
对单帧图像的反射率和光照贴图的分辨本身即是一个挑战。而自然图像中的光照组成还较为复杂,包含了高频的光照部分(例如太阳照射下的区域和处于阴影中的区域)以及低频的区域(该部分才是由环境光遮蔽主导)。
通过设计一个二段预测结构,使得每段网络针对不同的问题进行处理,希望得到更好的结果。
联合预测结构
最终结论是端到端的比较好,文章中的两种新结构并没有任何用处。