凸优化理论

    书籍
    数学书籍
《凸优化理论》力图以简洁的篇幅，介绍凸优化的一个完整理论分析框架。凸优化理论的基石在于对偶。作者选取了最小公共点／最大相交点的几何框架（简称为MC／MC框架）作为凸优化问题的对偶性分析的基础框架。相比于基于函数共轭性的代数框架，MC／MC框架更适用于直观地分析和理解各种重要的优化问题，也更适合初学者学习和理解凸优化理论。本书可以作为高年级本科生、研究生“运筹学优化类”课程的教材或相关研究人员的参考书。
原著作者美国工程院院士博塞克斯教授有极高的学术造诣和学术声誉，在学术专著和教材的写在方面取得了公认的成就。

赵千川，清华大学自动化系教授，1996年于清华大学获得博士学位，研究方向为网络化动态系统的性能优化与安全控制。
王梦迪，美国普林斯顿大学运筹与金融工程系助理教授，2013年于麻省理工学院获得博士学位，师从本书作者Dimitn P.Bertsekas教授。
博塞克斯，毕业于希腊雅典国立技术大学，主修机械与电气工程专业，在麻省理工学院系统科学专业获得博士学位。他曾经在斯坦福大学工程与经济系统系、伊利诺伊大学香槟分校电气工程系任教。从1979年起，他在麻省理工学院电气工程与计算机科学系任教，目前是McAfee工程讲座教授。
他的教学科研领域包括：确定性优化、动态规划与随机控制、大规模及分布式计算以及数据通信网络。他发表和合著了大量研究论文，出版专著14本，其中部分专著被麻省理工学院作为教材使用，包括《非线性规划》、《动态规划与最优控制》、《数据网络》、《概率论入门》以及本书。他经常为企业进行咨询，并为若干学术期刊做编辑工作。
由于在他的著作《神经元动态规划》（与John Tsitsiklis合著）中反映出的在运筹学与计算机科学结合方面的出色研究成果，Bertsekas教授获得了1997年的INFORMS奖。他还因运筹学研究获得过2000年度希腊国家奖章和2001年ACC John R．Ragazzini教育奖。2001年，他当选为美国工程院院士。

第1章 凸分析的基本概念
1.1 凸集与凸函数
1.1.1 凸函数
1.1.2 函数的闭性与半连续性
1.1.3 凸函数的运算
1.1.4 可微凸函数的性质
1.2 凸包与仿射包
1.3 相对内点集和闭包
1.3.1 相对内点集和闭包的演算
1.3.2 凸函数的连续性
1.3.3 函数的闭包
1.4 回收锥
1.4.1 凸函数的回收方向
1.4.2 闭集交的非空性
1.4.3 线性变换下的闭性
1.5 超平面
1.5.1 分离超平面
1.5.2 超平面真分离
1.5.3 用非竖直超平面做分离
1.6 共轭函数

　　本书的目标是给出以下两个主题的易懂、简洁和直观的展示 . 
　　(a)凸分析，特别是与优化的联系 . 
　　(b)优化与最小最大问题的对偶理论，特别是在凸性框架中的情形 .它们是在广泛的实际应用中相关的两个主题.
　　优化的重点在于推导出约束问题存在原始和对偶最优解的条件 .约束问题的例子是 
　　minimize f(x) 
　　subject to x ∈ X, gj(x) . 0,j =1, ··· , r.
　　其他类型的优化问题，包括从 Fenchel对偶性产生的问题，也属于我们考虑的范围.最小最大问题的重点是推导保证等式 
　　inf sup φ(x, z) = sup inf φ(x, z)
　　x∈Xz∈Zz∈Zx∈X 
　　成立，以及下确界 “inf”和上确界 “sup”可取到的条件.
　　凸性的理论内容介绍得比较详细 .囊括了这个领域几乎所有重要的方面，对于凸优化中核心的分析问题的展开是足够了 .数学预备知识是线性代数和实分析的入门知识 .附录中包含了用到的有关知识的总结 .除了这些少量背景外，本书的内容是自足的，严格的证明会贯穿全书 .线性和非线性优化理论的先修知识不是必需的，尽管作为背景知识无疑它们是有帮助的 .
　　我们的目标是尽量发挥凸性理论在以一种统一的方式建立最强的对偶性方面的作用 .为此，我们的分析常会偏离 Rockafellar 1970年的经典著作的思路，而是遵从 Fenchel/Rockafellar的框架 .例如，我们采用不同的方式来处理闭集相交理论和线性变换下闭包的保持 (1.4.2和 1.4.3节)；我们用约束优化情形下的对偶性来发展次微分运算 (5.4.2节)；此外，我们没有
　　凸优化理论
　　使用下确界卷积 (in.mal convolution)、函数图像 (image)、极性集合和函数 (polar sets and functions)、双函数 (bifunctions)和共轭鞍点函数 (conjugate saddle functions)等概念 .类似于 Fenchel/Rockafellar，我们的理论体系是基于 Legendre/Fenchel共轭的思想，不过相比之下，在几何和可视化方面要来得直观得多.
　　我们的对偶框架是基于两个简单的几何问题：最小公共点问题 (min common point problem)和最大相交点问题 (max crossing point problem).最小公共点 /最大相交点 (MC/MC)框架的突出优点在于其几何上的直观性.借助这个框架，对偶性理论的核心问题都变得显然，并且可以采用统一的方法处理 .我们的方法是先在 MC/MC框架里得到许多广泛可用的定理，然后把它们用于解决特定问题 (约束优化、 Fenchel对偶性、最小最大问题等)上.我们处理所有对偶性问题 (对偶间隙的存在性、对偶最优解的存在性、对偶最优解集合的结构 )和其他问题 (次微分理论、择一定理、对偶间隙估计)都按照这样的思路.
　　从根本上说， MC/MC框架与共轭性框架存在着密切的联系 .也正因为如此， MC/MC框架在理论上很有用也有一般性 .不过，这两个框架在分析对偶性和提供几何解释上扮演者互补的角色：共轭性强调函数 /代数描述，而 MC/MC强调集合 /上图描述 . MC/MC框架更简单，而且看起来更适合可视化和研究强对偶性和对偶最优解的存在性问题 .共轭性框架，由于强调函数的描述，更适合凸函数的数学运算比较复杂，而且共轭函数的计算可以用于分析和计算.
　　本书源自作者早期的著作 [BNO03](与 A. Nedi′c和 A. Ozdaglar合著 )，但具有不同的特点 . 2003年的书内容很多，从结构上更像是学术专著，目标是利用非光滑分析的概念建立凸的和非凸的优化问题之间的联系 .本书的组织与此不同，本书集中于介绍凸优化问题 .尽管有这些区别，两本书在写作风格、数学基础和某些内容上还是有共同之处 .
　　本书各章的内容如下:
　　第 1章:本章给出后续各章描述对偶性理论所需要的全部凸分析工具 .会介绍基本的代数概念，如凸锥、超平面、拓扑概念，如相对内点、闭包、线性变换下闭性的保持，超平面分离 .另外，本章还会给出与对偶和优化相关的特定概念，如回收锥和共轭函数 .
　　第 2章:本章介绍多面体凸性概念:顶点、 Farkas和 Minkowski-Weyl定理及其在线性规划中的应用 .在后续章节中不会用到，首次阅读时可以跳过 . 

　　第 1章凸分析的基本概念
　　凸集和凸函数在优化模型中非常有用，是一种便于分析和算法设计的内涵丰富的结构 .这个结构的主体可以归结为几条基本性质 .例如，每个闭的凸集合都可以被支撑该集合的超平面所描述；凸集边界上的每个点都可以通过该集合的相对内点集来逼近，以及包含于闭凸集的每条半直线当被平移到该集合中的任意一个点发出的时候仍然包含于该集合.不过，尽管有这些好的性质，凸集及其分析并非完全没有理论和应用上难以处理的异常和例外情况 .例如，不同于仿射的紧集，像线性变换和向量和这样的某些基本运算并不保持闭凸集的闭性不变 .这会使得某些优化问题的处理，包括最优解的存在性和对偶性，变得复杂起来 .因此，有必要认真对待凸集的理论和应用的学习 .第 1章的目标是建立凸集学习的基础，特别是要强调与优化有关的问题 . 1.1凸集与凸函数本章将介绍凸集合与凸函数相关的基本概念，这些内容将贯穿本书所有的后续章节 .附录 A列举了本书将用到的线性代数和实分析的定义、符号和性质.首先我们给出凸集合的定义如下 (见图 1.1.1).定义 1.1.1 .n的子集 C被称为凸集，如果其满足 αx (1 . α)y ∈ C, . x, y ∈ C, . α ∈ [0, 1]依惯例我们认为空集是凸的 .通常根据问题的背景，我们可容易地判定某特定凸集是否为非空 .然而多数情况下，我们会尽量说明集合是否为非空，从而降低模糊性 .命题 1.1.1给出了一些保持集合凸性不变的集合变换.命题 1.1.1 (a)任意多个凸集 {Ci ｜ i ∈ I}的交集 ∩i∈I Ci是凸集. 图 1.1.1凸集的定义 .凸集中任意两点的连线线段都包含在集合内部，因此左图中的集合是凸集，而右图中的不是 . (b)任意两个凸集 C1与 C2的向量和 C1 C2是凸集. (c)对任意凸集 C和标量 λ，集合 λC是凸集 .另外，如 λ1, λ2为正标量，则以下集合是凸的， (λ1 λ2)C = λ1C λ2C. (d)凸集的闭包 (closure)与内点集 (interior)是凸集. 
　　(e)凸集在仿射函数下的象和原象是凸集.
　　证明证明的思路是直接利用凸集的定义 .在 (a)中，我们在交集 ∩i∈I Ci中任取两点 x，y.由于每个 Ci都是凸集，x和 y间的线段被每个 Ci所包含,因而也属于它们的交集.类似地在 (b)中，任取 C1 C2中的两点，可以用 x1 x2和 y1 y2表示，其中 x1,y1 ∈ C1且 x2,y2 ∈ C2.对任意 α ∈ [0, 1]有如下关系 α(x1 x2) (1 . α)(y1 y2)= (αx1 (1 . α)y1) (αx2 (1 . α)y2).由于 C1和 C2分别是凸集，上式右侧中两个小括号代表的向量分别属于 C1和 C2，而它们的向量和属于 C1 C2.因此根据定义 C1 C2是凸集.对 (c)的证明留给读者作为练习.对 (e)可用类似 (b)的方法来证明.为证明 (d)，考虑某凸集合 C，以及 C的闭包中任取的两点 x与 y.根据闭包的性质可得，在 C中存在序列 {xk}. C和 {yk}. C分别收敛到 x与 y，即 xk → x且 yk → y.对任意 α ∈ [0, 1]，我们构造一收敛到 αx (1 . α)y的序列 {αxk (1 . α)ykd，由于 C是凸集，则该序列被包含在 C内.我们可得到 αx (1 . α)y属于 C的闭包，因此凸集 C的闭包也是凸集 .类似地，在 C的内点集中任取两点 x与 y并构造分别以 x，y为中心且半径 r足够小的开球，使得它们都被包含在 C内.对任意 α ∈ [0, 1]，构造以 αx (1 . α)y为中心 r为半径的开球 .则该球内的任意点都可表示为 C中向量 x z和 y z的凸组合 α(x z) (1 . α)(y z)，其中 IzI <r.因此该开球属于 C，即凸组合 α(x z) (1 . α)(y z)属于 C的内点集 .因此集合 C的内点都可表示为内点的凸组合 αx (1 . α)y，即 C的内点集是凸集.口几个特殊的凸集我们现在来介绍常用的特殊凸集 .超平面 (hyperplane)是由一个线性等式定义的集合，形式为 {x ｜ a;x = b}，其中 a为非零向量而 b为标量 .半空间 (half space)是由一个线性不等式定义的集合，可写为 {x ｜ a;x《 b}，其中 a为非零向量而 b为标量 .易验证超平面和半空间都是凸闭集 .多面体 (polyhedral)是有限个半空间的非空交集，可写为如下形式 {x ｜ a;j x《 bj,j =1, ··· ,r},其中 a1, ··· ,ar和 b1, ··· ,br分别为 n中的一组向量和一组标量 .作为有限个半空间的交集，多面体也是凸闭集 [见命题 1.1.1(a)].称集合 C为锥体 (cone)如果对所有 x ∈ C和常数 λ> 0都满足 λx ∈ C.通常锥体并不一定是凸集，也不一定包含原点，但任何非空锥体的闭包必然包含原点 (见图 1.1.2).多面体锥 (polyhedral cone)是可写作如下形式的集合 C = {x ｜ a;jx《 0,j =1, ··· ,r},其中 a1, ··· ,ar为 n中的一组向量 .线性代数中介绍的子空间则是多面体锥的一种特例，同时多面体锥则是多面体的一种特例 . 1.1.1凸函数现在我们给出实值凸函数的定义 (见图 1.1.3).n定义 1.1.2令 C为 的凸集，则称函数 f : C →为凸函数 (convex 图 1.1.2凸锥体和非凸锥体 .图 (a)和 (b)中的锥体是凸集，而 (c)中的锥体由两条过原点的直线组成，是非凸的 .图 (a)中的锥体是多面体 .图 (b)中的锥体不包含原点 .图 1.1.3凸函数 f : C →贤的定义 .任意两个函数点的线性插值 αf(x) (1 . α)f(y)大于或等于实际的函数值 f(αx (1 . α)y叫，其中 α可在 [0, 1]中任意取值 . function)如果 f(αx (1 . α)y)《 αf(x) (1 . α)f(y), . x, y ∈ C, . α ∈ [0, 1] (1.1)注意在我们的定义中，定义域 C为凸集是函数 f : C →为凸函数的先决条件.因此当称某函数为凸函数时，通常默认其定义域为凸集 .现在我们介绍凸函数的几种拓展定义 .函数 f : C →被称为严格凸函数 (strictly convex)，如果其满足式 (1.1)且不等式处处被严格满足，即式 (1.1)对所有满足 x y的向量 x, y ∈ C及所有 α ∈ (0, 1)都取不等号 .= 函数 f : C →被称为凹的 (concave)如果 (.f)为凸函数，注意先决条件是 C为凸集.一个凸函数的典型例子是仿射函数 (a.ne function)，这类函数形如 f(x)= a;x b，其中 a ∈ n而 b ∈；其凸性可用凸函数的定义直接验证 .n另一个典型例子是范数函数 I·I.对任意 x, y ∈ 及 α ∈ [0, 1]，通过三角形不等式我们可得到 Iαx (1 . α)yI《 IαxI I(1 . α)yI = αIxI (1 . α)IyI,因此 I·I是凸函数.令 f : C →为任一函数，而 γ为标量，则集合 {x ∈ C ｜ f(x)《 γ}与集合 {x ∈ C ｜ f(x) <γ}被称为 f的水平集 (level sets).如果 f是凸函数，则其水平集都为凸集 .为验证这一事实，我们观察到如果两点 x, y ∈ C满足 f(x)《 γ且 f(y)《 γ，由于 C是凸集，则任意 α ∈ [0, 1]都使得 αx (1 . α)y ∈ C.由于 f又是凸函数，我们可推出 f(αx (1 . α)y)《 αf(x) (1 . α)f(y)《 γ,即函数的水平集 {x ∈ C ｜ f(x)《 γ}是凸集 .类似地可证出如 f为凸函数，则其水平集 {x ∈ C ｜ f(x) <γ}亦为凸集 .值得注意的是，由函数水平集是凸集并不能推出函数是凸函数；例如，函数 f(x)= J｜x｜的所有水平集为凸集，但 f并非凸函数.扩充实值凸函数为便捷起见，我们往往希望所考虑的凸函数定义在整个 n空间上 (而非仅仅定义在某一凸子集上 )并且处处取有限实值，因为从数学的角度讲这类函数更简单 .然而在很多优化问题和对偶问题的实际情况中，某些操作常使对象函数取到无限值，从而失去良好的性质 .例如下列函数 f(x) = sup fi(x),i∈I 其中 I为一个无限序数集合，即使 fi都是实函数， f仍可能在某些点取值 ∞；另一例子则为，实函数的共轭函数常常会在某些点取到无限值 (见 1.6节).此外，我们还会遇到一些凸函数 f仅仅定义在某凸子集上，却无法将其拓展为全空间上的实凸函数 [例如，函数 f : (0, ∞) →可定义为 f(x)=1/x便无法拓展 ].在这种情况下，相对于把 f局限在 C上，更方便的做法是把定义域拓展到整个 n空间并允许 f在某些点取值无限.基于上述原因，我们将引入扩充实值 (extended real-valued)函数的概念，即定义在全空间 n上且可在一些点上取值 .∞或 ∞的函数 .为了刻画这样的函数，我们先来介绍上图 (epigraph)的概念. n考虑定义域为某子集 X . 的函数 f : X → [.∞, ∞]，则其上图是 n 1的子集，定义如下 epi(f)= {(x, w) ｜ x ∈ X, w ∈ ,f(x)《 wd.函数 f的有效定义域 (e.ective domain)则定义为如下集合 dom(f)= {x ∈ X ｜ f(x) < ∞d (见图 1.1.4).我们易得出 dom(f)= {x ｜存在 w ∈使得(x, w) ∈ epi(f)d,n即 dom(f)为 epi(f)在 (自变量 x的空间 )上的投影 .如果把 f的定义域限制为其有效定义域，函数的上图不变 .类似地，如果扩展 f的定义域到 n并对任意 x/∈ X定义函数值为 f(x)= ∞，新函数的上图和有效定义域亦不变.图 1.1.4扩充实值的凸函数和非凸函数，及其分别的上图和有效定义域 .有两种特殊情况我们必须首先排除在外，即当 f处处为 ∞的情况 [当且仅当 epi(f)为空 ]，以及当函数在某些点取值 .∞的情况 [当且仅当 epi(f)包含竖直直线 ].如果存在 x ∈ X使得 f(x) < ∞且对任意 x ∈ X满足 f(x) > .∞，我们称 f为真的 (proper)，反之我们则称函数 f为非真的 (improper).简而言之，函数 f为真当且仅当其上图为非空且不包含任何竖直直线.我们试图为扩充实值函数定义凸性，传统对实凸函数的定义方法会遇到这样的困难，若 f既能取值 .∞也能取值 ∞，则插值项 αf(x) (1 .α)f(y)变成了不可求和的 .∞ ∞ (该情况仅在 f非真时发生，但是这种函数却在证明和其他分析中常常出现，因此我们并不希望事先排除它们的存在 )，引入上图的概念恰可有效地回避这个难题，其引申出的凸函数定义如下 . n定义 1.1.3令 C为 的凸子集，则扩充实值函数 f : C → [.∞, ∞]为凸函数当 epi(f)是 n 1的凸子集.依定义 1.1.3我们容易证出，凸函数 f的有效定义域 dom(f)，水平集 {x ∈ C ｜ f(x)《 γd和 {x ∈ C ｜ f(x) <γd都是凸集，其中 γ可取任意标量值.更进一步，如果 f处处满足 f(x) < ∞或处处满足 f(x) > .∞，则 f(αx (1 . α)y)《 αf(x) (1 . α)f(y), . x, y ∈ C, .α ∈ [0, 1], (1.2)因此针对扩充实值函数的定义 1.1.3和之前针对实凸函数的定义 1.1.2是一致的.我们已建立了扩充实值函数的凸性与其上图的凸性的等价关系，因而很多针对凸集的结论都可应用于凸函数 (如证明函数的凸性等 ).反向也是可行的，我们可以用分析凸函数的方法来分析集合的相关性质，如对集合 nnX . 可定义其示性函数 (indicator function)δ : → (.∞, ∞]为 / 0, x ∈ X,δ(x ｜ X)= ∞,其他.具体道来，一集合为凸集当且仅当其示性函数为凸函数，而且集合非空当且仅当其示性函数为真.凸函数 f : C → (.∞, ∞]被称为严格凸函数 (strictly convex)，如果不等式 (1.2)对任意满足 x = y的 x, y ∈ dom(f)及任意 α ∈ (0, 1)都严格成立，即取不等号 .函数 f : C → [.∞, ∞]被称为凹函数当函数 (.f): C → [.∞, ∞]为凸函数，其中 C为凸子集.有时我们会遇到定义域 C非凸的函数，但是若限制定义域为 C的凸子集，得到的新函数是凸函数 .我们对这种特例给出如下的严格定义.定义 1.1.4令 C和 X为 n维欧氏空间 n的子集，其中 C为 X的非空凸子集，即 C . X.则称扩充实值函数 f : X → [.∞, ∞]为在 C上的凸函数 (convex over C)，如果把 f的定义域限制在 C后得到的新函数是凸的，也即，函数 f.: C → [.∞, ∞]是凸函数，其中对所有 x ∈ C函数值 f.定义为 f.(x)= f(x).当把扩充实值真凸函数的定义域替换为其有效定义域，原函数就变成了实凸函数 .这样一来，对新函数可直接应用针对实凸函数的结论和性质，同时也避免了涉及 ∞的运算 .因此，即使不引入扩充实值函数 ,我们依然可以推导出几乎所有凸函数的理论 .反之，我们也可以把扩充实值函数当作规范，在其框架下推演凸函数的理论， Rockafellar [Roc70]使用的就是这种规范.后续章节中我们将采用更灵活的方式，根据具体背景决定考虑采用实值函数或是扩充实值函数，以方便分析具体的问题 . 1.1.2函数的闭性与半连续性如果某个函数 f : X → [.∞, ∞]的上图是闭集，我们称 f为闭函数 .闭性与经典的下半连续性的概念有关 .回顾一下，函数 f是在向量 x ∈ X处下半连续的，如果 f(x)《 lim inf f(xk)k→∞ 对于每个满足 xk → x的点列 {xk}. X成立 .我们称 f是下半连续的 (lower semicontinuous)，如果它在定义域 X的每一点 x处都是下半连续的.我们称 f是上半连续的 (upper semicountinous)，如果 .f是下半连续的.这些定义与针对实函数的相应定义是一致的 [参见定义 A.2.4(c)].以下命题将函数的闭性、下半连续性和函数水平集的闭性联系起来 .见图 1.1.5.图 1.1.5函数上图和它的水平集关系的示意图 .易见水平集 {x ｜ f(x) . γ}经过平移后等同于 epi(f)和 “切片 ”{(x, γ) ｜ x∈贤 n}的交集 .这表明 epi(f)为闭当且仅当所有的水平集为闭 .命题 1.1.2对于函数 f : n → [.∞, ∞]，以下各款等价： (i)水平集 Vγ = {x ｜ f(x)《 γd对每个标量 γ均为闭. 
　　(ii)函数 f为下半连续的. 
　　(iii)集合 epi(f)为闭. 
　　证明如果 f(x)= ∞对所有 x成立，那么结果是平凡的，显然成立 .n我们假定 f(x) < ∞对至少一个 x ∈ 成立 .这样 epi(f)就是非空的，且 f至少有一个非空的水平集.先来证明 (i)蕴含 (ii).假定水平集 Vγ对于每个标量 γ都是闭的.反设 f(x) > lim inf f(xk)k→∞ 对某个 x和收敛到 x的点列 {xk}成立，并且令 γ为满足 f(x) >γ> lim inf f(xk)k→∞ 的标量 .那么必存在子列 {xk}K使得 f(xk)《 γ对所有 k ∈K成立 .于是 {xk}K . Vγ成立 .由于 Vγ是闭的， x必然也属于 Vγ，于是 f(x)《 γ，从而导出矛盾.n下面证明 (ii)蕴含 (iii).假定 f在 上为下半连续，并令 (x, w)为点列 {(xk,wk)d . epi(f)的极限 .于是我们有 f(xk)《 wk，进而令 k →∞，由 f在 x处的下半连续性，我们得到 f(x)《 lim inf f(xk)《 wk→∞ 于是，(x, w) ∈ epi(f)，故 epi(f)为闭.最后证明 (iii)蕴含 (i).假定 epi(f)为闭，且令 {xk}为点列，它收敛到某个 x且属于对应于某个标量 γ的水平集 Vγ .于是 (xk,γ) ∈ epi(f)对于所有的 k成立，并且 (xk,γ) → (x, γ)，因而由于 epi(f)为闭，我们有 (x, γ) ∈ epi(f).故 x属于 Vγ .这意味着这个集合是闭的.口在大部分推导中，我们倾向于采用闭性的概念，而较少用到下半连续性.其中的一个原因是，不同于闭性，下半连续性是一个与定义域有关的性质.例如，由 / 0,x ∈ (0, 1);f(x)= ∞, x/∈ (0, 1).定义的函数 f : → (.∞, ∞]既不是闭的也不是下半连续的；但如果把它的定义域限制到 (0, 1)上，就变成为下半连续 .另一方面，如果函数 f : X → [.∞, ∞]具有闭的有效定义域 dom(f)且在每个 x ∈ dom(f)处均为下半连续，那么 f必然是闭的 .我们把这个结论叙述为一个命题.其证明可以据命题 1.1.2证明 (ii)蕴含 (iii)的过程给出. 命题 1.1.3令 f : X → [.∞, ∞]为一函数 .如果它的有效定义域 dom(f)是闭的，且 f在每个 x ∈ dom(f)处均是下半连续的，那么函数 f是闭的.举例来说，集合 X的示性函数为闭当且仅当 X是闭的 (“当”的部分可以根据上述命题得出，而“仅当”的部分可以用上图的定义导出 ).更一般地，如果 fX是形如 / f(x),x ∈ X fX (x)= ∞,其他的函数，其中 f : n →为连续函数，那么可以证明 fX是闭的当且仅当 X是闭的.最后需要指出非真的闭凸函数非常特殊：它不能在任何点上取有限值，因此它具有如下形式 / .∞,x ∈ dom(f),f(x)= ∞, x/∈ dom(f).n为明白其中的原因，让我们来考虑非真的闭凸函数 f : → [.∞, ∞]，并假定存在着某个 x使得 f(x)为有限 .令 x满足 f(x)= .∞ (这样的点必然存在，因为 f是非真的并且 f不恒等于 ∞).因为 f是凸的，可知每个点 k . 11 xk = x x, . k =1, 2, ···kk 都满足 f(xk)= .∞，同时有 xk → x.因为 f是闭的，这意味着 f(x)= .∞，从而导出矛盾.总之，非真的闭凸函数在任何点都不能取有限值 . 
　　1.1.3凸函数的运算我们可以通过几种途径来验证函数的凸性 .像仿射函数 (a.ine func-tions)和范数 (模,norms)这样的一些常见函数是凸的 .多面体函数 (poly-hedral function)是一类重要的凸函数，根据定义是真凸函数，且其上图是多面体 (polyhedral set).从已知的凸函数出发，可以通过保持凸性的运算来生成其他凸函数.保持凸性的主要运算如下： (a)与线性变换做复合运算. 
　　(b)与非负标量相加或相乘.