惩罚函数法在形式上和拉格朗日法相似，故可视为是它的推广。其思路很简单，即并不直接求解原约束优化问题：

而是把它变成如下形式的无约束优化问题：

式中，G[g_u（X）]和H[h_v（X）]是针对原数学模型中的约束条件，以某种方式构成关于g_u（X）和h_v（X）的泛函。它们于全域内定义为非负。当约束条件不满足时，函数F（X，r_k，M_k）将受到惩罚（其函数值变得很大），故称之为惩罚函数，G[g_u（X）]和H[h_v（X）]为惩罚项，r_k和M_k为惩罚因子。由于r_k和M_k起着在目标函数f（X）和惩罚项之间进行加权的作用，故又可称为响应系数，F（X，r_k，M_k）所代表的曲面为响应曲面。又r_k和M_k是一个可以由小到大或由大到小改变的序列，故式（5-17）是一个无约束优化问题的无穷序列。采用某种无约束最优化方法求出的最优解，即为约束最优化问题的解，因而该法又称为序列无约束极小化方法（Sequential Unconstrained Minimization Technique），简称为SUMT方法。(www.daowen.com)

惩罚函数法分为两类：一类是参数型惩罚函数法，SUMT是一种典型的参数型惩罚函数法；另一类是无参数惩罚函数法，它把目标函数作为一个人为附加约束并在迭代计算中自动作出调整，以致逐渐逼近于约束最优解。由于后者的收敛速度较慢，在工程优化设计中甚少应用。在参数型惩罚函数法中，根据惩罚项的函数形式不同，又可分为内点法、外点法和混合法三种。