梯度法又称为最速下降法，基本原理是在迭代点附近采用使目标函数值下降最快的负梯度方向作为搜索方向，求目标函数的极小值。
特点：迭代计算简单，只需求一阶偏导数，所占的储存单元少，对初始点的要求不高，在接近极小点位置时收敛速度很慢。