Class Central is learner-supported. When you buy through links on our site, we may earn an affiliate commission.

数据科学优化方法

Renmin University of China via XuetangX

Go to class Write review

Corporate Finance Institute

35% Off Finance Skills That Get You Hired - Code CFI35

CourseHorse

The Perfect Gift: Any Class, Never Expires

Overview

Coursera Flash Sale

40% Off Coursera Plus for 3 Months!

优化是数据科学的支柱之一。通过本课程的学习，学习者能掌握无约束优化、约束优化和复合优化等问题重要优化方法，提升优化建模、算法设计和编程实现的综合能力。

Syllabus

第1章导论

1.1 导论

第2章无约束最优化方法基础

2.1 最优性条件
2.2 方法框架
2.3 收敛准则

第3章线搜索方法

3.1 精确线搜索方法
3.2 精确线搜索方法的收敛性
3.3 非精确线搜索方法
3.4 非精确线搜索方法的收敛性

第4章负梯度方法

4.1 梯度下降方法
4.2 最速下降方法
4.3 梯度下降方法的变体
4.4 梯度下降方法的改进

第5章牛顿方法

5.1 基本牛顿方法
5.2 基本牛顿方法的改进
5.3 牛顿方法在非线性最小二乘问题中的应用

第6章拟牛顿方法

6.1 拟牛顿条件
6.2 对称秩1方法
6.3 DFP方法
6.4 BFGS方法
6.5 L-BFGS方法

第7章共轭梯度方法

7.1 共轭方向方法
7.2 针对正定二次函数的共轭梯度方法
7.3 非线性共轭梯度方法

第8章约束最优化问题的最优性理论

8.1 约束最优化问题的一般形式和定义
8.2 约束最优化问题的一阶最优性条件
8.3 约束最优化问题的二阶最优性条件
8.4 约束最优化问题的对偶问题

第9章罚函数方法

9.1 二次罚函数方法
9.2 障碍函数方法
9.3 增广Lagrange函数方法

第10章近端方法

10.1 近端算子
10.2 近端极小化方法
10.3 近端梯度方法
10.4 加速近端梯度方法

第11章坐标下降方法

11.1 随机坐标下降方法
11.2 加速随机坐标下降方法
11.3 循环坐标下降方法
11.4 求解可分正则最优化问题的随机坐标下降方法

第12章交替方向乘子方法

12.1 方法基础
12.2 ADMM方法的一般形式和理论性质
12.3 一致性问题
12.4 共享问题

预备知识数学基础

A.1 线性代数
A.2 微积分
A.3 凸分析

第一部分数值实验

1.负梯度方法
2.牛顿方法
3.拟牛顿方法
4.共轭梯度方法
5.罚函数方法
6.坐标下降、近端梯度、ADMM方法

第二部分案例分析

1.线性回归
2.Logistic回归
3.多分类Logistic回归
4.多层感知机
5.卷积神经网络
6.FedAvg
7.Lasso
8.压缩感知
9.矩阵补全

习题

1最优化基础
2无约束优化基础
3线搜索和信赖域
4最速下降法
5牛顿法拟牛顿法
6共轭梯度法
7最小二乘法
8约束优化方法

期末考试

Taught by

Yifan Sun and Zhou Feng

Tags

china

Reviews

Start your review of 数据科学优化方法