Deep Frank-Wolfe for neural network optimization
Learning a deep neural network requires solving a challenging optimization problem: it is a high-dimensional, non-convex and non-smooth minimization problem with a large number of terms. The current practice in neural network optimization is to rely on the stochastic gradient descent (SGD) algorithm...
Những tác giả chính: | Berrada, L, Zisserman, A, Kumar, MP |
---|---|
Định dạng: | Internet publication |
Ngôn ngữ: | English |
Được phát hành: |
arXiv
2018
|
Những quyển sách tương tự
-
Deep Frank-Wolfe for neural network optimization
Bằng: Berrada, L, et al.
Được phát hành: (2019) -
Training neural networks for and by interpolation
Bằng: Berrada, L, et al.
Được phát hành: (2020) -
Riemannian Optimization via Frank-Wolfe Methods
Bằng: Weber, Melanie, et al.
Được phát hành: (2022) -
Riemannian optimization via Frank-Wolfe methods
Bằng: Weber, M, et al.
Được phát hành: (2022) -
New analysis and results for the Frank–Wolfe method
Bằng: Freund, Robert Michael, et al.
Được phát hành: (2016)