Decentralised learning with distributed gradient descent and random features

Decentralised learning with distributed gradient descent and random features

We investigate the generalisation performance of Distributed Gradient Descent with implicit regularisation and random features in the homogenous setting where a network of agents are given data sampled independently from the same unknown distribution. Along with reducing the memory footprint, random...

Bibliografiset tiedot
Päätekijät:	Richards, D, Rebeschini, P, Rosasco, L
Aineistotyyppi:	Conference item
Kieli:	English
Julkaistu:	Proceedings of Machine Learning Research 2020

Samankaltaisia teoksia

Robust gradient descent for phase retrieval
Tekijä: Buna-Marginean, A, et al.
Julkaistu: (2025)

Graph-dependent implicit regularisation for distributed stochastic subgradient descent
Tekijä: Richards, D, et al.
Julkaistu: (2020)

Generalization bounds for label noise stochastic gradient descent
Tekijä: Huh, JE, et al.
Julkaistu: (2023)

Generalization bounds for label noise stochastic gradient descent
Tekijä: Huh, JE, et al.
Julkaistu: (2024)

Optimal statistical rates for decentralised non-parametric regression with linear speed-up
Tekijä: Richards, D, et al.
Julkaistu: (2019)

Learning mirror maps in policy mirror descent
Tekijä: Alfano, C, et al.
Julkaistu: (2025)

Implicit regularization in matrix sensing via mirror descent
Tekijä: Wu, F, et al.
Julkaistu: (2021)

The statistical complexity of early-stopped mirror descent
Tekijä: Vaškevičius, T, et al.
Julkaistu: (2020)

The statistical complexity of early-stopped mirror descent
Tekijä: Kanade, V, et al.
Julkaistu: (2023)

Why random reshuffling beats stochastic gradient descent
Tekijä: Gürbüzbalaban, M., et al.
Julkaistu: (2021)

A continuous-time mirror descent approach to sparse phase retrieval
Tekijä: Wu, F, et al.
Julkaistu: (2020)

Decentralised federated learning with adaptive partial gradient aggregation
Tekijä: Jingyan Jiang, et al.
Julkaistu: (2020-05-01)

Distributed machine learning with sparse heterogeneous data
Tekijä: Richards, D, et al.
Julkaistu: (2021)

Distributed Stochastic Gradient Descent With Compressed and Skipped Communication
Tekijä: Tran Thi Phuong, et al.
Julkaistu: (2023-01-01)

Limited Gradient Descent: Learning With Noisy Labels
Tekijä: Yi Sun, et al.
Julkaistu: (2019-01-01)

Featured Hybrid Recommendation System Using Stochastic Gradient Descent
Tekijä: Si Thin Nguyen, et al.
Julkaistu: (2021-01-01)

Low-Rank Gradient Descent
Tekijä: Romain Cosson, et al.
Julkaistu: (2023-01-01)

On-manifold projected gradient descent
Tekijä: Aaron Mahler, et al.
Julkaistu: (2024-02-01)

Multi-task gradient descent for multi-task learning
Tekijä: Bai, Lu, et al.
Julkaistu: (2021)

Recent Advances in Stochastic Gradient Descent in Deep Learning
Tekijä: Yingjie Tian, et al.
Julkaistu: (2023-01-01)

Multileave gradient descent for fast online learning to rank
Tekijä: Whiteson, S, et al.
Julkaistu: (2016)

A novel framework for policy mirror descent with general parameterization and linear convergence
Tekijä: Alfano, C, et al.
Julkaistu: (2024)

Nearly minimax-optimal rates for noisy sparse phase retrieval via early-stopped mirror descent
Tekijä: Wu, F, et al.
Julkaistu: (2022)

Dual space preconditioning for gradient descent
Tekijä: Maddison, CJ, et al.
Julkaistu: (2021)

A Multi-View Fusion Method via Tensor Learning and Gradient Descent for Image Features
Tekijä: Laihang Yu, et al.
Julkaistu: (2021-01-01)

MODIFIED ARMIJO RULE ON GRADIENT DESCENT AND CONJUGATE GRADIENT
Tekijä: ZURAIDAH FITRIAH, et al.
Julkaistu: (2017-10-01)

Distributed stochastic gradient descent for link prediction in signed social networks
Tekijä: Han Zhang, et al.
Julkaistu: (2019-01-01)

Iterative Regularization via Dual Diagonal Descent
Tekijä: Garrigos, Guillaume, et al.
Julkaistu: (2018)

Carathéodory sampling for stochastic gradient descent
Tekijä: Cosentino, F, et al.
Julkaistu: (2020)

Carathéodory sampling for stochastic gradient descent
Tekijä: Cosentino, F, et al.
Julkaistu: (2020)

Amortized Bayesian Meta-Learning with Accelerated Gradient Descent Steps
Tekijä: Zhewei Zhang, et al.
Julkaistu: (2023-07-01)

Gradient-Descent-like Ghost Imaging
Tekijä: Wen-Kai Yu, et al.
Julkaistu: (2021-11-01)

Semi-Stochastic Gradient Descent Methods
Tekijä: Jakub Konečný, et al.
Julkaistu: (2017-05-01)

Correspondence between neuroevolution and gradient descent
Tekijä: Stephen Whitelam, et al.
Julkaistu: (2021-11-01)

Optimal convergence rate for exact policy mirror descent in discounted Markov decision processes
Tekijä: Johnson, E, et al.
Julkaistu: (2023)

The complexity of gradient descent: CLS = PPAD ∩ PLS
Tekijä: Fearnley, J, et al.
Julkaistu: (2021)

The complexity of gradient descent: CLS = PPAD∩PLS
Tekijä: Fearnley, J, et al.
Julkaistu: (2022)

Efficient neural codes naturally emerge through gradient descent learning
Tekijä: Ari S. Benjamin, et al.
Julkaistu: (2022-12-01)

Stochastic gradient descent for wind farm optimization
Tekijä: J. Quick, et al.
Julkaistu: (2023-08-01)

Function approximation method based on weights gradient descent in reinforcement learning
Tekijä: Xiaoyan QIN, et al.
Julkaistu: (2023-08-01)