MN
Minh Nguyen
Author with expertise in Privacy-Preserving Techniques for Data Analysis and Machine Learning
Achievements
Cited Author
Open Access Advocate
Key Stats
Upvotes received:
0
Publications:
5
(80% Open Access)
Cited by:
1,473
h-index:
13
/
i10-index:
18
Reputation
Biology
< 1%
Chemistry
< 1%
Economics
< 1%
Show more
How is this calculated?
Publications
0

Federated Learning over Wireless Networks: Optimization Model Design and Analysis

Nguyen Tran et al.Apr 1, 2019
There is an increasing interest in a new machine learning technique called Federated Learning, in which the model training is distributed over mobile user equipments (UEs), and each UE contributes to the learning model by independently computing the gradient based on its local training data. Federated Learning has several benefits of data privacy and potentially a large amount of UE participants with modern powerful processors and low-delay mobile-edge networks. While most of the existing work focused on designing learning algorithms with provable convergence time, other issues such as uncertainty of wireless channels and UEs with heterogeneous power constraints and local data size, are under-explored. These issues especially affect to various trade-offs: (i) between computation and communication latencies determined by learning accuracy level, and thus (ii) between the Federated Learning time and UE energy consumption. We fill this gap by formulating a Federated Learning over wireless network as an optimization problem FEDL that captures both trade-offs. Even though FEDL is non-convex, we exploit the problem structure to decompose and transform it to three convex sub-problems. We also obtain the globally optimal solution by charactering the closed-form solutions to all sub-problems, which give qualitative insights to problem design via the obtained optimal FEDL learning time, accuracy level, and UE energy cost. Our theoretical analysis is also illustrated by extensive numerical results.
0
Paper
Citation769
0
Save
0

Federated Learning Over Wireless Networks: Convergence Analysis and Resource Allocation

Canh Dinh et al.Nov 17, 2020
There is an increasing interest in a fast-growing machine learning technique called Federated Learning (FL), in which the model training is distributed over mobile user equipment (UEs), exploiting UEs' local computation and training data. Despite its advantages such as preserving data privacy, FL still has challenges of heterogeneity across UEs' data and physical resources. To address these challenges, we first propose FEDL, a FL algorithm which can handle heterogeneous UE data without further assumptions except strongly convex and smooth loss functions. We provide a convergence rate characterizing the trade-off between local computation rounds of each UE to update its local model and global communication rounds to update the FL global model. We then employ FEDL in wireless networks as a resource allocation optimization problem that captures the trade-off between FEDL convergence wall clock time and energy consumption of UEs with heterogeneous computing and power resources. Even though the wireless resource allocation problem of FEDL is non-convex, we exploit this problem's structure to decompose it into three sub-problems and analyze their closed-form solutions as well as insights into problem design. Finally, we empirically evaluate the convergence of FEDL with PyTorch experiments, and provide extensive numerical results for the wireless resource allocation sub-problems. Experimental results show that FEDL outperforms the vanilla FedAvg algorithm in terms of convergence rate and test accuracy in various settings.
0

<p style="margin-left:0cm;"><strong>Xây dựng hệ thống bài tập luyện dấu câu theo hướng phát triển năng lực giao tiếp cho học sinh lớp 3 ở huyện Lai Vung, tỉnh Đồng Tháp</strong></span>

Đức Trần et al.Nov 28, 2024
Dạy học theo định hướng phát triển năng lực giao tiếp thực chất là dạy học vì mục đích giao tiếp - dạy về giao tiếp và dạy trong giao tiếp. Nó được thể hiện trên cả hai phương diện nội dung và phương pháp dạy học. Trong đó, phương pháp dạy học, các kĩ năng được hình thành thông qua nhiều bài tập mang tính tình huống, phù hợp với những tình huống giao tiếp tự nhiên. Đặc biệt, nội dung học dấu câu có vai trò quan trọng trong hoạt động giao tiếp bằng chữ viết. Vì vậy, việc gia tăng cơ hội cho học sinh được tiếp xúc với nhiều dạng bài tập hơn và việc xây dựng hệ thống bài tập về luyện dấu câu theo hướng phát triển năng lực giao tiếp cho học sinh lớp 3 là vô cùng cần thiết. Trong bài viết này, chúng tôi xây dựng hệ thống bài tập gồm ba nhóm bài tập lớn: nhóm bài tập tìm và nhận diện dấu câu, nhóm bài tập sử dụng dấu câu và nhóm bài tập sửa lỗi sử dụng dấu câu. Đồng thời, chúng tôi đã thiết kế một bài mẫu cho mỗi dạng bài tập, giúp giáo viên có thể dễ dàng thiết kế các bài tập còn lại theo cách tương tự để áp dụng vào việc dạy học dấu câu tiếng Việt.