Skip to content

请问fate2.2.0版本的nn训练的模型梯度发送的具体实现是怎样的? #5770

@songyichun-1

Description

@songyichun-1

尊敬的开发者团队,您好:
我目前在试图优化FATE框架以提高异构联邦学习的通信效率。目前我在针对神经网络nn的训练模块进行探索。
通过追踪源码,我找到了/fate/ml/nn/model_zoo/agg_layer/agg_layer.py文件中的_send_err_to_host(self, ret_error)方法,该方法负责将梯度从guest发送到host。请问,在发送梯度ret_error时,采用的是直接发送梯度矩阵的方式,还是已经应用了梯度压缩技术,如稀疏化或量化?此外,具体发送过程中是否涉及加密?如果使用的话对矩阵/矩阵元素进行加密的代码逻辑可以告知我在哪里吗?
感谢您的帮助!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions