Skip to content

MGCD代码中,我显示了 self.R和self.W_c 是不是一直没有更新呢? #42

Open
@zjj1333

Description

@zjj1333

MGCD代码中,我显示了 self.R和self.W_c ,代码在训练的时候,它两个的值好像一直没有变化,这样最后输出的是不是初始值呢?我输出了self.R.weight.grad,结果是None,这两个参数是不是没有更新呢?

Activity

tzt-star

tzt-star commented on Mar 21, 2025

@tzt-star
Contributor
  • 在我的复现过程中,我发现self.R.weight.grad并不为Noneself.Rself.W_c的梯度是存在的。
  • 您可以检查以下几点来确认问题:
    • 是否使用了requires_grad=True来确保这些参数可以被优化?
    • 是否在优化器中正确包含了self.Rself.W_c
    • 是否在计算损失时,这些参数确实参与了计算图的构建?
    • 是否在某个地方无意中执行了detach()requires_grad_(False),导致它们不参与梯度计算?
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

      Development

      No branches or pull requests

        Participants

        @zjj1333@tzt-star

        Issue actions

          MGCD代码中,我显示了 self.R和self.W_c 是不是一直没有更新呢? · Issue #42 · HFUT-LEC/EduStudio