关于consecutive_groups

[VincentZ-2020]

谢谢分享。
consecutive_groups这个参数怎么理解，Torch-Pruning里中MetaPruner没有该参数。

[VincentZ-2020]

        "consecutive_groups": {
            layer.self_attn.k_proj: layer.self_attn.head_dim for layer in model.model.layers
        },

请问这里设置kv是head_dim的整数倍数是以head为组进行剪枝的吗

[Cyber-Vadok]

have the same doubt