transformer（ViT）查看权重、梯度和梯度函数

假设我们搭建的模型名称为net，在训练时，我们想查看第0个block的attention中的矩阵K的梯度函数和前几个权重、梯度：

net.transformer.encoder.layer[0].attn.key.weight.grad_fn      （key即矩阵K）

net.transformer.encoder.layer[0].attn.key.weight[:2, :2]

net.transformer.encoder.layer[0].attn.key.weight.grad[:2, :2]