About the resource utilization during training

[SanTIproblem]

作者您好，读了您这篇文章后，我深受启发！但我在复现模型到自己任务后，发现GPU上运算耗时只占小部分，大部分计算时间是在CPU上，进行如list append操作及三个update函数上，导致CPU占用率很高，GPU利用率却很低。

我想请教您训练模型的时候，资源消耗也是类似的情况吗？还是我的代码实现可能有问题呢？期待您的回复，谢谢！