Q_0:
问题:这是否指的是在cpu上准备多少批次?它与工人有什么关系?如何最佳定义?
从发布的链接中,您可以了解到cpu一直在创建批处理,直到队列达到最大队列大小或到达停止为止。您需要准备好批处理以供GPU“使用”,以使GPU不必等待cpu。队列大小的理想值是使其足够大,以使您的GPU始终在接近最大值的情况下运行,而不必等待cpu准备新批处理。
Q_1:
如果您发现您的GPU处于空闲状态并正在等待批处理,请尝试增加工作人员数量,也许还增加队列大小。
Q_2:
如果更改工作人员,是否必须将此参数设置为true?它与cpu使用率有关吗?
这是将其设置为True
或时发生的情况的实用分析False
。这里是一个建议,将其设置为False
防止冻结(在我的设置True
工作正常不结冰)。也许其他人可以增进我们对该主题的理解。