Keras需要很长时间才能进行第一次预测model.load()
问题描述:
我使用model.load()加载keras中的模型,并发现第一个预测的计算时间比预测的时间长10倍以上,为什么会发生这种情况的任何想法或者使负载初始化第一预测周期加速的建议都将不胜感激。Keras需要很长时间才能进行第一次预测model.load()
我正在使用Tensorflow后端CPU处理。
感谢您的帮助, Denym
答
好了,所以我发现对我的作品的回答:
,如果你同时加载很多车型不使用keras model.load功能,节省你的结构是json/yaml,权重是.h5,并且按照keras的例子加载。
的model.load功能要快得多少于5款打交道时,但加载时间成倍增加更多的模型,你同时加载。
从json中加载和从.h5加载的重量是同时加载100个模型时的10倍,同时每个模型在加载结构和权重方法时有一些减速,它是线性的而不是指数的,这使得加载多个模型一次。
+0
您在这里谈论的模型加载时间,但首先你抱怨.predict时间......我在我的情况下,与单一的模式问,因为,到model.predict第一次调用花费〜5秒,然后其他调用预测大约需要0.9秒...我想知道你是否找到了解决方案? –
你确定这是第一次预测花费这么多时间,而不是加载? “第一预测”是什么意思?你是否多次运行'model.predict()'? – McLawrence
我加载与model.load(保存的模型),然后建立数据集和运行model.predict(),则数据集被修改和另一个预测运行,则数据集被修改和另一个预测运行等。 model.load看起来很快就完成了,那么第一次预测大约需要10倍的时间来产生一个预测,因为每个预测都遵循预测。 – Denym
你如何修改数据集?所有预测的大小相同的数据集都是? – McLawrence