当前位置:   article > 正文

使用tf.contrib.tpu.TPUEstimatorSpec 进行bert finetune 训练时,无法输出训练过程的loss

tf.contrib.tpu.tpuestimatorspec

使用 logging_hook = tf.train.LoggingTensorHook({"loss":total_loss},every_n_iter=100)进行显示

  1. if mode == tf.estimator.ModeKeys.TRAIN:
  2.             train_op = optimization.create_optimizer(
  3.                 total_loss, learning_rate, num_train_steps, num_warmup_steps, use_tpu)
  4.             logging_hook = tf.train.LoggingTensorHook({"loss":total_loss},every_n_iter=100)
  5.             output_spec = tf.contrib.tpu.TPUEstimatorSpec(
  6.                 mode=mode,
  7.                 loss=total_loss,
  8.                 train_op=train_op,
  9.                 training_hooks=[logging_hook],
  10.                 scaffold_fn=scaffold_fn)

 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/312313
推荐阅读
相关标签
  

闽ICP备14008679号