TensorFlow 2.10.0 已发布_keras2.10.0对应tensorflow

作者：在线问答5 | 2024-08-06 18:59:59

踩

keras2.10.0对应tensorflow

导读	TensorFlow 2.10 已经发布，此版本的亮点包括 Keras 中的用户友好功能，可帮助开发转换器、确定性和无状态初始化程序、优化器 API 的更新以及帮助加载音频数据的新工具。此版本还通过 oneDNN 增强了性能，在 Windows 上扩展了 GPU 支持等等。此版本还标志着 TensorFlow 决策森林1.0！

对 Keras 注意力层的扩展、统一掩码支持

从 TensorFlow 2.10 开始，对 Keras 注意力层的掩码处理，例如 tf.keras.layers.Attention、tf.keras.layers.AdditiveAttention 和 tf.keras.layers.MultiHeadAttention 进行了扩展和统一。特别添加了两个功能：

Causal attention ：三个层现在都支持调用 use_causal_mask 参数（Attention 和 AdditiveAttention 用于将 Causal 参数传递给 init）。

隐式屏蔽： Keras Attention、 AdditiveAttention 和 MultiHeadAttention 层现在支持隐式屏蔽。（需要在 tf.keras.layers.Embedding 中设置 mask_zero=True）。

结合起来简化了任何 Transformer 样式模型的实现。

新的 Keras Optimizer API

声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：【wpsshop博客】