更新日期:2020 年 4 月 18 日
下面提供了我们 2020 年计划的简要概览。请注意,该路线图随时可能发生变化,以下顺序也不代表任何类型的优先级。原则上,我们通常根据受影响的用户数量确定问题优先级。
我们将路线图分为四个关键部分:可用性、性能、优化和可移植性。我们大力鼓励您对我们的路线图提出意见,并在 TF Lite 讨论组中提供反馈。
易用性
- 扩大了运算范围
- 根据用户反馈确定运算添加的优先级
- 在 TensorFlow Lite 中使用 TensorFlow 运算的改进
- 通过 Bintray (Android) 和 Cocoapods (iOS) 提供预构建库
- 通过运算剥离缩减了使用 select TF 运算时的二进制文件大小
- LSTM/RNN 支持
- 全面支持 LSTM 和 RNN 转换,包括 Keras 中的支持
- 预处理和后处理支持库以及代码生成工具
- 适用于常见 ML 任务的即用型 API 构建块
- 支持更多模型(如 NLP)和更多平台(如 iOS)
- Android Studio 集成
- 将 TFLite 模型拖放到 Android Studio 中以生成模型绑定类
- 控制流和设备端训练
- 支持设备端训练,专注于个性化和迁移学习
- TensorBoard 提供的可视化工具
- 通过 TensorBoard 提供增强的工具
- 模型生成器
- 支持更多任务,包括物体检测和基于 BERT 的 NLP 任务
- 更多模型和示例
- 更多演示模型使用方法的示例以及新功能和 API(涵盖不同的平台)。
- Task Library
- 改善 C++ Task Library 的可用性,如提供预先构建的二进制文件,对于想要从源代码构建的用户,还为其创建了用户友好的工作流。
- 发布使用 Task Library 的参考示例。
- 支持更多任务类型。
- 改善跨平台支持,并使更多任务可以在 iOS 上执行。
性能
- 更出色的工具
- 用于跟踪每个版本的性能增益的公共信息中心
- 改善的 CPU 性能
- 高度优化的新浮点内核库,适用于卷积模型
- 一流的 x86 支持
- 更新的 NN API 支持
- 全面支持新的 Android R NN API 功能、运算和类型
- GPU 后端优化
- Android 上的 Vulkan 支持
- 支持整数量化模型
- Hexagon DSP 后端
- 适用于通过训练后量化创建的所有模型的按通道量化支持
- 动态输入批次大小支持
- 更大的运算范围,包括 LSTM
- 核心 ML 后端
- 优化启动时间
- 动态量化模型支持
- Float16 量化模型支持
- 更大的运算范围
优化
量化
- 适用于 (8b) 定点 RNN 的训练后量化
- 适用于 (8b) 定点 RNN 的训练中量化
- 训练后动态范围量化的质量和性能改进
剪枝/稀疏
- TensorFlow Lite 中的稀疏模型执行支持 - WIP
- 权重聚类 API
可移植性
- 微控制器支持
- 增加了对语音和图像分类的一系列 32 位 MCU 架构用例的支持
- 视觉和音频数据的示例代码和模型
- 微控制器上的全面 TF Lite 运算支持
- 支持更多平台,包括 CircuitPython 支持