Diese Seite wurde von der Cloud Translation API übersetzt.
Switch to English

TensorFlow Lite Roadmap

Aktualisiert: 18. April 2020

Das Folgende gibt einen allgemeinen Überblick über unseren Plan für 2020. Sie sollten sich bewusst sein, dass sich diese Roadmap jederzeit ändern kann und die folgende Reihenfolge keine Priorität widerspiegelt. Grundsätzlich priorisieren wir Probleme in der Regel anhand der Anzahl der betroffenen Benutzer.

Wir unterteilen unsere Roadmap in vier Schlüsselsegmente: Benutzerfreundlichkeit, Leistung, Optimierung und Portabilität. Wir empfehlen Ihnen dringend, unsere Roadmap zu kommentieren und uns in der TF Lite-Diskussionsgruppe Feedback zu geben.

Benutzerfreundlichkeit

  • Erweiterte Ops-Abdeckung
    • Priorisierte Op-Ergänzungen basierend auf Benutzer-Feedback
  • Verbesserungen bei der Verwendung von TensorFlow-Operationen in TensorFlow Lite
    • Vorgefertigte Bibliotheken über Bintray (Android) und Cocoapods (iOS) verfügbar
    • Kleinere Binärgröße bei Verwendung ausgewählter TF-Operationen über Op-Stripping
  • LSTM / RNN-Unterstützung
    • Volle Unterstützung für LSTM- und RNN-Konvertierung, einschließlich Unterstützung in Keras
  • Unterstützungsbibliotheken und Codegen-Tool vor und nach der Verarbeitung
    • Gebrauchsfertige API-Bausteine ​​für allgemeine ML-Aufgaben
    • Unterstützt mehr Modelle (zB NLP) und mehr Plattformen (zB iOS)
  • Android Studio-Integration
    • Ziehen Sie TFLite-Modelle per Drag & Drop in Android Studio, um Modellbindungsklassen zu generieren
  • Kontrollfluss und Training auf dem Gerät
    • Unterstützung für Schulungen auf dem Gerät mit Schwerpunkt auf Personalisierung und Transferlernen
  • Visualisierungswerkzeug mit TensorBoard
    • Stellen Sie mit TensorBoard verbesserte Werkzeuge bereit
  • Modellbauer
    • Unterstützt mehr Aufgaben, einschließlich Objekterkennung und BERT-basierte NLP-Aufgaben
  • Weitere Modelle und Beispiele
    • Weitere Beispiele zur Demonstration der Modellnutzung sowie neue Funktionen und APIs für verschiedene Plattformen.
  • Aufgabenbibliothek
    • Verbessern Sie die Benutzerfreundlichkeit der C ++ - Aufgabenbibliothek, indem Sie vorgefertigte Binärdateien bereitstellen und benutzerfreundliche Workflows für Benutzer erstellen, die aus dem Quellcode erstellen möchten.
    • Geben Sie Referenzbeispiele für die Verwendung der Aufgabenbibliothek frei.
    • Aktivieren Sie weitere Aufgabentypen.
    • Verbessern Sie die plattformübergreifende Unterstützung und aktivieren Sie mehr Aufgaben für iOS.

Performance

  • Besseres Werkzeug
    • Öffentliches Dashboard zur Verfolgung von Leistungssteigerungen mit jeder Version
  • Verbesserte CPU-Leistung
    • Neue hochoptimierte Gleitkomma-Kernel-Bibliothek für Faltungsmodelle
    • Erstklassige x86-Unterstützung
  • Aktualisierte NN-API-Unterstützung
    • Volle Unterstützung für neue Funktionen, Operationen und Typen der Android R NN-API
  • GPU-Backend-Optimierungen
    • Vulkan-Unterstützung für Android
    • Unterstützt ganzzahlige quantisierte Modelle
  • Hexagon DSP-Backend
    • Unterstützung der Quantisierung pro Kanal für alle Modelle, die durch Quantisierung nach dem Training erstellt wurden
    • Unterstützung für dynamische Eingabestapelgrößen
    • Bessere Op-Abdeckung, einschließlich LSTM
  • Core ML Backend
    • Startzeit optimieren
    • Unterstützung für dynamisch quantisierte Modelle
    • Unterstützung für quantisierte Float16-Modelle
    • Bessere OP-Abdeckung

Optimierung

  • Quantisierung

    • Quantisierung nach dem Training für (8b) Festpunkt-RNNs
    • Quantisierung während des Trainings für (8b) Festpunkt-RNNs
    • Qualitäts- und Leistungsverbesserungen für die Quantisierung des Dynamikbereichs nach dem Training
  • Beschneiden / Sparsamkeit

    • Geringe Unterstützung bei der Modellausführung in TensorFlow Lite - WIP

    • Weight Clustering API

Portabilität

  • Mikrocontroller-Unterstützung
    • Unterstützung für eine Reihe von Anwendungsfällen für die 32-Bit-MCU-Architektur für die Sprach- und Bildklassifizierung hinzufügen
    • Beispielcode und Modelle für Bild- und Audiodaten
    • Volle TF Lite-Unterstützung für Mikrocontroller
    • Unterstützung für weitere Plattformen, einschließlich CircuitPython-Unterstützung