Wnioskowanie TensorFlow Lite z metadanymi

Wnioskowanie o modelach za pomocą metadanych może być tak proste, jak kilka wierszy kodu. Metadane TensorFlow Lite zawierają bogaty opis tego, co robi model i jak z niego korzystać. Może umożliwić generatorom kodu automatyczne generowanie kodu wnioskowania, na przykład przy użyciu funkcji Android Studio ML Binding lub generatora kodu TensorFlow Lite dla systemu Android . Można go również użyć do skonfigurowania niestandardowego potoku wnioskowania.

Narzędzia i biblioteki

TensorFlow Lite zapewnia różnorodne narzędzia i biblioteki obsługujące różne poziomy wymagań wdrożeniowych w następujący sposób:

Wygeneruj interfejs modelu za pomocą generatorów kodu Androida

Istnieją dwa sposoby automatycznego generowania niezbędnego kodu opakowania Androida dla modelu TensorFlow Lite z metadanymi:

  1. Powiązanie modelu Android Studio ML to narzędzie dostępne w Android Studio umożliwiające importowanie modelu TensorFlow Lite za pośrednictwem interfejsu graficznego. Android Studio automatycznie skonfiguruje ustawienia projektu i wygeneruje klasy wrapperów na podstawie metadanych modelu.

  2. Generator kodu TensorFlow Lite to plik wykonywalny, który automatycznie generuje interfejs modelu na podstawie metadanych. Obecnie obsługuje system Android z Javą. Kod opakowania eliminuje potrzebę bezpośredniej interakcji z ByteBuffer . Zamiast tego programiści mogą wchodzić w interakcję z modelem TensorFlow Lite za pomocą obiektów wpisanych, takich jak Bitmap i Rect . Użytkownicy Android Studio mogą również uzyskać dostęp do funkcji codegen poprzez Android Studio ML Binding .

Wykorzystaj gotowe interfejsy API dzięki bibliotece zadań TensorFlow Lite

Biblioteka zadań TensorFlow Lite zapewnia zoptymalizowane, gotowe do użycia interfejsy modeli dla popularnych zadań uczenia maszynowego, takich jak klasyfikacja obrazów, pytania i odpowiedzi itp. Interfejsy modeli są specjalnie zaprojektowane dla każdego zadania, aby osiągnąć najlepszą wydajność i użyteczność. Biblioteka zadań działa na wielu platformach i jest obsługiwana w językach Java, C++ i Swift.

Twórz niestandardowe potoki wnioskowania za pomocą biblioteki pomocniczej TensorFlow Lite

Biblioteka wsparcia TensorFlow Lite to wieloplatformowa biblioteka, która pomaga dostosowywać interfejs modelu i budować potoki wnioskowania. Zawiera różnorodne metody użytkowe i struktury danych do wykonywania przetwarzania wstępnego/końcowego oraz konwersji danych. Został również zaprojektowany tak, aby pasował do zachowania modułów TensorFlow, takich jak TF.Image i TF.Text, zapewniając spójność od szkolenia do wnioskowania.

Eksploruj wstępnie wyszkolone modele z metadanymi

Przeglądaj hostowane modele TensorFlow Lite i TensorFlow Hub , aby pobrać wstępnie wyszkolone modele z metadanymi zarówno do zadań wizualnych, jak i tekstowych. Zobacz także różne opcje wizualizacji metadanych .

TensorFlow Lite obsługuje repozytorium GitHub

Odwiedź repozytorium GitHub pomocy TensorFlow Lite, aby uzyskać więcej przykładów i kodu źródłowego. Przekaż nam swoją opinię, tworząc nowy numer GitHub .