Google I / O là một kết quả hoàn hảo! Cập nhật các phiên TensorFlow Xem phiên

TensorFlow Lite dành cho Vi điều khiển

TensorFlow Lite dành cho Vi điều khiển được thiết kế để chạy mô hình học máy trên vi điều khiển và các thiết bị khác với bộ nhớ chỉ vài kilobyte. Thời gian chạy lõi chỉ vừa với 16 KB trên Arm Cortex M3 và có thể chạy nhiều mô hình cơ bản. Nó không yêu cầu hỗ trợ hệ điều hành, bất kỳ thư viện C hoặc C ++ tiêu chuẩn nào hoặc cấp phát bộ nhớ động.

Tại sao vi điều khiển lại quan trọng

Bộ vi điều khiển thường là các thiết bị tính toán nhỏ, công suất thấp được nhúng trong phần cứng yêu cầu tính toán cơ bản. Bằng cách đưa công nghệ máy học vào các bộ vi điều khiển nhỏ, chúng ta có thể tăng cường trí thông minh của hàng tỷ thiết bị mà chúng ta sử dụng trong cuộc sống của mình, bao gồm cả thiết bị gia dụng và thiết bị Internet of Things, mà không cần phụ thuộc vào phần cứng đắt tiền hoặc kết nối internet đáng tin cậy, thường phụ thuộc vào băng thông và hạn chế về nguồn điện và dẫn đến độ trễ cao. Điều này cũng có thể giúp bảo vệ quyền riêng tư, vì không có dữ liệu nào rời khỏi thiết bị. Hãy tưởng tượng các thiết bị thông minh có thể thích ứng với thói quen hàng ngày của bạn, các cảm biến công nghiệp thông minh hiểu được sự khác biệt giữa các vấn đề và hoạt động bình thường và đồ chơi kỳ diệu có thể giúp trẻ em học tập một cách vui vẻ và thú vị.

Nền tảng được hỗ trợ

TensorFlow Lite dành cho Vi điều khiển được viết bằng C ++ 11 và yêu cầu nền tảng 32 bit. Nó đã được thử nghiệm rộng rãi với nhiều bộ vi xử lý dựa trên Arm Cortex-M Series kiến trúc, và đã được chuyển đến kiến trúc khác bao gồm ESP32 . Khung có sẵn dưới dạng thư viện Arduino. Nó cũng có thể tạo ra các dự án cho các môi trường phát triển như Mbed. Nó là mã nguồn mở và có thể được đưa vào bất kỳ dự án C ++ 11 nào.

Các bảng phát triển sau được hỗ trợ:

Khám phá các ví dụ

Mỗi ứng dụng ví dụ là trên Github và có một README.md tập tin đó giải thích làm thế nào nó có thể được triển khai đến các nền tảng được hỗ trợ của nó. Một số ví dụ cũng có hướng dẫn từ đầu đến cuối bằng cách sử dụng một nền tảng cụ thể, như được đưa ra bên dưới:

Quy trình làm việc

Các bước sau là bắt buộc để triển khai và chạy mô hình TensorFlow trên vi điều khiển:

  1. Đào tạo một mô hình:
  2. Chạy suy luận trên thiết bị bằng cách sử dụng C ++ thư viện và xử lý kết quả.

Hạn chế

TensorFlow Lite dành cho Vi điều khiển được thiết kế cho các hạn chế cụ thể của việc phát triển vi điều khiển. Nếu bạn đang làm việc trên các thiết bị mạnh hơn (ví dụ: thiết bị nhúng Linux như Raspberry Pi), thì khung TensorFlow Lite tiêu chuẩn có thể dễ dàng tích hợp hơn.

Các hạn chế sau đây cần được xem xét:

  • Hỗ trợ cho một tập hợp con hạn chế của hoạt động TensorFlow
  • Hỗ trợ cho một số thiết bị giới hạn
  • API C ++ cấp thấp yêu cầu quản lý bộ nhớ thủ công
  • Đào tạo trên thiết bị không được hỗ trợ

Bước tiếp theo