Questions et réponses BERT

Utilisez un modèle TensorFlow Lite pour répondre à des questions basées sur le contenu d'un passage donné.

Commencer

Si vous êtes nouveau sur TensorFlow Lite et que vous travaillez avec Android ou iOS, nous vous recommandons d'explorer les exemples d'applications suivants qui peuvent vous aider à démarrer.

Exemple Android Exemple iOS

Si vous utilisez une plate-forme autre qu'Android/iOS ou si vous connaissez déjà les API TensorFlow Lite , vous pouvez télécharger notre modèle de questions et réponses de démarrage.

Télécharger le modèle de démarrage et le vocabulaire

Pour plus d'informations sur les métadonnées et les champs associés (par exemple vocab.txt ) voir Lire les métadonnées des modèles .

Comment ça fonctionne

Le modèle peut être utilisé pour créer un système capable de répondre aux questions des utilisateurs en langage naturel. Il a été créé à l'aide d'un modèle BERT pré-entraîné et affiné sur l'ensemble de données SQuAD 1.1.

BERT , ou Bidirectionnel Encoder Representations from Transformers, est une méthode de pré-entraînement des représentations linguistiques qui obtient des résultats de pointe sur un large éventail de tâches de traitement du langage naturel.

Cette application utilise une version compressée de BERT, MobileBERT, qui s'exécute 4 fois plus rapidement et a une taille de modèle 4 fois plus petite.

SQuAD , ou Stanford Question Answering Dataset, est un ensemble de données de compréhension écrite composé d'articles de Wikipédia et d'un ensemble de paires question-réponse pour chaque article.

Le modèle prend un passage et une question en entrée, puis renvoie un segment du passage qui répond le plus probablement à la question. Il nécessite un prétraitement semi-complexe comprenant des étapes de tokenisation et de post-traitement décrites dans l' article BERT et implémentées dans l'exemple d'application.

Repères de performances

Les numéros de référence de performance sont générés avec l'outil décrit ici .

Nom du modèle Taille du modèle Appareil CPU
Bert Mobile 100,5 Mo Pixel 3 (Android 10) 123 ms*
Pixel 4 (Android 10) 74 ms*
iPhone XS (iOS 12.4.1) 257 ms**

* 4 fils utilisés.

** 2 threads utilisés sur iPhone pour le meilleur résultat de performances.

Exemple de sortie

Passage (Entrée)

Google LLC est une société technologique multinationale américaine spécialisée dans les services et produits liés à Internet, notamment les technologies de publicité en ligne, les moteurs de recherche, le cloud computing, les logiciels et le matériel. Elle est considérée comme l’une des quatre grandes entreprises technologiques, aux côtés d’Amazon, Apple et Facebook.

Google a été fondée en septembre 1998 par Larry Page et Sergey Brin alors qu'ils étaient doctorants. étudiants à l'Université de Stanford en Californie. Ensemble, ils possèdent environ 14 pour cent de ses actions et contrôlent 56 pour cent des droits de vote des actionnaires par le biais d'actions à droit de vote majoré. Ils ont constitué Google en tant que société privée californienne le 4 septembre 1998 en Californie. Google a ensuite été réincorporé dans le Delaware le 22 octobre 2002. Une introduction en bourse (IPO) a eu lieu le 19 août 2004 et Google a déménagé à son siège social à Mountain View, en Californie, surnommé le Googleplex. En août 2015, Google a annoncé son intention de réorganiser ses diverses participations en un conglomérat appelé Alphabet Inc. Google est la principale filiale d'Alphabet et continuera d'être la société faîtière des intérêts Internet d'Alphabet. Sundar Pichai a été nommé PDG de Google, en remplacement de Larry Page devenu PDG d'Alphabet.

Question (Entrée)

Qui est le PDG de Google ?

Réponse (sortie)

Sundar Pichai

En savoir plus sur BERT