Scopri come integrare le pratiche di intelligenza artificiale responsabile nel tuo flusso di lavoro ML utilizzando TensorFlow
TensorFlow si impegna ad aiutare a fare progressi nello sviluppo responsabile dell'IA condividendo una raccolta di risorse e strumenti con la comunità ML.
Cos'è l'IA responsabile?
Lo sviluppo dell'IA sta creando nuove opportunità per risolvere problemi impegnativi e reali. Sta anche sollevando nuove domande sul modo migliore per creare sistemi di intelligenza artificiale a vantaggio di tutti.
Best practice consigliate per l'IA
La progettazione di sistemi di intelligenza artificiale dovrebbe seguire le migliori pratiche di sviluppo del software tenendo un approccio incentrato sull'uomo
approccio al ML
Equità
Poiché l'impatto dell'IA aumenta in tutti i settori e le società, è fondamentale lavorare verso sistemi che siano equi e inclusivi per tutti
Interpretabilità
Comprendere e fidarsi dei sistemi di intelligenza artificiale è importante per garantire che funzionino come previsto
Privacy
I modelli di formazione basati su dati sensibili richiedono salvaguardie per preservare la privacy
Sicurezza
L'identificazione di potenziali minacce può aiutare a mantenere i sistemi di intelligenza artificiale sicuri e protetti
IA responsabile nel tuo flusso di lavoro ML
Le pratiche di intelligenza artificiale responsabile possono essere incorporate in ogni fase del flusso di lavoro ML. Ecco alcune domande chiave da considerare in ogni fase.
A chi è rivolto il mio sistema ML?
Il modo in cui gli utenti effettivi sperimentano il tuo sistema è essenziale per valutare il vero impatto delle sue previsioni, raccomandazioni e decisioni. Assicurati di ricevere input da un gruppo diversificato di utenti nelle prime fasi del processo di sviluppo.
Sto usando un set di dati rappresentativo?
I tuoi dati sono campionati in un modo che rappresenti i tuoi utenti (ad es. Verranno utilizzati per tutte le età, ma hai solo dati di formazione da cittadini anziani) e l'impostazione del mondo reale (ad es. Verrà utilizzato tutto l'anno, ma hai solo formazione dati dell'estate)?
Ci sono pregiudizi del mondo reale / umano nei miei dati?
I pregiudizi sottostanti nei dati possono contribuire a complessi circuiti di feedback che rafforzano gli stereotipi esistenti.
Quali metodi devo utilizzare per addestrare il mio modello?
Utilizza metodi di formazione che integrano equità, interpretabilità, privacy e sicurezza nel modello.
Come si comporta il mio modello?
Valuta l'esperienza utente in scenari del mondo reale in un ampio spettro di utenti, casi d'uso e contesti d'uso. Prima prova e ripeti nella versione sperimentale, seguita da test continui dopo il lancio.
Esistono circuiti di feedback complessi?
Anche se tutto nella progettazione complessiva del sistema è realizzato con cura, i modelli basati su ML raramente funzionano con la perfezione al 100% quando vengono applicati a dati reali e in tempo reale. Quando si verifica un problema in un prodotto attivo, valuta se è in linea con gli svantaggi sociali esistenti e come sarà influenzato dalle soluzioni sia a breve che a lungo termine.
Strumenti di intelligenza artificiale responsabili per TensorFlow
L'ecosistema TensorFlow dispone di una suite di strumenti e risorse per aiutare ad affrontare alcune delle domande precedenti.
Definisci il problema
Utilizza le seguenti risorse per progettare modelli pensando all'IA responsabile.
Ulteriori informazioni sul processo di sviluppo dell'IA e considerazioni chiave.
Esplora, tramite visualizzazioni interattive, domande e concetti chiave nel regno dell'IA responsabile.
Costruisci e prepara i dati
Utilizza i seguenti strumenti per esaminare i dati per potenziali errori.
Analizza e trasforma i dati per rilevare problemi e progettare set di funzionalità più efficaci.
Costruisci e addestra il modello
Utilizza i seguenti strumenti per addestrare i modelli utilizzando tecniche di tutela della privacy, interpretabili e altro ancora.
Addestra modelli di machine learning per promuovere risultati più equi.
Addestra modelli di apprendimento automatico utilizzando tecniche di apprendimento federato.
Implementa modelli basati su reticoli flessibili, controllati e interpretabili.
Valuta il modello
Eseguire il debug, valutare e visualizzare le prestazioni del modello utilizzando i seguenti strumenti.
Valuta le metriche di equità comunemente identificate per classificatori binari e multi-classe.
Valuta i modelli in modo distribuito e calcola su diverse sezioni di dati.
Visualizza e comprendi i modelli di PNL.
Valutare le proprietà di privacy dei modelli di classificazione.
Distribuisci e monitora
Utilizzare i seguenti strumenti per monitorare e comunicare sul contesto e sui dettagli del modello.
Genera schede modello con facilità utilizzando il toolkit Scheda modello.
Registra e recupera i metadati associati ai flussi di lavoro di sviluppatori ML e data scientist.
Organizza i fatti essenziali dell'apprendimento automatico in modo strutturato.
Risorse della comunità
Scopri cosa sta facendo la comunità ed esplora i modi per essere coinvolto.
Aiuta i prodotti Google a diventare più inclusivi e rappresentativi della tua lingua, regione e cultura.
Abbiamo chiesto ai partecipanti di utilizzare TensorFlow 2.2 per creare un modello o un'applicazione tenendo presenti i principi dell'IA responsabile. Dai un'occhiata alla gallery per vedere i vincitori e altri fantastici progetti.
Introduzione di un quadro per pensare al ML, all'equità e alla privacy.