Erfahren Sie, wie Sie mit TensorFlow Responsible verantwortungsvolle KI-Praktiken in Ihren ML-Workflow integrieren
TensorFlow setzt sich dafür ein, Fortschritte bei der verantwortungsvollen Entwicklung von KI zu erzielen, indem es eine Sammlung von Ressourcen und Tools mit der ML-Community teilt.
Was ist verantwortungsvolle KI?
Die Entwicklung der KI schafft neue Möglichkeiten, herausfordernde, reale Probleme zu lösen. Es wirft auch neue Fragen auf, wie KI-Systeme am besten aufgebaut werden können, von denen alle profitieren.
Empfohlene Best Practices für KI
Das Entwerfen von KI-Systemen sollte den Best Practices der Softwareentwicklung folgen und gleichzeitig eine menschzentrierte
Herangehensweise an ML
Gerechtigkeit
Da der Einfluss von KI in allen Sektoren und Gesellschaften zunimmt, ist es entscheidend, auf Systeme hinzuarbeiten, die für alle fair und integrativ sind
Interpretierbarkeit
KI-Systeme zu verstehen und ihnen zu vertrauen ist wichtig, um sicherzustellen, dass sie wie beabsichtigt funktionieren
Privatsphäre
Schulungsmodelle für sensible Daten erfordern Schutzmaßnahmen zum Schutz der Privatsphäre
Sicherheit
Die Identifizierung potenzieller Bedrohungen kann dazu beitragen, KI-Systeme sicher und geschützt zu halten
Verantwortungsvolle KI in Ihrem ML-Workflow
Verantwortungsvolle KI-Praktiken können in jeden Schritt des ML-Workflows integriert werden. Hier sind einige wichtige Fragen, die Sie in jeder Phase berücksichtigen sollten.
Für wen ist mein ML-System?
Die Art und Weise, wie die tatsächlichen Benutzer Ihr System erleben, ist entscheidend für die Beurteilung der tatsächlichen Auswirkungen seiner Vorhersagen, Empfehlungen und Entscheidungen. Stellen Sie sicher, dass Sie frühzeitig in Ihrem Entwicklungsprozess Input von verschiedenen Benutzern erhalten.
Verwende ich einen repräsentativen Datensatz?
Sind Ihre Daten so erfasst, dass sie Ihre Benutzer (zB werden für alle Altersgruppen verwendet, aber Sie haben nur Trainingsdaten von Senioren) und die reale Umgebung (zB werden das ganze Jahr über verwendet, aber Sie haben nur Schulungen) repräsentieren? Daten vom Sommer)?
Gibt es in meinen Daten reale/menschliche Verzerrungen?
Die zugrunde liegenden Verzerrungen in den Daten können zu komplexen Rückkopplungsschleifen beitragen, die bestehende Stereotypen verstärken.
Welche Methoden sollte ich verwenden, um mein Modell zu trainieren?
Verwenden Sie Trainingsmethoden, die Fairness, Interpretierbarkeit, Datenschutz und Sicherheit in das Modell integrieren.
Wie schneidet mein Modell ab?
Bewerten Sie die Benutzererfahrung in realen Szenarien für ein breites Spektrum von Benutzern, Anwendungsfällen und Nutzungskontexten. Testen und iterieren Sie zuerst in Dogfood, gefolgt von weiteren Tests nach der Einführung.
Gibt es komplexe Feedbackschleifen?
Auch wenn alles im Gesamtsystemdesign sorgfältig ausgearbeitet ist, funktionieren ML-basierte Modelle selten mit 100%iger Perfektion, wenn sie auf echte Live-Daten angewendet werden. Wenn ein Problem in einem Live-Produkt auftritt, überlegen Sie, ob es mit bestehenden gesellschaftlichen Nachteilen in Einklang steht und wie es von kurz- und langfristigen Lösungen beeinflusst wird.
Verantwortliche KI-Tools für TensorFlow
Das TensorFlow-Ökosystem verfügt über eine Reihe von Tools und Ressourcen, um einige der oben genannten Fragen zu lösen.
Problem definieren
Verwenden Sie die folgenden Ressourcen, um Modelle mit Blick auf verantwortungsvolle KI zu entwerfen.
Erfahren Sie mehr über den KI-Entwicklungsprozess und die wichtigsten Überlegungen.
Erkunden Sie anhand interaktiver Visualisierungen Schlüsselfragen und Konzepte im Bereich der verantwortungsvollen KI.
Daten erstellen und vorbereiten
Verwenden Sie die folgenden Tools, um Daten auf potenzielle Verzerrungen zu untersuchen.
Untersuchen Sie Ihr Dataset interaktiv, um die Datenqualität zu verbessern und Fairness- und Bias-Probleme zu vermeiden.
Analysieren und transformieren Sie Daten, um Probleme zu erkennen und effektivere Feature-Sets zu entwickeln.
Modell bauen und trainieren
Verwenden Sie die folgenden Tools, um Modelle mit datenschutzwahrenden, interpretierbaren Techniken und mehr zu trainieren.
Trainieren Sie Modelle für maschinelles Lernen, um gerechtere Ergebnisse zu erzielen.
Implementieren Sie flexible, kontrollierte und interpretierbare gitterbasierte Modelle.
Modell auswerten
Debuggen, bewerten und visualisieren Sie die Modellleistung mit den folgenden Tools.
Bewerten Sie allgemein identifizierte Fairness-Metriken für binäre und Multi-Class-Klassifikatoren.
Bewerten Sie Modelle auf verteilte Weise und berechnen Sie über verschiedene Datenscheiben.
Untersuchen, bewerten und vergleichen Sie Modelle für maschinelles Lernen.
Entwickeln Sie interpretierbare und integrative Modelle für maschinelles Lernen.
Bewerten Sie die Datenschutzeigenschaften von Klassifizierungsmodellen.
Bereitstellen und überwachen
Verwenden Sie die folgenden Tools, um Modellkontext und Details zu verfolgen und zu kommunizieren.
Generieren Sie ganz einfach Modellkarten mit dem Modellkarten-Toolkit.
Aufzeichnen und Abrufen von Metadaten im Zusammenhang mit ML-Entwickler- und Datenwissenschaftler-Workflows.
Organisieren Sie die wesentlichen Fakten des maschinellen Lernens strukturiert.
Gemeinschaftsressourcen
Erfahren Sie, was die Community tut, und erkunden Sie Möglichkeiten, sich zu engagieren.
Helfen Sie mit, die Produkte von Google integrativer und repräsentativer für Ihre Sprache, Region und Kultur zu machen.
Wir haben die Teilnehmer gebeten, TensorFlow 2.2 zu verwenden, um ein Modell oder eine Anwendung unter Berücksichtigung der Prinzipien der verantwortungsvollen KI zu erstellen. In der Galerie finden Sie die Gewinner und andere tolle Projekte.
Einführung eines Rahmens, um über ML, Fairness und Datenschutz nachzudenken.