12월 7일 Women in ML 심포지엄 참석 지금 등록

TensorFlow를 사용하여 Responsible AI 사례를 ML 워크플로에 통합하는 방법 알아보기

TensorFlow는 ML 커뮤니티와 리소스 및 도구 모음을 공유하여 책임감 있는 AI 개발을 지원하기 위해 최선을 다하고 있습니다.

책임감 있는 AI란?

AI의 발전은 도전적인 현실 세계의 문제를 해결할 수 있는 새로운 기회를 창출하고 있습니다. 또한 모든 사람에게 이익이 되는 AI 시스템을 구축하는 가장 좋은 방법에 대한 새로운 질문을 제기하고 있습니다.

AI 시스템 설계는 소프트웨어 개발 모범 사례를 따라야 하는 동시에 인간 중심적이어야 합니다.
머신러닝에 대한 접근

공평

AI의 영향이 부문과 사회 전반에 걸쳐 증가함에 따라 모든 사람에게 공정하고 포용적인 시스템을 만들기 위해 노력하는 것이 중요합니다.

해석 가능성

AI 시스템을 이해하고 신뢰하는 것은 의도한 대로 작동하는지 확인하는 데 중요합니다.

은둔

민감한 데이터로 모델을 훈련시키는 데에는 개인 정보 보호 보호 장치가 필요합니다.

보안

잠재적 위협을 식별하면 AI 시스템을 안전하고 안전하게 유지하는 데 도움이 될 수 있습니다.

ML 워크플로의 책임감 있는 AI

책임감 있는 AI 관행은 ML 워크플로의 모든 단계에 통합될 수 있습니다. 다음은 각 단계에서 고려해야 할 몇 가지 주요 질문입니다.

내 ML 시스템은 누구를 위한 것입니까?

실제 사용자가 시스템을 경험하는 방식은 예측, 권장 사항 및 결정의 진정한 영향을 평가하는 데 필수적입니다. 개발 프로세스 초기에 다양한 사용자로부터 의견을 얻으십시오.

대표 데이터세트를 사용하고 있습니까?

데이터가 사용자(예: 모든 연령대에 사용되지만 노인의 교육 데이터만 있음)와 실제 환경(예: 1년 내내 사용되지만 교육만 제공됨)을 나타내는 방식으로 샘플링되었습니까? 여름 데이터)?

내 데이터에 실제/인간의 편견이 있습니까?

데이터의 근본적인 편향은 기존의 고정관념을 강화하는 복잡한 피드백 루프에 기여할 수 있습니다.

모델을 훈련하려면 어떤 방법을 사용해야 합니까?

모델에 공정성, 해석 가능성, 개인 정보 보호 및 보안을 구축하는 교육 방법을 사용합니다.

내 모델의 성능은 어떻습니까?

광범위한 사용자, 사용 사례 및 사용 컨텍스트에 걸쳐 실제 시나리오에서 사용자 경험을 평가합니다. 먼저 dogfood에서 테스트하고 반복한 다음 출시 후에도 계속 테스트합니다.

복잡한 피드백 루프가 있습니까?

전체 시스템 설계의 모든 것이 신중하게 제작되더라도 ML 기반 모델은 실제 라이브 데이터에 적용할 때 100% 완벽하게 작동하는 경우는 거의 없습니다. 실제 제품에서 문제가 발생하면 기존의 사회적 단점과 일치하는지, 그리고 장단기 솔루션이 해당 문제에 어떤 영향을 미칠지 고려합니다.

TensorFlow를 위한 책임감 있는 AI 도구

TensorFlow 생태계에는 위의 몇 가지 질문을 해결하는 데 도움이 되는 도구와 리소스 모음이 있습니다.

1 단계

문제 정의

Responsible AI를 염두에 두고 모델을 설계하려면 다음 리소스를 사용하십시오.

People+AI Research(PAIR) 가이드북

AI 개발 프로세스 및 주요 고려 사항에 대해 자세히 알아보십시오.

페어 익스플로러블

대화형 시각화를 통해 책임 있는 AI 영역의 주요 질문 및 개념을 탐색합니다.

2 단계

데이터 구성 및 준비

다음 도구를 사용하여 잠재적 편향이 있는지 데이터를 조사하십시오.

데이터 알기(베타)

데이터 품질을 개선하고 공정성 및 편향 문제를 완화하기 위해 데이터 세트를 대화식으로 조사합니다.

TF 데이터 검증

데이터를 분석 및 변환하여 문제를 감지하고 보다 효과적인 기능 세트를 설계합니다.

데이터 카드

데이터세트에 대한 투명성 보고서를 만듭니다.

몽크 스킨 톤 스케일(MST)

데이터 수집 및 모델 구축 요구 사항을 보다 강력하고 포괄적으로 만들기 위한 보다 포괄적인 스킨 톤 스케일, 오픈 라이선스.

3단계

모델 빌드 및 학습

다음 도구를 사용하여 개인 정보 보호, 해석 가능한 기술 등을 사용하여 모델을 학습시키십시오.

TF 모델 수정

기계 학습 모델을 학습시켜 보다 평등한 결과를 얻을 수 있도록 합니다.

TF 개인 정보 보호

개인 정보 보호를 사용하여 기계 학습 모델을 학습시키십시오.

TF 연합

연합 학습 기술을 사용하여 기계 학습 모델을 학습시키십시오.

TF 제약 최적화

부등식 제약 문제를 최적화합니다.

TF 격자

유연하고 제어되며 해석 가능한 격자 기반 모델을 구현합니다.

4단계

평가 모델

다음 도구를 사용하여 모델 성능을 디버그, 평가 및 시각화합니다.

공정성 지표

이진 및 다중 클래스 분류기에 대해 일반적으로 식별되는 공정성 메트릭을 평가합니다.

TF 모델 분석

분산 방식으로 모델을 평가하고 다양한 데이터 조각에 대해 계산합니다.

가정 도구

기계 학습 모델을 검사, 평가 및 비교합니다.

언어 해석 도구

NLP 모델을 시각화하고 이해합니다.

설명 가능한 AI

해석 가능하고 포괄적인 기계 학습 모델을 개발합니다.

TF 개인 정보 테스트

분류 모델의 개인 정보 속성을 평가합니다.

텐서보드

기계 학습 워크플로를 측정하고 시각화합니다.

5단계

배포 및 모니터링

다음 도구를 사용하여 모델 컨텍스트 및 세부 정보를 추적하고 전달합니다.

모델 카드 툴킷

Model Card 툴킷을 사용하여 쉽게 모델 카드를 생성하십시오.

ML 메타데이터

ML 개발자 및 데이터 과학자 워크플로와 관련된 메타데이터를 기록하고 검색합니다.

모델 카드

기계 학습의 필수 사실을 구조화된 방식으로 구성합니다.

커뮤니티 리소스

커뮤니티에서 무엇을 하고 있는지 알아보고 참여할 수 있는 방법을 찾으십시오.

Google의 크라우드소싱

Google 제품이 더 포괄적이고 귀하의 언어, 지역 및 문화를 대표할 수 있도록 도와주세요.

책임감 있는 AI DevPost 챌린지

참가자들에게 TensorFlow 2.2를 사용하여 책임감 있는 AI 원칙을 염두에 두고 모델 또는 애플리케이션을 구축할 것을 요청했습니다. 갤러리를 확인하여 수상자 및 기타 놀라운 프로젝트를 확인하십시오.

TensorFlow를 사용한 책임감 있는 AI(TF Dev Summit '20)

ML, 공정성 및 개인 정보 보호에 대해 생각하는 프레임워크를 소개합니다.