호스트 메모리 임베딩에서 최적화 매개변수를 검색하는 작업입니다.
호스트 메모리 임베딩에서 최적화 매개변수를 검색하는 작업입니다. 올바른 포함 테이블 구성을 설정하는 ConfigureTPUEmbeddingHost 작업이 앞에 와야 합니다. 예를 들어 이 작업은 체크포인트를 저장하기 전에 업데이트된 매개변수를 검색하는 데 사용됩니다. Adagrad의 경우 보조1에는 이 작업을 실행한 후 누산기가 포함됩니다. SGD의 경우 모든 보조* 값은 비어 있습니다(해당 테이블의 0x0 텐서). FTRL의 경우 보조1에는 누산기가 포함되고 보조2에는 선형 항이 포함됩니다. ADAM의 경우 보조1에는 운동량이 포함되고 보조2에는 속도가 포함됩니다.
공개 방법
목록< 출력 <플로트>> | 보조1 () 저장된 첫 번째 보조 최적화 매개변수를 포함하는 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조2 () 두 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조3 () 세 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조4 () 네 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조5 () 다섯 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조6 () 저장된 6개의 보조 최적화 매개변수를 포함하는 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
목록< 출력 <플로트>> | 보조7 () 일곱 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
정적 RetrieveAllTPUEmbeddingParameters | |
목록< 출력 <플로트>> | 매개변수 () 저장된 임베딩 테이블 매개변수를 포함하는 각 임베딩 테이블당 하나씩 텐서 목록입니다. |
상속된 메서드
공개 방법
공개 목록< 출력 <Float>> 보조1 ()
저장된 첫 번째 보조 최적화 매개변수를 포함하는 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조2 ()
두 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조3 ()
세 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조4 ()
네 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조5 ()
다섯 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조6 ()
저장된 6개의 보조 최적화 매개변수를 포함하는 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 목록< 출력 <Float>> 보조7 ()
일곱 번째 보조 최적화 매개변수가 저장된 각 임베딩 테이블당 하나씩 텐서 목록입니다. 요소는 목록에 있지만 사용되지 않은 최적화 매개변수에 대한 크기는 0입니다(각 테이블에 사용 중인 알고리즘을 기반으로 함).
공개 정적 RetrieveAllTPUEmbeddingParameters 생성 ( 범위 범위, Long NumTables, 문자열 구성, Long numShards, Long shardId)
새로운 RetrieveAllTPUEmbeddingParameters 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
매개변수
범위 | 현재 범위 |
---|---|
테이블 수 | 임베딩 테이블 수입니다. |
구성 | 문자열로 직렬화되어 로드되는 테이블 매개변수를 설명하는 TPUEmbeddingConfiguration proto입니다. |
샤드 수 | 임베딩 테이블이 분할되는 샤드 수입니다. |
샤드 ID | 이 작업의 샤드 식별자입니다. |
보고
- RetrieveAllTPUEmbeddingParameters의 새 인스턴스