此页面由 Cloud Translation API 翻译。
Switch to English

张量流:: 服务:: 有抱负版本政策

这是一个抽象类。

#include <aspired_version_policy.h>

用于在可服务流中转换可服务版本的策略的接口。

摘要

政策应该完全是无状态的和幂等的。对于下一个操作多次要求相同的策略,对于相同的AspiredServableStateSnapshots向量,应该返回相同的结果。

如果需要其他状态来实施策略,则应通过AspiredServableStateSnapshots共享该状态。根据状态的类型,最有可能发起或跟踪状态的候选者是Sources或Harness and Manager

构造函数和析构函数

~AspiredVersionPolicy ()

公开类型

Action {
kLoad ,
kUnload
}
枚举
策略可以建议的不同操作。

公共职能

GetNextAction (const std::vector< AspiredServableStateSnapshot > & all_versions) const =0
virtual optional< ServableAction >
接收可服务流的所有版本的状态快照的向量,并仅根据所有版本的状态返回针对特定可服务版本要执行的操作。

受保护的静态功能

GetHighestAspiredNewServableId (const std::vector< AspiredServableStateSnapshot > & all_versions)
optional< ServableId >
返回具有与kNew状态匹配的最高版本的有抱负的ServableId(如果存在)。

结构

tensorflow ::服务:: AspiredVersionPolicy :: ServableAction

动作和与其相关联的servable的ID。

公开类型

行动

 Action

策略可以建议的不同操作。

物产
kLoad

servable上的呼叫负载。

kUnload

调用servable上的unload。

公共职能

GetNextAction

virtual optional< ServableAction > GetNextAction(
  const std::vector< AspiredServableStateSnapshot > & all_versions
) const =0

接收可服务流的所有版本的状态快照的向量,并仅根据所有版本的状态返回要针对特定​​可服务版本执行的操作。

如果不执行任何操作,则我们不返回任何操作,这意味着该可服务流是最新的。

〜AspiredVersionPolicy

virtual  ~AspiredVersionPolicy()=default

受保护的静态功能

GetHighestAspiredNewServableId

optional< ServableId > GetHighestAspiredNewServableId(
  const std::vector< AspiredServableStateSnapshot > & all_versions
)

返回具有与kNew状态匹配的最高版本的有抱负的ServableId(如果存在)。