generator_torch.py提供Python接口

使用场景
__init__接口
to_tensor接口
forward_tensor接口
forward接口
build_inputs接口
sample接口
update_cache_policy接口
swap_cache接口
clear_cache接口
update_cache_after_switch_pd_role接口

父主题： Text Generator API参考（Python）