企业官网建设流程全解析

check_link_status

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

函数功能

可快速检测链路状态是否正常。

函数原型

check_link_status(remote_cluster_id: int)

参数说明

调用示例

from llm_datadist import LLMDataDist, LLMRole, LLMStatusCode, LLMClusterInfo ... try: data_dist.check_link_status(remote_cluster_id=0) except LLMException as ex: print(f"check_link_status exception:{ex.status_code}") raise ex kv_cache_manager = data_dist.kv_cache_manager ... kv_cache_manager.pull_cache(prompt_cache_key, local_kv_cache, batch_index=0)

返回值

正常情况下无返回值。

运行失败会抛出LLMException异常。

参数错误可能抛出TypeError或ValueError。

约束说明

只有Client侧可以调用。

调用失败如果异常错误码是不可恢复错误码，需重新建链。

调用失败时，需持续调用该接口直至成功，才能调用pull_cache、pull_blocks等接口。

该接口如果和pull_cache、pull_blocks等接口并发，可能抛出LLMException异常，错误码为LLM_LINK_BUSY。

超时时间由llm.SyncKvCacheWaitTime配置项指定。

【免费下载链接】geGE（Graph Engine）是面向昇腾的图编译器和执行器，提供了计算图优化、多流并行、内存复用和模型下沉等技术手段，加速模型执行效率，减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力，并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge