serving服务修改rpc_timeout_ms参数不生效

[gaoying0805]

修改服务的serving.config配置文件中的rpc_timeout_ms参数不生效。
格式如下
{
"id": "xxxxxx",
"serverConf": {
"featureMapping": {"f": "f"},
"host": "0.0.0.0",
"servicePort": "8195",
"communicationPort": "8095",
"metricsExposerPort": 10308,
"brpcBuiltinServicePort": 10309
},
"modelConf": {
"modelId": "xx-eefd-model-export",
"basePath": "./data",
"sourcePath": "/root/model_bundle.tar.gz",
"sourceSha256": "xxxxxx",
"sourceType": "ST_FILE"
},
"clusterConf": {
"selfId": "xx-xx",
"parties": [{"id": "node1", "address": "0.0.0.0:8095"}, {"id": "node2", "address": "xx.xx.xxx.xx:8095"}],
"channelDesc": {
"protocol": "http",
"rpc_timeout_ms": -1
}
},
"featureSourceConf": {"httpOpts": {"endpoint": "http://xx.xx.xxx.xx:8200/BatchFeatureService/BatchFetchFeature"}}
}

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

[gaoying0805]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn
参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

[gaoying0805]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？
1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。
2.配置没生效，是配置的时间对不上还是其他的？
"rpc_timeout_ms": -1
Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)

还是配置没加载成功？
3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

[gaoying0805]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)

还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。
第三条把serving.config变更目录我试试。

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)
还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。 第三条把serving.config变更目录我试试。

1.看了下第一个报错是代码判断fail了。看着是配置没加载成功，还是启动方式不对？
2 serving.config变更后，有发现新的问题吗

[gaoying0805]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)
还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。 第三条把serving.config变更目录我试试。

1.看了下第一个报错是代码判断fail了。看着是配置没加载成功，还是启动方式不对？ 2 serving.config变更后，有发现新的问题吗

修改后直接重启的容器，不知道为什么没加载成功。
serving.config暂时还没变更目录（近期一直在调用，还没来得及变更目录）

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)
还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。 第三条把serving.config变更目录我试试。

1.看了下第一个报错是代码判断fail了。看着是配置没加载成功，还是启动方式不对？ 2 serving.config变更后，有发现新的问题吗

修改后直接重启的容器，不知道为什么没加载成功。 serving.config暂时还没变更目录（近期一直在调用，还没来得及变更目录）

辛苦有空的话吧你的操作部署再发一下
1.serving.conf 配置挂载方式？如何修改的
2.修改完成后怎么重启的？做了哪些验证确定的配置没生效？
我想本地复现下操作，方便记录问题方式

[peakshen]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)
还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。 第三条把serving.config变更目录我试试。

1.看了下第一个报错是代码判断fail了。看着是配置没加载成功，还是启动方式不对？ 2 serving.config变更后，有发现新的问题吗

修改后直接重启的容器，不知道为什么没加载成功。 serving.config暂时还没变更目录（近期一直在调用，还没来得及变更目录）

辛苦有空的话吧你的操作部署发一下 1.serving.conf 配置挂载方式？如何修改的 2.修改完成后怎么重启的？做了哪些验证确定的配置没生效？ 我想本地复现下操作，方便记录问题

[gaoying0805]

配置修改完成后 serving服务有没有重启？正常配置修改之后，如果没有变更配置的指令，建议重启下服务

重启了docker容器，不生效的

https://www.secretflow.org.cn/zh-CN/docs/kuscia/v0.14.0b0/reference/apis/serving_cn 参考下这个配置，修改serving_input_config的内容 更新下serving服务，然后重启再测试下

我是单独部署的serving,不是通过kuscia部署的serving,是按照这个文档https://www.secretflow.org.cn/zh-CN/docs/serving/main/topics/deployment/deployment 创建的serving.conf。另外：这个链接打不开https://www.secretflow.org.cn/zh-Hans/docs/kuscia/v0.5.0b0/reference/apis/serving_cn#serving

想确认两个方面：参数逻辑没生效？ 1.你是怎么确定的配置没生效？有日志信息吗还是其他的？可以提供下，我再看下。 2.配置没生效，是配置的时间对不上还是其他的？ "rpc_timeout_ms": -1 Max duration of RPC. -1 means wait indefinitely. Default: 2000 (ms)
还是配置没加载成功？ 3.如果吧现在的serving.config 变更下目录，重新下serving服务 还能启动吗？

有报错信息如：secretflow_serving/framework/execute_context.cc:184，network error, msg:[E1008]Reached timeout=2000ms ，修改rpc_timeout_ms为-1并重启docker容器后，按说超时应该会变。 第三条把serving.config变更目录我试试。

1.看了下第一个报错是代码判断fail了。看着是配置没加载成功，还是启动方式不对？ 2 serving.config变更后，有发现新的问题吗

修改后直接重启的容器，不知道为什么没加载成功。 serving.config暂时还没变更目录（近期一直在调用，还没来得及变更目录）

辛苦有空的话吧你的操作部署发一下 1.serving.conf 配置挂载方式？如何修改的 2.修改完成后怎么重启的？做了哪些验证确定的配置没生效？ 我想本地复现下操作，方便记录问题

1. 挂载方式如： "Type": "bind",
   "Source": "/root/serving/wqxeeprp/serving.config",
   "Destination": "/root/sf_serving/conf/serving.config"
   直接修改宿主机对应文件中的配置。
2. 修改后直接docker restart 对应镜像id
3. 重启后确认容器中对应的serving.config 有最新修改的配置。
4. 验证方式是再次调用服务时依然有 network error, msg:[E1008]Reached timeout=2000ms 报错。

[peakshen]

serving里面rpc_timeout_ms 这个配置参数代码实现 和文档介绍不一样
代码里面配置-1的时候，看逻辑是不生效的。 这块咨询了下研发，文档上问题。

[gaoying0805]

serving里面rpc_timeout_ms 这个配置参数代码实现 和文档介绍不一样 代码里面配置-1的时候，看逻辑是不生效的。 这块咨询了下研发，文档上问题。

也就是说设置为-1不行，但是设置为大于2000ms的是可以生效的对吧。

[peakshen]

serving里面rpc_timeout_ms 这个配置参数代码实现 和文档介绍不一样 代码里面配置-1的时候，看逻辑是不生效的。 这块咨询了下研发，文档上问题。

也就是说设置为-1不行，但是设置为大于2000ms的是可以生效的对吧。

看代码 超时时间需要设置是大于0 才会生效。
如果是小于0的值，代码逻辑会使用默认值2000ms