使用应用市场的一个插件调用chatflow,这个chatflow有多个直接回复的输出节点;现在遇到一个问题,前一个流式响应总是会被截断,然后等到下一个节点的输出开始后前一个节点的剩余内容才会返回;如图:
在本地调试插件,发现后台已经把完整的输出打印出来,但是前台的流式响应一直卡着:
而且查看前端run接口返回,可以发现明显的流式输出截断情况,接口的data json结构不完整,处于截断状态,直到随着下一个耗时较久的llm节点完成而返回:
这个插件的实现逻辑是流式调用chatflow的url,然后使用sdk的create_stream_variable_message方法返回。
所以这个create_stream_variable_message内部是否有一些异常机制,导致了中断情况?