Skip to content

Dify plugin sdk streaming output method interrupt when calling chaflow #191

@flanders002

Description

@flanders002

使用应用市场的一个插件调用chatflow,这个chatflow有多个直接回复的输出节点;现在遇到一个问题,前一个流式响应总是会被截断,然后等到下一个节点的输出开始后前一个节点的剩余内容才会返回;如图:

Image

在本地调试插件,发现后台已经把完整的输出打印出来,但是前台的流式响应一直卡着:

Image

而且查看前端run接口返回,可以发现明显的流式输出截断情况,接口的data json结构不完整,处于截断状态,直到随着下一个耗时较久的llm节点完成而返回:

Image

这个插件的实现逻辑是流式调用chatflow的url,然后使用sdk的create_stream_variable_message方法返回。

Image

所以这个create_stream_variable_message内部是否有一些异常机制,导致了中断情况?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions