多进程，多线程支持

[Guojustdoit]

Feature Description / 功能描述

这个能支持多进程之类的么，甚至于分布式

System Info (dataflow env) / 系统信息（dataflow env）

1

Additional Information / 其他补充

No response

[SunnyHaze]

您好，感谢您对我们项目的关注！

目前主要对于API类的算子，支持了多线程并发请求，可以通过设置下图的max_worker来并发请求。其他一些读写密集的操作，比如Text2sql中的数据库操作我们也实装了多线程加速。

多进程目前没有从Dataflow框架层级支持。或者非要说的话，由vllm和sglang的engine调用多卡推理的多进程可能也算一种多进程。但并不属于Dataflow框架。

目前我们正在考虑用ray重构整个系统，需要一些时间。目前可以考虑手动split数据集然后在不同的设备上运行不同的脚本以实现手动多进程。

希望这能解决你的问题，如果有新鲜的想法也可以多多讨论！