Pipeline是Open-WebUI中用于信息拦截与处理的机制,可扩展模型功能(如添加图像识别)或实现过滤。官方支持函数调用、定制RAG、消息监控、速率限制、实时翻译及有害信息过滤等功能。安装需克隆仓库、配置虚拟环境并启动服务,随后在Open-WebUI设置中启用并连接Pipeline地址与密钥。
Pipeline作用
pipeline作用是open-webui对话时进行信息拦截,拦截后可以对信息进行功能添加,或者对信息的过滤;
比如open-webui 某些模型不支持识别图片和视频,但是需要这些功能可以在pipeline添加代码,让不支持的AI模型支持识别图片和视频;或者支持更多的功能;
Open-WebUI Pipelines官方文档
按照官方文档可以实现以下功能:
- 函数调用管道:轻松处理函数调用,并通过自定义逻辑增强您的应用程序。
- 定制 RAG 管道:实现根据您的需求量身定制的复杂检索增强生成管道。
- 使用 Langfuse 进行消息监控:使用 Langfuse 实时监控和分析消息交互。
- 速率限制过滤器:控制请求流以防止超过速率限制。
- 使用 LibreTranslate 进行实时翻译筛选:将实时翻译无缝集成到您的 LLM 交互中。
- 有害信息过滤器:实施过滤器以有效检测和处理有害信息。
Pipeline安装
1、拷贝Pipelines repository:
git clone https://github.com/open-webui/pipelines.git
cd pipelines
2、在python虚拟环境安装依赖
# 创建python虚拟环境
python3 -m venv venv
# 进入python虚拟环境
source /pipelines/venv/bin/activate
# 安装Pipelines 相关依赖
pip install -r requirements.txt
3、启动pipeline
./start.sh
Open-Webui配置Pipeline
设置➡️管理员设置➡️外部连接➡️开启openAI API➡️ 点击( + )
填入pipeline的地址和API密钥:0p3n-w3bu!
同时把原先默认的API给删除,否则Open webui会白屏很久;


暂无评论
要发表评论,您必须先 登录