llm-app - 开源软件介绍、Docker 部署与官方下载

软件介绍

llm-app 是基于 Pathway Live Data Framework 的 AI 管道模板集合，提供高精度的 RAG 和企业级 AI 搜索。它支持实时数据同步，内置向量搜索、混合搜索和全文搜索，无需额外基础设施。

实时数据同步：支持文件系统、Google Drive、Sharepoint、S3、Kafka、PostgreSQL 等数据源

内置索引：向量搜索、混合搜索、全文搜索，内存缓存

Docker 容器化部署，支持云和本地部署

多种应用模板：RAG、文档索引、多模态 RAG、SQL 问答等

与 Langchain 和 LlamaIndex 集成

构建实时更新的企业知识库问答系统对金融报告、合同等文档进行多模态信息提取将非结构化数据转换为 SQL 并支持自然语言查询实时监控文档变化并触发告警

cd templates/question_answering_rag && docker build -t llm-app . && docker run -p 8080:8080 llm-app

不需要。llm-app 内置了向量索引和全文索引，无需单独部署向量数据库或缓存系统。

选择模板目录中的任一应用模板，按照 README 中的说明运行即可。支持 Docker 部署。