章节 01
Flowertex:AI驱动的数据管道medallion架构与对话式运维平台导读
Flowertex是集成medallion数据管道架构(Bronze-Silver-Gold)与AI对话式运维的开源项目,支持一键部署到AWS和Databricks,通过Claude AI实现实时管道监控、故障诊断和自动修复,支持WhatsApp、Telegram、Discord多渠道交互,解决传统数据管道运维低效问题。
正文
Flowertex是一个集成 medallion 数据管道架构(Bronze-Silver-Gold)与AI对话式运维平台的开源项目,支持一键部署到AWS和Databricks,通过Claude AI实现实时管道监控、故障诊断和自动修复,并支持WhatsApp、Telegram、Discord多渠道交互。
章节 01
Flowertex是集成medallion数据管道架构(Bronze-Silver-Gold)与AI对话式运维的开源项目,支持一键部署到AWS和Databricks,通过Claude AI实现实时管道监控、故障诊断和自动修复,支持WhatsApp、Telegram、Discord多渠道交互,解决传统数据管道运维低效问题。
章节 02
现代数据架构中medallion架构已成为数据湖仓设计标准模式,但管道复杂度增加导致传统监控运维方式耗时低效:工程师需翻阅日志、检查配置、分析依赖关系。Flowertex将medallion架构与AI对话式运维结合,通过自然语言交互实现实时监控、智能诊断和自动修复。
章节 03
分层架构:前端层(Nuxt4+Vue3)、后端层(FastAPI+SQLAlchemy2+Pydantic)、消息网关层(Omni Gateway支持多渠道)、数据管道层(Databricks PySpark实现medallion架构)。 medallion三层:Bronze层摄取原始数据(保持完整性)、Silver层清洗转换(数据质量检查+脱敏)、Gold层业务聚合(构建业务指标)。 Observer Agent:持续监控管道状态,异常时调用Claude诊断并创建GitHub PR修复,形成检测-诊断-修复-验证闭环。
章节 04
12个实时工具集成:管道监控(list_databricks_jobs等)、数据查询(query_delta_table等)、代码协作(list_recent_prs等)、运维操作(update_job_schedule等)。 多渠道会话统一:Web/WhatsApp/Telegram/Discord保持会话状态无缝衔接。 智能命令系统:支持/pipelines、/resume、/status等斜杠命令提升交互效率。
章节 05
安全加密:JWT身份验证、Fernet加密敏感凭证、Redis会话缓存。 混沌测试:注入受控故障验证Observer Agent的检测恢复能力。 一键部署:Terraform配置AWS基础设施,Docker Compose快速搭建环境。 测试覆盖:204个pytest测试(Observer框架113个、管道库91个),前端Vitest+Playwright测试。
章节 06
保险行业客服数据分析:分析WhatsApp聊天记录优化客服流程。 实时业务监控:业务团队通过自然语言查询关键指标(如新投保客户数)。 故障快速响应:自然语言查询故障根因,系统自动分析日志并执行修复。
章节 07
快速开始:克隆仓库→配置环境变量→docker compose启动→数据库迁移→访问Web界面部署管道。 未来展望:预测性维护、自然语言ETL、跨系统关联分析、智能数据治理。