OllamaOnDemand：专为高性能计算集群设计的类 ChatGPT 大模型交互界面

OllamaOnDemand是路易斯安那州立大学（LSU）HPC团队开源的Gradio网页界面，专为高性能计算（HPC）集群设计。它解决了研究人员在超算集群上运行大语言模型（LLM）的复杂配置问题，提供类ChatGPT的直观交互体验，并原生支持Open OnDemand集成，让用户无需深入底层基础设施即可使用本地大模型。

背景：超算集群上运行大模型的痛点

随着LLM在科研领域的广泛应用，研究团队希望在HPC集群部署模型，但面临诸多挑战：复杂的容器配置、繁琐的环境依赖管理、与Slurm等调度系统的兼容性问题。此外，习惯ChatGPT网页界面的研究人员对命令行操作和复杂配置文件存在使用门槛，如何兼顾HPC算力与简洁体验成为亟待解决的问题。

核心特性与技术实现

原生Open OnDemand支持

Open OnDemand是NSF支持的HPC门户平台，OllamaOnDemand原生支持子路径运行，可作为交互式应用直接部署，无需额外反向代理配置。

多模态能力支持

含multimodal.py模块，支持文本对话及图像等多模态输入，适用于科研图表、实验图像分析场景。

会话管理与远程模型支持

chatsessions.py实现对话持久化，remotemodels.py支持连接远程模型服务，灵活配置端点。

用户配置系统

通过usersettings.json和usersettings.py提供模型参数调整、界面主题定制等用户级配置选项。

部署与使用场景

典型部署流程

1. 在计算节点安装Ollama服务
2. 配置Python环境并安装依赖
3. 注册为Open OnDemand交互式应用
4. 用户通过集群门户启动个人实例

适用场景

• 敏感数据处理：本地集群运行确保数据不出境
• 定制化模型：使用微调领域模型推理
• 批量实验：结合Slurm调度自动化评估
• 教学培训：为HPC新手提供友好LLM入口

技术架构亮点

项目采用模块化设计，主要组件包括：

• main.py：核心应用逻辑（约78KB）
• arg.py：命令行参数解析
• grblocks.css：界面样式定制
• head.html：HTML头部模板
• container/：容器化部署配置

采用MIT许可证，降低学术机构使用门槛。

局限与展望

目前项目README简洁，文档完善度待提升；不熟悉HPC环境的用户仍需上手指导；星标数（2 stars）表明处于早期阶段，社区贡献和部署案例有限。

但基于LSU HPC团队专业背景及解决的真实痛点，项目具有较好发展潜力，有望成为HPC环境下LLM部署的参考方案。

结语

OllamaOnDemand专注于解决实际问题——保留HPC算力的同时降低LLM使用门槛，不追求技术新颖性。对于运行Open OnDemand的集群中心，是值得关注和尝试的工具。