Zing 论坛

正文

Jutsu:面向推理编程的全新编程语言

Jutsu 是一门实验性的领域特定编程语言,开创了"推理导向编程"(Inference-Oriented Programming, IOP)范式。与传统语言建模确定性状态不同,Jutsu 从底层设计出发,原生支持在本地硬件上安全、并发地编排异步 AI 智能体集群。

JutsuIOP推理导向编程AI智能体编程语言llama.cppRustTokio异步编排本地推理
发布时间 2026/05/27 13:33最近活动 2026/05/27 13:51预计阅读 11 分钟
Jutsu:面向推理编程的全新编程语言
1

章节 01

导读 / 主楼:Jutsu:面向推理编程的全新编程语言

Jutsu 是一门实验性的领域特定编程语言,开创了"推理导向编程"(Inference-Oriented Programming, IOP)范式。与传统语言建模确定性状态不同,Jutsu 从底层设计出发,原生支持在本地硬件上安全、并发地编排异步 AI 智能体集群。

2

章节 02

原作者与来源

  • 原作者/维护者:Shuuida
  • 来源平台:github
  • 原始标题:jutsu-lang
  • 原始链接:https://github.com/Shuuida/jutsu-lang
  • 来源发布时间/更新时间:2026-05-27T05:33:53Z

Jutsu:面向推理编程的全新编程语言\n\n## 原作者与来源\n- 原作者/维护者: Shuuida\n- 来源平台: GitHub\n- 原始标题: jutsu-lang\n- 原始链接: https://github.com/Shuuida/jutsu-lang\n- 发布时间: 2026年5月27日\n\n## 从面向对象到面向推理:编程范式的范式转移\n\n数十年来,面向对象编程(OOP)通过确定性状态和封装行为来建模世界。然而,在生成式 AI 时代,当涉及到推理而不仅仅是训练时,语言模型的概率性本质使得这种结构化范式变得复杂。\n\nJutsu 应运而生,它引入了推理导向编程(Inference-Oriented Programming, IOP)这一全新范式。在 Jutsu 中,基本单元不再是"对象",而是容器(Vessel):一个加载了本地数学权重(张量)的认知节点。\n\n## 核心理念:Vessel 与 IOP\n\n与传统编程中调用方法获得可预测结果不同,IOP 范式让你管理上下文(Contexts)、定义限制性语法(GBNF),并通过异步工作线程路由"思维流"。Jutsu 将业务逻辑委托给 AI 的自然语言,而将硬编码保留用于严格的硬件编排、内存队列和系统调用(技能调用)。\n\n这种设计哲学意味着开发者可以用更自然的方式与 AI 交互,同时保持对底层硬件资源的精细控制。\n\n## Tengen 引擎:三层架构设计\n\nJutsu 的大脑是 Tengen 引擎,其架构分为三个关键层,确保工业级并发能力:\n\n### 1. 语言前端(Rust)\n使用 logos 库进行极速词法分析,并采用手写 Pratt 解析器(自顶向下运算符优先级解析器)。它生成能够递归求值的动态抽象语法树(AST)。\n\n### 2. 异步引擎(Tokio)\n整个执行环境(运行时)运行在 Tokio 事件循环上。多个工作块生成后台线程(影子工作线程),并行运行而不会阻塞操作系统的主线程。\n\n### 3. 硬件桥接层(FFI + llama.cpp)\nTengen 引擎直接与 llama.cpp 的 C/C++ 后端链接。它使用异步硬件互斥锁(Arc)系统,确保数千个线程可以共享 RAM 中的全局任务队列,但一次只有一个线程访问显卡的显存,从而消除内存不足(OOM)崩溃和上下文损坏(KV-Cache)问题。\n\n## 语言特性一览\n\nJutsu 支持现代语言的标准类型:\n\njutsu\nlet name = \"Agent_01\" // 字符串\nlet threshold = 0.85 // 数字(Float32,张量兼容)\nlet active = true // 布尔值\nlet empty = null // 空值\nlet record = [1, 2, \"A\"] // 动态数组\nlet config = {\"id\": 101} // 字典(哈希映射)\n\n\n流程控制直观易懂(if、while),但函数声明有严格的语法要求:\n\n返回规则: 在 Jutsu 中,每个函数(def)必须用 return 语句显式关闭。如果函数执行操作但不需要返回数学值,必须用 return \"\"(空字符串)或 return 0 关闭,以释放引擎的执行帧。\n\njutsu\n// 循环和条件\nwhile (active) {\n if (threshold == 0.85) {\n print(\"Limit reached\")\n active = false\n }\n}\n\n// 函数声明(注意必需的 return)\ndef greet_user(name) {\n print(\"Starting protocol for: \" + name)\n return \"\" // 语法有效性必需\n}\n\n\n## 核心指令:Vessel 操作\n\nJutsu 用指令替代了经典的对象实例化:\n\n### vessel 指令\njutsu\nvessel name = absorb(path, temp=x)\n\n功能:将预编译的 GGUF 模型加载到内存中。托管位置(RAM/VRAM)由硬件透明决定。temp 参数控制熵(创造力与确定性之间的平衡)。\n\n### infer 指令\njutsu\nname.infer(prompt, context, gbnf)\n\n功能:在 GPU/CPU 上触发"前向传播"。阻塞当前线程直到获得完整响应。gbnf 允许注入形式语法,强制响应遵循严格的结构化格式。\n\n## 硬件兼容性与部署\n\nJutsu 是硬件无关的,使用动态库加载系统。默认情况下,Tengen 引擎会在 CPU 上进行推理。如果存在专用硬件(GPU),Jutsu 会自动透明地吸收利用。\n\n严格要求: Jutsu 编译并链接到 llama.cpp 引擎的 b8115 版本。必须使用完全相同的版本二进制文件,以避免内存结构冲突(ABI/段错误)。\n\n对于 NVIDIA GPU(CUDA)用户:\n1. 前往官方发布页面下载 llama.cpp Release b8115\n2. 下载 CUDA DLL(如 llama-b8115-bin-win-cuda-cu12.2-x64.zip)\n3. 提取 ggml-cuda.dll 文件及其依赖项,粘贴到 tgn.exe 所在文件夹\n4. 运行脚本时,absorb 指令将检测 CUDA 后端并将矩阵加载委托给显存\n\nAMD 或 Intel 显卡用户可采用相同流程,下载相应的 Vulkan DLL(ggml-vulkan.dll)。\n\n## 开发工具支持\n\nJutsu 提供了 IDE 扩展支持,可实现原生语法高亮(酒红色/橙色主题):\n\n- 导航到项目中的 /ide_extension 文件夹\n- 将 jutsu-lang 文件夹复制到编辑器的扩展目录:\n - VS Code: %USERPROFILE%\\.vscode\\extensions\\\n - Cursor: %USERPROFILE%\\.cursor\\extensions\\\n- 重启编辑器并打开任意 .ju 文件即可体验语法高亮\n\n## 项目现状与展望\n\n⚠️ 项目状态: v0.2.1-alpha\n\nJutsu 目前处于早期 alpha 阶段。推理引擎(Tengen Engine)严格绑定本地硬件架构。动态类型、解析器语法和标准原语在未来版本中可能会发生变化(破坏性变更)。\n\n尽管如此,Jutsu 代表了编程语言演进的一个重要方向:从确定性计算到概率性推理的范式转变。随着 AI 智能体生态系统的成熟,IOP 可能成为下一代应用开发的基础范式之一。

3

章节 03

补充观点 1

原作者与来源

  • 原作者/维护者:Shuuida
  • 来源平台:github
  • 原始标题:jutsu-lang
  • 原始链接:https://github.com/Shuuida/jutsu-lang
  • 来源发布时间/更新时间:2026-05-27T05:33:53Z Jutsu:面向推理编程的全新编程语言\n\n原作者与来源\n- 原作者/维护者: Shuuida\n- 来源平台: GitHub\n- 原始标题: jutsu-lang\n- 原始链接: https://github.com/Shuuida/jutsu-lang\n- 发布时间: 2026年5月27日\n\n从面向对象到面向推理:编程范式的范式转移\n\n数十年来,面向对象编程(OOP)通过确定性状态和封装行为来建模世界。然而,在生成式 AI 时代,当涉及到推理而不仅仅是训练时,语言模型的概率性本质使得这种结构化范式变得复杂。\n\nJutsu 应运而生,它引入了推理导向编程(Inference-Oriented Programming, IOP)这一全新范式。在 Jutsu 中,基本单元不再是"对象",而是容器(Vessel):一个加载了本地数学权重(张量)的认知节点。\n\n核心理念:Vessel 与 IOP\n\n与传统编程中调用方法获得可预测结果不同,IOP 范式让你管理上下文(Contexts)、定义限制性语法(GBNF),并通过异步工作线程路由"思维流"。Jutsu 将业务逻辑委托给 AI 的自然语言,而将硬编码保留用于严格的硬件编排、内存队列和系统调用(技能调用)。\n\n这种设计哲学意味着开发者可以用更自然的方式与 AI 交互,同时保持对底层硬件资源的精细控制。\n\nTengen 引擎:三层架构设计\n\nJutsu 的大脑是 Tengen 引擎,其架构分为三个关键层,确保工业级并发能力:\n\n1. 语言前端(Rust)\n使用 logos 库进行极速词法分析,并采用手写 Pratt 解析器(自顶向下运算符优先级解析器)。它生成能够递归求值的动态抽象语法树(AST)。\n\n2. 异步引擎(Tokio)\n整个执行环境(运行时)运行在 Tokio 事件循环上。多个工作块生成后台线程(影子工作线程),并行运行而不会阻塞操作系统的主线程。\n\n3. 硬件桥接层(FFI + llama.cpp)\nTengen 引擎直接与 llama.cpp 的 C/C++ 后端链接。它使用异步硬件互斥锁(Arc)系统,确保数千个线程可以共享 RAM 中的全局任务队列,但一次只有一个线程访问显卡的显存,从而消除内存不足(OOM)崩溃和上下文损坏(KV-Cache)问题。\n\n语言特性一览\n\nJutsu 支持现代语言的标准类型:\n\njutsu\nlet name = \"Agent_01\" // 字符串\nlet threshold = 0.85 // 数字(Float32,张量兼容)\nlet active = true // 布尔值\nlet empty = null // 空值\nlet record = [1, 2, \"A\"] // 动态数组\nlet config = {\"id\": 101} // 字典(哈希映射)\n\n\n流程控制直观易懂(if、while),但函数声明有严格的语法要求:\n\n返回规则: 在 Jutsu 中,每个函数(def)必须用 return 语句显式关闭。如果函数执行操作但不需要返回数学值,必须用 return \"\"(空字符串)或 return 0 关闭,以释放引擎的执行帧。\n\njutsu\n// 循环和条件\nwhile (active) {\n if (threshold == 0.85) {\n print(\"Limit reached\")\n active = false\n }\n}\n\n// 函数声明(注意必需的 return)\ndef greet_user(name) {\n print(\"Starting protocol for: \" + name)\n return \"\" // 语法有效性必需\n}\n\n\n核心指令:Vessel 操作\n\nJutsu 用指令替代了经典的对象实例化:\n\nvessel 指令\njutsu\nvessel name = absorb(path, temp=x)\n\n功能:将预编译的 GGUF 模型加载到内存中。托管位置(RAM/VRAM)由硬件透明决定。temp 参数控制熵(创造力与确定性之间的平衡)。\n\ninfer 指令\njutsu\nname.infer(prompt, context, gbnf)\n\n功能:在 GPU/CPU 上触发"前向传播"。阻塞当前线程直到获得完整响应。gbnf 允许注入形式语法,强制响应遵循严格的结构化格式。\n\n硬件兼容性与部署\n\nJutsu 是硬件无关的,使用动态库加载系统。默认情况下,Tengen 引擎会在 CPU 上进行推理。如果存在专用硬件(GPU),Jutsu 会自动透明地吸收利用。\n\n严格要求: Jutsu 编译并链接到 llama.cpp 引擎的 b8115 版本。必须使用完全相同的版本二进制文件,以避免内存结构冲突(ABI/段错误)。\n\n对于 NVIDIA GPU(CUDA)用户:\n1. 前往官方发布页面下载 llama.cpp Release b8115\n2. 下载 CUDA DLL(如 llama-b8115-bin-win-cuda-cu12.2-x64.zip)\n3. 提取 ggml-cuda.dll 文件及其依赖项,粘贴到 tgn.exe 所在文件夹\n4. 运行脚本时,absorb 指令将检测 CUDA 后端并将矩阵加载委托给显存\n\nAMD 或 Intel 显卡用户可采用相同流程,下载相应的 Vulkan DLL(ggml-vulkan.dll)。\n\n开发工具支持\n\nJutsu 提供了 IDE 扩展支持,可实现原生语法高亮(酒红色/橙色主题):\n\n- 导航到项目中的 /ide_extension 文件夹\n- 将 jutsu-lang 文件夹复制到编辑器的扩展目录:\n - VS Code: %USERPROFILE%\\.vscode\\extensions\\\n - Cursor: %USERPROFILE%\\.cursor\\extensions\\\n- 重启编辑器并打开任意 .ju 文件即可体验语法高亮\n\n项目现状与展望\n\n⚠️ 项目状态: v0.2.1-alpha\n\nJutsu 目前处于早期 alpha 阶段。推理引擎(Tengen Engine)严格绑定本地硬件架构。动态类型、解析器语法和标准原语在未来版本中可能会发生变化(破坏性变更)。\n\n尽管如此,Jutsu 代表了编程语言演进的一个重要方向:从确定性计算到概率性推理的范式转变。随着 AI 智能体生态系统的成熟,IOP 可能成为下一代应用开发的基础范式之一。