Toy：一个零依赖的Ruby神经网络框架，编译为原生代码并支持CUDA/Metal

Toy是一个用Ruby编写的Transformer语言模型框架，通过Spinel编译为原生二进制，零外部依赖，支持CPU、CUDA和Metal后端，可运行HuggingFace模型并与PyTorch输出逐位一致。其核心设计哲学为"可读的机器学习"，代码简洁直观，兼顾功能完整性与易理解性。

深度学习领域中Python几乎垄断框架生态（如PyTorch、TensorFlow），但Ruby社区长期缺乏原生、易读、零依赖的神经网络实现。Toy项目旨在填补这一空白，它不仅是教学用玩具项目，更是具备训练、推理、评估和部署全链路能力的功能完整框架，核心目标是让机器学习代码对人类可读、可理解。

Toy采用五层算法栈：

1. 原语：底层张量操作（矩阵乘法、激活函数等），跨后端共享接口；
2. 块：组合原语成标准组件（自注意力、前馈网络等）；
3. 架构：定义完整模型（GPT-2、Llama、Mistral等主流架构）；
4. 引擎：通过Spinel（Ruby之父开发的编译器）将Ruby编译为原生代码；
5. 配方：端到端训练/推理流程的用户友好API。 此外，Toy引入算法卡片概念，实现代码与文档双向转换（toy describe渲染卡片，卡片可解析回Ruby代码），确保文档与代码同步。

Toy支持17个模型检查点（F32/Q8_0量化）、三种分词器变体，RoPE缩放比例自动检测。后端支持矩阵：CPU（门控参考基准）、CUDA/Metal（镜像验证，与CPU逐位一致）。CLI工具链含9个核心命令：

• 基础：toy install（构建验证CPU后端）、toy new（创建实验/库项目）；
• 模型管理：toy list（发现GGUF模型）、toy fetch（下载模型）、toy describe（显示算法卡片）；
• 推理/服务：toy infer（本地推理）、toy serve（OpenAI兼容API）、toy eval（评估模型）；
• 训练：toy train（从头/热启动/LoRA微调）。 训练API简洁强大，与PyTorch位一致，可无缝接入HuggingFace生态。

Toy适用场景：

• 教学研究：清晰代码助理解Transformer内部机制；
• 快速原型：Ruby表达力+原生性能，验证新架构想法；
• Ruby生态集成：已有Ruby栈团队无需引入Python依赖；
• 边缘部署：零依赖、原生编译、小体积二进制。 感谢Ninoslav Milenović转让RubyGems上的"toy" gem名称，体现Ruby社区的慷慨。

Toy项目证明机器学习框架不必牺牲可读性换取性能。通过Spinel编译、分层架构设计和严格位一致性验证，Toy在保持代码简洁优雅的同时提供生产可用功能。对Ruby开发者是探索深度学习的友好入口，对所有开发者是复杂系统简洁设计的范例。