章节 01
导读:Social Draft——端侧AI社交回复助手,让每次回复都恰到好处
Social Draft是一款iOS端侧优先的社交回复辅助应用,核心解决用户收到消息不知如何回复的尴尬焦虑。它定位为“回复参谋”而非聊天机器人,最终回复权始终在用户手中。通过本地大模型推理、蒸馏SFT训练和用户可控的LoRA个性化,提供自然体贴的回复建议,同时以端侧优先设计保障隐私,本地模式下数据不离开设备。
正文
一款iOS端侧优先的社交回复辅助应用,通过本地大模型推理、蒸馏SFT训练和用户可控的LoRA个性化,帮助用户在尴尬时刻找到自然、体贴的回复方式。
章节 01
Social Draft是一款iOS端侧优先的社交回复辅助应用,核心解决用户收到消息不知如何回复的尴尬焦虑。它定位为“回复参谋”而非聊天机器人,最终回复权始终在用户手中。通过本地大模型推理、蒸馏SFT训练和用户可控的LoRA个性化,提供自然体贴的回复建议,同时以端侧优先设计保障隐私,本地模式下数据不离开设备。
章节 02
产品针对真实对话中的常见尴尬场景:疲惫时拒绝邀请、委婉拒绝不想参加的活动、情绪化对话的得体回复、职场/学校的简洁专业回复、表达困难等。区别于市面上“替用户说话”的AI产品,Social Draft选择“帮用户说话”,确保用户掌握最终回复决定权。
章节 03
采用三层后端架构:Mock(默认安全模式,无需模型/API)、Cloud(调用OpenAI/Anthropic/Gemini等API)、Local(端侧GGUF模型,隐私优先)。Local模式为核心,无需网络,数据本地运行。支持用户本地训练LoRA适配器,实现风格个性化、隐私保护、轻量适配。当前支持Llama-3.2-1B/3B-Instruct-Q4_K_M及reply_sft_lora_v1适配器。
章节 04
提供多种风格的智能建议卡片(自然、直接、友好、深思熟虑、决策导向);Ghost Text内联补全功能(本地运行,加速回复);上下文感知(读取最近对话理解语气话题);回复目标选择(针对具体消息生成建议)。
章节 05
包含两阶段Claude蒸馏流程生成合成社交回复数据集;提供完整LoRA/SFT训练笔记本,支持用户用自有对话数据训练个性化模型;Experiments_Benchmarks目录工具可对比本地与云端模型回复质量。
章节 06
应用用SwiftUI构建分层架构(AppRootView、Features/Chat/Settings等);本地推理通过llama.xcframework实现(加载GGUF模型、挂载LoRA、采样链优化);云端支持OpenAI/Anthropic/Groq等;Supabase集成用于演示聊天服务的数据持久化(线程管理、实时事件等)。
章节 07
核心功能本地运行;用户控制回复权;透明区分三种模式;云端仅发送必要上下文。避免AI代替社交的伦理风险,定位为辅助工具帮助用户更好表达自己。
章节 08
Social Draft展示了大模型技术转化为解决用户痛点的产品,端侧优先、LoRA个性化、隐私重视是其优势。对用户缓解社交焦虑,对开发者是值得研究的端侧AI项目,包含完整应用实现与研究流程。