AI 生活化应用设计：从技术到温情的产品化：价值主张、替代方案与差异化定位

做生活助手原型时，很容易把聊天记录、健康信息和食谱一股脑塞进上下文窗口。这样既拖慢响应，也会把一次性的饮食要求误当成长期规则。用户问“今晚吃什么”时，系统可能拿出很久以前的忌口信息，答得郑重却不合时宜。

把上下文当万能存储、再用工具调用打补丁，面对日常细节时很不稳。长辈的饮食偏好、当天的作息、冰箱库存，哪些适合随对话带入，哪些必须通过有类型约束的工具读取和更新？这才是生活助手需要先划清的边界。

为什么通用对话框处理不好生活琐事

长上下文不能替代专门的生活助手。把家务逻辑全交给聊天界面，通常会遇到下面三个问题。

flowchart TD UserQuery[用户输入: 晚饭想吃清淡点 帮我看冰箱并记录日记] --> ContextRouter{上下文与工具路由器} ContextRouter -->|即时状态/确定性操作| ToolEngine[Tool Executer 机制] ContextRouter -->|情感基调/历史偏好| MemoryEngine[Context Pruner 动态剪裁] ToolEngine --> VisionTool[视觉识别: 冰箱食材识别] ToolEngine --> InventoryDB[(本地库存数据库)] MemoryEngine --> LatentMemory[滑动窗口 + 语义向量提取] VisionTool --> FusionNode[信息融合节点] InventoryDB --> FusionNode LatentMemory --> FusionNode FusionNode --> LLMResponse[生成带温情推荐与自动更新的决策]

通用对话框处理生活需求时，问题集中在三个方面：

1. 记忆污染与规则幻觉：当上下文充斥着大量历史闲聊，模型极易产生隐蔽幻觉。例如将“上周三妈妈来家里吃饭”的临时忌口，误认为是“长期不能吃海鲜”。
2. 状态更新无原子性：纯文本上下文无法产生副作用（Side Effect）。用户说“记下今天买了半斤黄桃”，如果在上下文里仅生成一句“收到，已记下”，下一次查询时只能依赖模型的文本回忆，缺乏数据库主键级的数据一致性。
3. 延迟与成本杠杆失衡：把长效偏好放在 Token 计费的上下文里，每次触发对话都在为重复的背景信息买单。

一个实用的分工是：上下文保留当下意图和必要的对话语气；工具负责可核验的事实与会产生副作用的操作。

划分边界：上下文留给温情，工具留给秩序

在设计实际工程架构时，按照以下规则清洗数据流向：

把确定性逻辑从上下文中拆出来，可以减少重复传入的信息，并让“把明天要买的菜加入清单”这类请求走结构化工具调用，而不是只生成一段无法落库的回复。节省多少 Token，需要按实际提示词、模型和流量数据测量。

落地代码：动态上下文剪裁与工具调用编排器

以下是一个可运行在生产环境的 Python 动态编排框架。结合了滑动窗口剪裁、工具执行隔离与容错降级机制：

import json import logging from typing import List, Dict, Any, Callable from dataclasses import dataclass, field logging.basicConfig(level=logging.INFO, format="%(asctime)s - %(levelname)s - %(message)s") @dataclass class FunctionalTool: name: str description: str parameters: Dict[str, Any] handler: Callable[[Dict[str, Any]], Dict[str, Any]] class LifeAssistantOrchestrator: def __init__(self, max_context_tokens: int = 2048): self.max_context_tokens = max_context_tokens self.tools: Dict[str, FunctionalTool] = {} self.system_prompt = ( "你是一个富有亲和力的家庭生活助手。对待用户语气要温暖自然，" "但在调用工具和处理数据时必须极其严谨。" ) self.short_term_memory: List[Dict[str, Any]] = [] def register_tool(self, tool: FunctionalTool): """注册可被大模型调用的确切工具""" self.tools[tool.name] = tool logging.info(f"成功挂载生活服务工具: {tool.name}") def _estimate_tokens(self, text: str) -> int: """粗略估算 Token 数量，避免引入过重依赖""" return len(text) // 2 def prune_context(self) -> List[Dict[str, Any]]: """按 Token 预算修剪短期记忆，保留最新交互与系统提示""" pruned = [] current_tokens = self._estimate_tokens(self.system_prompt) # 倒序保留最新的上下文 for message in reversed(self.short_term_memory): content_str = str(message.get("content", "")) tokens = self._estimate_tokens(content_str) if current_tokens + tokens > self.max_context_tokens: break pruned.insert(0, message) current_tokens += tokens return [{"role": "system", "content": self.system_prompt}] + pruned def execute_tool_call(self, tool_name: str, arguments_json: str) -> Dict[str, Any]: """安全地执行工具调用并捕获工程异常""" if tool_name not in self.tools: logging.error(f"未找到目标工具: {tool_name}") return {"success": False, "error": f"Tool {tool_name} undefined"} try: args = json.loads(arguments_json) except json.JSONDecodeError as e: logging.error(f"工具参数 JSON 解析失败: {str(e)}") return {"success": False, "error": "Invalid JSON parameters"} tool = self.tools[tool_name] try: logging.info(f"正在触发外部工具 [{tool_name}]，入参: {args}") result = tool.handler(args) return {"success": True, "data": result} except Exception as ex: logging.exception(f"执行工具 [{tool_name}] 时抛出运行时异常") return {"success": False, "error": f"Execution failed: {str(ex)}"} def process_user_input(self, user_text: str, mock_llm_decision: Callable = None) -> str: """模拟一次完整的“上下文剪裁-决策-工具执行-回复生成”周期""" self.short_term_memory.append({"role": "user", "content": user_text}) active_context = self.prune_context() # 模拟 LLM 解析过程 if mock_llm_decision: decision = mock_llm_decision(active_context, list(self.tools.values())) else: decision = {"type": "text", "content": "今天天气真好，记得多喝水水哦。"} if decision.get("type") == "tool_call": call_info = decision["tool_call"] tool_res = self.execute_tool_call(call_info["name"], call_info["arguments"]) # 将工具结果写入上下文重新送入系统 tool_followup = ( f"系统工具 [{call_info['name']}] 返回数据: {json.dumps(tool_res, ensure_ascii=False)}。" f"请结合用户语气温和地回复用户。" ) self.short_term_memory.append({"role": "system", "content": tool_followup}) final_reply = f"已为你完成记录：{tool_res.get('data', {}).get('message', '操作已就绪')}" else: final_reply = decision.get("content", "") self.short_term_memory.append({"role": "assistant", "content": final_reply}) return final_reply # ================= 实际测试用例 ================= def mock_add_shopping_item(args: Dict[str, Any]) -> Dict[str, Any]: item = args.get("item") quantity = args.get("quantity", 1) if not item: raise ValueError("Missing required field: item") return {"status": "SUCCESS", "message": f"成功将 {quantity} 份【{item}】加入家庭采购清单"} if __name__ == "__main__": orchestrator = LifeAssistantOrchestrator(max_context_tokens=1000) # 注册标准工具 orchestrator.register_tool(FunctionalTool( name="add_to_shopping_list", description="添加物品到家庭待办清单", parameters={ "type": "object", "properties": { "item": {"type": "string"}, "quantity": {"type": "integer"} }, "required": ["item"] }, handler=mock_add_shopping_item )) # 模拟用户表达意图 user_input = "家里没牛奶了，帮我往清单里加两盒牛奶" # 模拟大模型输出 Tool Call 动作 def mock_llm_router(context, tools): return { "type": "tool_call", "tool_call": { "name": "add_to_shopping_list", "arguments": json.dumps({"item": "牛奶", "quantity": 2}) } } response = orchestrator.process_user_input(user_input, mock_llm_decision=mock_llm_router) print("助手响应结果:", response) print("修剪后的上下文链条深度:", len(orchestrator.short_term_memory))