第 4 章 使用 AI 前必须知道的边界文章目录第 4 章 使用 AI 前必须知道的边界 关于《AI 零基础 36 讲》流畅回答也可能没有事实依据正确答案也可能已经过期输入框不是随手倒资料的地方AI 不能替你取得版权许可高风险任务需要把人放入流程发布前走完四步检查参考资料请看一段很像百科资料的回答。《雨天算法》由林桥写于 2018 年全书 312 页并在当年获得青岚技术图书奖。书名像真的作者、页数和奖项也互相配合。问题在于这些信息是本章人为编造的教学材料。一个没有核验习惯的读者很容易把它复制进文章随后又被搜索引擎和其他 AI 当成新的文字材料。AI 可以帮人整理和起草事实、数据、隐私与发布责任仍要由使用者检查。读完本章你应该能识别四类常见风险判断哪些内容不能直接交给公共 AI 服务并能按来源、日期、隐私和版权四个方向检查一段输出。本章不提供针对个人案件的法律意见。涉及医疗、法律、金融和就业等重要决定时还需要查原始文件并请合适的专业人员复核。 关于《AI 零基础 36 讲》零基础也能开始学 AI《AI 零基础 36 讲》是一套面向初学者的 AI 入门教程。课程从认识和使用 AI 开始逐步学习Python、数据处理、机器学习与深度学习再进入大模型应用开发最后完成个人知识库助手的综合实践。本篇是正式讲解文章通过具体例子、原创图示和操作结果讲清概念。涉及编程的章节提供可运行代码方便你边读边试。读完以后动手检验建议按专栏顺序学习并完成对应的课后训练检查自己能否独立运用本章知识。博客专栏《AI 零基础 36 讲》流畅回答也可能没有事实依据第 3 章讲过语言模型根据上下文逐步选择后续 Token。这个过程能够写出连贯句子却不会自动给每句话附上一张真实世界的凭证。模型自信地生成错误或虚假内容称为 confabulation中文讨论中常叫幻觉。模型可能编出论文、书名、法规条款和人物经历也可能把几个真实片段接成一条错误结论。内容越符合常见写法人越容易相信。遇到事实型回答可以先把句子拆成可核验的主张。前面的虚构书目至少含有书名是否存在、作者是谁、出版时间、页数和获奖记录五项主张。搜索到一篇重复这段话的博客只能说明有人写过同样的话不能证明五项主张都成立。核验时优先找能直接负责的来源。法律去国家机关网站查正式文本论文去期刊、会议或作者页面查产品功能去官方文档和更新记录查。新闻事件要核对事件发生时间也要看文章发布时间。搜索摘要方便定位最终判断仍要回到原页面。正确答案也可能已经过期有些回答在写成那天完全正确几个月后就不能再用。软件价格、考试政策、模型功能、机构负责人和办事流程都可能变化。用户只问“这个功能怎么开”模型可能根据旧界面回答。更稳妥的问法会给出产品名称、版本或使用日期并要求附上当前官方文档。拿到链接以后还要查看页面的更新时间确认它讲的是正在使用的版本。模型能联网也不能省掉这一步。搜索工具可能找到旧页面网页也可能更新不及时。决定报名、付款、签约或提交材料以前应该打开负责该事项的机构页面检查适用地区、生效日期和例外条件。本地知识也要保存日期。团队把一份制度文件交给 AI 做问答可以在文件名或元数据中记录版本、生效日期和来源地址。新制度发布时替换旧文件并保留变更记录。这样发现答案有问题时能够追到模型当时参考了哪一版材料。输入框不是随手倒资料的地方很多人只盯着模型会回答什么提交之前却没有看自己贴进去了什么。《中华人民共和国个人信息保护法》把生物识别、医疗健康、金融账户和行踪轨迹等列为敏感个人信息不满十四周岁未成年人的个人信息也在其中。身份证照片、病历、银行卡信息、精确住址和带姓名的学生资料都不适合随手粘贴到公共 AI 对话框。工作资料还多一层限制。未公开合同、客户名单、内部代码、财务数据和访问密钥可能属于商业秘密或受公司制度约束。英国国家网络安全中心给出的建议很直接不要在公共大语言模型查询中放入敏感信息也不要提交一旦公开就会带来问题的内容。使用某项服务前需要阅读它当前的隐私政策、数据用途、保存期限和账号设置。个人版、企业版与接口服务的规则可能不同产品也会更新。关闭某个训练选项只能说明该选项管辖的用途发生变化不能替代公司的数据分级和保密要求。确实需要 AI 帮忙处理材料可以先做最小化。姓名换成角色代号删除身份证号和联系方式金额改成不影响分析的区间只保留完成任务所需的段落。单位已经部署获批的内部系统时也要按单位规则选择账号、存储位置和可上传的数据级别。还有一条容易漏掉。别人的个人信息也需要保护。你愿意公开自己的简历不等于同学、客户和受访者也同意把他们的资料交给第三方服务。AI 不能替你取得版权许可让 AI 改写一篇文章不会让原文的权利关系消失。把付费课程、整本电子书、摄影作品或他人的完整代码上传后再生成新内容仍要考虑你是否有权复制、上传、改编和发布这些材料。《中华人民共和国著作权法》规定了复制、改编、翻译和信息网络传播等权利也列出了可以不经许可使用作品的具体情形。实际使用是否落在这些情形中要结合用途、篇幅、传播方式和授权合同判断。商业发布或争议较大的项目应请专业人员审查。AI 输出本身也需要检查。模型可能复现常见句子、代码片段或与训练材料相近的表达服务通常无法替用户保证每段内容都可自由使用。发布前可以搜索显眼句子检查图片来源与许可确认代码依赖的许可证并保留自己使用的资料、提示和修改记录。引用来源也不能靠模型代填。模型给出的论文标题、作者和链接可能不存在。先打开原文确认作者、标题、发布日期和链接再把它放进参考资料。引用文字要对照原文不能让模型根据记忆补齐。高风险任务需要把人放入流程还要注意人机配合中的过度依赖。模型说得快格式又整齐人很容易把检查当成多余步骤。风险大小取决于答案会带来什么后果。给旅行清单补一个普通物品错了通常只是麻烦。用 AI 判断药物剂量、合同责任、投资金额或求职者去留错误可能影响健康、财产和他人的机会。后面这些任务需要明确的责任人、可靠资料和人工复核。人工复核也要有内容。让同事快速看一眼常常只能发现错别字。有效复核会要求检查者看到原始资料、模型输出和使用目的逐项核对数字、引用与关键判断并知道谁有权作最后决定。保留原始材料很重要。模型写出摘要后不要用摘要覆盖会议记录、政策文件或实验数据。发现一句话有争议时原始材料能让人回到上下文分清模型漏了条件还是原文件本来就含糊。发布前走完四步检查下面这张图可以用来对照。它不保证结果永远正确却能挡住很多低级错误。第一步检查事实。圈出姓名、数字、日期、书名、论文、政策和引语给每项找到能直接证明它的来源。找不到来源就删掉或者明确标为未核实。第二步检查时效。看来源何时发布规则何时生效产品版本是否一致。涉及当前状态的问题应记录核验日期。第三步检查输入与输出中的敏感内容。删除任务不需要的个人信息、商业秘密和账号凭证并确认服务与单位规则允许处理剩余材料。第四步检查使用权与责任。确认引用、图片、代码和原文的许可判断发布或决策造成后果时由谁负责。高风险任务在这一步安排专业复核。本章的课后练习准备了三份小材料。你会拆解一段虚构回答给一份简历脱敏再判断几种内容能否直接交给公共 AI。完成以后你应该能在复制答案之前停一下知道该查什么也知道哪些东西从一开始就不该粘贴进去。参考资料NIST 生成式 AI 风险说明英国国家网络安全中心关于公共大语言模型的建议中华人民共和国个人信息保护法中华人民共和国著作权法生成式人工智能服务管理暂行办法