拓冰网站定制 
教程人工智能机器学习深度学习【免费下载链接】AI-For-Beginners12 Weeks, 24 Lessons, AI for All!项目地址https://gitcode.com/GitHub_Trending/ai/AI-For-Beginners点击查看免费下载本篇技术指南以 AI-For-Beginners 课程的第 24 课AI Ethics 与 Responsible AI位于 lessons/7-Ethics/README.md本文所依据的保加利亚语版本见 translations/bg/lessons/7-Ethics/README.md为核心骨架系统梳理负责任 AIResponsible AI的六大核心原则并逐一解读 Microsoft Responsible AI Toolbox 中可用于落地这些原则的工程化工具。读完本文你将理解为什么AI 不过是大型矩阵运算却依然可能被滥用掌握公平性、可靠性、隐私、包容性、透明度与问责性的判断标准并知道在真实项目中如何借助 InterpretML、FairLearn、EconML、DiCE 等工具为模型做体检。从科幻叙事到工程现实为什么需要负责任 AI经过前面 23 课的学习你应该已经形成这样的认知本课程所讲授的 AI其本质是基于一系列形式化数学方法——从数据中发现关系、训练模型去复现人类行为的某些方面。在当下这个时间点AI 被普遍视为一个从数据中提取模式、并将这些模式用于解决新问题的强大工具。然而科幻作品中常常出现另一种叙事AI 对人类构成威胁情节多围绕AI 叛乱展开——AI 主动对抗人类。这类故事隐含了一个错误的假设AI 拥有某种情感或能做出开发者未曾预料到的决策。课程明确指出本课程中学习的 AI 不过是大型矩阵运算。它是一个非常强大的工具而正如任何强大的工具一样它既可以被用于正当目的也可能被用于不良目的——关键在于它可能被误用misuse。这里的误用既包括刻意为之的恶意使用也包括因训练数据偏差、模型评估不充分而导致的非故意伤害。为了防范这两种误用Microsoft 提出了负责任 AI 原则Responsible AI Principles。负责任 AI 的六大原则负责任 AI 原则由以下六个核心概念支撑每个概念都对应一个具体的工程问题1. 公平性Fairness对抗模型偏见公平性与模型偏见model biases这一重要问题直接相关。偏见通常源于使用了有偏的训练数据。课程给出了一个非常典型的例子当我们要预测一个人获得软件开发者职位的概率时模型很可能给出对男性更高的偏好——仅仅因为训练数据集本身就偏向男性群体。要避免这类问题需要做到两点审慎平衡训练数据让数据中各群体的样本量、特征分布尽量均衡深入调查模型行为分析模型在哪些输入上产生了系统性偏差并确保模型优先考虑更相关的特征而非与任务无关的人口学属性。2. 可靠性与安全性Reliability and Safety正视概率输出AI 模型本质上就可能犯错。神经网络返回的是概率而不是确定性的结论因此在做决策时必须把这一点纳入考量。每个模型都有特定的精确率precision与召回率recall我们必须理解这些指标的含义才能防止错误的建议造成实际伤害——例如在医疗、金融等高风险场景中一个高置信度但错误的输出可能带来严重后果。3. 隐私与安全Privacy and Security模型会记住数据隐私与安全在 AI 场景下有特殊含义。当使用某些数据训练模型时这些数据会以某种方式被整合进模型之中——例如嵌入层中的向量或网络权重里。这带来一个矛盾一方面将数据编码进模型某种程度上提升了数据的安全性与隐私性数据不再以原始明文形式存储另一方面我们必须时刻记住模型是基于哪些数据训练的因为模型可能泄露训练数据中的敏感信息或者在不经意间复述出训练语料中的私密内容。4. 包容性Inclusiveness增强而非替代包容性意味着我们构建 AI 不是为了取代人类而是为了增强augment人类能力、让工作更具创造性。包容性与公平性紧密相关当面对代表性不足的社区underrepresented communities时我们能收集到的大多数数据集很可能是有偏的因此必须确保这些社区被纳入进来并得到 AI 系统的正确处理。5. 透明度Transparency清晰告知与可解释性透明度包含两层要求始终清楚地说明系统中是否使用了 AI、如何使用的在可行的情况下优先使用可解释interpretable的 AI 系统。课程在配套测验中给出了一个有趣的对照与神经网络相比专家系统expert system是典型的可解释 AI——它在 2-Symbolic 课程 中有详细介绍其决策过程可以逐条回溯为什么得出这个结论这正是知识型系统的重要特性。6. 问责性Accountability明确责任归属当 AI 模型做出决策时往往不清楚该由谁对这些决策负责。因此必须厘清 AI 决策的责任归属。在大多数情况下我们希望在重要决策流程中引入人来参与human-in-the-loop让真实的人来承担责任而不是让模型自己负责。配套的课后测验也专门考查了这一原则的正确理解问责性意味着应该有人类参与决策过程并承担相应责任而不是由 AI 系统为其行为负责或由 AI 系统开发者负责详见 etc/quiz-app/src/assets/translations/en/lesson-24.json。负责任 AI 工具箱把原则落到工程实践仅有原则是不够的Microsoft 开发了 Responsible AI Toolbox负责任 AI 工具箱将上述原则转化为可操作的工具集。工具箱包含以下四个仪表盘Dashboard工具对应原则核心能力可解释性仪表盘InterpretML透明度解释模型为何做出特定预测给出全局与局部的可解释性分析公平性仪表盘FairLearn公平性评估模型在不同群体间的表现差异度量并缓解偏见错误分析仪表盘Error Analysis可靠性与安全性定位模型在哪些数据子集上系统性出错帮助发现失败模式负责任 AI 仪表盘Responsible AI Dashboard综合聚合上述分析并内置两个高级分析引擎EconML 与 DiCEEconML因果分析回答what-if问题EconML 是负责任 AI 仪表盘中的因果分析Causal Analysis工具专注于回答如果……会怎样what-if类问题。它不是在相关层面、而是在因果层面评估特征对模型输出的影响帮助分析者理解改变某个特征如收入、教育水平究竟会在多大程度上改变预测结果从而识别真正驱动决策的因素。DiCE反事实分析回答改什么才能改变结果DiCEDiverse Counterfactual Explanations是反事实分析Counterfactual Analysis工具。它允许你查看哪些特征需要被改变才能影响模型的决策。例如当模型拒绝了一笔贷款申请时DiCE 可以告诉你如果把月收入提高 X、把负债率降到 Y申请就会被批准——这种反事实解释让用户不仅知道被拒绝还知道怎么才能被接受是提升模型透明度与可操作性的关键能力。在 AI-For-Beginners 中验证你的理解配套测验与运行方式本课在课程体系中以课前测验 课后测验的形式检验学习成果。测验内容存放在本仓库的 quiz 应用中与课程配套的测验题目见 etc/quiz-app/src/assets/translations/en/lesson-24.json其中包含课前测验Pre Quiz为什么需要担忧 AI 伦理因为 AI 是强大工具且可能伤害他人、必须确保模型不歧视人群、可解释 AI 的典型例子专家系统、AI 用于医疗是否合乎伦理课后测验Post Quiz模型歧视的根源数据集未恰当平衡、哪些不是负责任 AI 原则如聪明不属于原则、问责性的含义应有人参与决策并担责、公平性所对应的问题偏见。完整的测验题库源文件位于 etc/quiz-src/questions-en.txt第 610–639 行为第 24 课相关题目该源文件由 etc/quiz-src/qzmkjson.py 用于生成 quiz-app 所需的 JSON 数据。若想本地运行测验应用可按照 etc/quiz-app/README.md 的说明操作npm install # 安装依赖 npm run serve # 本地开发运行支持热重载 npm run build # 生产构建输出到 dist npm run lint # 代码检查与修复延伸学习与自查清单除了本课内容课程还推荐了两条延伸路径AI 伦理专题可参考机器学习课程中的公平性专题fairness lesson该专题包含配套作业自学路径可系统学习负责任 AI 原则相关的 Learn Path深入理解六大原则在真实业务决策中的应用。结合本文内容你可以用以下清单对任意一个 AI 模型进行负责任体检训练数据中各敏感群体的样本是否均衡模型在不同群体上的表现精确率、召回率差异有多大模型输出的是概率决策流程是否考虑了这一不确定性错误输出的最坏后果是什么训练数据中是否包含敏感个人信息模型是否可能泄露或复述这些信息系统是否向用户明确告知了 AI 的使用模型决策能否被解释重要决策流程中是否有人类参与责任归属是否清晰小结本课是 AI-For-Beginners 课程12 周、24 课的收官之课它把视角从如何构建 AI转向如何负责任地使用 AI。正如课程反复强调的AI 本质上只是大型矩阵算术——它不会叛乱也不存在情感但它可能因为有偏的数据、被误读的概率输出、不透明的决策过程而在现实世界中造成伤害。负责任 AI 的六大原则公平性、可靠性与安全性、隐私与安全、包容性、透明度、问责性正是为系统性防范这些风险而设计而 Responsible AI Toolbox 中的 InterpretML、FairLearn、错误分析仪表盘、EconML 与 DiCE则把这些原则落成了一套可操作的模型审计工具链。赞分享教程人工智能机器学习深度学习【免费下载链接】AI-For-Beginners12 Weeks, 24 Lessons, AI for All!项目地址https://gitcode.com/GitHub_Trending/ai/AI-For-Beginners点击查看免费下载相关推荐AI-For-Beginners 第 24 课负责任 AI 的六大原则、偏见治理与 Responsible AI 工具箱实战指南AI For Beginners 第 24 课负责任 AI 的六大原则、偏见治理与 Responsible AI 工具箱实战指南 在 AI For Begin教程人工智能机器学习深度学习AI-For-Beginners 课程指南从六大负责任 AI 原则到 Responsible AI Toolbox 实践AI For Beginners 课程指南从六大负责任 AI 原则到 Responsible AI Toolbox 实践 本指南以 AI For Beginn教程人工智能机器学习深度学习Wagmi Tempo dex.useWithdraw 指南将代币从稳定币 DEX 提现到钱包Wagmi Tempo dex.useWithdraw 指南将代币从稳定币 DEX 提现到钱包 本文围绕 Wagmi 仓库中 Tempo 生态的 dex.us教程人工智能机器学习深度学习上一篇Claude Desktop for Linux系统兼容性Ubuntu 24.04 AppArmor解决方案下一篇如何打造专属AI助手Open Interpreter自定义模型集成终极指南 创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 AI-For-Beginners 伦理课解析：负责任 AI 的六大原则与工具箱实践指南
教程人工智能机器学习深度学习【免费下载链接】AI-For-Beginners12 Weeks, 24 Lessons, AI for All!项目地址https://gitcode.com/GitHub_Trending/ai/AI-For-Beginners点击查看免费下载本篇技术指南以 AI-For-Beginners 课程的第 24 课AI Ethics 与 Responsible AI位于 lessons/7-Ethics/README.md本文所依据的保加利亚语版本见 translations/bg/lessons/7-Ethics/README.md为核心骨架系统梳理负责任 AIResponsible AI的六大核心原则并逐一解读 Microsoft Responsible AI Toolbox 中可用于落地这些原则的工程化工具。读完本文你将理解为什么AI 不过是大型矩阵运算却依然可能被滥用掌握公平性、可靠性、隐私、包容性、透明度与问责性的判断标准并知道在真实项目中如何借助 InterpretML、FairLearn、EconML、DiCE 等工具为模型做体检。从科幻叙事到工程现实为什么需要负责任 AI经过前面 23 课的学习你应该已经形成这样的认知本课程所讲授的 AI其本质是基于一系列形式化数学方法——从数据中发现关系、训练模型去复现人类行为的某些方面。在当下这个时间点AI 被普遍视为一个从数据中提取模式、并将这些模式用于解决新问题的强大工具。然而科幻作品中常常出现另一种叙事AI 对人类构成威胁情节多围绕AI 叛乱展开——AI 主动对抗人类。这类故事隐含了一个错误的假设AI 拥有某种情感或能做出开发者未曾预料到的决策。课程明确指出本课程中学习的 AI 不过是大型矩阵运算。它是一个非常强大的工具而正如任何强大的工具一样它既可以被用于正当目的也可能被用于不良目的——关键在于它可能被误用misuse。这里的误用既包括刻意为之的恶意使用也包括因训练数据偏差、模型评估不充分而导致的非故意伤害。为了防范这两种误用Microsoft 提出了负责任 AI 原则Responsible AI Principles。负责任 AI 的六大原则负责任 AI 原则由以下六个核心概念支撑每个概念都对应一个具体的工程问题1. 公平性Fairness对抗模型偏见公平性与模型偏见model biases这一重要问题直接相关。偏见通常源于使用了有偏的训练数据。课程给出了一个非常典型的例子当我们要预测一个人获得软件开发者职位的概率时模型很可能给出对男性更高的偏好——仅仅因为训练数据集本身就偏向男性群体。要避免这类问题需要做到两点审慎平衡训练数据让数据中各群体的样本量、特征分布尽量均衡深入调查模型行为分析模型在哪些输入上产生了系统性偏差并确保模型优先考虑更相关的特征而非与任务无关的人口学属性。2. 可靠性与安全性Reliability and Safety正视概率输出AI 模型本质上就可能犯错。神经网络返回的是概率而不是确定性的结论因此在做决策时必须把这一点纳入考量。每个模型都有特定的精确率precision与召回率recall我们必须理解这些指标的含义才能防止错误的建议造成实际伤害——例如在医疗、金融等高风险场景中一个高置信度但错误的输出可能带来严重后果。3. 隐私与安全Privacy and Security模型会记住数据隐私与安全在 AI 场景下有特殊含义。当使用某些数据训练模型时这些数据会以某种方式被整合进模型之中——例如嵌入层中的向量或网络权重里。这带来一个矛盾一方面将数据编码进模型某种程度上提升了数据的安全性与隐私性数据不再以原始明文形式存储另一方面我们必须时刻记住模型是基于哪些数据训练的因为模型可能泄露训练数据中的敏感信息或者在不经意间复述出训练语料中的私密内容。4. 包容性Inclusiveness增强而非替代包容性意味着我们构建 AI 不是为了取代人类而是为了增强augment人类能力、让工作更具创造性。包容性与公平性紧密相关当面对代表性不足的社区underrepresented communities时我们能收集到的大多数数据集很可能是有偏的因此必须确保这些社区被纳入进来并得到 AI 系统的正确处理。5. 透明度Transparency清晰告知与可解释性透明度包含两层要求始终清楚地说明系统中是否使用了 AI、如何使用的在可行的情况下优先使用可解释interpretable的 AI 系统。课程在配套测验中给出了一个有趣的对照与神经网络相比专家系统expert system是典型的可解释 AI——它在 2-Symbolic 课程 中有详细介绍其决策过程可以逐条回溯为什么得出这个结论这正是知识型系统的重要特性。6. 问责性Accountability明确责任归属当 AI 模型做出决策时往往不清楚该由谁对这些决策负责。因此必须厘清 AI 决策的责任归属。在大多数情况下我们希望在重要决策流程中引入人来参与human-in-the-loop让真实的人来承担责任而不是让模型自己负责。配套的课后测验也专门考查了这一原则的正确理解问责性意味着应该有人类参与决策过程并承担相应责任而不是由 AI 系统为其行为负责或由 AI 系统开发者负责详见 etc/quiz-app/src/assets/translations/en/lesson-24.json。负责任 AI 工具箱把原则落到工程实践仅有原则是不够的Microsoft 开发了 Responsible AI Toolbox负责任 AI 工具箱将上述原则转化为可操作的工具集。工具箱包含以下四个仪表盘Dashboard工具对应原则核心能力可解释性仪表盘InterpretML透明度解释模型为何做出特定预测给出全局与局部的可解释性分析公平性仪表盘FairLearn公平性评估模型在不同群体间的表现差异度量并缓解偏见错误分析仪表盘Error Analysis可靠性与安全性定位模型在哪些数据子集上系统性出错帮助发现失败模式负责任 AI 仪表盘Responsible AI Dashboard综合聚合上述分析并内置两个高级分析引擎EconML 与 DiCEEconML因果分析回答what-if问题EconML 是负责任 AI 仪表盘中的因果分析Causal Analysis工具专注于回答如果……会怎样what-if类问题。它不是在相关层面、而是在因果层面评估特征对模型输出的影响帮助分析者理解改变某个特征如收入、教育水平究竟会在多大程度上改变预测结果从而识别真正驱动决策的因素。DiCE反事实分析回答改什么才能改变结果DiCEDiverse Counterfactual Explanations是反事实分析Counterfactual Analysis工具。它允许你查看哪些特征需要被改变才能影响模型的决策。例如当模型拒绝了一笔贷款申请时DiCE 可以告诉你如果把月收入提高 X、把负债率降到 Y申请就会被批准——这种反事实解释让用户不仅知道被拒绝还知道怎么才能被接受是提升模型透明度与可操作性的关键能力。在 AI-For-Beginners 中验证你的理解配套测验与运行方式本课在课程体系中以课前测验 课后测验的形式检验学习成果。测验内容存放在本仓库的 quiz 应用中与课程配套的测验题目见 etc/quiz-app/src/assets/translations/en/lesson-24.json其中包含课前测验Pre Quiz为什么需要担忧 AI 伦理因为 AI 是强大工具且可能伤害他人、必须确保模型不歧视人群、可解释 AI 的典型例子专家系统、AI 用于医疗是否合乎伦理课后测验Post Quiz模型歧视的根源数据集未恰当平衡、哪些不是负责任 AI 原则如聪明不属于原则、问责性的含义应有人参与决策并担责、公平性所对应的问题偏见。完整的测验题库源文件位于 etc/quiz-src/questions-en.txt第 610–639 行为第 24 课相关题目该源文件由 etc/quiz-src/qzmkjson.py 用于生成 quiz-app 所需的 JSON 数据。若想本地运行测验应用可按照 etc/quiz-app/README.md 的说明操作npm install # 安装依赖 npm run serve # 本地开发运行支持热重载 npm run build # 生产构建输出到 dist npm run lint # 代码检查与修复延伸学习与自查清单除了本课内容课程还推荐了两条延伸路径AI 伦理专题可参考机器学习课程中的公平性专题fairness lesson该专题包含配套作业自学路径可系统学习负责任 AI 原则相关的 Learn Path深入理解六大原则在真实业务决策中的应用。结合本文内容你可以用以下清单对任意一个 AI 模型进行负责任体检训练数据中各敏感群体的样本是否均衡模型在不同群体上的表现精确率、召回率差异有多大模型输出的是概率决策流程是否考虑了这一不确定性错误输出的最坏后果是什么训练数据中是否包含敏感个人信息模型是否可能泄露或复述这些信息系统是否向用户明确告知了 AI 的使用模型决策能否被解释重要决策流程中是否有人类参与责任归属是否清晰小结本课是 AI-For-Beginners 课程12 周、24 课的收官之课它把视角从如何构建 AI转向如何负责任地使用 AI。正如课程反复强调的AI 本质上只是大型矩阵算术——它不会叛乱也不存在情感但它可能因为有偏的数据、被误读的概率输出、不透明的决策过程而在现实世界中造成伤害。负责任 AI 的六大原则公平性、可靠性与安全性、隐私与安全、包容性、透明度、问责性正是为系统性防范这些风险而设计而 Responsible AI Toolbox 中的 InterpretML、FairLearn、错误分析仪表盘、EconML 与 DiCE则把这些原则落成了一套可操作的模型审计工具链。赞分享教程人工智能机器学习深度学习【免费下载链接】AI-For-Beginners12 Weeks, 24 Lessons, AI for All!项目地址https://gitcode.com/GitHub_Trending/ai/AI-For-Beginners点击查看免费下载相关推荐AI-For-Beginners 第 24 课负责任 AI 的六大原则、偏见治理与 Responsible AI 工具箱实战指南AI For Beginners 第 24 课负责任 AI 的六大原则、偏见治理与 Responsible AI 工具箱实战指南 在 AI For Begin教程人工智能机器学习深度学习AI-For-Beginners 课程指南从六大负责任 AI 原则到 Responsible AI Toolbox 实践AI For Beginners 课程指南从六大负责任 AI 原则到 Responsible AI Toolbox 实践 本指南以 AI For Beginn教程人工智能机器学习深度学习Wagmi Tempo dex.useWithdraw 指南将代币从稳定币 DEX 提现到钱包Wagmi Tempo dex.useWithdraw 指南将代币从稳定币 DEX 提现到钱包 本文围绕 Wagmi 仓库中 Tempo 生态的 dex.us教程人工智能机器学习深度学习上一篇Claude Desktop for Linux系统兼容性Ubuntu 24.04 AppArmor解决方案下一篇如何打造专属AI助手Open Interpreter自定义模型集成终极指南 创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考