AI伦理（AI Ethics）是探讨人工智能开发与应用中道德原则与价值冲突的领域，回答“AI应该做什么、不应该做什么”这类问题，是AI治理和立法的重要思想基础。
核心议题
- 算法偏见：训练数据中的偏差可能被模型放大，导致性别、种族等方面的歧视性输出
- 隐私保护：AI依赖海量数据，如何在能力与隐私之间取得平衡
- 责任归属：AI造成损失时，应由开发者、部署者还是使用者担责
- 就业影响：自动化对就业结构的冲击与技能再培训
- 自主与安全：自动化系统在关键时刻（如自动驾驶）的决策准则
主要进展
- 欧盟2024年通过《人工智能法案》（EU AI Act），按风险等级对AI进行分级监管
- 联合国教科文组织2021年通过全球首个人工智能伦理建议书
- 国内出台《生成式人工智能服务管理暂行办法》等法规，将伦理要求纳入监管框架
争议与挑战
“对齐”与“自主”的平衡、透明与商业机密的冲突、全球伦理标准不统一，都是当前讨论的焦点。AI伦理没有标准答案，需要技术、法律与公众参与的持续对话。