66. AI Ethics与负责任的AI使用¶

真实案例：
- 亚马逊AI招聘系统歧视女性（训练数据来自过去10年的简历，男性主导）
- 医疗AI对深色皮肤患者诊断准确率低（训练数据中白人图像占多数）
- 犯罪预测AI对少数族裔判高风险（历史逮捕数据本身有种族偏见）

# 公平性检测：比较不同群体的预测结果
from sklearn.metrics import confusion_matrix

# 分别计算男/女群体的假阳性率（FPR）
def demographic_parity(y_true, y_pred, sensitive_attr):
    """检查不同群体的正预测率是否接近（人口统计均等）"""
    groups = set(sensitive_attr)                      # 获取所有群体
    rates = {}
    for g in groups:
        mask = [s == g for s in sensitive_attr]        # 筛选该群体
        y_g = [y for y, m in zip(y_pred, mask) if m]  # 该群体的预测结果
        rates[g] = sum(y_g) / len(y_g)                # 正预测率
    return rates  # 理想情况下各群体比率应接近

# SHAP值解释模型预测（白话：告诉你每个特征贡献了多少）
import shap

# 训练好模型后
explainer = shap.TreeExplainer(model)    # 创建解释器
shap_values = explainer.shap_values(X_test)  # 计算SHAP值

# 可视化：哪个特征对预测影响最大
shap.summary_plot(shap_values, X_test)   # 全局特征重要性图
shap.force_plot(                          # 单个样本的解释
    explainer.expected_value,
    shap_values[0],                       # 第一个样本的SHAP值
    X_test.iloc[0]                        # 第一个样本的特征值
)

问题：AI诊断说没事，结果病人真的有病。谁负责？
- AI开发公司？（提供了工具）
- 医生？（最终决策者）
- 医院？（使用了AI系统）

现状：
- 多数国家法规要求AI只能作为"辅助诊断"，最终决策权在医生
- FDA对医疗AI实施分级审批（Class I/II/III），高风险需临床试验
- 2024年后，越来越多国家要求医疗AI通过上市前审批（premarket review）

特殊性：
- 基因数据是终身不变的（不像密码可以改）
- 基因数据不仅涉及本人，还涉及血亲隐私
- 基因歧视风险：保险公司/雇主可能基于基因信息歧视

保护措施：
- GINA法案（美国）：禁止基于基因信息的就业和健康保险歧视
- GDPR（欧盟）：基因数据属于特殊类别个人数据，需要明确同意
- 中国《生物安全法》+《个人信息保护法》：人类遗传资源需审批

现状（2025年）：
- AI可以加速药物筛选（从数百万化合物中找候选药物）
- 但AI发现的候选药仍需通过完整的临床试验流程（Phase I/II/III）
- FDA在2023年发布了AI/ML在药物开发中的指南草案
- AI生成的分子不能跳过安全性验证

争议点：
- AI可以预测CRISPR编辑的脱靶效应（off-target）
- 但AI辅助的基因编辑是否能用于人类胚胎？
- 贺建奎事件（2018）后，各国严格限制人类胚胎基因编辑

# 检查数据集是否均衡
import pandas as pd

def check_data_balance(df, target_col, sensitive_cols):
    """检查数据集在敏感属性上是否均衡"""
    print(f"总样本数：{len(df)}")
    print(f"\n目标变量分布：")
    print(df[target_col].value_counts(normalize=True))   # 目标变量比例

    for col in sensitive_cols:
        print(f"\n{col} 分布：")
        print(df[col].value_counts(normalize=True))       # 敏感属性比例

        # 交叉分析：不同群体的目标变量分布
        print(f"\n{col} × {target_col} 交叉表：")
        ct = pd.crosstab(df[col], df[target_col], normalize="index")  # 按行归一化
        print(ct)

# 使用示例
check_data_balance(df, target_col="disease", sensitive_cols=["gender", "ethnicity"])

# LIME 解释器示例
from lime.lime_tabular import LimeTabularExplainer

explainer = LimeTabularExplainer(
    X_train.values,                    # 训练数据
    feature_names=X_train.columns,     # 特征名
    class_names=["健康", "患病"],       # 类别名
    mode="classification"              # 分类任务
)

# 解释单个预测
exp = explainer.explain_instance(
    X_test.iloc[0].values,             # 待解释的样本
    model.predict_proba,               # 模型预测函数
    num_features=10                    # 显示前10个重要特征
)
exp.show_in_notebook()                 # 在Jupyter中显示

# 使用fairlearn库进行公平性评估
# pip install fairlearn
from fairlearn.metrics import MetricFrame
from sklearn.metrics import accuracy_score, recall_score

# 按敏感属性分组计算指标
metric_frame = MetricFrame(
    metrics={
        "accuracy": accuracy_score,     # 准确率
        "recall": recall_score          # 召回率
    },
    y_true=y_test,                      # 真实标签
    y_pred=y_pred,                      # 预测标签
    sensitive_features=df_test["gender"] # 敏感属性
)

print("各组指标：")
print(metric_frame.by_group)            # 分组查看
print(f"\n组间差异：")
print(metric_frame.difference())        # 最大差异

使用AI输出前的验证清单：
1. 交叉验证：不要只信一个AI的结果，用多种方法验证
2. 文献对照：AI的发现是否与已有文献一致？如果不一致，为什么？
3. 生物学常识：AI的结果在生物学上是否说得通？
4. 统计显著性：p值/FDR是否达标？效应量是否有意义？
5. 可视化检查：画图看看数据和结果，肉眼检查异常

允许：
- 用AI辅助写代码，自己理解并审查每一行
- 用AI解释别人的代码
- 用AI帮忙调试Bug

灰色地带：
- 课程作业中使用AI（取决于课程政策）
- 用AI生成的代码直接提交（是否声明？）

禁止：
- 直接提交AI代码声称是自己写的（知识产权问题）
- 用AI绕过代码检查/抄袭检测

允许：
- 用AI辅助选择统计方法
- 用AI编写分析脚本，自己验证结果
- 用AI解释统计结果

危险行为：
- 让AI反复分析直到得到"显著"结果（p-hacking）
- 不理解分析方法就直接用AI的结果
- 不验证AI的分析代码是否正确

Nature / Science：
- 要求作者声明是否使用了AI工具
- AI不能作为论文共同作者
- 作者对AI生成的内容承担全部责任

中国科技期刊：
- 中国科协2023年发布《关于在学术论文署名中规范使用AI的指导意见》
- AI工具应在方法部分说明使用方式
- AI不列为作者

核心思路：按风险等级分类管理

不可接受风险（禁止）：
  - 社会评分系统（中国式社会信用）
  - 实时远程生物识别（公共场所人脸识别）
  - 操纵人类行为的AI（利用弱势群体的AI）
  - 基于敏感特征的分类系统

高风险（严格监管）：
  - 医疗诊断AI
  - 招聘筛选AI
  - 信用评估AI
  - 关键基础设施AI
  → 要求：透明度报告、人工监督、数据质量、准确性评估

有限风险（透明度义务）：
  - 聊天机器人：必须告知用户在和AI对话
  - Deepfake：必须标注是AI生成的内容

最小风险（无特殊要求）：
  - AI邮件过滤、游戏AI等

主要法规：
1.《生成式人工智能服务管理暂行办法》（2023年8月生效）
   - 适用范围：面向中国境内公众提供生成式AI服务
   - 核心要求：
     * 训练数据合法
     * 不得生成违法内容
     * 向用户标识AI生成内容
     * 保护个人信息

2.《互联网信息服务深度合成管理规定》（2023年1月生效）
   - 针对Deepfake等深度合成技术
   - 要求添加标识

3.《科技伦理审查办法（试行）》（2023年12月生效）
   - 涉及人的科技活动需伦理审查
   - AI相关研究纳入审查范围

4.《网络安全法》+《数据安全法》+《个人信息保护法》
   - AI开发中的数据合规基础法律