AI 素养 · 专题 17
数据、偏见与隐私
分类器模拟器。改变样本分布，观察‘整体准确’可能掩盖的分组错误。
作品工作台：分类器模拟器
调整阈值和样本比例，查看混淆矩阵与分组错误率。 这是一个可直接操作的离线小作品，用来验证提示词和代码修改。
先操作作品，再把结果写进测试表。
提示词版本对比
帮我做一个 AI 分类器。
用不含个人敏感信息的玩具数据解释特征、标签、训练和误判，先给实验设计。
只实现规则分类、混淆矩阵和分组错误率，不声称这是现实模型。
某一组误判率很高，请分析数据分布、阈值和特征选择，避免把责任归给学生。
每个独立作品都应打开后实际操作，再把输出差异和验证证据写进学习档案。
学习大纲
- 特征、标签、准确率、误判、分布、公平性
- 改变样本分布，观察‘整体准确’可能掩盖的分组错误。
- 完成：调整阈值和样本比例，查看混淆矩阵与分组错误率。
学习过程
- 建立玩具数据
- 运行规则分类
- 改变阈值
- 改变样本分布
- 写隐私与公平反思
实验与反思
- 总体准确率高是否代表公平？
- 哪些特征可以被删除以减少不必要的数据收集？
反思出口卡
哪个提示词改动最有效？AI 哪一点需要验证？你自己新增了什么规则？下一次只改一个变量，你会选什么？