收益:
- 能够在人工智能的支持下总结缺勤、学业和行为观察等数据,并准备后续表格和观察笔记
- 能够编写提示,将决定留给专家,同时生成摘要,以便更容易地发现早期预警的模式
- 了解人工智能会降低学生的风险和偏见的危险,并能够看到早期预警应始终与专家观察和访谈相结合。
PDR 专业人员的重要工作之一是长期监控学生:出勤模式、学业进步、行为观察、社会关系、面试历史。这种监控旨在及早发现学生何时可能需要支持;这称为预警。早期预警意味着在问题升级之前根据可观察到的迹象(缺勤突然增加、成绩下降、退学)启动支持。但这个领域既非常有用,又非常危险:如果使用得当,它可以准时联系到学生;如果使用得当,它可以及时联系到学生。如果使用不当,它会让学生陷入“风险标签”。
在本单元中,我们将学习使用人工智能作为辅助工具,总结分散的跟踪数据并使模式可见。最关键的原则:人工智能可以指出模式,但它无法评估学生或宣布他或她“处于危险之中”。预警总是与专家的观察和与学生的讨论相结合;最终的评估和决定由专家做出。我们还回顾一下危机边界:如果后续数据表明存在严重风险(例如,学生的情况表明存在迫在眉睫的危险),则这是危机情况,并且第 9 单元中的协议将发挥作用;不是人工智能。
看到模式和给它们贴上标签之间的微妙界限
单独追踪数据是没有意义的;上下文赋予意义。缺勤率增加三周;它可能与疾病、家庭状况或学校的困难有关。人工智能可以在表格或摘要中显示这种增加(“过去三周缺勤率显着增加”);这是一个有用的提示,可以吸引专业人士对该学生的注意。危险在于,AI(或专家,基于AI)会从这个信号跳到一个判断:“这个学生有风险/有问题/被忽视。”这种跳跃可能是错误的,并且会给学生带来耻辱。
规则:AI发出信号,专家构建意义。摘要是开始对话的理由,而不是结论。如果不与学生交谈,任何迹象都不会成为评估。
另一个微妙之处是组合数据源时要小心。出勤率、成绩趋势和行为监控各自有意义,但让人工智能将它们组合为单个“风险评分”会产生误导。学生的缺勤率可能会增加,因为他或她患有慢性健康问题;这并不是学业失败的迹象。将不同类型的数据塞进一个数字中会掩盖学习者的现实情况并产生错误的优先级。正确的方法是将每种类型的数据视为单独的“符号”,并将整体留给专家来解释。 AI可以整理数据;但它不应该将它们焊接成一个单一的判断。同样,一个信号持续“多久”也很重要:一周的波动和持续三个月的趋势有着截然不同的含义,这个时间维度又需要专家来解读。
注意:将学生列为“有风险”的打印输出可能会永久影响该孩子在学校的看法。为了防止此类标签进入流通,预警打印输出应保密,并仅用于支持目的并在专家监督下使用。
偏见:谁算作“风险”很重要
预警中的偏见是一个严重的司法问题。如果系统(或人工智能简介)不成比例地将来自某个社会经济群体、某个社区或某些行为模式的学生标记为“有风险”,这就会使偏见制度化。专家必须区分哪些迹象真正表明支持,哪些仅表明一种模式;应单独、公平地对待每个学生。不应毫无疑问地采用人工智能产生的“风险”语言。
一步一步:从数据到支持
- 匿名收集数据。使用“学生 A/B/C”而不是 ID 代码来组织出勤、观察和成绩进度等数据。
- 总结一下人工智能。总结现象层面的模式和显着变化。
- 选择标志。专家决定哪些摘要值得采访。
- 观点。与发出信号的学生交谈;了解上下文。
- 评估和计划。专家建立意义和支持。
- 保持黑暗。共享支持目的之外的产出;请勿传播该标签。
可复制模板
1)追踪数据汇总:
您的角色:PDR 数据编辑助理。添加判断、“风险”标签或建议。任务:按学生总结以下事实级别的匿名缺勤/观察数据;说明任何显着的变化(增加/减少)。评估和决定是我的;您只需使模式可见。数据:[粘贴匿名数据]
2) 会议事由清单:
从下面的匿名摘要中,列出可能构成发起支持对话的理由的事实。为每一项写一个句子中立的原因(例如“过去三周缺勤率有所增加”)。不要使用“有风险/有问题”之类的标签。摘要:[匿名摘要]
3)跟踪表编辑:
将以下匿名后续注释排列到一个表格中,其中包含日期、观察到的现象、计划的步骤和结果。不要添加评论,保留事实。注释:[匿名注释]
4)面试前的准备:
您的角色:PDR 助理。我正在准备与一名 14 岁学生举行一次支持性会议,该学生的出席人数有所增加。建议 8 个非评判性、开放式且不会让学生产生防御心理的准备问题。
弱提示/强提示
弱:
查看该班级的缺勤名单,标记有风险的学生。
它让人工智能成为法官,要求它给出一个“有风险”的标签,没有上下文,也没有对话。
强:
您的角色:PDR数据编辑助理,添加“风险”标签。在下面的匿名缺勤数据中,总结(在现象层面)过去 3 周内表现出重大变化的学生。对于每一个,只写出改变的地方;我会做出评论和决定。数据:[匿名数据]
它发出信号,但不标记;决定权在专家手中。
三个迷你箱子
案例 1 — 有用的标志。一位专家很难追踪 200 名学生的班级中的个人缺勤情况。他拥有人工智能汇总的匿名数据;一名通常不被注意的学生的缺勤率悄然但稳定地增加,却脱颖而出。专家发言;他上午了解到该学生遇到交通问题,并提出了切实可行的解决方案。人工智能发出信号,专家和学生构建解决方案。
情况 2 — 从标签返回。一份人工智能摘要将一名学生描述为“行为高风险”;而在专家的数据中,只有“两次要求转职”的现象。专家拒绝了这个标签,并与该学生交谈,发现该请求源于与一群朋友保持距离的愿望。该标签可能会不公平地侮辱孩子;专家过滤器阻止了这种情况。
案例 3 — 偏差检查。一位专家注意到,人工智能生成的“风险”列表不成比例地包括来自特定社区的学生。他没有使用这份名单,认为这可能反映出偏见;相反,它对所有学生采用公平、基于事实的标准。因此,支持是根据实际需要而不是耻辱来分配的。
常见错误
- 让人工智能标记“有风险”。颠覆司法的工具。解决方案:人工智能显示现象/变化,专家做出判断。
- 无需面试即可评估。不仅仅是查看数据并与学生交谈。解决方案:每个标志都通过对话获得背景信息。
- 忽略偏见。采用基于模式的“风险”列表。解决方案:控制正义和个性。
- 流通标签。分享“危险学生”名单。解决方案:隐私和支持目的限制。
- 将其与危机混淆。将严重风险迹象视为常规监测。解决方案:激活危机协议(单元 9)。
表:符号还是判断?
输出
类型
该怎么办
“过去三周缺勤率有所增加”
迹象(现象)
见面原因
“这个学生有危险”
判断(标签)
拒绝,回归现实
“两个学期成绩一直在下降”
迹象(现象)
见面原因
“他的家人忽视了他”
判断/推理
拒绝,返回观察
“会议频率减少了”
迹象(现象)
专家评价
综上所述
在学生跟踪方面,人工智能是一个有用的辅助工具,它可以汇总分散的数据并使模式可见;但它无法评估学生或宣布其“处于危险之中”。人工智能给出信号,专家构建意义。将每个迹象与对话联系起来,检查是否存在偏见,分发标签,并在出现严重风险迹象时切换到危机协议。预警的目的不是污名化,而是提供及时、公正的支持。
应用任务
为虚构的教室创建匿名出勤/观察数据。让AI通过“追踪数据汇总”模板进行事实层面的汇总。检查输出:AI是否添加了任何“风险/问题”标签或判断?标记、删除并创建一个仅基于事实的、中立的讨论理由列表。然后问偏见问题:列表是否以某种模式堆叠?
清单
- [ ] 在将数据提供给工具之前,我对数据进行了匿名处理。
- [ ] 我在提示中写了“添加风险标签/判断”限制。
- [ ] 我将人工智能的输出保持在事实/符号级别,自己做出判断。
- [ ] 我通过采访了解了每个标志的背景。
- [ ] 我检查了偏见并将标签保密。