们无法改变底层数据集或代码行

[samiul123]

学校已经在使用人工智能来预测学生辍学的风险，为学生分配“学分”，并筛查他们的言语和语言障碍。经过中西部口音训练的阅读软件可能会错误地将正确但用方言说出来的话误认为是错误。筛查软件可能会推荐学生接受不需要的特殊教育服务，或者忽略需要额外挑战的学生。经过中产阶级白人孩子撰写的论文训练的作弊检测软件会错误地将英语学习者撰写的论文标记为抄袭。

越来越多的学校也开始将人工智能聊天机器人纳入课堂，作为入门活动、反馈机器、个人辅导员或论文和辩论的头脑风暴工具。想象一下，如果相关软件带有亚历山大·奥卡西奥-科尔特斯或史蒂夫·班农的政治偏见——无论谁更让你反感。或者，如果基于故事的学习应用程序总是生成种族主义原型来呈现给学生。

教育工作者该怎么办？学区工作人员和教师不是软件工程师。他们无法改变底层活中发 企业主数据 挥着数据集或代码行来纠正这些偏见。更重要的是，人工智能软件很可能永远带有各种偏见。

但他们确实控制着将哪些决定委托给人工智能软件以及何时推翻其建议。抵消人工智能偏见的明显方法与更广泛地采用人工智能的最佳实践相同：让人类参与其中。

想想我之前与学生和家长进行的一次出乎意料的艰难对话：孩子应该接受 ESL 服务吗？我教过英语水平严重有限的新移民，他们的父母坚决反对让他们参加 ESL 课程。他们不希望自己的孩子被孤立并被贴上标签，而是希望让他们进入主流班级。

即使预测算法不断改进，这些家长仍然必须有发言权。即使他们能够访问大量数据，并且计算能力远超人类，如果算法确定 ESL 服务有利于孩子的语言发展，他们仍然必须被允许选择退出。毕竟，孩子的生活比语言更重要。