
来源:新闻与观察家
在北卡罗来纳州凯瑞(Cary),15岁的埃莉诺·卡尼娜(Eleanor Canina)和她的母亲斯泰西·德科斯特(Stacy De Coster)正为洗清她的名誉而努力,同时也希望保护其他学生不被错误指控使用人工智能。
卡尼娜在一项英语作业中被打了“0分”,老师在评分中写道:“检测结果显示该作业可能由AI辅助完成。”
令人意外的是,卡尼娜本人其实对AI持相当批评的态度,但她却因“疑似使用AI”而被判不及格。母女二人表示,维克县(Wake)的教师不应依赖那些已被证明可能不准确的AI检测工具。
“我们当然不能让人随意用AI完成作业,”卡尼娜说,“但说实话,最重要的是防止有人被误判。”
由于学生隐私规定,维克县学区没有直接回应该家庭的具体指控。但在一份声明中,学区表示,人工智能在教育中的应用仍是一个快速发展的新领域。
“我们的核心职责是教学与学习,”声明称,“教师必须能够准确评估学生作业,同时也有责任确保评价过程公平一致。”
学校对AI使用的担忧上升
学生使用AI完成作业的问题,已成为K-12学校及高校日益关注的议题。2024年,北卡州公共教育部门曾发布AI使用指导意见。
卡尼娜也承认AI存在风险,包括数据中心带来的环境影响,以及替代学生思考的伦理问题。
“这会让人停止独立思考,用它逃避学习从长远来看没有任何好处,”她说。
然而,她没想到,当她上周查看成绩时,发现自己关于《罗密欧与朱丽叶》第一幕的作业被打了0分。这是她成绩单上唯一的低分,其余课程几乎都是满分。
她的母亲表示,问题可能早有隐患——这门英语课的原任教师已辞职,目前由长期代课教师负责课堂,而作业则由其他不熟悉学生写作风格的老师批改。
教师依赖AI检测工具
卡尼娜母女第一时间联系了该教师。母亲建议老师将该作业与女儿过往写作进行比对,并查看Google文档的编辑记录,以证明写作过程的真实性。
但老师表示,他将作业提交给了三个不同的AI检测工具,结果显示AI生成或辅助的概率分别为62%、75%和87%。
对此,德科斯特指出,大量研究表明AI检测工具存在较高误判率。因此,州教育部门的指导意见明确建议学校“谨慎使用AI检测工具”。
指导文件指出:“AI检测工具并不可靠,绝不应作为判断学生作弊的唯一依据。”同时还提到,这类工具对非英语母语者和创意写作者误判率较高,而熟练使用AI的学生反而更容易规避检测。
今年2月,多家媒体还报道,一名纽约学生因AI检测被指抄袭,最终法院判其胜诉。
维克县学区表示,他们遵循州指导意见,不强制使用AI检测工具,并鼓励教师通过多种方式评估学生,例如查看写作过程和历史记录。
学生发起请愿,呼吁规范AI检测使用
该教师在邮件中承认AI检测工具存在局限,但表示在当前“无法直接了解学生”的情况下,他只能依赖现有证据。
他提出可以让卡尼娜完成替代作业,但被拒绝。随后学校提出由另一位英语教师重新评分原作业。
但卡尼娜母女认为,这并未解决根本问题——即教师过度依赖AI检测工具。
于是,卡尼娜发起了一项在线请愿,呼吁在学校中“负责任地使用AI检测工具”,并建立机制保护学生免受误判伤害。
AI检测是否正在扼杀创造力?
在请愿中,有学生留言称,自己曾因“词汇丰富、语法错误少”而被AI检测工具判定为AI生成。
德科斯特表示,她的一位朋友甚至担心,自己孩子因为写作水平高而被误判。
在卡尼娜的案例中,母亲怀疑她使用了“the titular character(该书名人物)”等词汇,导致被标记。
卡尼娜本身热爱阅读与写作,词汇量丰富。
“现在她写作时总担心被误判,”母亲说,“我甚至不知道该不该让她‘收敛一点’,写得简单些,避免被系统标记。”
但卡尼娜态度坚定:
“我不会因为这种不公平的事情改变自己的写作方式,”她说,“我希望改变的是这个系统,而不是我自己。”
