教授们尝试“限制性人工智能”来辅助写作教学||《世界教育动态》2024年第13期先睹为快！

ChatGPT一年半前刚问世时，有教授担心学生会直接跳过主动思考环节，转而找它代写书面作业。对此，卡内基梅隆大学的石崎杉教授和大卫·考夫教授的第一反应是——ChatGPT有望帮助学生提高写作技巧。不过，他们确实也担心学生可能滥用人工智能工具。目前，这种忧虑仍然存在。

此外，这两位教授还产生一个想法 ，即设置一套独特的“防护栏”，使人工智能成为一种新型的教学工具， 帮助学生在作业中融入更多的个人见解，同时减少其在句子格式上不必要的时间消耗。 考夫教授回忆道：“当外界普遍担忧人工智能会‘接管’学生手中的写作任务时，我们却认为， 若能适当设定AI的使用界限，AI有望减轻学生在文本修正上的负担。这样一来，他们会有更多的时间和精力去关注写作，真正思考并表达自己的想法。 ”他们将这种方法命名为“限制性生成式人工智能”，并研发了一个软件工具原型myScribe，在课堂环境中进行实践探索，目前已在10门课程中投入试用。

数十年来，石崎杉教授和大卫·考夫教授一直合作开发工具，探究写作教学。他们之前开发了DocuScope系统，利用算法技术监测学生写作的模式，并将这些模式进行可视化呈现。新研发的myScribe有一个显著的功能亮点，即“笔记至文本生成功能”（“Notes to Prose”），对接ChatGPT， 能将学生输入的零散要点或杂乱想法转化为句子或段落草稿。 石崎杉教授说 ：“ 写作的瓶颈在于句子的生成，即把想法变成句子。这是一项艰巨的任务，认知负荷而言确实过于繁重 。”换句话说，特别是对于初学写作的人来说，既要想出新点子，又要牢记造句的所有规则是很困难的，就像初学驾驶的人很难同时掌握道路环境和驾驶技巧一样。“当时我们想，‘我们真的能用生成式人工智减轻这种认知负担吗？’”

石崎杉教授和大卫·考夫教授共同指出，“笔记至文本生成功能”的开发需要不断实验。石崎杉教授说，在利用ChatGPT进行的早期实验中，当输入字词片段并请求其生成句子时，他们发现：myScribe机器人倾向于在生成的文本中加入很多新想法。换句话说，myScribe机器人凭借其庞大的训练数据支撑，添加大量额外信息，从而完成一篇文章。为此，他们设计了一套详细完整的提示指令，以确保myScribe机器人在生成文本时避免引入新观点或新概念。

斯塔茜·罗尔巴赫表示，她注意到学生在写作中滥用ChatGPT的现象，并认为有必要限制性使用此类工具。“这是我第一年在学生作业中看到大量由人工智能生成的文本。虽然句子的框架是正确的，学生的想法却消失了，最后文章也变成了胡言乱语。”

考夫教授说，到目前为止，他们的测试都是有效的。在后续电子邮件采访中，他写道：“值得注意的是，‘笔记至文本生成功能’是以段落为单元运行的。这意味着，如果该功能的运作超出了笔记的界限（或者产生了‘幻觉’），那么这种偏离会很明显，也会容易被识别出来。若讨论更大的话语单元，可能就需更加担忧产生‘幻觉’的情况了。”