【ダイジェスト】
2023年春、ChatGPTの周囲で高まる期待の中、大学の教員たちは学生が機械に思考を委ねることへの懸念を抱いていました。多くの大学がAI検出ソフトウェアを導入し、その結果、あるエッセイが「100% AI生成」と判定されました。このエッセイは、ChatGPT時代以前から一貫して優れた作品を提出していた優秀な学生のものでした。学生は、スペルや文法のチェックに大学が認めたサポートソフトウェアを使用しており、そのソフトウェアが限定的な生成AI機能を含んでいたため、ChatGPTと誤認されたと主張しました。
AI検出ソフトウェアを提供するTurnitinは、エッセイが予測可能なパターンで単語を組み合わせているか、人間特有のスタイルであるかを測定します。しかし、このツールは決定的ではなく、「X% AI生成」というラベルの下にある細字のリンクをクリックすると、「可能性がある」と認める免責事項が表示されます。
AI検出ソフトウェアは、学生と教員をAIの推測ゲームに巻き込んでいます。学生がAI検出を回避するためのヒントや、信頼性の低いAI検出に基づく誤った非難をどう回避するかについての情報をオンラインで共有しているのは容易に見つかります。
この学生がAI検出器の判断に異議を唱えたとき、私は控訴を認めました。しかし、これは信頼できる証拠なしに高いリスクを伴う判断でした。多くの学者がAIに対する疑念を高めていますが、ChatGPTは大学レベルの平凡なエッセイを書くことが可能です。しかし、大学がこれを武器競争として扱う場合、追加のサポートに依存する学生に不利益をもたらす可能性があります。
AIとの協力ではなく、それに対する戦いに加わることで、インターネット以来の最大の技術革新が教育における持続的な不平等を固定化するという皮肉を避けるチャンスがあるかもしれません。
【ニュース解説】
2023年春、ChatGPTを巡る期待が高まる中、大学の教員たちは学生が機械に思考を委ねることへの懸念を抱いていました。この背景のもと、多くの大学がAI検出ソフトウェアを導入し、その結果、あるエッセイが「100% AI生成」と判定される事態が発生しました。このエッセイは、ChatGPT時代以前から一貫して優れた作品を提出していた優秀な学生のものでしたが、学生はスペルや文法のチェックに使用した大学認定のサポートソフトウェアが限定的な生成AI機能を含んでいたため、ChatGPTと誤認されたと主張しました。
AI検出ソフトウェアは、エッセイが予測可能なパターンで単語を組み合わせているか、人間特有のスタイルであるかを測定しますが、このツールは決定的ではなく、「X% AI生成」というラベルの下にある細字のリンクをクリックすると、「可能性がある」と認める免責事項が表示されます。このように、AI検出ソフトウェアは、学生と教員をAIの推測ゲームに巻き込んでいます。
この状況は、学生がAI検出を回避するためのヒントや、信頼性の低いAI検出に基づく誤った非難をどう回避するかについての情報をオンラインで共有していることからも明らかです。学生がAI検出器の判断に異議を唱えた場合、教員は信頼できる証拠なしに高いリスクを伴う判断を迫られることになります。
このような背景のもと、大学がAIとの武器競争として扱う場合、追加のサポートに依存する学生に不利益をもたらす可能性があります。しかし、教育における持続的な不平等を固定化するという皮肉を避けるためには、AIとの協力が鍵となるでしょう。
この事例は、AI技術の進化が教育分野にもたらす影響の一例です。AIによるエッセイ生成が可能になることで、学生の学習方法や教員の評価方法に変化が求められるようになります。一方で、AI検出技術の信頼性や公平性に関する問題が浮き彫りになり、学生の創造性やオリジナリティを評価する新たな方法の模索が必要になってきます。また、AI技術の進化に伴い、教育現場でのAIの活用方法や倫理的な問題についても、より深い議論が求められるようになるでしょう。
from The software says my student cheated using AI. They say they’re innocent. Who do I believe? | Robert Topinka.
