[大衛選讀] ChatGPT 為學校教育帶來很大的挑戰，但我覺得這更像是個機會，而不是阻礙。
My students are using AI to cheat. Here’s why it’s a teachable moment 這篇文章，說明了一位大學教My students are using AI to cheat. Here’s why it’s a teachable moment 這篇文章，說明了Siva Vaidhyanathan知名文化歷史與大眾傳播學學者兼大學教授，如何看待學生用 AI 作弊，如何適應大型語言模型的導入，並且更積極地帶領學生探究知識與學習的本質。
與其害怕這些，外表形式上做得很好，在內容本質上做得極差的生成式 AI, 不如善用它變成練習思辨的基礎素材。這位教授的教學觀點，值得反思參考。
重點摘要整理如下，全文連結：https://www.theguardian.com/technology/2023/may/18/ai-cheating-teaching-chatgpt-students-college-university
▋我的學生用 AI 作弊，而這正是教學的最佳時機
My students are using AI to cheat. Here’s why it’s a teachable moment
從過去到現在，我們一直在對應各種作弊的方法和技術。在2023年春季的課程中，我的助教在120個學生裡頭，抓到了4個作弊案例。學生們使用像是 ChatGPT 這樣的人工智能語言模型來完成短篇文章。作弊的學生們承認有使用這樣的系統，並且都同意重寫一次作業。
教師們普遍對於學生利用這些系統來規避作業，感到非常驚慌，以致於我們常常忘了，即使是2023年的現在，這些系統其實運作得並不特別好。這些騙人的文章內容很容易被發現。裡頭往往包含了驚人的錯誤，沒有完整呼應原本的題目，或者看起來完全不像這年紀的學生會寫出來的東西。
考慮到這是第一次遇到這樣的作弊行為，我們跟每一位作弊的學生對話討論，並且下定決心要好好把握這樣的時機，大步往學習的目標前進 (toward the goal of learning)。
我教的課程叫做《危機中的民主, Democracy in Danger》。這堂課設計的目的是，讓學生們思考世界各地對民主的威脅，以及其歷史根源。這並不是一堂教學生如何反思 AI 新技術如何使用的課程，但是人工智慧這題目太有趣了，以致於我迫不及待地想把這些問題，一股腦地帶到學生面前。
我對大型語言模型在生活中的突然興起，感到非常雀躍興奮。只要這些技術還不夠成熟，在它們宣稱要做到的事情上還有一堆問題，那它們就很適合拿來做研究。這樣的不完美，揭露了很多潛藏在潮流熱度底下的根本問題。
過去數十年來，我一直在尋找能夠讓學生深入探討語言與溝通本質的方法。人工智能實際上是智慧的嗎？這些系統看起來像是在產生知識 (producing knowledge)，但實際上只是偽裝 (actually only faking it)。這又代表著什麼？
這些系統是透過產生出有意義的散文來運作 (work by generating meaningful prose)，這些散文是取材於我們為全球資訊網所製作的大量語言索引，以及從紙本書籍中掃描進來的資訊。大型語言模型透過生成在統計上有意義的文字 (producing strings of text that statistically make sense)，來假裝看起來像是具有知識的樣子 (fake what looks like knowledge)。
這樣的系統跟現實世界是脫鉤的。當他們做對了什麼，那都只是巧合，只是演算法讓答對的機率很高。這些系統消化了如此多的人類文字，以至於他們能夠預測哪句話在另一句話之後看起來會不錯；以及哪些句子的組合，看起來最適合回應特定的問題。
我們看到的大型語言模型，運作上像是圖書館一樣。只是這是一個沒有圖書館員的圖書館。內容被大規模拆解和去脈絡化 (disembodied and decontextualized)，重組呈現給那些容易被騙上當的讀者。
這些系統在外表形式上做得很好，但在內容本質上做得極差 (good at form; bad at content)。
話說，若是有任何方法可以晃點教授，這一定很吸引人。從很久以前搜尋引擎作為學生抄襲內容的來源，一直到現在的人工智慧新技術，學校教授們持續應對各種作弊的方法和技術。而且每次有新的技術出現，我們都能更進一步地設計出，可以幫助學生更深入學習的新教學任務。
畢竟，寫作本身就是在學習 (Writing, after all, is learning)。說話、辯論、教學也是如此；設計遊戲、寫代碼、創建數據庫、製作藝術也是。
所以，我會要求學生用一些更傳統的知識創造方式，來挑戰他們並幫助他們學習。
我會要求他們在課堂上寫作。這不僅僅是讓他們離開螢幕、搜索引擎和大型語言模型，而且要求他們在當下流暢地思考 (think fluidly in the moment)。即興寫作，要求的是清晰和簡潔 (clarity and concision)。我也將會分配更多的小組報告，並堅持讓其他學生向報告者提問，以產生對特定主題更深入的即時理解 (deeper real-time understanding of a subject)。
更重要的是，我還會要求學生在課堂上使用大型語言模型系統來生成文本，並評估其價值和有效性 (value and validity)。
我可能會要求 AI :「用 Siva Vaidhyanathan (知名文化歷史與大眾傳播學學者，本文作者) 的風格，寫一篇關於人工智慧運用在課堂中的文章」。然後，我們這一班的所有人，將會一起去查找文本和引用的來源，並評估這份文本生成的整體結果好壞。
很多人開始對 AI 高度關心，是因為對於不理解的事情會感到恐慌。像是人工智能會產生意識，並且控制人類的生活，或是會造成大量失業等。這些預測的背後都假定著，人工智能的商業應用可以照我們所想的那樣發揮既定的效果。但幸運的是，大多數狀況不會是如此完美。
但這並不代表，我們應該忽視那些目前存在的、設計跟部署不良的系統，所帶來的嚴重危險。多年來，演算預測模型已經扭曲了美國刑事司法中的警察工作和判刑程序，對黑人造成了不成比例的監控和刑罰。機器學習系統也已經在保險和醫療保健系統中運行，然而在大多數的情況下，欠缺足夠的透明度與監管措施。
我們同時犯下了兩個嚴重的錯誤，逃避跟過度擔憂。
我們因為人工智慧看起來過於神秘和複雜，而想要逃避它。這使得那些不當且有害的新科技使用，變得視而不見，而且沒有被充分討論。同時，我們對未來最壞的情況感到過度擔憂，這些更像是電影《駭客任務》中的虛擬情境，而不是我們實際上會遇到的真實世界。
我們可以做得比這更好。身為教師，我會在未來提供更好的教學，而非忽視這些系統的存在。
不要逃避，也無須悲觀。這正是教學的最佳時機。