據巴西媒體報導, 巴西國家教育委員會（CNE）是隸屬於教育部的一個機構，該委員會於本週二（9月1日）決定，禁止在各級學校使用人工智慧（AI）進行論文和筆試的評分和成績評定。這項決定是CNE批准的一項關於人工智慧的新指導方針的一部分。除其他事項外，該指導方針禁止幼稚教育階段和小學低年級（直至五年級）的兒童直接且未經監督地使用人工智慧工具。
該指導方針將在《巴西聯邦官方公報》上發佈後生效。然而，各教育系統和教育機構將有12個月的過渡期（自決議發佈之日起計算）來適應新規。但該意見中規定的禁令將立即生效。
新規詳見《巴西教育中使用人工智慧指導方針》。該檔是指導學校、大學以及公立和私立教育系統將人工智慧融入教育過程的重要國家級檔。
該指南旨在為中小學和大學使用人工智慧技術建立一套“倫理教育篩檢程式”。
該指南涵蓋所有教育階段、所有教育模式，其基本原則是“人工智慧應增強人類和教育能力，但不能取代人類的責任、教育指導和判斷”。
總而言之，有哪些變化？
論文和筆試：人工智慧將無法批改、評估或給出成績建議。
選擇題：人工智慧可以作為輔助工具，但結果必須由人工驗證。
成績和評定：相關決定不能完全由自動化系統做出。
人工智慧檢測：檢測結果本身不能作為懲罰學生的依據。
五年級及以下：兒童不能在沒有監督的情況下直接使用人工智慧工具。
課程設置：人工智慧教學應循序漸進地融入各個學科。
學生數據：學校和大學必須採取保護措施並監管技術提供商。
大學：必須制定自身關於人工智慧在教學、科研、推廣和管理中應用的政策。
禁止用途：禁止的用途包括情緒識別、社交評分、持續生物特徵監控以及教育數據的商業利用。
適應期：各機構和網路將在決議發佈後有 12 個月的時間來調整其政策和合同，但決議中規定的禁令立即生效。
考試閱卷方式的變化
該決議對不同類型的評估做出了重要區分。
論文和開放式問題：人工智慧不得用於批改、評估、評分、給出概念或對學生的作業進行評判。人工智慧也不得用於預先批改或向教師提供建議分數。
客觀題：情況有所不同。人工智慧工具可以用於輔助批改，但這種用途被認為風險較高。批改結果需要經過有效、事先、合格且有記錄的人工驗證。教師不能簡單地點擊機器生成的結果的“批准”按鈕。
此外，機構必須保存記錄，以便核實糾錯過程的執行情況，允許對結果提出異議和進行修改，並追蹤系統中可能存在的錯誤和偏差。
教師仍需對評估負責。
該指南的核心邏輯是，人工智慧可以作為輔助工具，但不能取代教學判斷。
所謂的“人工指導”意味著教師和機構仍然負責定義活動目標、選擇工具、監控其運行情況，並對技術生成的結果進行批判性分析。
人工監督不應僅僅是事後處理或形式上的審查。
人工智慧可以繼續用於輔助教學計畫、材料整理、翻譯、總結和內容改編等工作。
它還可以支持輔助功能活動，例如轉錄、字幕和螢幕閱讀，前提是必須遵守數據保護規則和指南中規定的限制。
AI檢測器本身不能懲罰學生
另一項重要變化涉及所謂的AI生成內容檢測器。
這些工具可以作為調查的輔助手段，但學校或大學不能僅憑自動檢測器的結果就對學生進行學術或紀律處分。
實際上，這意味著，即使系統顯示某段文字“似乎是由……撰寫的”，也不能僅憑此就對學生進行處罰。
僅憑人工智慧本身不足以作為判定學生不及格、停學或受到懲罰的充分證據。
五年級及以下兒童不得單獨使用人工智慧。
相關指南為幼兒提供了具體的保護措施。
在幼稚教育和小學低年級（五年級及以下），學生不得直接、自主、單獨或無人監督地使用人工智慧工具，尤其是生成式、對話式、預測式或自適應系統。
這並不意味著禁止在兒童的活動中使用人工智慧。人工智慧的使用可以作為教育專業人員開展的教學活動的一部分。但是，兒童不應在無人監督的情況下自由地與人工智慧工具互動。
教育機構還應告知家長使用該技術的教學目的，並避免不必要地收集學生數據。
人工智慧應成為學生教育的一部分。
該指南還規定，應以循序漸進、跨學科的方式將人工智慧相關教學融入課程體系，並與數字媒體、教育和計算等學科相結合。
這並不意味著會設立一門名為“人工智慧”的專門課程。其建議是，學生應根據自身年齡和教育階段，學習這些技術的工作原理、局限性和風險，以及如何批判性地評估其產生的資訊。
預期學習成果包括：對人工智慧工作原理的基本理解、識別可能存在的錯誤和偏見、核實資訊來源、批判性地分析自動化系統生成的內容，以及理解技術支持與原創性知識生產之間的區別。
學校必須制定技術使用規則。
各機構也將承擔新的管理責任。人工智慧的使用應根據工具的用途及其帶來的風險進行規劃。
該指南將人工智慧應用分為四類：低風險、中等風險、高風險以及風險過高或與教育目的不符。
例如，用於整理材料或進行文本修訂而不影響評估的工具可被視為低風險工具。
監控學生、提供學業建議等或與學生持續互動的系統需要格外謹慎。
干擾評估、學業決策或敏感數據的應用程式被視為高風險應用程式。
被歸類為過度或不相容的用途包括：社交評分系統、學生和教師的情緒識別、持續的生物特徵監控、用於分類目的的心理或行為分析，以及將教育數據用於定向廣告或商業用途。
學生數據將如何處理？
該決議還制定了教育數據處理規則，其中可能包括成績、出勤率、活動、平臺互動和學習記錄等資訊。
各機構必須遵守數據保護規則，並監督承包人工智能工具的公司。聘請公司並不能免除學校或大學核實學生數據處理方式的責任。
使用教育數據訓練第三方模型需要具備法律依據、正當目的、透明度和謹慎性。用於商業開發、定向廣告或行為操縱等目的均被視為與教育目的不符。
那麼，大學的情況又如何呢？
高等教育機構必須制定自身的數據使用政策，包括人工智慧在教學、科研、推廣和學術管理中的應用。這些政策應涵蓋署名權、學術誠信、透明度以及對所產生內容的責任等議題。
大學還應在必要時明確規定學生或研究人員何時需要披露人工智慧工具的使用情況。
例如，在科學研究中，如果人工智慧在文本撰寫、數據分析、文獻綜述、編程或其他研究階段發揮了重要作用，則應予以聲明。技術本身並非作品的作者，責任仍然在於研究人員。
編輯 / 王子明
【巴西華人資訊網】
