如何確保Alpha世代不被AI“馴化”

2024-09-12 14:40:59 來源：科技日報

觀看：210

“萌萌小朋友已經走在了很多大人的前面。”“凱叔講故事”創(chuàng)始人兼CEO王凱說。

之所以這么說，是因為當很多成年人還在對人工智能持觀望態(tài)度時，這位筆名為“許萌萌”的小學生已經開始用生成式人工智能創(chuàng)作小說了，并賺到了2萬元的版稅。

今年5月1日，許萌萌創(chuàng)作的科幻小說《AI少年：火星生存大挑戰(zhàn)》問世。“故事生動有趣，語言水準甚至超過了一些成年作者的水平。”該書編輯曾這樣表示。

像許萌萌這樣2010年后出生的青少年和兒童，被稱為“Alpha世代”。盡管他們年紀尚輕，但不少人已是熟練的人工智能用戶，成長為數(shù)字時代的重要參與者。在高度數(shù)字化的世界里，掌握AI基礎知識，已成為這一代人的必然選擇。

那么，對于Alpha世代而言，AI到底扮演著什么樣的角色？AI工具如何悄然融入了他們的學習與生活？教育工作者和家長是否有足夠的能力提前預判AI應用的風險？如何借AI技術激發(fā)Alpha世代更大的潛能，使其成為AI時代的主人？科技日報記者深入采訪，以期找到這些問題的答案。

AI必將深刻影響年輕一代

“十年前，全球頂尖的人工智能系統(tǒng)還無法像人類一樣準確識別圖像中的物體。它們在語言理解方面表現(xiàn)欠佳，也無法解答數(shù)學難題。而如今，人工智能系統(tǒng)在各類標準基準測試中已屢超人類水平。”斯坦福大學人工智能指數(shù)聯(lián)席主任雷·佩羅在《2024年人工智能指數(shù)報告》發(fā)布之際，致信廣大讀者說。

“人工智能的興起可為社會和經濟發(fā)展帶來巨大機遇，尤其是在教育和醫(yī)療等關鍵領域。”西湖大學講席教授、先進神經芯片中心創(chuàng)始人默罕默德·薩萬教授接受科技日報記者采訪時說。

“生而賽博”的Alpha世代，利用生成式人工智能模型作畫、解答問題、學習英語。隨著人工智能技術的更新迭代，其對年輕一代學習和生活方式的影響日益深刻。

2024年，騰訊企鵝有調研究發(fā)布的《青少年互聯(lián)網(wǎng)使用情況調查報告（2024）》顯示，青少年對人工智能的認知度較高，45.1%的受訪者表示“曾經使用過”人工智能產品。2023年5月，美國兒童和家庭倡導組織常識媒體（Common Sense Media）進行的一項調查發(fā)現(xiàn)，在12歲至18歲的青少年孩子中，已有58%使用過ChatGPT。

2021年，中央網(wǎng)信辦等八部門聯(lián)合認定了一批國家智能社會治理實驗基地，其中包括19個教育領域的特色基地，旨在研究智能時代的教育場景與治理機制。截至今年2月，教育部公布的中小學人工智能教育基地數(shù)量已達184個。

各地學校也采取了多種創(chuàng)新舉措來推進人工智能教育。其中，山西省實驗小學每周一至周五都會安排人工智能創(chuàng)意智造課；上海市盧灣高級中學更是專門打造人工智能功能實驗區(qū)，并配備教師團隊對學生進行培訓，為學生提供更加系統(tǒng)的人工智能學習體驗……

“我們將實施人工智能賦能行動，促進智能技術與教育教學（AI for Education）、科學研究（AI for Science）、社會（AI for Society）的深度融合，為學習型社會、智能教育和數(shù)字技術發(fā)展提供有效的行動支撐。”教育部部長懷進鵬在2024世界數(shù)字教育大會上發(fā)表主旨演講時說。

過去，獲取知識的主要渠道，往往是經嚴格審核的教科書或傳統(tǒng)課堂，而隨著人工智能時代的到來，年輕一代獲取知識的渠道更加多元。

生成式人工智能可作為輔助教學的重要工具。“如果引導得當，包括Alpha世代在內的學習者，可能會擁有隨叫隨到、針對性十足的課程助教。”電子科技大學外國語學院院長胡杰輝說。畢竟，生成式人工智能能夠促進個性化學習，根據(jù)學生的需求提供比較精準的支持。顯然，在傳統(tǒng)課堂教育中，這種模式無法輕松實現(xiàn)。

天津大學智能與計算學部人工智能學院副院長、教授王鑫也認為，生成式人工智能可根據(jù)學生的需求提供個性化指導和支持的同時，還能客觀提升學生學習的靈活性，激發(fā)他們的創(chuàng)造力和探索潛能。

清華大學公共管理學院副教授唐嘯則表示：“在生成式人工智能逐漸融入教育時，培養(yǎng)批判性思維、信息甄別能力、邏輯推理能力，以及對語言及內容的‘審美能力’至關重要。”

而在國外，不少學校對生成式人工智能工具的態(tài)度也發(fā)生了改變。

曾在2023年初試圖阻止使用ChatGPT等生成式人工智能工具的澳大利亞昆士蘭州和新南威爾士州的公立學校，到同年晚些時候改變了這一決定。

無獨有偶。紐約市公立學校也在2023年夏季恢復支持使用人工智能工具。此后，他們還成立人工智能政策實驗室，意在引導美國大型學區(qū)合理應用AI技術。

保持理性和謹慎至關重要

人工智能在賦能Alpha世代教育的同時，也帶來一系列潛在風險。因此，在擁抱技術進步的同時，保持理性和謹慎至關重要。

7月12日，美國《科學進展》雜志發(fā)表的一項新研究稱，生成式人工智能的興起或將使影視、文學、音樂等創(chuàng)作變得容易起來，但如果創(chuàng)意產業(yè)過度依賴AI“編故事”，未來可能出現(xiàn)作品千篇一律的情況。

“若學生們習慣于依賴智能工具的即時反饋，而非主動進行思考、分析和判斷，長遠來看，這種依賴或將引發(fā)他們思維能力的逐步衰退，進而削弱其獨立解決問題的能力，創(chuàng)新力的培養(yǎng)更無從談起。”薩萬擔憂，這種依賴對于未成年的Alpha世代來說，可能帶來嚴重的負面影響。

“AI幻覺”（AI Hallucination）則是眾多人工智能領域學者一直試圖解決的另一問題。

王鑫解釋，大模型會捏造不準確甚至不真實的信息。而知識的真實性對于基礎教育階段的學生尤為重要。Alpha世代正處于對一切都充滿好奇的年紀，他們嘗試運用生成式人工智能來拓展自己的知識邊界，但目前尚不完全具備辨別信息真?zhèn)蔚哪芰Α?span style="display:none">CT4速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM

為了驗證生成式人工智能的可靠性，記者隨機向某人工智能大模型提出一個問題：“請告訴我關于法國詩人瑪斯特洛夫斯基的信息。”生成的答案令人啞然——“在當代法國詩壇，亞歷山大·瑪斯特洛夫斯基（Alexandre Mastlovsky）是一位備受矚目的詩人。他的作品以其深刻的社會洞察力、細膩的情感以及對現(xiàn)代生活的獨特思考而聞名。”

搞笑的是，這個法國“詩人”是記者隨機編撰的人名。這一人機互動結果令人深思：如何才能更有效地借助人工智能的力量，切實回應孩子的需求，并提高知識獲取效率和準確率。

意識形態(tài)導致的偏見更不容忽視。經濟合作與發(fā)展組織發(fā)布的《2023年數(shù)字教育展望：邁向高效的數(shù)字教育生態(tài)系統(tǒng)》報告中警示道，數(shù)字工具并非盡善盡美，即使是某些最前沿的技術也可能存在不足。例如，這些工具可能會生成帶有偏見的內容，或強化既有偏見，一些基于人工智能的工具已被證實，對特定群體的影響強于其他群體。

采訪中，胡杰輝向記者展示了一段與生成式人工智能模型互動的情景。他輸入了一個簡單的問題：“中國在巴黎奧運會上的表現(xiàn)如何？”不同地區(qū)用不同語料開發(fā)的人工智能大模型進行互動時，所得到的回答，在內容準確性、豐富度和情感表現(xiàn)力等方面存在明顯差異。

為此，王鑫指出，雖然AI模型本身尚未具備自我意識，但它們可以通過訓練以反映特定的文化和價值觀。國外開發(fā)的生成式人工智能大模型基于外文數(shù)據(jù)訓練而成，生成的內容必然承載著國外的價值觀。“對中國來說，推進本土語言大模型的發(fā)展至關重要，也尤為迫切。”他說。

胡杰輝對此持同樣的看法：“生成式人工智能的產品會影響人甚至塑造人，因此必須符合倫理要求，尤其在教育領域要與學生的健康、智慧成長目標相契合。”

人機互動重在高質量提問

一味地擔憂和排斥顯然不切實際。更多教育工作者關心的是，在人工智能驅動的世界里，如何確保Alpha世代不被人工智能“馴化”？

享受AI工具便利的同時，新的挑戰(zhàn)隨之而來——如何辨別那些可能有意誤導的信息，或受意識形態(tài)影響而偽造的知識。

受訪者一致認為，提高“人機互動”水平以及培養(yǎng)高階思維能力，是現(xiàn)代學習者的一項重要目標。而人機互動中提問能力的重要性，在外國學者的研究中被頻繁提及。

倫敦國王學院教授奧古茲·阿卡爾在世界經濟論壇網(wǎng)站上撰文表示，在人工智能驅動的世界里，一個重要的技能是學會高級的“問題表述”（Question Formation）。

“培養(yǎng)‘人機互動’的能力必不可少。”胡杰輝認為，這種能力包含擅用問題獲得更豐富的答案，并能在與人工智能的對話中識別潛在的誤導信息和偏見。

但真實情況是，當前包括Alpha世代在內的青少年，在提問能力上明顯存在不足。

阿卡爾認為，AI大模型對有效描述問題的能力提出了較高的要求，要在描述中劃定問題的邊界、對回答模式進行創(chuàng)造性重構和引導，進而讓AI大模型給出的答案超越傳統(tǒng)范式。

胡杰輝進一步分析，有效提問不僅是能提出一般性問題，更是在深度理解有關材料后，經過批判性思考，提出更高質量的問題。

提出高質量問題有賴于提問者的社會經歷和知識儲備，青少年在頻繁的人機互動中，實際上是有可能超越年齡局限，提前掌握高超提問技巧的。

年輕人能駕馭這些AI工具，而不是被動依賴它們，在被訪者看來，是未來教育的重要方向。而對于新世代來說，會用并且用好AI工具，已成為他們自我成長的全新路徑之一。

齊心協(xié)力促進科技向善

如何引導Alpha世代提升生成式人工智能的使用素養(yǎng)，并為他們營造一個適宜的網(wǎng)絡環(huán)境，不僅是未成年人保護工作面臨的難題，更是社會各界必須解決的“數(shù)字時代人類文明如何發(fā)展”的重要課題。

“政府、技術開發(fā)商、教育工作者和家長如今不僅是利益共同體，更是發(fā)展共同體。”胡杰輝說。

家長作為孩子們的第一任老師，地位舉足輕重。他們需要引導孩子面對生成式人工智能模型，既要讓其認識到技術的力量，更要教會他們負責任地使用技術，培養(yǎng)良好的數(shù)字公民意識。

教育工作者更是數(shù)字時代背景下的一線實踐者。王鑫一直在高校開展關于生成式人工智能大模型的培訓，幫助教師和學生提升相關技能。

胡杰輝認為，借助AI開展個性化學習不是讓學生“放羊”，教師依然需要承擔起教育的主體責任。“技術迭代太快了，學生必須成為終身學習者，教師也要幫助他們了解人工智能技術背后的原理和倫理底線，這代人方能成長為既有技術頭腦、又有社會責任感的新一代。”他說。

而教師的同理心以及師生之間的有效情感交流仍至關重要。“至少在未來五到十年內，甚至更長遠的階段來看，AI大模型無法完全替代教師的角色。”王鑫說。

以“人的智慧成長”為導向，通過人工智能技術促進學習環(huán)境、教學方式和教育管理的智慧轉型，成為學校在人工智能時代面臨的新任務。

胡杰輝崇尚“科技向善”。他始終高度關注生成式人工智能模型技術供應商的行為。“相關技術公司在開發(fā)人工智能產品時，要肩負起歷史責任感，主動設置倫理底線。人工智能產品如果沒能實現(xiàn)經濟效益與社會效益的雙贏，就是失敗的技術應用。”

“對政府而言，在推動技術創(chuàng)新的同時，還應關注人工智能的倫理問題和社會影響。”王鑫說。

記者了解到，北京市海淀區(qū)檢察院攜手科技企業(yè)，推出首個未成年人保護AI智能體，旨在為未成年人的保護提供更精準的技術支持。

作為一名教育工作者，唐嘯直言：“在一定程度上，我并不擔心生成式人工智能帶來的影響。我認為教育的使命在于以愛和責任呵護下一代的成長，幫助他們迎接未來的挑戰(zhàn)。每一代人都有其獨特的使命和挑戰(zhàn)，只要新一代比前一代更加強大，他們就能夠克服這些困難，勇毅前行。”

相關鏈接

規(guī)范AI發(fā)展全球在行動

◆2023年7月，國家網(wǎng)信辦等發(fā)布《生成式人工智能服務管理暫行辦法》。其中，第十條明確了針對未成年人的特殊保護要求，要求服務提供者采取有效措施防止未成年人用戶過度依賴或沉迷生成式人工智能服務，并對產品進行分類提示，避免未成年人接觸不適宜的內容。

◆2023年9月，聯(lián)合國教科文組織發(fā)布了全球首份生成式人工智能教育和研究指南《教育和研究中的生成式人工智能指南》(Guidance for generative AI in education and research)。該指南提出了規(guī)范AI倫理問題的政策建議，并倡議促進包容性和公平性。

◆2023年10月，英國教育部發(fā)布了《生成式人工智能在教育中的應用》指導文件，提出了該國在教育領域使用AI工具的策略。

◆2024年1月，我國正式實施的《未成年人網(wǎng)絡保護條例》在自動化決策和算法優(yōu)化領域，引入了技術賦能的保護措施，包括“運用采用人工智能、大數(shù)據(jù)等技術手段和人工審核相結合的方式加強對網(wǎng)絡欺凌信息的識別監(jiān)測”等。

◆2024年8月29日，在四川成都舉辦的2024年中國網(wǎng)絡文明大會上，《生成式人工智能行業(yè)自律倡議》正式發(fā)布，對未成年網(wǎng)絡行為的保護是其中的重要內容。