·編者按·   

人工智能領域長期以來存在性別不平等問題，當最近爆火的AI應用程序ChatGPT被問及一些性別話題時，它呈現出了友好的姿態，引得一片贊譽聲，也吸引了上億的活躍用戶。那么，ChatGPT真的能解決AI長期被詬病的性別偏見嗎？本文作者帶我們一起解密ChatGPT中的性別問題，文章圍繞算法程序規避下的“顯性”平等、技術背后資本操控的“隱性”不公以及ChatGPT與性別平等的現實審視進行了討論。 

■ 戴雪紅

人工智能領域存在性別不平等問題已經是老生常談了。當最近爆火的AI應用程序ChatGPT被問及一些性別話題時，它的回答常常是這樣的：“作為一種人工智能，我認為歧視女性是一種不道德和不公正的行為。每個人都應該被平等對待，無論他們的性別、種族、宗教或其他身份特征。歧視女性不僅違反了基本的人權原則，也會導致社會的不公平和不平等。”由此可見，ChatGPT在應對性別問題上呈現出友好的姿態，引得一片贊譽聲，也吸引了上億的活躍用戶。那么，ChatGPT真的能解決AI長期被詬病的性別偏見嗎？當ChatGPT遭遇性別問題，又能給我們帶來哪些新變化與新挑戰？

算法程序規避下的“顯性”平等

ChatGPT是由美國公司OpenAI開發的一種大型語言模型，其主要功能是生成語言文本。OpenAI是“開放人工智能”的縮寫，宗旨是通過開放的研究和合作，將AI的好處帶給更多的人。Open的意思是“打開”，正如潘多拉打開了一個盒子，釋放了各種疾病、災難和希望等。而在AI領域中，恰恰也存在著一個“黑盒子”——通常指的是一種模型或算法，OpenAI的使命之一是盡可能地減少“黑盒子”帶來的負面影響。例如，Tay是微軟公司2016年推出的一個聊天機器人，然而，由于其設計不良和缺乏對濫用的限制，Tay在推特上遭受了大量惡意用戶的干擾，發布了涉及性別歧視與種族歧視等言論，引起了公眾的不滿和批評。Tay僅上線不到一天即死亡。“微軟Tay事件”是AI領域的重大事件，是一次由于缺乏適當的監督和控制而導致AI產生不當行為的事件。為了避免出現類似的事件，OpenAI建立了一些內部規則和流程來確保ChatGPT的安全性和可靠性，以符合道德和法律的要求。到目前為止，ChatGPT已經發展為一種具有一定道德標準且保持中立態度的使用程序。值得一提的是，不同于微軟Tay被設定為19歲的少女，ChatGPT是沒有性別設定的。

針對AI模型中存在的性別不平等問題，當下的ChatGPT更加注重語言的包容性和多樣性。在ChatGPT的訓練數據中，對于不同性別、種族、文化和背景的人的言論進行了廣泛的收集和分析，使用相同數量的男性和女性數據，從而確保模型學習到的知識是平衡的。另外，ChatGPT能夠更好地理解語言中的隱含含義，這有助于避免在對話中出現性別偏見等不恰當的言論。在ChatGPT的設計中，模型被訓練成能夠識別并理解社交上下文和語境，這可以使ChatGPT更加準確地理解和回應包括性別在內的社會問題。ChatGPT已經通過大量的數據訓練來識別性別不公正，并學會了避免使用具有性別刻板印象的單詞和短語，這就可以用來對文本進行性別敏感語言的處理和刪選。ChatGPT也能夠用于傳播關于性別平等的信息和知識，從而提高公眾對性別平等話題的意識和理解。不過，無論技術背后的設計理念是否趨于平等，ChatGPT對于性別歧視問題是一種“顯性”平等的思維邏輯。這導致了很多人認為其在算法方面突破了性別不公，那么，事實真相究竟如何呢？

技術背后資本操控的“隱性”不公

只有了解AI的性別偏見是怎么來的，我們才能知道ChatGPT為了糾偏做了些什么，還存在哪些問題。首先是數據源的偏見。數據源是從網絡中抓取的，偏見來自搜集的數據源與現實情況的偏離。其次是算法的偏見。算法由算法工程師編寫，但背后是工程師代表的利益集團的傾向。數據標注的質量和數量對ChatGPT的性能和應用場景都會產生重要影響。例如，當人們問ChatGPT一些關于性別、性少數或種族歧視等問題時，ChatGPT一般這樣應答：“作為一個AI程序，我沒有情感和個人信仰，我不會有任何偏見或傾向性。”為什么會出現這種答案？原因在于ChatGPT的技術編碼對關于性別問題的敏感度提高，于是當聊天中出現相關話題時，它就會機械性地選擇回答已經被植入的符合社會要求的標準答案。但是ChatGPT也不是絕對的道德理性狀態，當有一些不懷好意的人引導、質疑、威脅它時，它就會展現出進退兩難、模棱兩可的姿態。而且，ChatGPT給出的答案就一定是標準答案嗎？并不一定，但這個答案是由ChatGPT公司所有標注師綜合價值觀形成的結果，某種程度上它代表了在性別問題上形成的共識。它似乎顯得非常成熟，永遠保持中立的態度。簡言之，ChatGPT的“成熟人設”是由算法工程師和數據標注師合力打造的。

實際上，ChatGPT的背后是互聯網巨頭微軟，這種資本大鱷的壟斷發展模式必將在ChatGPT的發展上重演。關于性別問題的標準答案是由壟斷了數據的人說了算，掌握了標準答案就是掌握了話語權，甚至我們很難說清楚，是我們生產的數據影響了標準答案，還是標準答案影響了我們。因此，在這種貌似公開、平等的程序背后，我們要關注的不僅僅是ChatGPT的數據來源、ChatGPT的AI執行系統及其背后的算法機制，還要關注技術背后的資本支持，這些都離不開人類的操作與干預。也許在不遠的未來，ChatGPT就會為你推薦適合你的產品，影響你的思維方式和判斷力，因為它不僅僅是機器，它還是人類的對話者，它掌握著人類賦予的話語權。當ChatGPT得到了人類的信任之后，性別偏見就會以另一種方式重新浮現，它會為女性對話者推薦護膚品、母嬰用品和家庭用品，為男性對話者介紹理財產品、交通工具和樓盤信息，對這種模式的理解可以參考谷歌和百度發展成熟之后的廣告推送模塊。因為ChatGPT的背后是資本的力量，ChatGPT作為資本的新寵必然是存在幫助資本實現價值增值的可能，說不定ChatGPT將是繼直播平臺后的新一任“帶貨王”。

ChatGPT與性別平等的現實審視

ChatGPT或者AI的性別不平等問題并不是獨立存在的，其實質是反映了社會本身的偏見，不會因為一款人工智能產品的出現而簡單地消失。只有實施思想和制度上的變革，ChatGPT才能被進一步改進與完善。盡管AI領域一直被認為是男性主導的領域，但事實上，越來越多的女性進入了這個領域，特別是在研究和開發AI算法和應用程序方面。然而，女性進入AI領域會面臨諸多障礙，例如，招聘和晉升中存在的性別不公正、工資差距和性別平等問題等。可能我們很難在表面上捕捉到ChatGPT的性別歧視現象，但是現實的性別問題往往是隱而不見的、沉默不語的，這遠遠不是AI等技術可以幫助解決的。

總之，ChatGPT和其他AI本身并不具有道德、價值觀或利益的色彩，它們只是通過算法、數據和模型進行編程的工具，最終取決于人類如何使用它們。這些工具可以被用于積極的和有益的目的，也可以被用于負面和有害的目的。實現性別平等不僅需要培養女性從事先進科技研究的能力，使其能與男性一同引領新技術的發展方向；還需要每個人的努力，以共同打破性別壁壘和陳舊的觀念，為女性提供更多的機會和平等的待遇。解密ChatGPT或者AI可能存在的性別歧視問題要從現實社會中開始，只有建立一個公正和平等的社會和制度，才能使ChatGPT更加智能、更加人性化。這意味著實現性別平等的道路是一個充滿冒險和挑戰的漫長旅程，需要我們勇敢地面對各種不確定性與困難。

（作者為南京大學馬克思主義學院教授、博士生導師）

注：本文是“江蘇高校學習貫徹黨的二十大精神專題研究項目”的階段性成果。