最新研究揭示AI數(shù)據(jù)之殤：科技巨頭壟斷權力，「西方中心」數(shù)據(jù)加劇模型偏見

原標題：最新研究揭示AI數(shù)據(jù)之殤：科技巨頭壟斷權力，「西方中心」數(shù)據(jù)加劇模型偏見
文章來源：新智元
內(nèi)容字數(shù)：4713字

AI 數(shù)據(jù)來源的隱憂：權力集中與偏見放大

近年來，人工智能（AI）領域取得了令人矚目的進展，大型語言模型（LLM）和智能體（Agent）技術日趨成熟。然而，支撐AI發(fā)展的基礎——數(shù)據(jù)收集——卻存在著明顯的滯后和規(guī)范不足。由50多名研究人員組成的“數(shù)據(jù)溯源計劃”（DPI）旨在揭示AI訓練數(shù)據(jù)的來源，并為此敲響警鐘。

1. 數(shù)據(jù)來源的演變與集中化：DPI審核了近4000個公共數(shù)據(jù)集，涵蓋全球各地的數(shù)據(jù)。早期（2010年代初），數(shù)據(jù)集來源多樣，包括百科全書、網(wǎng)絡、議會記錄等。但自2018年起，互聯(lián)網(wǎng)成為主要數(shù)據(jù)來源，數(shù)據(jù)收集方式從精細策劃轉(zhuǎn)向大規(guī)模抓取。這種變化與大模型的興起密切相關，模型性能的提升依賴于海量數(shù)據(jù)，從而導致數(shù)據(jù)來源的極度集中。

2. 科技巨頭的壟斷：研究發(fā)現(xiàn)，AI數(shù)據(jù)存在“壟斷”趨勢，權力逐漸集中在少數(shù)科技巨頭手中。例如，多模態(tài)AI模型（如圖像和視頻生成模型）的訓練數(shù)據(jù)中，YouTube占據(jù)了超過70%的份額，這使得谷歌等公司擁有巨大的優(yōu)勢。這種數(shù)據(jù)集中不僅影響公平競爭，也引發(fā)了關于數(shù)據(jù)濫用和算法偏見的擔憂。

3. 數(shù)據(jù)集中帶來的偏差和失真：單一數(shù)據(jù)來源會導致偏差和失真。例如，YouTube上的視頻通常帶有特定目的和受眾群體，可能無法全面反映人類社會的真實面貌。這將導致AI模型輸出結(jié)果存在偏見，例如，以西方文化為中心的輸出結(jié)果。

4. 數(shù)據(jù)集的隱蔽性與許可限制：許多科技公司不公開訓練數(shù)據(jù)，原因包括保護競爭優(yōu)勢和數(shù)據(jù)來源的不透明性。此外，數(shù)據(jù)集通常附加限制性許可，例如禁止商業(yè)用途，這限制了數(shù)據(jù)的廣泛應用和學術研究。

5. 數(shù)據(jù)共享協(xié)議的排他性：OpenAI和Google等公司與特定平臺達成的獨家數(shù)據(jù)共享協(xié)議加劇了數(shù)據(jù)集中和權力壟斷，形成一種“非對稱訪問”的局面，不利于學術界和小型公司。

6. 地域偏見：西方世界主導：DPI的研究還揭示了AI數(shù)據(jù)中的地域偏見。超過90%的數(shù)據(jù)來自歐洲和北美，非洲等地區(qū)的數(shù)據(jù)占比極低。這導致AI模型輸出結(jié)果可能反映西方中心主義的世界觀，忽視其他文化和語言。

7. 未來展望：DPI的研究結(jié)果強調(diào)了規(guī)范AI數(shù)據(jù)收集和使用的必要性。為了避免AI技術加劇社會不平等和偏見，需要促進數(shù)據(jù)共享、透明化和多元化，確保AI模型的公平性和公正性。