中新經(jīng)緯3月24日電 (王玉玲)近日，由中國人民大學高瓴人工智能學院、智能社會治理跨學科交叉平臺和基于大數(shù)據(jù)文科綜合訓(xùn)練國家級虛擬仿真實驗教學中心聯(lián)合主辦的算法公平性與內(nèi)容生態(tài)建設(shè)研討會在線上舉行。中國科學技術(shù)大學博士后陳佳偉提出，應(yīng)該在動態(tài)或者交互式的場景當中去研究公平，追求長期累積的公平性。

隨著反饋循環(huán)的過程，公平性問題可能在用戶和系統(tǒng)交互的過程而放大，可能會有“蝴蝶效應(yīng)”現(xiàn)象產(chǎn)生?！氨热缯f推薦系統(tǒng)，給一個青少年推薦游戲，他可能就會沉迷，給另外一個青少年推的是科研問題，他成長路線就可能不同?！标惣褌フf道。

陳佳偉表示，算法公平性的評估指標是非常難定義和計算的，公平性的定義需要與多個相關(guān)數(shù)據(jù)進行對比。對于一些比較高級的公平性指標，它要求我們觀察只改變屬性的情況下，推薦策略是否會不同。對于這樣的指標，我們往往需要做一些反事實推演或者找特定數(shù)據(jù)進行匹配，這個過程可能很艱難。

為解決公平性評估問題，陳佳偉提出三個未來值得研究的點。第一，統(tǒng)一的公平性方法，從每個過程中分析產(chǎn)生偏差的原因和并進行糾正會很困難，因此需要從結(jié)果層面統(tǒng)一定義公平并探索一種普適的糾偏方法。第二，設(shè)置基準數(shù)據(jù)集和評估標準。第三，應(yīng)該在動態(tài)或者交互式的場景當中去研究公平，追求長期累積的公平性。算法就應(yīng)該在交互過程當中找到公平性的問題，及時發(fā)現(xiàn)然后進行彌補?！皩τ谕扑]，要考慮系統(tǒng)和用戶動態(tài)演化的過程，去探索長期累積的公平性。”陳佳偉說道。(中新經(jīng)緯APP)

關(guān)鍵詞： 陳佳偉公平性評估指標難以定義和計算 應(yīng)在動態(tài)場景中探