算法要向上向善循法而行(2)
2024-12-23 14:52:30北京網友說
算法根據用戶口味去推送新聞,綁住用戶,進而讓“內容為王”漸漸過氣。還有網絡暴力,算法從中扮演了極不光彩的角色,難脫助推縱容之責。那些汙穢言論頻頻亮相,算法推薦難辭其咎。由於算法的跑偏,越來越多的人被裹挾在流量和情緒的洪流之中,無法自拔,成為沒有靈魂的迷失者。
例如,當前的一些短視頻及新聞內容平台,通過收集用戶的行為痕跡(停留時長、點擊、分享、評論等)來構建用戶“畫像”,以此向用戶進行基於算法的內容推薦。導致用戶視野逐漸變窄,錯過其他領域的優質內容,用戶也就因此陷入“信息繭房”。
算法是人發明的,人就有能力改善它,去劣存優、揚利除弊。
《互聯網信息服務算法推薦管理規定》的正式施行,標誌著算法有規可依。但真正管住脫韁一般的算法,還需要下一番功夫。
與此同時,清華大學的研究團隊利用兩大數據集深入探究了人類與AI的互動模式。一組數據源自中國某熱門短視頻平台,詳盡記錄了超過11萬名新用戶的行為軌跡;另一組數據則取自某國外新聞網站,廣泛覆蓋了14個新聞主題,並包含了9萬名用戶的互動信息。
研究結果顯示,多數用戶在與AI進行交互後,所接觸到的信息種類非但沒有增加,反而呈現出減少的趨勢。這一發現警示我們,用戶可能正逐漸陷入一個被稱為“信息繭房”的困境之中。
治理有跡可循
中央網信辦秘書局、工信部辦公廳、公安部辦公廳、市場監管總局辦公廳等四部門日前印發通知,就同質化推送營造“信息繭房”、違規操縱幹預榜單炒作熱點、盲目追求利益侵害新就業形態勞動者權益、利用算法實施大數據“殺熟”、算法向上向善服務缺失侵害用戶合法權益等重點問題,列出算法專項治理清單指引,部署開展“清朗·網絡平台算法典型問題治理”專項行動。