國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,將于明天(3月1日)起正式施行。對于普通用戶而言,算法摸不著也看不懂,卻在廣泛影響著我們通過各種平臺獲取互聯(lián)網(wǎng)信息服務(wù)。
算法無處不在 濫用問題不斷算法推薦技術(shù)通過抓取用戶日常的使用數(shù)據(jù),分析得出人們的行為、習(xí)慣和喜好,進而精準(zhǔn)化地提供信息、娛樂、消費等各類服務(wù)。提供便利的同時,近年來,“大數(shù)據(jù)殺熟”、流量造假、誘導(dǎo)沉迷等不合理應(yīng)用也給我們的生活帶來煩惱。由北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心與互聯(lián)網(wǎng)公司聯(lián)合發(fā)布的《中國大安全感知報告(2021)》顯示,有七成受訪者感到算法能獲取自己的喜好、興趣從而“算計”自己,近五成受訪者表示在算法束縛下想要逃離網(wǎng)絡(luò)、遠離手機。
中國信息安全研究院副院長 左曉棟:這些服務(wù)的推送是網(wǎng)絡(luò)服務(wù)提供者給我們定制的,那么定制就容易產(chǎn)生濫用,輕則損害我們個人的權(quán)益,嚴(yán)重的就會危害國家安全,因此算法推薦必須要進行規(guī)范。
《規(guī)定》明確,應(yīng)用算法推薦技術(shù),是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi),如各類短視頻平臺、電商平臺、社交平臺及餐飲外賣平臺等。
為了打破算法摸不著也看不懂的“黑箱”,《規(guī)定》明確要求保障用戶的算法知情權(quán)和算法選擇權(quán),應(yīng)當(dāng)向用戶提供不針對其個人特征的選項,或者便捷的關(guān)閉算法推薦服務(wù)的選項。
《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向,積極傳播正能量,建立完善人工干預(yù)和用戶自主選擇機制,不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為。
不得實施差別待遇 劍指大數(shù)據(jù)“殺熟” 近年來,一些企業(yè)利用個人信息搞大數(shù)據(jù)“殺熟”,對不同群體進行差別定價,實行“價格歧視”,讓消費者十分反感。對此,《規(guī)定》又將如何破解呢?
浙江紹興的胡女士通過某商旅平臺定購了一家酒店房間,結(jié)賬時發(fā)現(xiàn),通過平臺支付的房費比酒店實際房價高近一倍,而她是該商旅平臺的高級會員,本該享受8.5折優(yōu)惠。胡女士懷疑商旅平臺通過她此前的消費行為,存在“大數(shù)據(jù)殺熟”的行為,將商旅平臺告上法庭。去年7月,法院一審對原告退一賠三的請求予以準(zhǔn)許。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。
同樣的送餐時間、地點、訂單、外賣平臺,會員卻比非會員多付錢;同時同地打同類型車到同一目的地,某打車平臺曾被用戶發(fā)現(xiàn)熟客反而收費更高,類似的消費投訴多有發(fā)生。對此,《規(guī)定》提出,算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的,應(yīng)當(dāng)保護消費者公平交易的權(quán)利,不得根據(jù)消費者的偏好、交易習(xí)慣等特征,利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
中國信息安全研究院副院長 左曉棟:有的平臺就會說,這個算法是我的知識產(chǎn)權(quán),是我的商業(yè)秘密,我不能公開,這些說辭都不能成立了,平臺的算法要保證必要的透明性。
專家強調(diào),《規(guī)定》還明確保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。通過向用戶提供不針對其個人特征的選項,或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項,并提供選擇或刪除針對其個人特征的用戶標(biāo)簽的功能,避免消費者被算法“算計”。
保護勞動者合法權(quán)益 避免被算法所“困” 此外,在《管理規(guī)定》中要求,算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的,應(yīng)當(dāng)保護勞動者取得勞動報酬、休息休假等合法權(quán)益,相關(guān)情況,再來了解一下。
2020年9月,一篇名為《外賣騎手,困在系統(tǒng)里》的文章備受關(guān)注。文章描述了在外賣平臺系統(tǒng)的算法與數(shù)據(jù)驅(qū)動下,外賣騎手的配送時間不斷被壓縮,而騎手在強大的系統(tǒng)驅(qū)動下,為避免差評、維持收入,不得不在現(xiàn)實中選擇逆行、闖紅燈等做法。不少外賣騎手表示,幾十層的高層樓宇,電梯一等就是十幾分鐘甚至更長,但這樣的客觀情況,并沒有被“算法系統(tǒng)”考慮進去。
清華大學(xué)人工智能國際治理研究院副院長 梁正:由于機器還在發(fā)展階段,針對一些勞動工作場景,把決定權(quán)力交給機器,有很大的潛藏的公平性、可靠性的風(fēng)險。
互聯(lián)網(wǎng)平臺優(yōu)化算法主要通過大數(shù)據(jù)分析算法模型計算出業(yè)務(wù)經(jīng)營的最佳策略,與此同時,與算法相配合的還有一整套嚴(yán)格的績效考核機制,一旦違背部分算法規(guī)則,則會在考核中失去“優(yōu)勢”,并可能帶來了一些惡性應(yīng)對行為。對此《規(guī)定》專門提出,算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的,應(yīng)當(dāng)保護勞動者取得勞動報酬、休息休假等合法權(quán)益,建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法。