8月27日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡稱《意見稿》）并公開征求意見。

《意見稿》對具有輿論屬性或社會動員能力的算法推薦服務(wù)提供者進(jìn)行重點規(guī)則，從內(nèi)容推薦要求堅持主流價值導(dǎo)向，到不得實施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論，劍指微博、今日頭條、百度、快手、抖音等資訊信息及短視頻平臺。

對于平臺用工權(quán)益及消費者權(quán)利的保障，《意見稿》要求，外賣及網(wǎng)約車平臺對勞動者、消費者的雙重算法需規(guī)范，保證勞動者算法的公正透明，抵制算法對消費者“大數(shù)據(jù)殺熟”。

如何平衡平臺對算法使用及用戶權(quán)利保障？多位專家向21世紀(jì)經(jīng)濟(jì)報道記者表示，企業(yè)合規(guī)應(yīng)注意《意見稿》所提出的技術(shù)、管理和內(nèi)容價值層面的多層次要求。

堅持主流價值導(dǎo)向，算法向上向善

網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理，是我國近年來互聯(lián)網(wǎng)治理重點。

2019年12月，國家網(wǎng)信辦公布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，標(biāo)志著我國建立了完整的網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理框架。今年1月，國家網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見稿）》公開征求意見，進(jìn)一步規(guī)定信息傳播的各項要求。國家網(wǎng)信辦、全國掃黃打非辦等部門也多次對平臺內(nèi)容進(jìn)行整頓。

然而，網(wǎng)絡(luò)生態(tài)治理目前仍然存在難題。中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長商希雪介紹，一方面，淫穢色情、賭博詐騙以及負(fù)能量內(nèi)容充斥網(wǎng)絡(luò)空間；另一方面，在“流量為王”的畸形觀念下，平臺利用算法模型通過熱搜、超話、炒作、聚集等信息推送方式投放給用戶“刺激”的話題和“熱點”的信息，大眾在被動“吃瓜”時也會感到精神的不適。

《意見稿》指出，算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向，優(yōu)化算法推薦服務(wù)機(jī)制，積極傳播正能量，促進(jìn)算法應(yīng)用向上向善。

第九條從手段方面規(guī)范內(nèi)容服務(wù)平臺的信息推送行為，要求加強(qiáng)信息內(nèi)容管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識后，方可繼續(xù)傳輸。

內(nèi)容本身的治理固然必要，但在海量的內(nèi)容中，良性內(nèi)容常常被埋沒，低俗吸睛的內(nèi)容卻更容易被“刷”出，陷入了“劣幣驅(qū)逐良幣”的窘境中。

《意見稿》第十一條強(qiáng)調(diào)“建立完善人工干預(yù)和用戶自主選擇機(jī)制”，也即不僅依賴算法進(jìn)行內(nèi)容推薦，還需要增加人工識別及篩選的過程，“在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息內(nèi)容?！?/p>

“相當(dāng)于在平臺夯實主體責(zé)任的過程中，除對謠言及其他不法信息的治理外，還多加了一道對算法決策的抓手。”中國政法大學(xué)傳播法研究中心副主任朱巍表示，平臺通過何種算法和邏輯使用數(shù)據(jù)，是互聯(lián)網(wǎng)監(jiān)管的關(guān)鍵。

對于未成年人的保護(hù)，《意見稿》第十六條特別提出“通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務(wù)等方式，便利未成年人獲取有益身心健康的信息內(nèi)容?！?/p>

《意見稿》公布當(dāng)日，網(wǎng)信辦發(fā)布加強(qiáng)“飯圈”亂象治理的通知，提出“取消明星藝人榜單”“優(yōu)化調(diào)整排行規(guī)則”等10條工作措施。網(wǎng)信辦指出，在音樂作品、影視作品等排行中，降低簽到、點贊、評論等指標(biāo)權(quán)重，增加作品導(dǎo)向及專業(yè)性評價等指標(biāo)權(quán)重。不得設(shè)置誘導(dǎo)粉絲打榜的相關(guān)功能，引導(dǎo)粉絲更多關(guān)注文化產(chǎn)品質(zhì)量。

不得控制熱搜，影響網(wǎng)絡(luò)輿論

熱搜榜單是注意力經(jīng)濟(jì)最集中的體現(xiàn)，是新媒體時代議程設(shè)置最典型的樣本。

《意見稿》多項內(nèi)容規(guī)制排序精選類平臺，如資訊類的今日頭條與百度、短視頻類的快手與抖音、綜合類的微博與知乎等，劍指熱搜榜單這項功能服務(wù)。

關(guān)于熱搜排序、流量造假等問題，監(jiān)管部門此前曾多次出手，對平臺的監(jiān)管趨嚴(yán)。

2020年6月，國家網(wǎng)信辦指導(dǎo)北京市互聯(lián)網(wǎng)信息辦公室約談新浪微博負(fù)責(zé)人，針對微博在蔣某輿論事件中干擾網(wǎng)上傳播秩序，以及傳播違法違規(guī)信息等問題，責(zé)令整改，暫停更新微博熱搜榜一周，嚴(yán)肅處理相關(guān)責(zé)任人并從嚴(yán)予以罰款的行政處罰。

《意見稿》對算法推薦服務(wù)提供者在算法規(guī)則及公示方面進(jìn)行要求。第十二條提到，應(yīng)綜合運用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性。第十四條規(guī)定，應(yīng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、運行機(jī)制等。

今年8月23日，微博曾回應(yīng)“花錢買熱搜”“花錢壓熱搜”等質(zhì)疑，首次公布熱搜產(chǎn)品規(guī)則和管理細(xì)則。微博表示，熱搜根據(jù)微博用戶的真實行為進(jìn)行計算，并根據(jù)搜索量、發(fā)博量、互動量等數(shù)據(jù)指標(biāo)，形成實時榜單。榜單算法中包含了嚴(yán)格的排水軍和反垃圾機(jī)制，以確保公正客觀。

對于平臺在影響輿論及社會動員方面的規(guī)制，《意見稿》第十三條要求，不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號，或者虛假點贊、評論、轉(zhuǎn)發(fā)、網(wǎng)頁導(dǎo)航等，實施流量造假、流量劫持；不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)，實施自我優(yōu)待、不正當(dāng)競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

同時，《意見稿》要求賦予用戶選擇權(quán)。第十五條提到，算法推薦服務(wù)提供者應(yīng)向用戶提供不針對其個人特征的選項，或向用戶提供便捷關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉的，應(yīng)立即停止提供相關(guān)服務(wù)。這與8月20日出臺的《個人信息保護(hù)法》中，關(guān)于個人信息權(quán)及撤回同意的相關(guān)內(nèi)容一脈相承。

網(wǎng)約車、外賣平臺雙重算法受監(jiān)管

近年來，外賣小哥、網(wǎng)約車司機(jī)等新就業(yè)形態(tài)勞動者隊伍不斷壯大。2019年，餐飲外賣員總數(shù)已突破700萬人。全國網(wǎng)約車監(jiān)管信息交互平臺統(tǒng)計顯示，截至2021年7月31日，全國共有241家平臺取得網(wǎng)約車經(jīng)營許可，各地共發(fā)放網(wǎng)約車駕駛員證351萬本。

《意見稿》對于網(wǎng)約車、外賣等調(diào)度決策類等平臺的算法也作出規(guī)制，從勞動者及消費者的雙重算法進(jìn)行約束。

針對勞動者，《意見稿》要求算法公正透明。第十七條提出，算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法，履行勞動者權(quán)益保障義務(wù)。

今年5月，交通部、市場監(jiān)管總局等八部門聯(lián)合約談滴滴出行、曹操出行、高德、貨拉拉等10家平臺。約談要求，平臺應(yīng)主動公開定價機(jī)制和計價規(guī)則，持續(xù)優(yōu)化派單機(jī)制。曹操、滴滴等平臺已提出推進(jìn)抽成公開。曹操出行表示，已通過司機(jī)端展示等方式對現(xiàn)行分成比例公開。滴滴則在5月宣布將推進(jìn)公開訂單抽成，推動司機(jī)賬單透明化。

7月，人社部等八部門和市場監(jiān)管總局等七部門先后發(fā)布了《關(guān)于維護(hù)新就業(yè)形態(tài)勞動者勞動保障權(quán)益的指導(dǎo)意見》和《關(guān)于落實網(wǎng)絡(luò)餐飲平臺責(zé)任切實維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見》，督促企業(yè)合理制定訂單分配、計件單價、抽成比例、報酬構(gòu)成及支付、工作時間、獎懲等制度規(guī)則和平臺算法，提出通過“算法取中”等方式，替代“最嚴(yán)算法”的考核要求。

針對消費者，算法則需限制“大數(shù)據(jù)殺熟”?！兑庖姼濉返谑藯l規(guī)定，算法推薦服務(wù)提供者向消費者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費者合法權(quán)益，不得根據(jù)消費者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所副所長商希雪分析，當(dāng)前商業(yè)應(yīng)用場景中自動化決策算法愈加頻繁，引發(fā)威脅用戶正當(dāng)權(quán)益的社會風(fēng)險。

關(guān)于“大數(shù)據(jù)殺熟”，《網(wǎng)絡(luò)交易監(jiān)督管理辦法》《電子商務(wù)法》《國務(wù)院反壟斷委員會關(guān)于平臺經(jīng)濟(jì)領(lǐng)域的反壟斷指南》，以及將于今年11月1日起施行的《個人信息保護(hù)法》等多部法律法規(guī)中都有明確規(guī)定，要求不得在交易中對個人實施“差別待遇”。

平衡算法使用與用戶權(quán)利保障

算法規(guī)則的背后是商業(yè)利益，面對算法推薦技術(shù)的各項要求，企業(yè)應(yīng)如何平衡算法的使用與保障用戶權(quán)利？

北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括建議，企業(yè)合規(guī)應(yīng)注意《意見稿》所提出的技術(shù)、管理和內(nèi)容價值層面的多層次要求。

具體而言，包括三個方面：在技術(shù)層面，產(chǎn)品自研發(fā)階段就要關(guān)注算法可能帶來的風(fēng)險，尤其是歧視、虛假和與正能量不符的內(nèi)容傾向；在組織管理層面，需要構(gòu)建從用戶注冊、管理到風(fēng)險評估等的全生命周期的組織管理制度，全面落實從制度到人的治理；在算法應(yīng)用過程中，注意內(nèi)容本身的價值倫理要求跟社會主義價值觀相符合，與正能量傳播要求的相匹配。

“從狹義的用戶權(quán)利保護(hù)角度來看，數(shù)據(jù)安全、個人信息保護(hù)，需要在現(xiàn)有的法律頂層設(shè)計下，做到制度間的交叉匹配，實現(xiàn)用戶的自主權(quán)利以及其他安全利益的綜合全面保護(hù)?！眳巧蚶ㄕf。

自動化決策是算法監(jiān)管之重?！捌脚_根據(jù)用戶的興趣愛好、消費習(xí)慣等特征向其提供商品或者服務(wù)的搜索結(jié)果時，應(yīng)當(dāng)同時提供不針對其個人特征的選項。”商希雪表示，一方面，在遵守法律規(guī)定的前提下，企業(yè)應(yīng)當(dāng)遵循公開、公平、公正的原則設(shè)計算法模型與制定自動化決策規(guī)則，不得對用戶提供歧視性的差異化待遇；另一方面，在履行“告知-同意”的義務(wù)前提下，企業(yè)應(yīng)當(dāng)保障用戶對算法設(shè)計與自動化決策的同意權(quán)、規(guī)則解釋權(quán)和選擇權(quán)。

借助外部力量，或許能讓企業(yè)從更客觀的角度解決問題。上海大邦律師事務(wù)所高級合伙人游云庭認(rèn)為，企業(yè)可以通過組建第三方的算法監(jiān)管委員會，例如第三方機(jī)構(gòu)、用戶代表、行業(yè)協(xié)會人員等，均可定期對企業(yè)內(nèi)部的算法倫理落實情況，輔助企業(yè)內(nèi)部的自查自糾和審計，由外部人士提出中肯建議，能有效減少算法風(fēng)險。