算法管理規定今起施行
肖颯
《算法規定》中主要規制的算法推薦技術,是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。據此,該規章規制的主體就是上述技術向用戶提供信息的自然人、法人及其他社會組織。該規章著眼于解決互聯網算法推薦的相關問題,屬于針對性的算法推薦管理規定。制定《算法規定》的目的在于明確算法推薦服務提供者的主體責任,促進算法推薦服務規范發展。
客觀來看《算法規定》是我國通過法律來解決算法歧視、算法透明、誘導沉迷等算法領域的關鍵性問題的積極嘗試。可以說,這是一部關乎各大互聯網公司核心技術應用與經營模式制定的關鍵性規章,對于企業的合規建設具有重要意義。
從法律層級上看,《算法規定》屬于我國數據法三駕馬車《網絡安全法》、《數據安全法》、《個人信息保護法》和國務院制定的《關于加強互聯網信息服務算法綜合治理的指導意見》等行政法規的下位法,其由國家互聯網信息辦公室等四部委制定并發布,屬于部門規范性文件。
01 主管部門
根據《算法規定》的要求,國家網信部門負責統籌協調全國算法推薦服務治理和相關監督管理工作。國務院電信、公安、市場監管等有關部門依據各自職責負責算法推薦服務監督管理工作。地方網信部門負責統籌協調本行政區域內的算法推薦服務治理和相關監督管理工作。地方電信、公安、市場監管等有關部門依據各自職責負責本行政區域內的算法推薦服務監督管理工作。
因此,目前算法推薦主管部門應當是國家互聯網信息辦公室及其下設的部門,同時,工業和信息化部、公安部和國家市場監督管理局及其下屬部門在各自職權范圍內對算法推薦服務進行管理。
02 算法推薦服務提供者的主要義務
《算法規定》對算法推薦服務提供者提出的要求主要集中在兩個方面:(1)信息服務規范;(2)用戶權益保障。信息服務規范主要是為了解決算法推薦服務提供者向用戶推薦何種信息,如何推薦信息等問題,而用戶權益保障則主要是區分不同類型消費者,對其進行特別保護的規定。《算法規定》對于算法推薦服務提供者提供信息推薦的方方面面都提出了更為細致和嚴格的要求。
1. 信息服務規范方面
算法推薦服務提供者承擔算法安全主體責任。根據《算法規定》第七條,算法推薦服務提供者應當建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核、數據安全和個人信息保護、反電信網絡詐騙、安全評估監測、安全事件應急處置等管理制度和技術措施,制定并公開算法推薦服務相關規則,配備與算法推薦服務規模相適應的專業人員和技術支撐。
算法推薦服務提供者具有信息安全管理義務。《算法規定》第九條要求算法推薦服務提供者加強信息安全管理,建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規則和程序。
算法推薦服務提供者對于三種特定信息需分類做出處理:(1)未作顯著標識的算法生成合成信息的,應當做出顯著標識后,才可繼續傳輸;(2)違法信息應當立即停止傳輸,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信部門和有關部門報告。(3)發現不良信息的,應當按照網絡信息內容生態治理有關規定予以處置。
算法推薦服務提供者具有合理利用算法推薦的義務。對于當前盛行的各種“買熱搜”“買水軍”等問題,《算法規定》對第十四條規定:算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發,不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現,實施影響網絡輿論或者規避監督管理行為。
算法推薦服務提供者具有定期審核、評估、驗證算法的義務。《算法規定》第八條禁止算法推薦服務提供者設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型。另外,在解決算法透明度方面,《算法規定》要鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略,并優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性,避免對用戶產生不良影響,預防和減少爭議糾紛。
2. 用戶權益保障方面
用戶享有算法推薦服務知情權。《算法規定》第十六條賦予用戶了解算法推薦服務情況的權利。算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況,并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。
用戶享有選擇個性化標簽、刪除標簽和關閉推薦的權利。相信各位伙伴都在微博和微信上看到過各種各樣的廣告和推廣信息,大部分大廠都已經為用戶提供了選擇用戶標簽和刪除標簽的選擇,但同時也會告知用戶,僅能刪除標簽而不能關閉推薦,該做法即將成為歷史,各大廠必須在此處進行整改。《算法規定》第十七條要求算法推薦服務提供者向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能,或向用戶提供不針對其個人特征的選項,并向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的,算法推薦服務提供者應當立即停止提供相關服務。
另外,在解決算法歧視方面,《算法規定》也給出了一定的解決辦法,通過區分用戶類型進行特殊化保護。例如在針對未成年人方面嚴控推薦內容并進行反誘導沉迷程序,在針對老年人方面則設計反詐騙等程序,禁止利用算法不當勞務用工,禁止“大數據殺熟”。這幾個方面也需要企業額外關注,并盡快進行合規整改。
李彰柯
作為消費者,大家肯定疑惑過,為什么現如今所有的平臺和消費行業,都希望收集我們的數據。這些消費互聯網類的企業,其應用大數據最大的目的就是掌握消費者消費習慣,做出精準的消費者畫像,從而獲利,這一行為本身就是大數據殺熟。如今隨著大家隱私觀念的發展,個人信息保護法規的健全,市場管理部門逐漸對這種隱蔽的侵犯隱私方式開始警覺。不過,大數據殺熟非常隱蔽,難以界定,而在以后,企業也可以利用越來越先進的算法和技術手段讓其不易察覺。這對于相關部門可能是個難題。
已注銷用戶
你打開手機,要查個資料,視頻、新聞立馬推薦給你標題誘人內容卻枯燥的東西,你點開刷了一會,沒有營養,但是你卻忘了當初要查什么資料,別人賺錢賺流量你卻浪費了生命,請問這是互聯網的良性發展嗎?