【熱點思考】規范自動化決策應用 保障勞動者權益
觀 點
算法管理的應用是科技創新和經濟發展的結果,能夠提升管理效率。但要對其作出的自動化決策進行合理糾偏,以規范其運行和發展,保障勞動者權益。
當前,平臺用工的指令和規則大多被代碼化,平臺對網約工的管理很大程度上依賴算法系統。算法是通過代碼設置、數據運算與機器自動化判斷進行決策的一套機制,可以進行自動化決策,也可以用來輔助決策。平臺用工中,算法被用于篩選、調度、監督和評價網約工。首先根據市場需求迅速核算出用工數量并匹配到可能合適的網約工人群,用不同方法激勵其搶單或派單;在分配訂單后監測其任務完成情況;通過監測到的履行情況和顧客評價來評估績效、計算報酬、實施獎懲等,相關評估和決策結果可能影響網約工后續的接單機會和報酬水平。
近年來,算法管理給平臺用工規范發展和勞動者權益保障帶來了一定挑戰。網約工不了解算法的運行機制和決策原理,比如算法如何決定訂單分配、交易價格、排名高低;系統為何對網約工做出罰款、降級、封號等決定。國家政策提出“算法取中”要求,如何落實才能合理確定考核要素、預防勞動強度過大等問題?算法管理的應用是科技創新和經濟發展的結果,能夠提升管理效率,但要對其作出的自動化決策進行合理糾偏,以規范其運行和發展,保障勞動者權益。
首先,推進算法公開透明。平臺與網約工之間的信息并不對等,面對算法不透明,網約工的知情權和參與權很難保障,因此,算法公開透明對于預防算法歧視十分重要。就算法作出的罰扣款項、降低評分、暫停接單等網約工權益有重要影響的具體決策,網約工可以通過主張個人信息保護法第24條第3款規定的算法解釋權,要求平臺說明情況。同時,根據個人信息保護法第44條,網約工還可以要求平臺告知用何種設備和技術監視記錄了自己哪些行為,監控的目的是預防調查偷盜、提高工作效率還是保障勞動安全,相關信息會被平臺進行哪些后續處理等。
對于平臺通過算法作出哪些決策及其考量因素、排名機制如何運行、系統分配訂單時依據哪些標準、分別賦予各標準多少權重等問題,有必要在政策層面規定平臺的算法信息披露義務。第一,應披露進入退出、訂單分配、報酬構成、工作時間、獎勵懲罰等直接涉及網約工權益的算法信息。第二,平臺無需公布源代碼、數據組、架構設置等算法開發細節,但應主動告知算法設計的目的意圖和相關功能、算法處理的個人信息種類及其來源、算法評估的參考因素和主要標準、算法根據信息處理結果實施的行為等。第三,平臺應在開始用工時、系統發生重大變化時,向工會、勞動行政部門披露相關信息。此安排能夠有效地保障算法的目標、結果和影響的透明,網約工能夠借此知曉算法對自己權益的影響,較好地平衡各方利益。
其次,網約工的勞動權益保障應成為算法的核心指標之一。平臺作為算法的設計者和應用者,會將其商業邏輯和經營理念嵌入算法中,追求提高效率、降低成本,同時努力優化消費體驗,但對于網約工的工作時長、勞動強度、收入保障、職業安全等基本權益保障重視不足。除了用勞資協商機制覆蓋算法管理,充分聽取網約工及職工代表的意見外,還應從算法設計源頭入手將網約工勞動權益保護的理念和規則嵌入其中,把相關的法律規范以及法律原則設計成解決方案或計算機代碼,從而實現算法在勞動用工方面的合規。
為了確保平臺能夠在算法的設計和應用過程中始終堅持勞動倫理,還需要事前評估、事中審計、事后追責的制度支持。就此,個人信息保護法第54、55、56條以及第七章的相關條款已有規定,但現行規定更側重于數據保護。未來立法可以考慮規定平臺有義務定期檢查、評估自動化監控和自動化決策系統對于網約工工作條件的影響,確保系統可以預防相關工作環境的典型風險,采取合理的預防和保護措施。
最后,應對算法歧視還要避免通過數字畫像分析網約工特征并預測其行為。有必要規定平臺不得處理與合同履行無關的網約工數據,尤其是有關情緒和心理狀態、私人談話信息以及非工作時間產生的個人信息。另外,算法歧視是現實生活中各種就業歧視在系統中的再現,因此,要從根本上采取相應措施努力減少勞動力市場上的各種就業歧視。
應對算法歧視等不公平、不合理的自動化決策還可引入人工干預和審查機制,與勞動者權益有重大關聯的決定不應完全由機器決定。在算法管理下,網約工遇到困難時常常難以聯系上具體的負責人,只能在系統里反饋或向平臺發送電子郵件,獲得的大多是根據關鍵詞生成的自動回復,既缺乏人類共情,也難以切實解決問題,有必要在平臺內部為網約工設置溝通和救濟渠道。根據個人信息保護法第24條第3款,網約工有權拒絕平臺僅通過自動化決策的方式作出對其個人權益有重大影響的決定,該項免受自動化決策約束的權利凸顯了保護人的主體性的宗旨。在未來的立法和完善中可規定,平臺使用算法作出明顯影響網約工工作條件的決策時,有義務指派專門的聯系人負責討論事實、澄清原因等溝通事宜,網約工認為權益受損的可要求平臺安排人工重新審查決策。
(作者為上海政法學院教授、上海司法研究所社會法研究中心主任)



×