「算法取中」監管:「閾值」最終應回到勞動力市場驗證

對算法的監管,有了最新的嘗試。7月26日,市場監管總局、國家網信辦等七部門聯合發布《關於落實網絡餐飲平台責任
切實維護外賣送餐員權益的指導意見》(簡稱:指導意見),其中提到不得將「最嚴算法」作為考核要求,通過「算法取中」等方式,合理確定訂單數量、准時率、在線率等考核要素,適當放寬配送時限。

「算法取中」監管:「閾值」最終應回到勞動力市場驗證

何謂「最嚴算法?如何做到「算法取中」?

對此,澎湃新聞記者專訪了上海人工智慧研究院技術總監沈灝。

沈灝介紹,算法指的是在大數據的支持下,通過不斷獲取最優解,提高整個系統的效率。在很多場景下,算法及其所代表的人工智慧技術,正成為人們的輔助工具,大幅提高了工作效率。「近年來我們一直在強調人工智慧倫理,以人為本地把算法作為勞動者的助手,而不是對手。」

但在外賣行業,算法存在特殊性——算法與勞動者緊密相關,它用純理性的結果,為勞動者訂立考核標准。沈灝指出,本質上最嚴算法和算法取中沒有特別嚴格的定義,「不斷刷新最優解作為新的衡量標准來使用,可理解為最嚴算法。

去年人物雜誌《外賣騎手,困在系統里》一文,引發了大眾對「最嚴算法」的擔憂。文章描述了支撐外賣系統運行的智能算法,為「實現勞動價值的最大化和高效化」,不斷壓縮外賣騎手的送餐時間,繼而引發交通安全等系列問題。

在這一背景之下,如何讓算法更具人性化,成為各方關注的焦點。在沈灝看來,此次的指導意見,意義在於給出了明確的方向,「明確不得將最嚴算法作為考核的要求,就像不能把奧運冠軍的水平作為普通人的考核標准。」

摒棄最嚴算法作為考核要求後,指導意見提出了通過「算法取中」等方式,合理確定考核要素。沈灝指出,算法取中是一個相對模糊的概念,很難定量,通常是設置一個適當的閾值來進行技術實現。

判定閾值設定是否合理,「(需要)接下去需要針對各個業務領域大量地調研,深入每個場景,最終制定一個相對有量化指標的實施方案,有理可據地去對企業的算法做監管。」

「建立一套評價標准體系,有了標准之後,才可以比較定量地去處理算法和勞動者之間的關系。」沈灝表示。

要求「算法取中」在技術上實現的難度不大,更考驗的是「企業管理層如何平衡企業利潤和大眾預期。」

「企業的運行效率短期肯定會受一定影響。因為算法本身提供了非常理性的結論,企業按照算法提供的結論去做,理論上可以達到最高的效率。」沈灝說。「但這只是一個純理性的結果,長此以往會引發更多的問題,從別的角度影響企業的運行效率。但把時間軸拉長,更有戰略眼光、更有社會責任感的企業,能夠在勞動者的幸福感和企業運行效率之間找到平衡點,使之成為企業持續發展的勢能。」

在意見提出後,如何真正將「算法取中」落實,首都經濟貿易大學勞動經濟學院副教授、中國新就業形態研究中心主任張成剛曾向澎湃新聞記者表示,政府可以成立專業機構,來做算法的審查測試,更直接的辦法是對勞動力市場運行結果做監測。

作為技術領域的專家,沈灝也認同這一做法。「它是傳統方式,也是很有效的方式。因為對算法本身來說,可能就是程式設計師調一個值的的問題,到底調50%還是調80%,數值對應的依據和結果分別都是什麼,最後還得回到勞動力市場,去印證50%或者80%是否合理。」

對算法的監管,是數字經濟治理的重要一環。《關於落實網絡餐飲平台責任 切實維護外賣送餐員權益的指導意見》出台的一個背景是,2020年12月,中共中央印發了《法治社會建設實施綱要(2020-2025年)》。

在依法治理網絡空間一節,實施綱要提出,制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度偽造等新技術應用的規范管理辦法,以及加強對大數據、雲計算和人工智慧等新技術研發應用的規范引導。

不過,目前還有很多尚待進一步探討的問題,比如當監管部門對算法提出要求,算法如何接受審查,可以向誰公開,公開到什麼程度?《指導意見》暫未做出進一步的披露。

「對於人工智慧企業來說,算法作為主要的產品,如果全部放開,很容易被復制,不是一個能夠長期良性循環的模式。」沈灝表示。

來源:cnBeta