原標(biāo)題：算法是個(gè)黑匣子，立法管得住“大數(shù)據(jù)殺熟”嗎

7月21日，上海市十五屆人大常委會(huì)第42次會(huì)議通過(guò)了《上海市消費(fèi)者權(quán)益保護(hù)條例（修訂）》，其中一條劍指“大數(shù)據(jù)殺熟”，即經(jīng)營(yíng)者不得通過(guò)自動(dòng)化決策實(shí)行不合理差別待遇。

這條硬核條款并不是首創(chuàng)。盤點(diǎn)近一年來(lái)出爐的法律法規(guī)，無(wú)論是國(guó)家層面的《個(gè)人信息保護(hù)法》《消費(fèi)者權(quán)益保護(hù)法》，還是去年市人大通過(guò)的《上海市數(shù)據(jù)條例》，均對(duì)“大數(shù)據(jù)殺熟”作出了限制性規(guī)定。有人說(shuō)，這給大數(shù)據(jù)時(shí)代的消費(fèi)者吃了定心丸，如果再碰到“價(jià)格歧視”類似的侵權(quán)風(fēng)險(xiǎn)，手里就有“尚方寶劍”護(hù)身了。

所謂“大數(shù)據(jù)殺熟”，從經(jīng)濟(jì)學(xué)的角度來(lái)看，是一場(chǎng)生產(chǎn)者利潤(rùn)與消費(fèi)者剩余之間的博弈。電商通過(guò)向算法挖掘消費(fèi)者不同數(shù)據(jù)間的“化學(xué)反應(yīng)”，揭示用戶消費(fèi)能力、消費(fèi)偏好、價(jià)格敏感度等隱性信息，描繪消費(fèi)者“千人千面”的現(xiàn)實(shí)形象，從而實(shí)施差別定價(jià)。

事實(shí)上，“差別定價(jià)”是商業(yè)領(lǐng)域一直存在的銷售策略，你跟小商販之間的討價(jià)還價(jià)就是一種，但這時(shí)你是有心理準(zhǔn)備的，即使知道自己買貴了，也只能責(zé)怪自己砍價(jià)技不如人。但是，當(dāng)你被互聯(lián)網(wǎng)平臺(tái)“殺熟”時(shí)會(huì)發(fā)現(xiàn)自己是被動(dòng)的，自己并不知情，這樣的用戶體驗(yàn)就很差了。這也是消費(fèi)者對(duì)“大數(shù)據(jù)殺熟”如此痛恨的原因?？萍荚诓粩噙M(jìn)步，可如果互聯(lián)網(wǎng)公司利用技術(shù)創(chuàng)新只是為了“看人下菜”而榨取最大利潤(rùn)，這種創(chuàng)新不會(huì)為大家所接受。

算法若被合理使用，可以實(shí)現(xiàn)平臺(tái)運(yùn)營(yíng)者和消費(fèi)者的雙贏。比如電商可以清晰把握消費(fèi)者需求，提升效率，壓縮成本。精準(zhǔn)的私人訂制也能為消費(fèi)者節(jié)省時(shí)間。個(gè)性化推薦的算法若用得好，還能造福人類。比如在醫(yī)學(xué)上的應(yīng)用，每個(gè)人對(duì)藥物的反應(yīng)可能千差萬(wàn)別，如果通過(guò)大數(shù)據(jù)找到一些和你的生理數(shù)據(jù)、健康狀況、生活習(xí)慣、性格背景都高度相似的個(gè)體，看看他的身體對(duì)特定藥物和治療方案的反應(yīng)，那么，醫(yī)生就能向你推薦更適合你的治療方案。

這也就提出一個(gè)問(wèn)題：大數(shù)據(jù)時(shí)代，我們需要怎么樣的算法，如果實(shí)施算法監(jiān)管，立法管得住嗎？

有人說(shuō)，算法不是透明的，有些算法本身就是個(gè)黑匣子，如果實(shí)施監(jiān)管，那些互聯(lián)網(wǎng)巨頭肯定會(huì)想辦法繞過(guò)去。有人認(rèn)為，面對(duì)“大數(shù)據(jù)殺熟”這樣的技術(shù)倫理困境，應(yīng)該考慮如何用更良善的科技來(lái)解決。在這幾部法規(guī)的立法調(diào)研和審議中，類似的博弈討論就不少。如果立法過(guò)于嚴(yán)格，不利于技術(shù)創(chuàng)新；如果過(guò)于寬松，又不利于消費(fèi)者個(gè)體。可見，算法監(jiān)管的這個(gè)度并不好拿捏，頗考驗(yàn)立法者的智慧。

技術(shù)史專家克蘭茲伯格說(shuō)過(guò)一句話：“技術(shù)既無(wú)好壞，亦非中立。”技術(shù)本身雖沒有好壞，但有極大的影響力。手握技術(shù)的科技公司有義務(wù)預(yù)判一項(xiàng)新技術(shù)到底會(huì)帶來(lái)什么樣的影響。你可以用大數(shù)據(jù)給用戶提供便捷，也可以用來(lái)“殺熟”?？萍疾⒉槐厝粠?lái)美好生活，帶來(lái)美好生活的，是善用科技的人。

從這個(gè)意義上，我們的立法初衷就很明確，就是給算法的“目標(biāo)函數(shù)”劃了一條底線?？萍枷蛏?，不是可有可無(wú)的個(gè)人情懷，而是必須履行的社會(huì)責(zé)任和法律義務(wù)。當(dāng)然，立法不是萬(wàn)能藥，不可能有了這個(gè)條款后，馬上就能杜絕不合理算法，但從監(jiān)管目標(biāo)上給互聯(lián)網(wǎng)經(jīng)營(yíng)者發(fā)出警示，也讓消費(fèi)者有了敢于訴訟的法律依據(jù)。