中國消費者報報道(記者劉浩)在大數據場景中,交易越來越多地依靠算法完成。互聯網平臺通過不斷優化的算法和不斷提升的算力,使得交易效率不斷提高,但算法的不透明性與難解釋性也給消費者權益保護與反不正當競爭帶來新的挑戰。3月14日,上海市消費者權益保護委員會發布觀點指出,算法公平性是平臺消費者權益保護的核心問題,應健全數字規則,盡快出臺算法規制,促進平臺算法公平,保護消費者合法權益。
初代大數據殺熟:“熟客賣高價”
上海市消保委介紹,初代的大數據殺熟,依靠的是算法的簡單判斷。比較典型的就是“熟客賣高價”,平臺對新客展示的是低價,因為新客通常會在不同平臺比價。而老顧客習慣已經養成,通常不會貨比三家,價格就會高一些。和“熟客賣高價”相類似的還有“新人插隊”,比如打網約車時,算法會判斷消費者是否購買代金券,如果購買了代金券,自然會忍受更長的等待時間(因為券不用會過期作廢),算法就會把沒買過券的乘客插隊排在前面。
差別定價不是錯事,消費者對于“大數據殺熟”的厭惡其實就在于平臺的欺騙。上海市消保委指出,多年前一些快餐經常在店門口發優惠券,對價格比較敏感的顧客會把優惠券收集在錢包里,下回買漢堡的時候可以“便宜2塊錢”。插隊也不一定就錯,比如銀行的VIP客戶就有權優先辦理業務。
然而,基于欺騙達成的交易沒有公平性可言。老顧客不會奢望打折,但也不愿意被套路。購買了代金券的乘客一直打不到車,誤以為是高峰時打車人多。
算法迭代:個性化推送“千人千價”
由于人工智能等新技術的運用,算法快速迭代,再加上平臺對消費者個人信息的全方位收集,個性化推送就成為了平臺主要的營銷手段,而競爭的核心就是推送精準度。
上海市消保委指出,平臺通過了解消費者的喜好,選擇消費者感興趣的內容推送,還能潛移默化地固化或是改變消費者的認知。例如,消費者曾經搜索過“白芝麻黑芝麻”,那么他會在很多APP里接收到關于芝麻的信息推文。如果他曾經在網上買過兩次白芝麻,那么大概率能經常看到關于“白芝麻比黑芝麻好”的各種文章。如果他正好40歲,可能就會看到“40歲以后應該吃白芝麻”的“知識科普”。
平臺根據個人信息匹配相關的產品廣告或產品。記者了解到,2020年下半年,上海市消保委曾使用多個手機終端模擬不同收入群體的消費者使用相同的APP,并進行一段時間的虛擬人設操作。測試發現,不同手機接收到的廣告差異度極大,模擬低收入人群的手機高頻度收到各類低價劣質商品和網絡貸款廣告。此外,上海復旦大學教授孫金云帶領團隊做了一項“手機打車軟件打車”調研,報告顯示,蘋果機主更容易被專車、優享這類更貴車型接單。
此外,上海市消保委發現,相較于初代大數據殺熟顯而易見的欺騙性差異化定價而言,基于復雜算法的價格組合更為隱蔽,也更能被合理化解釋。近日,上海市消保委在不同平臺測試了訂房、買菜等業務,不同賬號的價格差異比以前更大,但與以前不同的是,現在的“千人千價”是由原價與各種優惠券所組成的。這些券并不是賬號錢包里原有的,而是算法臨時生成的。
上海市消保委:盡快出臺算法規制
在數字經濟時代,“數據賦能”已經成為最為主要的經濟驅動力。隨著數據競爭日趨白熱化,也暴露出一些值得關注的問題,比如二代大數據殺熟,通過歧視性算法,以消費者的權益換取平臺數據價值的最大化兌現。
上海市消保委認為,算法公平性是平臺消費者權益保護的核心問題。基于算法的個性化內容推送客觀上會擴大個體間的認知偏差,而平臺出于商業目的的算法歧視,可能打造信息繭房,侵害了消費者的知情權。
基于歧視性算法的產品匹配,本質上是平臺對算法權力的濫用。消費者因為缺乏免受算法決策支配的“退出”的權利,從某種程度上被剝奪了依法享有的選擇權。
基于歧視性算法的價格組合,是對消費者公平交易權的侵害。算法從接受輸入數據到輸出決策結果的全過程,形成外界無法獲知的“黑箱”,算法在其中進行數據的處理、評估及分析,并根據具體場景作出決策。算法“黑箱”的非透明性導致二代大數據殺熟行為更加隱蔽、難以察覺。對此,上海市消保委呼吁,健全數字規則,盡快出臺算法規制,促進平臺算法公平,保護消費者合法權益。















