聯系電話:020-28187900

Om Malik:擁有多大的數據 就要盡多大的責任

發表時間:2014-07-10 閱讀: 7490


「你們可以設想,在未來的某個時點,我們將可以制造比人類更加善于思考,擅長理論邏輯的機器。」Google 聯合創始人 Sergey Brin 在 Khosla Ventures 的創始人 Vinod Khosla 的采訪中這樣說的。

或許對于一個和他同樣聰明的人,一個同樣正在研究機器學習、人工智能的人來說來說,這句話再正常不過了:技術必將發展到那個程度,我們終究比不過效率極高,沒有情緒影響的機器。

但這句話,對于一個并非來自硅谷的人來說,卻意味著機器終將替代他的未來。像他這樣的人對于 Google 來說,是「無用」的了。

硅谷的大公司逐漸開始發現它們的命運正在和人類的未來交織膠結在一起:它們所期待的未來和人類期待的未來不一樣!而這些公司的態度,通常隱藏在親和的表皮之下,卻充滿了機關算計。

硅谷(包括其代表意義,以及實際存在的地點)代表著我們正在努力地「活在未來」——我們努力地思考和構想未來究竟長什么樣子,并且通過我們的技術去努力地實現它。這些未來,有時候顯得格外美好,讓我們對其充滿了信心,去擁抱它們;而有的時候,這些未來看起來無比的「反烏托邦」,讓人們恐懼、害怕,驚恐其發生會對人類社會造成的滅亡。

恐怖的感覺

Facebook 的「情緒測試」就是反烏托邦式的未來的具象凸顯。Sara Watson,一名在哈佛大學博克曼互聯網與社會研究中心的學著,在一篇有關于數據和廣告的文章中提到了在上世紀 70 年代盛行的「恐怖谷」理論,又名「科技給我們帶來的不安」理論。

科技的飛速發展,對于我們來說既熟悉又陌生,而這種感知的交錯并行,令人們產生了恐怖的感覺。當我們不足以用所具有的理解能力去理解和分析我們所擁有的數據的時候,這種恐怖的感覺顯得格外夸張。

——Sara Watson,Data Doppelg?ngers and the Uncanny Valley of Personalization, 2014

Facebook 正在通過這些測試來「擺布」我們的情緒,而我所提到的這種恐懼感正在產生——促成恐懼感的,并不一定是這些測試本身,而更有可能在于它們預示的人類未來。


它們預示著什么?

我們的未來將被機器控制。機器可以隨意擺布我們的情緒,接管我們的需求和期待。我們害怕對于自己生命的決策權將會被機器奪取,但其實這種事情早就發生了只是我們一直沒敢承認而已。

一旦生殺大權被奪取,我們將再也回不到原來的生活。Facebook 的「情緒驅動行為」測試,只是未來生活的驚鴻一瞥。

我們的未來,是一個由數據驅動的,通過算法來維持的未來。在這個未來中,機器將正式接管,幫我們做出我們平常以為是自己做出的決定。

正如我在最近的《快公司》專欄中指出的,新的機械時代已經來臨,只是我們還未察覺或沒想過去察覺而已。「我們的世界已經不只是人類的世界了。」Quid 的 聯合創始人兼 CTO Sean Gourley 如此說道。他認為,我們的「互聯世界」(connected word) 正在生產出如此巨量的數據以至于人類的認知能力無法處理,只能依賴機器去做絕大多數的處理工作了。

也就是說,問題的真正核心在于,我們——科技產業的所有從業者——會做什么?我們應該做什么?

從我們獲取的原始材料開始:數據——從攜帶我們的表情、情緒、地理位置信息的成百上千億張照片,到我們因為人生各種悲歡離合在社交網站發布的狀態信息。不要以為你在網上是孤立的,沒人在關注你。事實上,你的每一個舉動,都被某人轉化成為數據,喂食給他們賴以盈利的機器。

你的數據,作價待沽

根據福布斯的透露,即便是一些看起來人畜無害的應用,比如 Waze、Moovit 或 Strava 這類和運動、地理位置有關的,都在向第三方機構出賣我們的活動和行為數據。當然,目前他們并非出售特定的某個人的數據,但誰能肯定地說他們不會在未來精細到對每個人的數據「區別對待」呢?

我不知道,如果我在這里不說的話有多少人知道:我非常驚訝于某些城市的市政管理部門居然會主動將從交通監控攝像頭中拍下的照片等數據出售給私營公司(Google),而從未經過聽證,更別提全體市民的許可。

讓我來擴展一下這種互相出售數據的卑劣行徑可能會引發的結果:

Waze 的發言人表示他們的服務能夠告訴用戶從 A 點到 B 點駕車的速度。如果有一天,他們把這個信息出售給保險公司,用以支持后者的保費上漲呢?

你知道當你注冊 Strava 的時候,其實是和他們簽訂了一個以 80 美分價格出售你一年數據的協議嗎?

我想知道,在一個什么樣的世界中才會有人允許這種事情未經用戶首肯就發生了呢?感謝以 Facebook 為首的公司,現在這種出賣用戶數據的行為已經成為了公司的默認模式了:如果你的產品沒火,你的公司準備破產了,至少你還可以把僅剩的數據賣給收購收購商。

問題就在這里。我們這些普通人并不真的了解這些正在囤積用戶數據的公司,能用這些數據做出什么好的或不好的事情來。來自 Nest、Dropcam、Waze、Android、Google 地圖、Gmail 和搜索的數據,太多了。Google 究竟是怎樣使用它獲取的所有數據的呢?


幾周之前,我看到了紐約時報和 Google 聯合創始人之一的 Larry Page 的采訪文章,當時我一直期待采訪者能夠深度挖掘一下 Google 究竟在數據隱私上采取一個什么樣的姿態,以及他們未來究竟將會怎樣使用他們從我們這里獲取的數據。畢竟,Google 這樣一家互聯網入口級大公司對于數據的態度,對于未來人類社會的發展來說太至關重要了。

所以,現實情況就是:你們掌握了這么多關于我的數據,或許我們應該好好談談我作為一名合法公民,應該在這些數據上享有的隱私等權利。當然,這并不代表我們應該放棄現在的一切回到茹毛飲血的時代,但至少我們應該坐下來好好討論一下,所有關于數據、隱私、透明度的問題。

我最近經常因為數據和隱私的問題感到緊張,而當之前 Facebook 發布 Home 的時候這種感覺尤為明顯。

不要以為在人山人海中,你的數據或許并沒有多大的作用:仔細想,你的 GPS 傳感器記錄能夠幫助別人輕易的定位你的住所、工作地點,你的運動記錄能夠幫助別人判斷你的生活作息。如果這些數據被犯罪分子掌握了呢?你以為你真的是人山人海中的一粒不起眼的沙子嗎?

當然,我的種種疑慮,并非代表我不期待由尖端科技打造的美好未來提前來到。我很期待未來的醫療產業能夠提前預知用戶發病,自動施藥;我很期待 Google 的自動駕駛汽車技術能夠幫助人類更便捷地在城市中通勤。但令我揪心的問題在于,所有的這些正在發生的事情,倡導它們的人究竟有沒有仔細考慮這些事情有可能會對社會造成的沖擊?

討論 Google 和 Facebook 這樣的公司手持巨量數據做的事會對社會造成的沖擊,具有十分重要且現實的意義。試想,如果這些公司的產品,它們的機器能夠影響我們的情緒,未來它們會不會影響我們的行為?會不會影響商業的流程?會不會影響政治的決策?

反正 Facebook 的面部識別系統已經強過 FBI 不知道多少倍了。所以我說的這些事,無論你相信不相信,自己考慮去吧。

自動化的未來

社會從機制化轉向自動化,將會導致越來越多、越來越嚴重的社會關注缺位,和上個世紀初社會從混沌化轉向機制化并無不同。那個時候人類沒有保護自己的機制,但還好過去了一個世紀,我們學會了怎樣面對世界大變革,并且在當中保護自己。

人們看到了 Uber 這樣的公司出現,出租車司機、傳統行業,甚至是汽車制造公司都開始了對其的抵制。人們以為他們擊潰了 Uber 就能夠阻止自己或自己所在的公司的命運被 Uber 終結,但實際上這并不是 Uber 一家公司的事——無人駕駛汽車、無人機、城市基建私人承包化等等,都是使整個人類社會轉向自動化的驅動力量,而他們所代表的高效率,正是由機器帶來。

電腦讓越來越多的公司變得效率更高,有人戲言如果你的公司想賺更多錢,那么你應該聘用更少的員工。感謝機器,整個社會的效率都被提高了,但這樣真的好嗎?


這種(機器的)替代,已經讓感受到變化的人體會到了更多的痛苦,特別是越來越多的行業被「破壞性創新」(disrupt)掉,越來越多的工作崗位、工作機會被機器取代,再也不會被分配給越來越多的人口。就像在過去一樣,我們總是希望,新的產業能夠給我們帶來新的工作。但誰知道這樣的事兒會否發生呢?我認為,人類的未來必須由科技、商業、社會科學,乃至人性,一同界定,而并非一切服務高效率。

——Irving Wladawsky-Berger, IBM,A Growing Backlash Against the Relentless Advances in Technology?

問題出現了,人性和機器相比起來太低效率了。Google、Facebook 和亞馬遜明白這一點,而且他們的效率已經提高到太高了。Facebook 都能夠曹總我們的情緒了,誰能說亞馬遜在未來不會獲得能夠預測我們的消費需求的能力呢?

哦,我又想到了那些既微小又強大的呆在用戶手機里的,能夠隨時傾聽用戶聲音指令的芯片。如果未來,這些芯片開始為某些公司監聽和監視用戶的一言一行呢?關于這些芯片所獲取的數據,究竟有沒有可執行的隱私權保護法案?如果沒有的話,誰又該制訂這些法案呢?

MailChimp 的數據工程師 John Foreman 在一篇關于數據和人的關系的文章中指出:「絕大多數人對于他們所產生的數據的價值毫無了解。因此,人們寧愿交出他們寶貴的數據,去換取一些比較起來沒有多少價值的東西。」他的文章一語中的,將我們出賣數據的行為描寫的淋漓盡致。

數據:在2013年3月的 Gigaom 數據架構大會上,Quid 的 Sean Gourley 預測 Facebook 每年僅需花費 1.2 美元即可產生 6 美元的收入,而人們寧愿為了比一杯星巴克咖啡的價值還要少的回報,去出賣自己的數據。

我們過去的數據背叛了我們在未來的行為。這些掌握了我們的數據的大公司發現,只要他們「念出正確的咒語」,我們就會自己給自己帶上鎖鏈,成為他們的數據奴隸。在機器學習的模型之下,人類終將成為機制的客體,機器給我們輸入什么,我們就產出什么,一切都是那樣的確定。

——John Foreman

道德自律

當大多數科技確實能夠給我們的生活帶來更多的便利的同時,我們絕對不能忘記這些科技將會給我們的社會和經濟帶來的副作用。因此,如果我們就此放任大公司繼續在不經過用戶首肯的基礎上使用我們的數據去做他們有利可圖的事情,而不管不顧的話,或許我們最不希望出現的未來可能性,將成為我們的必然結局。

而我們目前的社會架構的悲哀所在,就在于立法和行政機構在面臨科技過度發展的情況時顯得毫無還手之力。因此我感覺,硅谷那些自以為自己能夠控制未來的公司,應該減慢速度,從過分尖端的技術倡導者的心態中退出來,發展一套道德自律系統出來。我的好朋友,斯坦福大學教授 Reilly Brennan 指出,一家公司想要成功,首先需要取得消費者的信任。因而,Waze 和市政部門的合作從概念上講應該是一件好事,但我仍然對于他們開展合作的目的純潔性抱有非常大的懷疑。

如上所言,大公司對于數據的真正意圖對外界的不清晰,是一種非常嚴重的問題。目前唯一能夠解決這個問題的辦法就是讓這些公司自己給自己套上「枷鎖」。用戶不需要敷衍了事的服務條款,而需要一個簡單、清晰的「信任條款」。正如蜘蛛俠中的 Uncle Ben 所言類似:擁有多大的數據,就要盡多大的責任。問題是 Google、Facebook、亞馬遜這些「未來的守門員」會真的聽從外界的意見嗎?

參考資料:om.co, Om Malik 個人博客


相關新聞 【更多】

唯眾網絡

1000炮金蟾捕鱼网络版