2020-05-30 14:05:11Head瘋Panda

糖衣毒藥「大數據的傲慢與偏見」

  「毒藥並不可怕,可怕的是包著糖衣的毒藥。」隨著網路的普及,資訊的取得、收集和發佈也越來越容易。加上資訊科技的發達,對數據的處理能力和容納程度也飛速成長。「大數據」這個隱含無限可能的寶藏成為新興的熱潮,數據的分析和買賣為無數人帶來巨額的財富。萬物皆有其兩面性,「大數據」也不例外,在繁榮進步的同時,危機和惡意亦逐漸滋生。在無數唱好「大數據」的聲音之中,出現了一道不協調音。數學家凱西.歐尼爾透過「大數據的傲慢與偏見」,列舉出應用在各種方面的分析系統帶來的禍害。

 

  「大數據的傲慢與偏見」一書中,作者指出數據系統的錯誤應用,會演變成「數學毀滅性武器」,為人們帶來深遠性的不幸。數學毀滅性武器有三個特點,數據指標不透明,應用層面廣和會對人類造成傷害。在針對大批量的數據作統計和分析時,人類普遍依賴系統,更相信系統進行這些工作比人類更為公平中立。但系統其實也源自人類,在建立之初來自人類的偏見可能已經被帶進系統之中,從而導致系統的分析結果存在偏向性。同時,分析系統中使用哪些數據來運算分析,很多時候是不透明的。用作分析一些沒有直接指標的東西時,被用作替代指標的東西很容易帶來偏差。如果這些系統沒有反饋途徑讓系統的管理者意識到這些偏差並進行修正,便有機會發展成數學毀滅性武器。書中其中一個例子是「教師評核系統」。這套系統用作評估教師是否稱職,協助學校辭退一些不合格的教師。教師的好壞,其實很難單以可量化指標來分析。作為替代指標,學生的各種分數便成為分析的理據。但影響這些分數高低的因素,並不只是老師。學生的家庭,健康狀況,社會環境等都會影響考試的結果。另外,如果一名老師讓一名吸毒的學生回到正軌,或者幫助身心障礙的學生融入校園生活,那他是否一名好老師呢?

 

  工具本身沒有善惡之分,因為人類的介入才有了好壞。資訊科技的成長速度太快,很多人對它的了解還很淺。像是數據分析這種東西,如果用以為惡,會是如何呢?作者指出很多營利型大學會透過數據分析找出潛在客戶,向他們推銷認受性低但費用高昂的學位課程。這些潛在客戶通常是生活較為困難的人。他們因為生活貧困所以對大學相關訊息的了解較低,而且因為渴望改變現狀而被那些推銷者說服。結果他們為了付學費而承擔更多的貸款,卻沒有換來改善生活的契機,反而變得更為艱難。相對的,如果我們用數據分析查找虐兒風險高的家庭,在悲劇發生前為他們提供協助及輔導,無數的兒童將因此而受惠。在「大數據的傲慢與偏見」還有很多不同的例子說明使用者的出發點對系統的偏向性有多大。科技的方便使得我們對其產生濃濃的依賴和盲信,因而忽視了背後可能包藏著惡意。

 

  很多技術在人類立心不良的影響下漸漸變成一種種可怕的武器。網路出現前,想得到一個人的個人資料非常困難。現在在網路世界中,資訊的流通性使個人私隱成為一項隱患。近年這項隱患漸漸變得明顯,個人資料的暴露開始對現實生活造成影響和傷害。從極具騷擾性的推銷電話,到各式各樣的盜帳盜用,甚至是一些更嚴重的傷害行為。人肉搜尋、網路凌霸這些負面的東西也日益嚴重。在資訊科技的掩護下,我們的自制力跟思考能力被潛移默化的淡化。跟在現實世界相比,人們的處事態度往往更「放得開」,因此更容易不負責任的做出越界的行為。早前被揭發的「N號房事件」便是一個很可怕的例子。通訊軟體變成犯罪平台,惡意在科技的加持下可以簡單地變成不幸的深淵。因為流通速度快,範圍廣,惡意會被渲染成一種潮流和氛圍,影響更多的人。所以在這個資訊爆炸的年代,我們更需要自制力和思考能力,才能避免將生活變得美好的工具變成傷害別人的武器。

 

  每一輪大變革都是禍福相依,以前的工業革命也好,現在的數據革命也好。在變革的過程中,人類才是真正的主導。社會的發展和進步是不是避免的,但是否減少過程中所造成的不適和傷害卻是人類可以控制的。我們應保持慎思慎行的態度,別把應盡的責任都推給科技。