Chapter 2
惠普科技、塔吉特百貨和警方如何推斷你的祕密

我們如何在不侵犯隱私的情況下善用預測機器，預先得知誰會辭職、誰會懷孕和誰會犯罪？公民自由出現危機了嗎？為什麼某家知名壽險公司要預測保戶的壽命？利用電腦偵測詐騙，機器智能如何在它的腦袋裡解讀「詐騙」這個詞的意思？

要是你打算離職，但你沒有跟任何人說，老闆卻知情了，會怎麼樣？如果你是惠普科技全球超過三十三萬名員工的其中一位，你跟同事們其實都被老闆用「離職風險」分數逐一標記。這個簡單的數字預言你離職的可能性。身為惠普科技的員工，你很可能不知道公司這樣做，等看完本章的詳細說明，你可能會很生氣。

就在媒體對知名百貨塔吉特預測顧客懷孕大肆抨擊後，惠普科技的故事也被揭露出來。這股媒體風暴引起令人誤解的指控，讓大家開始擔心企業的力量，加上電視名嘴推波助瀾，預測分析當然也成為眾矢之地。讓我訝異的是，最後連我也捲入其中。

電視新聞節目的批評雖然沒有那麼辛辣刻薄，至少方向通常是正確的。媒體的抨擊斷章取義，誤導社會大眾，不過卻也讓大家看到預測技術面臨的法律困境。塔吉特和惠普科技的預測實力引起一片譁然，讓預測技術遭遇非比尋常的挑戰，也讓預測涉及的道德問題引發關注。其中爭議最大的就是有關隱私的討論，而且這類風險似乎有日漸提高的趨勢。

為什麼？因為預測會進一步窺探你的個人隱私，比方說這章的個案討論就告訴我們，企業想利用預測推論以前不知道的敏感事實：你想離職嗎？你懷孕了嗎？這跟資料處理不當、洩漏資料或偷竊資料都沒有關係，而是利用新資料的產生，也就是間接發現非自願透露的個人事實。組織從無傷大雅的現有資料中預測出這些實用見解，一切彷彿無中生有。但是，組織是否做好準備，妥善管理自己的產物？

在我們接受預測力量無遠弗屆這項事實時，我們才開始推測預測對個人隱私的影響。這項事實引發連鎖反應：組織運用這些新發展的能力，消費者勢力崛起，媒體火上加油，科學家巧妙迴避輿論抨擊，然後重新檢視預測引發的道德問題，這些全都讓專家跌破眼鏡。

這個旅程終將帶領我們陷入一個相當不安的困境。除了預測孕婦和即將離職的員工，預測分析也揪出可能再犯的罪犯，並主動協助執法單位決定誰該繼續坐牢，誰可以出獄。

這個故事道出我從無憂無慮的技術專家轉變為不知情名嘴的歷程，也說明組織從剛愎自用轉變成謙卑為懷的歷程。原來，資料與分析的反社會領域跟我們不是毫無關係。