由 AlphaGo 起頭步入人們視野，人工智能公司 DeepMind 的一言一動老是飽受存眷，而在客歲，DeepMind 取英國國度醫(yī)療服務(wù)體系 NHS 旗下基金會 Royal Free London 簽訂了為期五年的條約，NHS 旗下的三家倫敦病院將向 DeepMind 分享 172 萬病人的醫(yī)療數(shù)據(jù)。
這自然引發(fā)了對隱私題目的評論辯論和擔(dān)心，DeepMind 一向宣稱隱私取信賴是它們主要斟酌的題目，一切數(shù)據(jù)會被加密且不會取母公司谷歌分享，但依舊有很多學(xué)者質(zhì)疑 DeepMind 此言的真實(shí)性。
個(gè)中劍橋大學(xué)學(xué)者 Julia Powles 當(dāng)屬阻擋聲音最劇烈的一個(gè)，正在取 Hal Hodson 合寫的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質(zhì)疑 DeepMind 正在數(shù)據(jù)及隱私回護(hù)上的志愿。
正在說起這一爭端之前，我們先和 AI 高新科技批評回憶一下 DeepMind 取 NHS 協(xié)作的大抵進(jìn)程。
正在 2014 年 7 月，Royal Free London 旗下公立醫(yī)院的大夫取谷歌 DeepMind 公司入手下手有了開端接觸。值得一提的是，DeepMind 此前并沒有任何供應(yīng)康健效勞的閱歷或經(jīng)歷。
而在 2014 年 11 月，Royal Free 的一些敏感醫(yī)療數(shù)據(jù)就曾經(jīng)入手下手傳輸?shù)?DeepMind 的所持有的第三方服務(wù)器上。而 NHS 作為得到 Royal Free 大批基金支撐的英國國度醫(yī)療服務(wù)體系，自然還掌控著英國百姓康健信息的大批數(shù)據(jù)。
隨后正在 2016 年 1 月，DeepMind 公開公布取 Royal Free 協(xié)作，將行使后者所給予的數(shù)據(jù)開辟一款名為 Streams 的應(yīng)用以輔佐急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創(chuàng)始人之一 Mustafa Suleyman 取 Royal Free 的 Subir Mondal 簽訂了一份八頁的信息同享和談（ISA），這份時(shí)效五年的和談表現(xiàn)，Royal Free 是數(shù)據(jù)的預(yù)期節(jié)制方，而 DeepMind 只是一個(gè)數(shù)據(jù)處理方。
而在 2016 年 10 月，DeepMind 聲明公司將回護(hù) Royal Free 病人的敏感數(shù)據(jù)，比方 AKI 的治理數(shù)據(jù)取直接照顧護(hù)士內(nèi)容，它們暗示，這一些數(shù)據(jù)的局限比起和談中所束縛的內(nèi)容局限只會更窄，不容易更寬。谷歌還夸大 DeepMind 只是在為掌握腎臟疾病開辟相干運(yùn)用。
但那樣的聲明其實(shí)不能讓 Julia Powles 中意，她在講演中指出了 DeepMind 也許存在的三個(gè)題目：
首先是 DeepMind 是不是能夠被視為一個(gè)數(shù)據(jù)處理方，并直接對病人照顧護(hù)士產(chǎn)生影響的題目。按照 DeepMind 的官方材料顯現(xiàn)，Royal Free 至少有 26 名大夫及護(hù)士正在利用 Streams，均勻每天會向 11 個(gè)置身 AKI 風(fēng)險(xiǎn)的病人收回安康警報(bào)。
Powles 正在呈報(bào)中提到，「為什么那樣一家由數(shù)據(jù)發(fā)掘兼告白巨子谷歌全資擁有的 AI 公司，可以構(gòu)建一個(gè)以數(shù)據(jù)集成用戶為根本的 App？不論是 DeepMind 照舊 Royal Free London，都沒有對這個(gè)題目開展正面答復(fù)。」
其次，數(shù)據(jù)如安在法令保護(hù)下舉行利用？目前所收集到的聲明都只是兩個(gè)協(xié)作機(jī)構(gòu)的偏聽偏信，她并沒有相識到任何關(guān)于數(shù)據(jù)利用的監(jiān)視文件或是具有法令約束力的客觀文件。Powles 默示，民眾并沒有相識數(shù)據(jù)去處的渠道或權(quán)益，是以還沒法得知他們所說的是不是屬實(shí)。
第三點(diǎn)是，相干的設(shè)備及算法是不是已依照法例正在羈系機(jī)構(gòu)得到受權(quán)/答應(yīng)？依據(jù) DeepMind 及 Royal Free 的聲明，它們采取的是一個(gè)為 AKI 效勞的「國有算法」（national algorithm），它可以對血液程度舉行測試，并融合 Royal Free 的數(shù)據(jù)（已正在 DeepMind 存儲、使用及傳輸），決議是不是需要向大夫的挪動設(shè)備發(fā)送相干的安康警報(bào)。依據(jù) Powles 的認(rèn)識，DeepMind 并沒有得到研討核準(zhǔn)機(jī)構(gòu)（HRA）或是保密咨詢機(jī)構(gòu)（CAG）的受權(quán)和答應(yīng)。
作為回應(yīng)，DeepMind 取 Royal Free 團(tuán)結(jié)揭橥了一項(xiàng)聲明，指出 Julia Powles 的這篇講述「完整曲解了 NHS 若何操縱技能處置懲罰數(shù)據(jù)的事實(shí)。」
「這篇文章犯了一系列龐大的事實(shí)和剖析毛病，并且臆想我們并沒有簽訂類似的數(shù)據(jù)和談。……事實(shí)上，該國的每個(gè)信托機(jī)構(gòu)城市按照一樣的法令取羈系軌制，利用 IT 體系匡助臨床大夫獵取病人的以往及當(dāng)前的信息。"
看熱鬧沒有嫌事大的 BBC 記者 Jane Wakefield 還約請兩邊正在一個(gè)公開場合開展回應(yīng)，并默示，「自然，我們極度體貼谷歌取 DeepMind 進(jìn)軍醫(yī)療行業(yè)，究竟它此前并沒有涉足過，別的，這一些公司并沒有屬于傳統(tǒng)專業(yè)的衛(wèi)生信息技術(shù)取基礎(chǔ)設(shè)施提供商，這一些行為若是沒有加以澄清和闡明，無疑會損害公家的情感。」
不可否認(rèn)的是，NHS 切實(shí)其實(shí)曾取一些第三方企業(yè)簽訂了一系列信息同享協(xié)定，DeepMind 此前曾揣測協(xié)定的金錢到達(dá) 1500 項(xiàng)，但 NHS 只是默示其實(shí)不正確，但沒有給出更具體的數(shù)據(jù)。
憑據(jù)掌握，現(xiàn)階段該使用主如果由英國信息辦公室（ICO，Information Commissioner's Office）舉行觀察，而國立數(shù)據(jù)羈系機(jī)構(gòu)（NDG）還對數(shù)據(jù)舉行監(jiān)控。ICO 近來則默示，他們的觀察已靠近序幕，并宣稱會和 NDG 持續(xù)維持協(xié)作，取 Royal Free 及 DeepMind 舉行按期聯(lián)系，請求取得 Stream 的開辟信息。
DeepMind 正在 2 月份還已示意，坦承期望取病人豎立更友愛的接洽，并樂意設(shè)立相干的評論辯論社區(qū)。它正在一項(xiàng)關(guān)于病人到場 Streams 項(xiàng)目標(biāo)計(jì)謀文件中還說起，「若是病人取大夫可以協(xié)商做出決議，結(jié)果會變得更好。」