日前，斯坦福大學(xué)醫(yī)療中心的主治醫(yī)師們大都奮斗在抗擊新冠疫情的第一線，他們發(fā)現(xiàn)在首批 5000 支新冠疫苗中，他們中只有 7/1300 的人得以優(yōu)先接種，這讓他們感到震驚。但當(dāng)他們發(fā)現(xiàn)接種名單中還有政府官員以及在家遠(yuǎn)程診療病人的醫(yī)生時(shí)，他們對此非常憤怒。

12 月 18 日星期五，在原定的慶祝首次接種疫苗的拍照活動中，至少 100 名主治醫(yī)師就此提出抗議。很快，該校醫(yī)院領(lǐng)導(dǎo)層為沒有優(yōu)先讓他們接種疫苗而道歉，并將錯(cuò)誤歸咎于 “一個(gè)非常復(fù)雜的算法”。

流動醫(yī)療隊(duì)隊(duì)長蒂姆?莫里森在網(wǎng)上發(fā)布一段視頻并告訴參加抗議的醫(yī)生們：“我們由倫理學(xué)家和傳染病專家研究數(shù)周得出的算法并沒有發(fā)揮作用?！?/p>

圖 | 斯坦福主治醫(yī)師們在慶祝疫苗到來的活動上抗議

許多人認(rèn)為這只是借口而已，尤其是醫(yī)院領(lǐng)導(dǎo)層在周二就已經(jīng)意識到了這一問題，彼時(shí)接種名單上只有五名主治醫(yī)師，但領(lǐng)導(dǎo)層的解決方法也只是增加了兩名主治醫(yī)師，而沒有對算法進(jìn)行調(diào)整。

著名的硅谷內(nèi)部人員羅杰?麥克納米對此呈批判的態(tài)度，他發(fā)推特稱：“算法的核心吸引力之一是，它們允許有權(quán)有勢者將政治上不具吸引力的結(jié)果歸咎于黑匣子，否則他們就該為此負(fù)責(zé)?！?/p>

加利福尼亞大學(xué)黑斯廷斯分校的法學(xué)教授維納?杜巴爾致力于科技和社會進(jìn)行研究，她發(fā)推特稱：“其實(shí)是‘大眾’決定誰來接種疫苗，算法只是體現(xiàn)了他們的意愿。”

但斯坦福的 “意愿” 到底是什么呢？先來看看算法是如何運(yùn)作的。

算法如何運(yùn)作

這里的算法不是一種復(fù)雜的機(jī)器學(xué)習(xí)算法 (通常被稱為 “黑匣子”)，而是一種基于規(guī)則的公式，用于計(jì)算在斯坦福大學(xué)誰將首先獲得疫苗。它考慮了三種因素：“基于員工的變量”、“就業(yè)型變量”、以及加州公共衛(wèi)生部的指導(dǎo)方針。工作人員在每一個(gè)因素上都會獲得一定的分?jǐn)?shù)，總分為 3.48 分。

據(jù)推測，分?jǐn)?shù)越高的人排隊(duì)時(shí)的優(yōu)先級就越高，而一個(gè)人的分?jǐn)?shù)會隨著員工變量線性增加，65 歲以上或 25 歲以下的人會得到額外的分?jǐn)?shù)。這就意味著年齡最大和最年輕的工作人員會被優(yōu)先考慮。如此一來，住院醫(yī)生和其他一線工作人員處于不利地位，他們通常處于中等年齡范圍。

其中，工作變量對總分的影響最大。該算法以兩種不同的方式統(tǒng)計(jì)員工工作崗位和部門中新冠病毒的傳播情況，但兩者之間的差異并不完全清楚。

住院醫(yī)生們說，這些因素沒有考慮到接觸新冠肺炎患者的情況。這意味著算法不能區(qū)分那些從病患處感染了新冠病毒的人和那些通過社區(qū)傳播感染的人 —— 包括遠(yuǎn)程工作的員工。而且，正如 ProPublica 首先報(bào)道的那樣，實(shí)習(xí)醫(yī)生被告知，由于他們在不同部門之間輪換，而不是保持一項(xiàng)單一的任務(wù)，他們會失去與所在部門相關(guān)的分?jǐn)?shù)。

算法的第三個(gè)因素指的是加州公共衛(wèi)生部的疫苗分配指南，該指南的重點(diǎn)在于，暴露風(fēng)險(xiǎn)是優(yōu)先考慮疫苗接種的唯一最高因素。并且，這一指南主要是為了讓縣和地方政府決定如何優(yōu)先接種疫苗，而不是如何在醫(yī)院各部門之間進(jìn)行優(yōu)先接種。但它確實(shí)把住院醫(yī)生和他們工作的部門包括在最高優(yōu)先級之內(nèi)。

“他們?yōu)槭裁催@樣做？”

斯坦福大學(xué)嘗試比其他醫(yī)療機(jī)構(gòu)考慮更多的變量，但約翰霍普金斯大學(xué)伯克曼生物倫理學(xué)研究所所長杰弗里?卡恩說，這種方法過于復(fù)雜。他表示，“不同事物的權(quán)重越不同，就越難以理解 ——‘他們?yōu)槭裁催@樣做？’”

卡恩是約翰霍普金斯大學(xué)由 20 人組成的疫苗分配委員會的成員，其表示他的大學(xué)只是根據(jù)工作和接觸新冠病毒的風(fēng)險(xiǎn)分配疫苗。

他說，這一決定是基于不同觀點(diǎn)的目的性討論 (包括住院醫(yī)生的觀點(diǎn))，并與馬里蘭州的其他醫(yī)院進(jìn)行了協(xié)調(diào)。此外，加州大學(xué)舊金山分校的計(jì)劃也是基于對病毒暴露風(fēng)險(xiǎn)的類似評估。

卡恩說：“對任何像這樣的方法來說，透明和公開都是非常重要的…… 人們對疫情的信任本就如此之少，我們不能浪費(fèi)它?！?/p>

事實(shí)上，算法通常用于醫(yī)療保健，根據(jù)風(fēng)險(xiǎn)水平來對患者進(jìn)行排序，以便盡可能地更公平地分配護(hù)理和資源。但使用的變量越多，就越難評估計(jì)算是否存在缺陷。

例如，2019 年發(fā)表在《科學(xué)》雜志上的一項(xiàng)研究顯示，美國 10 種被廣泛使用的分配醫(yī)療服務(wù)的算法最終都偏愛白人患者、而非黑人患者。事實(shí)證明，問題在于算法的設(shè)計(jì)者認(rèn)為，在醫(yī)療保健上花費(fèi)更多的病人更虛弱，需要更多的幫助。但其實(shí)，花錢越多的人也越富有，而且更有可能是白人。結(jié)果就是，在同種醫(yī)療條件下，該算法分配給黑人病人的護(hù)理比白人病人更少。

研究醫(yī)療保健中公平算法使用的麻省理工學(xué)院博士候選人艾琳?陳懷疑這就是斯坦福大學(xué)發(fā)生的事情：公式的設(shè)計(jì)者選擇了他們認(rèn)為可以很好地代表給定員工新冠風(fēng)險(xiǎn)水平的變量。但當(dāng)疫苗計(jì)劃于上周二曝光時(shí)，他們并沒有證實(shí)這些變量能產(chǎn)生合理的結(jié)果，或以有意義的方式回應(yīng)社區(qū)的投入?！叭藗兒髞硪庾R到了這一點(diǎn)，這并不是一件壞事，” 陳說?！皢栴}是沒有一個(gè)機(jī)制來解決這個(gè)問題。”

煤礦里的金絲雀？

抗議活動之后，斯坦福大學(xué)發(fā)表了正式道歉，表示將修改其疫苗分配計(jì)劃。

醫(yī)院代表沒有回答他們將在新規(guī)劃中將哪些人納入考慮，以及該算法是否會繼續(xù)使用的問題?！堵槭±砉W(xué)院技術(shù)評論》分享了一份總結(jié)斯坦福醫(yī)學(xué)院回應(yīng)的內(nèi)部電子郵件，郵件中說項(xiàng)目負(fù)責(zé)人、系主任、主治醫(yī)生和護(hù)理人員都沒有參與最初的算法設(shè)計(jì)。然而，現(xiàn)在一些員工正在努力發(fā)揮更大的作用，他們計(jì)劃完全取消算法，取而代之的是賦予部門主管和主席來為自己團(tuán)隊(duì)做決定的權(quán)力。

斯坦福其他系主任鼓勵(lì)住院醫(yī)生先接種疫苗，有些系甚至要求員工在接種疫苗時(shí)帶上住院醫(yī)生，或者推遲他們的接種時(shí)間，這樣其他人就可以先接種。

一些住院醫(yī)生則完全繞過了大學(xué)的醫(yī)療保健系統(tǒng)，神經(jīng)內(nèi)科住院醫(yī)師努瑞爾?莫哈維是第一個(gè)在斯坦福大學(xué)公布這個(gè)問題的人，他周五下午在推特上表示他終于接種了疫苗 —— 不是在斯坦福大學(xué)，而是在圣克拉拉縣的一家公立縣醫(yī)院。

他在推特上寫道：“我今天接種疫苗是為了保護(hù)自己、家人和病人。但我之所以有機(jī)會，只是因?yàn)槲宜诘墓⒖h醫(yī)院認(rèn)為，住院醫(yī)生是關(guān)鍵的一線醫(yī)護(hù)人員。感激。”

來源：麻省理工科技評論