| 打開醫(yī)學“黑箱” 機器人醫(yī)生也要“持證”上崗 |
| 來源: | 發(fā)布時間:1632115049 | 瀏覽次數(shù)：
|
在評估AI系統(tǒng)能力的時候，一方面是評估AI的知識和能力，需要滿足臨床設計的目標；另一方面，AI系統(tǒng)應該是一個可以不斷進化和升級迭代的系統(tǒng)，讓技術的發(fā)展適應人類。
人工智能（AI）在醫(yī)療行業(yè)的應用一直都受到廣泛關注。AI研究如何在遵循臨床研究范式的基礎上尋求變革創(chuàng)新？如何看待AI在醫(yī)療實踐中的倫理問題？誰將占據(jù)AI醫(yī)療的制高點？
針對上述問題，8月29日，《新英格蘭醫(yī)學雜志》（NEJM集團）與嘉會醫(yī)學研究和教育集團在上海舉行了一場醫(yī)學AI研討會，來自全球頂尖的醫(yī)學專家和業(yè)內領先企業(yè)分享了AI在醫(yī)學應用中的實際應用案例以及未來面臨的挑戰(zhàn)。
AI系統(tǒng)的能力如何評估？
NEJM集團編輯德萊森（JeffreyDrazen）教授從AI醫(yī)療研究出版論文入手，他援引一篇發(fā)表在2020年4月出版的《新英格蘭醫(yī)學雜志》上的論文。該研究使用人工智能檢測視神經乳頭水腫的效果，通過計算接收工作特性曲線下面積（AUC）、靈敏度和特異性來評估視盤外觀分類的性能，并與神經眼科醫(yī)生的臨床診斷參考標準進行比較，AI在某些方面的工作甚至超過了眼科醫(yī)生。
德萊森教授表示，機器學習應該對大量眼底照片進一步研究，這些照片的資源非常寶貴，一方面是因為通常受到隱私保護的限制，另一方面是眼科器械設備的高昂價格限制了資源的普及性。
復旦大學上海醫(yī)學院眼科學與視覺科學系主任、中國研究型醫(yī)院學會眼科學與視覺科學專委會主委孫興懷教授對第一財經記者表示：“醫(yī)學成像中人工智能算法正在實現(xiàn)爆炸式增長，人工智能在眼底病篩查上具有很大潛力。但AI要在臨床上應用好，一定要有一個非常強大的神經網絡計算機團隊的支持。”
他同時指出，人工智能靠大量的前期病例圖片輸入進行識別面臨的局限性。“因為臨床上疾病是千變萬化的，以前沒有輸入過的，它是識別不了的。”孫興懷表示，“有些疾病不只是表現(xiàn)在眼底，還要結合眼部其他的改變來綜合分析判斷。人工智能只能給出一個傾向性判斷，最終還是要有經驗的醫(yī)生綜合分析來決定。”
醫(yī)療涉及到人類的健康，對AI醫(yī)療的系統(tǒng)進行評估的重要性不言而喻。德萊森教授表示，未來開發(fā)出一套具有針對性的關于AI介入診斷精確性的評估指南很有必要。
“在評估AI系統(tǒng)能力的時候，一方面是評估AI的知識和能力，需要滿足臨床設計的目標；另一方面，AI系統(tǒng)應該是一個可以不斷進化和升級迭代的系統(tǒng)，讓技術的發(fā)展適應人類。”德萊森說道。
麥考瑞大學教授、澳大利亞健康創(chuàng)新研究所所長EnricoCoiera表示，AI系統(tǒng)大致可以分三類，包括輔助醫(yī)生的AI系統(tǒng)，比如讀心電圖；另一種是可以替代醫(yī)生的AI系統(tǒng)，比如篩查眼底照片；第三類是AI系統(tǒng)將來可以做的醫(yī)生目前還做不了的事情。
“我們認為評估AI的性能，也應該將人機互動的性能結合起來進行評估，而不僅僅是評估算法，AI系統(tǒng)如何最大程度上幫助人類醫(yī)生，這是一個更為復雜的問題。”Coiera教授表示。
他還強調，醫(yī)療AI應該不僅僅作為一種通用的技術，而是可以作為專業(yè)行業(yè)的定制化技術，這對于專科而言非常重要。
醫(yī)療AI如何獲得信任？
專家普遍認為，AI在醫(yī)療領域的廣泛應用的前提是要在工業(yè)界、科學界、醫(yī)生以及患者群體中獲得信任。有趣的是，多位專家將AI醫(yī)療系統(tǒng)和無人駕駛系統(tǒng)進行了類比，無人駕駛上路要先考“駕照”，那么AI醫(yī)生要上崗也需要“持證”。此外，萬一AI系統(tǒng)發(fā)生事故，那么相關的責任認定也需要有所規(guī)范。
“就像自動駕駛一樣，我認為現(xiàn)在的AI還沒有完全成熟。”中科院院士、復旦大學附屬中山醫(yī)院心內科主任葛均波教授表示，“作為臨床醫(yī)生，在手術過程中，我們希望AI能夠指導醫(yī)生進行非常精確的操作。目前看來，這一功能還要通過機器深度學習，提高應對各種復雜狀況的應變能力。”
今年3月，葛均波在西門子醫(yī)療的手術機器人系統(tǒng)途靈的輔助下，完成了中國首例機器輔助冠脈介入手術。在機器輔助手術中，葛均波通過手術室外的操縱桿，隔室操控機器人進行手術，讓導絲迅速通過復雜的病變，微調冠脈支架系統(tǒng)的位置并釋放。
葛均波認為，機器人目前的操作還無法達到業(yè)內專家的水平。不過他仍然相信，AI系統(tǒng)一定能在慢病隨訪、疾病篩查、基層醫(yī)生診斷等領域發(fā)揮作用，并且隨著未來在感知方面能力等提升，可以最終達到人類頂尖醫(yī)生的水平。“AI現(xiàn)在達不到預期，并不意味著我們就要停止對它的研究了。”葛均波表示，“未來AI一定會在精準性和標準化方面發(fā)揮重要作用。”
西湖大學特聘研究員郭天南表示：“對AI的信任是基于AI所創(chuàng)造的價值，但人們也不應該對AI有過高的期望值，仍應循序漸進，同時加大AI在臨床的滲透率。”
專家還表示，目前很多基于深度學習的系統(tǒng)仍是一個黑箱，涉及到很多參數(shù)，在相關領域數(shù)據(jù)共享方面的工作進展仍然非常有限。
騰訊AI實驗室AI醫(yī)療首席科學家姚建華表示：“雖然從公司盈利的角度來看，不太可能把所有的源代碼都開源，但是用于AI系統(tǒng)訓練的數(shù)據(jù)是很重要的，我們使用什么樣的數(shù)據(jù)來進行模型的訓練和檢測，數(shù)據(jù)是否有偏見，是否符合臨床實踐的價值，這些應該是適合發(fā)布給公眾了解的。”
醫(yī)渡云首席人工智能科學家閆峻表示：“保證數(shù)據(jù)的質量非常重要，我們需要的是用于臨床研究的結構化和標準化的模型。現(xiàn)在即便是非常好的醫(yī)療機構提供的數(shù)據(jù)，很多也不能直接拿來面向訓練，需要自然語言處理技術來識別，識別的過程中需要很多醫(yī)學邏輯。”
科大訊飛一位醫(yī)療AI負責人強調了醫(yī)療AI系統(tǒng)的可解釋性。“AI醫(yī)療的智能化系統(tǒng)如果提供了服務信息，那么醫(yī)生需要獲得解釋；如果AI系統(tǒng)作為一個輔助診療系統(tǒng)，那么本身也需要可解釋性。”這位負責人表示，“在樣本的可解釋性技術路線之上，我們再對數(shù)據(jù)做深度分析，尋找輸入和結果是否強相關的，最后還需要結構化的醫(yī)學診療知識。” |
|
