雷鋒網(wǎng)消息，據(jù)外媒HealthcareItNews報道，美國時間周四，F(xiàn)DA召集患者參與咨詢委員會（Patient Engagement Advisory Committee）進行了一場公開會議，討論醫(yī)療設(shè)備中人工智能和機器學(xué)習(xí)方面的問題。

據(jù)雷鋒網(wǎng)了解，2015年9月，主管醫(yī)療器械的FDA設(shè)備和放射健康中心成立了首個患者參與咨詢委員會，以確保在醫(yī)療設(shè)備的審評中反映患者需求。

PEAC主席、美國腎臟患者協(xié)會政策和全球事務(wù)主席Paul Conway博士說：“使用AI和機器學(xué)習(xí)技術(shù)的設(shè)備將通過提高患者治療關(guān)鍵過程的效率來改變醫(yī)療服務(wù)?！?/p>

此外，Conway和其他人在小組討論中也指出，人工智能和機器學(xué)習(xí)系統(tǒng)可能存在算法偏見和缺乏透明度——反過來，這可能會削弱患者對設(shè)備的信任。

為了應(yīng)對新冠疫情，醫(yī)療設(shè)備的創(chuàng)新速度不斷加快。設(shè)備和放射健康中心主任Jeff Shuren博士指出，已經(jīng)有562款醫(yī)療設(shè)備獲得了FDA的緊急使用授權(quán)。

Shuren說，患者的需求必須作為研發(fā)過程的一部分來考慮。

“我們繼續(xù)鼓勵醫(yī)療系統(tǒng)的所有成員努力理解患者的觀點，并積極主動地將他們納入醫(yī)療設(shè)備的開發(fā)、修改和評估中?；颊呤俏覀児ぷ鞯撵`感來源，盡管新冠疫情這一突發(fā)的公衛(wèi)事件給全球帶來了挑戰(zhàn)。但是患者的呼聲不會停止。如果說有什么不同的話，那就是更有理由讓人們聽到它?！?/p>

然而，飛利浦全球軟件標(biāo)準(zhǔn)監(jiān)管主管Pat Baird表示，獲得患者信任還意味著，要正視穩(wěn)定和準(zhǔn)確的數(shù)據(jù)集的重要性。

Baird表示，“為了幫助患者，我們需要更加熟悉他們，了解他們的醫(yī)療條件、需求和愿望，更好地了解那些潛在的因素，這些因素往往在收集的數(shù)據(jù)中潛藏著一些趨勢?！?/p>

Baird解釋說：“在一個子集上訓(xùn)練的算法可能與另一個子集不相關(guān)?！?/p>

例如，如果一家醫(yī)院需要為佛羅里達州退休社區(qū)的老年人提供醫(yī)療設(shè)備，一種識別緬因州青少年醫(yī)療需求的訓(xùn)練算法就不會有效——換言之，不是每個人都有同樣的需求。

“數(shù)據(jù)中的這種偏差不是故意的，但是很難識別，”因此，Baird鼓勵對偏見類型進行分類，并向公眾公開，“偏差帶來的后果，就是失去患者的信任。我們需要集思廣益，開發(fā)出更好的人工智能產(chǎn)品?！?/p>

CDRH的首席醫(yī)務(wù)官兼婦女健康主任Terri Cornelison上尉指出，人口統(tǒng)計鑒定在醫(yī)學(xué)上具有重要意義，這是因為，人口統(tǒng)計包含了遺傳和健康的社會決定因素等。

Cornelison說到，“科學(xué)告訴我們，這些不僅是明確的鑒別指標(biāo)，而且實際上與臨床相關(guān)。”

她指出，一項不識別患者性別的臨床研究可能會掩蓋不同染色體人群的差異化結(jié)果。在許多情況下，如果現(xiàn)有的訓(xùn)練數(shù)據(jù)不能代表不同類型的患者，那么AI就會學(xué)的越來越“窄”。

“更簡單地說，如果數(shù)據(jù)不包括你，AI算法可能就不能代表你。AI正在改變我們的衛(wèi)生系統(tǒng)和日常生活。盡管取得了這些重大成就，但是，大多數(shù)人都忽視了性別、年齡等因素對健康和疾病差異的影響?！?/p>

委員會還研究了“知情同意”如何在算法訓(xùn)練中發(fā)揮作用。 

“如果我同意接受AI設(shè)備的治療，我就有權(quán)知道數(shù)據(jù)集里是否有像我這樣的病人……”健康溝通顧問Bennet Dunlap說，“我認(rèn)為FDA不應(yīng)該接受或批準(zhǔn)一種沒有病人參與的醫(yī)療設(shè)備。”

“你需要知道你的數(shù)據(jù)將被用于什么。我是白人，我可以假設(shè)年長的白人包含（數(shù)據(jù)集）中。這是每個人的出發(fā)點，但情況往往不是這樣?！?/p>

埃默里大學(xué)Goizueta阿爾茨海默病研究中心Dr. Monica Parker指出，讓患者數(shù)據(jù)多樣化，需要社區(qū)內(nèi)可信實體的幫助?！叭绻藗?yōu)榱烁鼜V泛的多樣化而開發(fā)這些設(shè)備，那么這些設(shè)備是在哪里進行測試的，這是不是存在一些問題呢？”

她提出了在美國東、西海岸的學(xué)術(shù)醫(yī)療中心或技術(shù)中心進行測試的問題，而不是“從醫(yī)院收集真實世界的數(shù)據(jù)，因為這些醫(yī)院可能在疾病過程中使用一些不同的設(shè)備?！?/p>

Faces and Voices Recovery的運營總監(jiān)Philip Rutherford也補充到，在數(shù)據(jù)集中區(qū)分多樣性是不夠的，負責(zé)訓(xùn)練算法的人也必須不是同質(zhì)的?！叭绻Ｍ麛?shù)據(jù)多樣化，我們就必須讓收集數(shù)據(jù)的人也多樣化。”

因此，患者參與咨詢委員會呼吁，F(xiàn)DA在解決人工智能和機器學(xué)習(xí)中的算法偏見方面發(fā)揮強有力的作用。

Conway在最后總結(jié)說，“歸根結(jié)底，多樣性驗證和無意識的偏見……如果從一開始就有強有力的領(lǐng)導(dǎo)，所有這些問題都可以得到解決?！?span style="color: #FFFFFF;">雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。