雷鋒網(wǎng)消息，據(jù)外媒HealthcareItNews報(bào)道，美國(guó)時(shí)間周四，F(xiàn)DA召集患者參與咨詢委員會(huì)（Patient Engagement Advisory Committee）進(jìn)行了一場(chǎng)公開(kāi)會(huì)議，討論醫(yī)療設(shè)備中人工智能和機(jī)器學(xué)習(xí)方面的問(wèn)題。

據(jù)雷鋒網(wǎng)了解，2015年9月，主管醫(yī)療器械的FDA設(shè)備和放射健康中心成立了首個(gè)患者參與咨詢委員會(huì)，以確保在醫(yī)療設(shè)備的審評(píng)中反映患者需求。

PEAC主席、美國(guó)腎臟患者協(xié)會(huì)政策和全球事務(wù)主席Paul Conway博士說(shuō)：“使用AI和機(jī)器學(xué)習(xí)技術(shù)的設(shè)備將通過(guò)提高患者治療關(guān)鍵過(guò)程的效率來(lái)改變醫(yī)療服務(wù)?！?/p>

此外，Conway和其他人在小組討論中也指出，人工智能和機(jī)器學(xué)習(xí)系統(tǒng)可能存在算法偏見(jiàn)和缺乏透明度——反過(guò)來(lái)，這可能會(huì)削弱患者對(duì)設(shè)備的信任。

為了應(yīng)對(duì)新冠疫情，醫(yī)療設(shè)備的創(chuàng)新速度不斷加快。設(shè)備和放射健康中心主任Jeff Shuren博士指出，已經(jīng)有562款醫(yī)療設(shè)備獲得了FDA的緊急使用授權(quán)。

Shuren說(shuō)，患者的需求必須作為研發(fā)過(guò)程的一部分來(lái)考慮。

“我們繼續(xù)鼓勵(lì)醫(yī)療系統(tǒng)的所有成員努力理解患者的觀點(diǎn)，并積極主動(dòng)地將他們納入醫(yī)療設(shè)備的開(kāi)發(fā)、修改和評(píng)估中。患者是我們工作的靈感來(lái)源，盡管新冠疫情這一突發(fā)的公衛(wèi)事件給全球帶來(lái)了挑戰(zhàn)。但是患者的呼聲不會(huì)停止。如果說(shuō)有什么不同的話，那就是更有理由讓人們聽(tīng)到它?！?/p>

然而，飛利浦全球軟件標(biāo)準(zhǔn)監(jiān)管主管Pat Baird表示，獲得患者信任還意味著，要正視穩(wěn)定和準(zhǔn)確的數(shù)據(jù)集的重要性。

Baird表示，“為了幫助患者，我們需要更加熟悉他們，了解他們的醫(yī)療條件、需求和愿望，更好地了解那些潛在的因素，這些因素往往在收集的數(shù)據(jù)中潛藏著一些趨勢(shì)?！?/p>

Baird解釋說(shuō)：“在一個(gè)子集上訓(xùn)練的算法可能與另一個(gè)子集不相關(guān)?！?/p>

例如，如果一家醫(yī)院需要為佛羅里達(dá)州退休社區(qū)的老年人提供醫(yī)療設(shè)備，一種識(shí)別緬因州青少年醫(yī)療需求的訓(xùn)練算法就不會(huì)有效——換言之，不是每個(gè)人都有同樣的需求。

“數(shù)據(jù)中的這種偏差不是故意的，但是很難識(shí)別，”因此，Baird鼓勵(lì)對(duì)偏見(jiàn)類型進(jìn)行分類，并向公眾公開(kāi)，“偏差帶來(lái)的后果，就是失去患者的信任。我們需要集思廣益，開(kāi)發(fā)出更好的人工智能產(chǎn)品?！?/p>

CDRH的首席醫(yī)務(wù)官兼婦女健康主任Terri Cornelison上尉指出，人口統(tǒng)計(jì)鑒定在醫(yī)學(xué)上具有重要意義，這是因?yàn)?，人口統(tǒng)計(jì)包含了遺傳和健康的社會(huì)決定因素等。

Cornelison說(shuō)到，“科學(xué)告訴我們，這些不僅是明確的鑒別指標(biāo)，而且實(shí)際上與臨床相關(guān)?！?/p>

她指出，一項(xiàng)不識(shí)別患者性別的臨床研究可能會(huì)掩蓋不同染色體人群的差異化結(jié)果。在許多情況下，如果現(xiàn)有的訓(xùn)練數(shù)據(jù)不能代表不同類型的患者，那么AI就會(huì)學(xué)的越來(lái)越“窄”。

“更簡(jiǎn)單地說(shuō)，如果數(shù)據(jù)不包括你，AI算法可能就不能代表你。AI正在改變我們的衛(wèi)生系統(tǒng)和日常生活。盡管取得了這些重大成就，但是，大多數(shù)人都忽視了性別、年齡等因素對(duì)健康和疾病差異的影響。”

委員會(huì)還研究了“知情同意”如何在算法訓(xùn)練中發(fā)揮作用。 

“如果我同意接受AI設(shè)備的治療，我就有權(quán)知道數(shù)據(jù)集里是否有像我這樣的病人……”健康溝通顧問(wèn)Bennet Dunlap說(shuō)，“我認(rèn)為FDA不應(yīng)該接受或批準(zhǔn)一種沒(méi)有病人參與的醫(yī)療設(shè)備?！?/p>

“你需要知道你的數(shù)據(jù)將被用于什么。我是白人，我可以假設(shè)年長(zhǎng)的白人包含（數(shù)據(jù)集）中。這是每個(gè)人的出發(fā)點(diǎn)，但情況往往不是這樣?！?/p>

埃默里大學(xué)Goizueta阿爾茨海默病研究中心Dr. Monica Parker指出，讓患者數(shù)據(jù)多樣化，需要社區(qū)內(nèi)可信實(shí)體的幫助?！叭绻藗?yōu)榱烁鼜V泛的多樣化而開(kāi)發(fā)這些設(shè)備，那么這些設(shè)備是在哪里進(jìn)行測(cè)試的，這是不是存在一些問(wèn)題呢？”

她提出了在美國(guó)東、西海岸的學(xué)術(shù)醫(yī)療中心或技術(shù)中心進(jìn)行測(cè)試的問(wèn)題，而不是“從醫(yī)院收集真實(shí)世界的數(shù)據(jù)，因?yàn)檫@些醫(yī)院可能在疾病過(guò)程中使用一些不同的設(shè)備?！?/p>

Faces and Voices Recovery的運(yùn)營(yíng)總監(jiān)Philip Rutherford也補(bǔ)充到，在數(shù)據(jù)集中區(qū)分多樣性是不夠的，負(fù)責(zé)訓(xùn)練算法的人也必須不是同質(zhì)的?！叭绻Ｍ麛?shù)據(jù)多樣化，我們就必須讓收集數(shù)據(jù)的人也多樣化。”

因此，患者參與咨詢委員會(huì)呼吁，F(xiàn)DA在解決人工智能和機(jī)器學(xué)習(xí)中的算法偏見(jiàn)方面發(fā)揮強(qiáng)有力的作用。

Conway在最后總結(jié)說(shuō)，“歸根結(jié)底，多樣性驗(yàn)證和無(wú)意識(shí)的偏見(jiàn)……如果從一開(kāi)始就有強(qiáng)有力的領(lǐng)導(dǎo)，所有這些問(wèn)題都可以得到解決?！?span style="color: #FFFFFF;">雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。