久久综合九色欧美综合狠狠,伊人热热**放WWW,成A人片亚洲日本久久,久久不见久久见免费影院日本,97久久精品人人做人人爽,久久综合狠狠综合久久综合88,午夜欧美精品久久久久久久,九九综合九色综合网站,欧美高清在线精品一区,久久精品国产99国产精品,狠狠色噜噜狠狠狠狠AV不卡,欧美激情一区二区久久久,精品无码久久久久国产

歡迎來到思途醫(yī)療科技有限公司官網(wǎng)!

醫(yī)療器械生產(chǎn)企業(yè)合規(guī)技術咨詢服務

注冊備案 · 臨床試驗 · 體系建立輔導 · 分類界定 · 申請創(chuàng)新

186-0382-3910
186-0382-3910
全部服務分類

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號)

來源:醫(yī)療器械注冊代辦 發(fā)布日期:2023-11-07 閱讀量:

附件:人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號).doc

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價
注冊審查指導原則

本指導原則旨在指導注冊申請人開展人工智能(artificial intelligence,AI)輔助檢測類醫(yī)療器械臨床評價的資料準備,同時為技術審評部門審評人工智能輔助檢測類產(chǎn)品臨床評價資料提供參考。

本指導原則進一步明確人工智能輔助檢測類醫(yī)療器械臨床評價的要求和適用情形。申請人可依據(jù)產(chǎn)品的具體特征確定其中內(nèi)容是否適用,若不適用,需闡述理由并提供相應的科學依據(jù),并依據(jù)產(chǎn)品的具體特征對臨床評價資料的內(nèi)容進行充實和細化。

本指導原則是供注冊申請人和技術審評人員使用的指導性文件,但不包括審評審批所涉及的行政事項,亦不作為法規(guī)強制執(zhí)行,應在遵循相關法規(guī)的前提下使用本指導原則。如果有能夠滿足相關法規(guī)要求的其他方法,也可以采用,但是需要提供詳細的合理性論述和驗證確認資料。

本指導原則是在現(xiàn)行法規(guī)和標準體系以及當前認知水平下制定,隨著法規(guī)和標準的不斷完善,以及科學技術的不斷發(fā)展,相關內(nèi)容也將適時進行調(diào)整。

一、適用范圍

人工智能醫(yī)療器械從與預期用途角度可分為輔助決策類和非輔助決策類。其中,輔助決策是指通過提供診療活動建議輔助醫(yī)務人員進行臨床決策,如通過異常識別、自動制定手術計劃進行輔助分診、輔助檢測、輔助診斷、輔助治療等。

人工智能輔助檢測產(chǎn)品,是指基于計算機人工智能算法,可包含模式識別和數(shù)據(jù)分析等功能,通過識別、標記、突出等方式提示醫(yī)師關注可能的異常/病變區(qū)域,從而輔助臨床醫(yī)師做出相應診療決策的產(chǎn)品,可為獨立軟件或嵌入式軟件;分類編碼為21-04-02,管理類別為第III類;產(chǎn)品還可同時包含非輔助決策功能,如結(jié)構(gòu)化報告生成、前后圖像對比、正常解剖組織的分割(如肺葉、肋骨等)、尺寸測量、CT值測量等臨床功能和數(shù)據(jù)儲存、傳輸?shù)确桥R床功能。人工智能輔助檢測產(chǎn)品常見的有針對肺結(jié)節(jié)、乳腺結(jié)節(jié)、骨折、血管狹窄、結(jié)腸息肉等病變/異常的檢出產(chǎn)品,本指導原則給出此類產(chǎn)品的通用要求,并以肺結(jié)節(jié)輔助檢測和結(jié)腸息肉輔助檢測產(chǎn)品為例(詳見附件),闡述對人工智能輔助檢測產(chǎn)品的臨床試驗中具體要素的考慮建議,同類型產(chǎn)品可參考相關適用部分。

本指導原則不適用于如下情形(但下述產(chǎn)品可參照本指導原則中適用部分的要求):1.可鑒別病變的性質(zhì)(如良惡性)或疾病分期分型的人工智能輔助診斷類產(chǎn)品;2.預測疾病發(fā)生概率的產(chǎn)品;3.可同時輔助檢測、鑒別診斷多種病變的多分類人工智能輔助檢測產(chǎn)品(例如同時輔助檢測并分類肺結(jié)節(jié)、條索、胸膜增厚、胸腔積液、肋骨骨折等的產(chǎn)品);4.人工智能輔助分診、轉(zhuǎn)診產(chǎn)品,此類產(chǎn)品通過初步評估患者是否疑似患有目標疾病,從而對患者的分診轉(zhuǎn)診提供輔助決策建議,該類產(chǎn)品不給出具體病變情況,且無論輔助分診結(jié)果為陰性、陽性,均需專業(yè)醫(yī)師再一次對患者影像進行評閱,常見的有糖尿病視網(wǎng)膜病變輔助分診、肺炎輔助分診、腦出血輔助分診等;5.配合體外診斷試劑產(chǎn)品使用的人工智能輔助分析軟件。

二、臨床試驗設計

(一)臨床試驗目的

臨床試驗目的一般是評價申報產(chǎn)品在預期適用范圍下使用時輔助檢測的診斷學性能,亦可一并觀察產(chǎn)品的可用性與安全性。

(二)臨床試驗基本設計類型

人工智能輔助檢測類產(chǎn)品的臨床意義通常在于提升醫(yī)師的病變檢測準確度,為充分評估產(chǎn)品的臨床受益風險可接受性,此類產(chǎn)品一般需考慮開展對照試驗,根據(jù)產(chǎn)品特征及臨床診療實際,可以為隨機平行對照、交叉自身對照或多閱片者多數(shù)據(jù)樣本(multiple reader multiple case,MRMC)試驗設計。

試驗組一般為醫(yī)師在軟件的輔助下完成異常/病變的檢測,對照組一般為臨床醫(yī)師獨立的異常/病變的檢測,比較二者的檢測準確度。

(三)研究對象

1.適用人群的影像學樣本

預期人群的影像學樣本是人工智能輔助檢測產(chǎn)品臨床試驗的典型研究對象,影像學樣本需基于定義明確的入選和排除標準收集,可為臨床已有數(shù)據(jù)(如臨床診療中產(chǎn)生的真實世界數(shù)據(jù))??紤]到AI與醫(yī)師觀察、操作的協(xié)同交互等因素,基于實時影像的輔助檢測產(chǎn)品臨床試驗,推薦考慮前瞻性采集影像檢查,作為臨床試驗研究對象。

為了保證臨床試驗質(zhì)量以及結(jié)果的可靠性,選取研究對象時,申請人需考慮如下措施:一是納入數(shù)據(jù)樣本獨立于申報產(chǎn)品或前代產(chǎn)品開發(fā)所用數(shù)據(jù)集,如申報產(chǎn)品或前代產(chǎn)品的訓練集、測試集。二是采用臨床已有數(shù)據(jù)進行研究時,需基于明確且嚴格的入排標準和臨床試驗計劃,連續(xù)收集過往某段時間內(nèi)、特定醫(yī)療機構(gòu)內(nèi)患者影像學數(shù)據(jù),避免主觀挑選病例。三是考慮陽性樣本中,目標疾病的疾病譜分布(如分型、分期)合理性,某些對輔助檢測具有挑戰(zhàn)性的分期、分型,必要時在臨床試驗中富集相關具有代表性的亞組。四是通常情況下,需避免在一項臨床試驗中同時入組同一患者同一目標部位的多組樣本數(shù)據(jù)。五是臨床已有數(shù)據(jù)收集時,需盡可能全面的收集與疾病相關的信息(適用的),具體包括但不限于:

(1)人口統(tǒng)計學信息(如年齡、性別);

(2)與輔助檢測目標疾病相關的信息,如病史、疾病狀態(tài)、分期、分型、病變大小、病變位置、器官特征(如乳腺腺體分型)、伴隨疾病等。

(3)確定為陽性/陰性病例的依據(jù),如既往診斷結(jié)論,以及確定疾病狀態(tài)、部位和程度的方法。

2.閱片者

由于閱片者表現(xiàn)的變異度及其與患者樣本變異度和診斷方法(即AI輔助器械)之間的交互效應,一般情況下宜將閱片者列入研究對象?;诜菍崟r影像的輔助檢測產(chǎn)品(如肺結(jié)節(jié)/骨折/乳腺結(jié)節(jié)輔助檢測等),采用MRMC設計可較好的控制閱片者偏倚,同等情況下所需的樣本量一般較少,申請人可優(yōu)先考慮選擇。采用MRMC設計時,根據(jù)預期的使用者情況,選取不同年資的多位醫(yī)師作為閱片者,申請人需論述閱片者數(shù)量的合理性。

(四)評價指標

主要評價指標應結(jié)合產(chǎn)品設計特征進行綜合選擇,一般認為靈敏度、特異度、ROC或其衍生曲線等診斷準確性指標受樣本患病率差異的影響較小,因此,宜優(yōu)先考慮此類指標作為主要評價指標。

無論選擇哪些指標作為主要評價指標,該類產(chǎn)品臨床試驗應當考慮整體的優(yōu)效性設計,例如ROC或其衍生曲線下面積(Area Under Curve,AUC)的優(yōu)效設計,或者目標疾病輔助檢測特異度非劣效前提下的靈敏度優(yōu)效性,或者息肉/腺瘤初檢檢出率的優(yōu)效性等。

(五)臨床參考標準構(gòu)建

申請人應詳述臨床參考標準的選擇、構(gòu)建方法及理由??晒┻x擇的臨床參考標準構(gòu)建方法包括:一是以臨床已確認結(jié)果為臨床參考標準,即臨床上結(jié)合患者影像學檢查、病史、實驗室檢查(如病理檢查)、長期隨訪結(jié)果等方法綜合判定的臨床診斷結(jié)果;二是通過專家組對研究對象(影像樣本)的閱片判定作為臨床參考標準。

對于人工智能輔助檢測產(chǎn)品,若根據(jù)產(chǎn)品設計判定可采用專家組意見作為臨床參考標準,通??蛇x擇高年資醫(yī)師組成的閱片專家組綜合意見為臨床參考標準,閱片專家組的成員需獨立于“試驗和對照組的閱片研究者”,并需要明確:1.專家數(shù)量;2.專家經(jīng)驗及專業(yè)水平;3.決策機制(如遵循多數(shù)意見、背靠背第三人仲裁等);4.專家決策時所依據(jù)的信息(如圖像上是否有標記,是否還提供了病史或其他檢查結(jié)果等);5.判定所依據(jù)的臨床準則(如臨床指南、診療規(guī)范、專家共識等)。

對于試驗中對病灶的檢出是否與臨床參考標準專家組意見一致,一般可考慮1.試驗組/對照組勾畫病灶的中心在專家組勾畫的病灶輪廓邊界范圍內(nèi);2.試驗組/對照組勾畫病灶與專家組勾畫病灶的像素重合度高于一定比例(需提供比例設定的支持依據(jù));若采用其他判定方法,則需論述合理性。

若采用臨床已確認結(jié)果作為臨床參考標準,則需明確1.已確認結(jié)果所依據(jù)的臨床信息,包括檢查類型及結(jié)果;2.各類影像學檢查的設備信息,包括影像檢查的掃描條件等;3.已確認結(jié)果的臨床診斷依據(jù);4.得出已確認結(jié)果的醫(yī)師情況,包括專家會診,需明確醫(yī)師資質(zhì);5.若還依據(jù)了臨床隨訪數(shù)據(jù),則還需明確隨訪的時間以及隨訪所做的檢查類型及結(jié)果。

(六)樣本量估算與統(tǒng)計分析

樣本量估算需綜合考慮臨床試驗設計、主要評價指標和統(tǒng)計學要求。申請人需明確計算公式、相應參數(shù)及確定理由,以及所用的統(tǒng)計軟件。

臨床試驗資料中可以提供樣本患病率以及目標疾病的流行病學研究的患病率情況進行合理性論述,并確保臨床研究設計中樣本數(shù)據(jù)隨機分配給閱片者進行評閱。

平行對照試驗樣本量計算可參考《醫(yī)療器械臨床試驗設計指導原則》中的相關內(nèi)容。

若采用MRMC的試驗設計,樣本量計算需首先明確具體的分析方法,如Obuchowski-Rockette Analysis(OR分析方法)、Dorfman-Berbaum-Metz-Hillis Analysis(DBMH分析法),并進一步明確受試醫(yī)師數(shù)量,檢驗水準α、檢驗效能1-β、預計效應值,優(yōu)效/非劣效界值,其中預計效應值可通過預試驗或調(diào)研并匯總分析目標病灶檢出的診斷學研究文獻獲得,優(yōu)效/非劣效界值應通過同品種產(chǎn)品臨床試驗結(jié)果或權(quán)威文獻研究等確定。不同疾病的檢測效應不同,在試驗設計中應明確優(yōu)效/非劣效界值的設定依據(jù)。以DBMH分析法為例,樣本量估算與交互隨機效應值,檢驗的檢驗效能、檢驗水準,受試醫(yī)師數(shù)量,優(yōu)效界值,非劣效界值(如有)等要素有關。用于樣本量估算的效應值(effect size)選擇時,可通過預試驗得到的誤差和混合效應方差來估計,并考慮預試驗樣本量等情況,在預試驗結(jié)果的基礎上采用適度保守的估計。

所有應用了試驗產(chǎn)品的受試醫(yī)師和患者都將被納入分析,對于主要指標,除給出主要評價指標(靈敏度、特異度、AUC)的點估計外,還將分別對其對應的95%置信區(qū)間進行估計,通過試驗組與對照組的優(yōu)效/非劣效比較判斷本試驗產(chǎn)品是否滿足臨床應用的需要。

(七)其他臨床試驗設計需關注的問題

1.臨床試驗培訓

在試驗前對閱片者開展必要的培訓,可以有效降低試驗的偏倚。除基本情況培訓(試驗流程、術語定義、數(shù)據(jù)樣本閱片的評價標準等)以外,還需考慮案例培訓和典型數(shù)據(jù)樣本講解等,且所用案例獨立于試驗研究數(shù)據(jù)樣本;培訓中宜設置閱片者培訓結(jié)果測試及合格接受標準;建議臨床試驗中,對閱片者的培訓與臨床應用時的培訓,在方法、時間、接受標準上盡量保持一致性;并考慮對臨床試驗閱片者資質(zhì)、能力等要求與臨床應用時使用者情況的匹配性。對專家組的培訓時間和接受標準宜顯著高于試驗組/對照組的閱片者的培訓時間和接受標準。

2.影像樣本評閱質(zhì)量控制

一是由閱片者在獨立盲法條件下對患者關于試驗的影像檢測結(jié)果進行解釋。二是在選取試驗閱片者時基于其專業(yè)能力和參與研究的可能性,充分保證閱片者對預期使用者的代表性??煽紤]不同醫(yī)療機構(gòu)來源、不同年資/專業(yè)水平的醫(yī)師。三是將數(shù)據(jù)樣本的臨床診斷結(jié)果、臨床參考標準判定結(jié)果、其他診斷信息(如生化檢測結(jié)果、后續(xù)治療等)或基本信息(如年齡、病史等)對試驗的閱片者設盲。四是對照試驗可考慮采用交叉閱片設計,交叉設計中可根據(jù)相關領域記憶曲線的研究設置合理的洗脫期。若采用多閱片者,最好每位閱片者按照不同的數(shù)據(jù)樣本順序進行評閱,有文獻報道典型的洗脫期一般為4~6周。是否采用交叉設計可根據(jù)申報產(chǎn)品的臨床應用方法、場景及適用范圍等綜合判定。

三、產(chǎn)品中非輔助決策臨床功能的評價

人工智能輔助檢測醫(yī)療器械產(chǎn)品還可能包括結(jié)構(gòu)化報告生成、前后圖像對比、正常解剖組織的分割(如肺葉、肋骨等)、流程優(yōu)化、尺寸測量(包括大小、體積等)、CT值測量等非輔助決策類軟件功能,可在臨床試驗中設置次要評價指標用于評價這些功能的安全有效性,亦可根據(jù)《醫(yī)療器械臨床評價技術指導原則》提交相應臨床評價資料。若提交臨床評價,上述功能的驗證確認可以考慮測試集測試、壓力測試、對抗測試、質(zhì)量良好的數(shù)據(jù)庫測試結(jié)果中的一種或幾種作為臨床評價的支持證據(jù);若在臨床試驗中設置次要指標,指標一般采用臨床上對功能準確性評價的臨床參考標準或?qū)W術上常用的方法,如分割的準確性考慮,與醫(yī)師的分割結(jié)果的分割一致性Dice相似系數(shù)(Dice similarity coefficient)等;配準功能可考慮標志點配準誤差(Fiducial Registration Error)、目標配準誤差(target registration error)、標志點定位誤差(Fiducial Localization Error)等。

四、與臨床評價相關的說明書內(nèi)容

說明書中一般需結(jié)合臨床與非臨床資料給出下列適用的信息:1)臨床試驗總結(jié);2)適用范圍;3)數(shù)據(jù)采集設備和數(shù)據(jù)采集過程相關要求等。臨床試驗總結(jié)通??紤]臨床數(shù)據(jù)基本信息、評價指標與結(jié)果(必要時含亞組結(jié)果)。人工智能輔助檢測類產(chǎn)品的適用范圍需明確輔助檢測適應癥(如肺結(jié)節(jié)、骨折),所基于的影像類型(如胸部CT或結(jié)腸鏡檢查影像),產(chǎn)品其他主要功能(如影像的顯示、處理、測量和分析),以及產(chǎn)品臨床定位(不能單獨用作臨床診療決策依據(jù))等。

建議申請人根據(jù)產(chǎn)品實際情況在說明書中體現(xiàn)如下方面的警告注意事項。1)軟件僅輔助醫(yī)師進行病灶檢測,存在假陰/陽性可能,應由專業(yè)醫(yī)師結(jié)合患者的病史、癥狀、體征、其他檢查結(jié)果情況綜合給出最終的病灶檢出結(jié)論,核實是否需要進一步診療的決策,并對臨床診斷結(jié)果負責。2)產(chǎn)品依據(jù)YYYY年版指南(例如《胸部CT肺結(jié)節(jié)數(shù)據(jù)標注與質(zhì)量控制專家共識(2018)》)設計,如診療指南有所更新,使用者應充分評估指南差異可能帶來的風險。3)明確產(chǎn)品臨床試驗中未對病灶邊界分割的準確性進行評價,如依據(jù)軟件的檢測結(jié)果決定手術干預或穿刺活檢,醫(yī)師應當充分評估其風險。

五、參考文獻

[1]中華醫(yī)學會呼吸病學分會肺癌學組, 中國肺癌防治聯(lián)盟專家組,肺結(jié)節(jié)診治中國專家共識(2018版)[J]. 中華結(jié)核和呼吸雜志, 2018,41(10): 763-771.

[2]原國家食品藥品監(jiān)督管理總局.醫(yī)療器械臨床試驗設計指導原則:食品藥品監(jiān)管總局通告2018年第6號[Z].

[3]國家藥品監(jiān)督管理局醫(yī)療器械技術審評中心.深度學習輔助決策醫(yī)療器械軟件審評要點:國家食品藥品監(jiān)督管理局醫(yī)療器械技術審評中心通告2019年第7號[Z].

[4]Guidance for Industry and Food and Drug Administration Staff Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data - Premarket Notification [510(k)] Submissions(FDA,2012.07.03)

[5]Lung Cancer Screening CT ProtocolsVersion5.1(AAPM,2019.9.13)

[6]FDA. Clinical Performance Assessment: Considerations for Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data - Premarket Approval (PMA) and Premarket Notification [510(k)] Submissions - Guidance for Industry and FDA Staff,(2012.11)[2021-4-15]. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/clinical-performance-assessment-considerations-computer-assisted-detection-devices-applied-radiology

[6]Sica, G.T., 2006. Bias in research studies. Radiology, 238(3), pp.780-789.

[7]Xiao-Hua Zhou, Nacy A. Obuchowski, Donna K. McClish. Statistical Methods in Diagnostic Medicine [M]. Hoboken: JohnWiley&Sons, 2011.

[8]國家衛(wèi)生健康委員會. 人工智能輔助診斷技術臨床應用質(zhì)量控制指標(2017年版):國家衛(wèi)生計生委通知2017第7號[Z].

[9]Brandon D. Gallas.et al. Evaluating Imaging and Computer-aided Detection and Diagnosis Devices at the FDA [J]. Acad Radiol. 2012 Apr; 19(4): 463–477. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5557046/

[10]蕭毅, 劉士遠. 肺結(jié)節(jié)影像人工智能技術現(xiàn)狀與思考[J]. 腫瘤影像學, 2018, 27: 249-252.

[11]Rees, Colin J., et al. “UK key performance indicators and quality assurance standards for colonoscopy.” Gut 65.12 (2016): 1923-1929.

[12]Misawa, Masashi, et al. "Development of a computer-aided detection system for colonoscopy and a publicly accessible large colonoscopy video database (with video)." Gastrointestinal endoscopy 93.4 (2021): 960-967.

[13]國家消化系統(tǒng)疾病臨床醫(yī)學研究中心(上海), 中華醫(yī)學會消化內(nèi)鏡學分會,中華醫(yī)學會健康管理學分會等. 中國早期結(jié)直腸癌篩查流程專家共識意見(2019)[J]. 中華醫(yī)學會雜志,2019,99(38):2961-2970.

[14]Rompianesi, Gianluca, et al. "Artificial intelligence in the diagnosis and management of colorectal cancer liver metastases." World Journal of Gastroenterology 28.1 (2022): 108.

[15]國家藥品監(jiān)督管理局.醫(yī)療器械臨床評價技術指導原則:國家藥品監(jiān)督管理局通告2021年第73號[Z].


附件1

肺結(jié)節(jié)CT圖像輔助檢測產(chǎn)品
臨床評價考慮要素舉例

一、試驗設計基本類型

肺結(jié)節(jié)CT影像輔助檢測產(chǎn)品采用MRMC設計、交叉自身對照設計或平行對照設計。平行對照設計的具體過程及方法參考《醫(yī)療器械臨床試驗設計指導原則》相關內(nèi)容。

若采用MRMC的設計,試驗過程具體為,將參與試驗的臨床醫(yī)師隨機劃分為A、B兩組。A組:醫(yī)師第一階段在使用AI輔助的條件下完成所有數(shù)據(jù)樣本CT影像的肺結(jié)節(jié)檢測;經(jīng)一定的洗脫期后,第二階段在不使用AI輔助的條件下完成所有數(shù)據(jù)樣本CT影像的肺結(jié)節(jié)檢測。B組:醫(yī)師第一階段在不使用AI輔助的條件下完成所有數(shù)據(jù)樣本CT影像的肺結(jié)節(jié)檢測;經(jīng)一定的洗脫期后,第二階段在使用AI輔助的條件下完成所有數(shù)據(jù)樣本CT影像的肺結(jié)節(jié)檢測。該試驗中醫(yī)師使用AI輔助的作為試驗組,不使用AI輔助的作為對照組,對比試驗組與對照組肺結(jié)節(jié)檢測的診斷準確度指標,閱片過程中每名醫(yī)師需分別在使用AI和不使用AI的條件下都完成所有入組影像數(shù)據(jù)樣本的閱片。

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號)(圖1)

二、評價指標

此類產(chǎn)品臨床試驗通常選擇檢出的靈敏度(以病灶為單位)和特異度(以患者為單位)等組成的復合指標,亦可在此基礎上添加受試者工作特征(receiver operating Characteristic, ROC)曲線或其衍生曲線組成復合指標,如因變量自由的受試者工作特征(free-response receiver operating Characteristic, FROC)曲線、定位受試者工作特征(location-specific receiver operating characteristic, LROC)曲線等。使用ROC曲線或其衍生曲線時,可考慮在試驗組醫(yī)師閱片階段,由閱片醫(yī)師標記對目標疾病判定的檢驗效能(可考慮百分數(shù)評分),從而構(gòu)建ROC曲線,并需考慮在培訓階段明確醫(yī)師百分數(shù)評分的標準和方法。

次要指標可包括AI輔助醫(yī)師檢出目標疾病的陽性預測值/陰性預測值,似然比,Kappa系數(shù),軟件獨立檢出目標疾病的靈敏度(以病灶為單位),軟件獨立檢出目標疾病的靈敏度和特異度(以患者為單位),閱片時間,醫(yī)生診斷信心評價,軟件功能易用性和穩(wěn)定性(可采用主觀感受評價,如李克特量表等)。若同時觀察量化分析等非輔助決策臨床功能的性能表現(xiàn),亦可設立相應次要評價指標。

三、樣本量估算及統(tǒng)計學分析

以MRMC設計為例,說明樣本量估算考慮要素,若主要評價指標為AUC、結(jié)節(jié)水平靈敏度、患者水平特異度。試驗中,檢驗的檢驗效能取80%。對于主要評價指標,優(yōu)效性與非劣效統(tǒng)計分析將在單側(cè)0.025的檢驗水準下進行。下述內(nèi)容僅為示意舉例,可根據(jù)產(chǎn)品具體情況合理調(diào)整相關參數(shù):

1.基于AUC的樣本量計算,預試驗或文獻資料確認效應值取0.05,研究醫(yī)師設定為12名,AUC優(yōu)效界值取0,則總樣本量不得低于87例,陰性、陽性患者比為1:1。

2.基于結(jié)節(jié)水平靈敏度,效應值取0.069,研究醫(yī)師設定為12名,優(yōu)效界值取0,需陽性樣本至少116個結(jié)節(jié),假定平均每個陽性患者存在2個結(jié)節(jié),則至少需要58例陽性數(shù)據(jù)樣本。

3.基于患者水平的特異度,效應值取-0.055,非劣效值取0.1(參考Riverain ClearRead CT 的特異度95%區(qū)間下限),在當受試醫(yī)師為12名時,非劣效驗證(非劣效界值取0.1)需要陰性樣本達到至少157例。

綜合以上各指標樣本量估算值,本試驗樣本量最低為215例,陽性數(shù)據(jù)樣本58例,陰性數(shù)據(jù)樣本157例??紤]到樣本存在剔除和脫落的可能,當預期脫落率為5%,剔除率為5%時,陽性樣本需要達到至少62例,陰性樣本需要達到至少166例,共計228例。


附件2

結(jié)腸息肉電子內(nèi)窺鏡圖像輔助檢測產(chǎn)品
臨床評價考慮要素舉例

一、試驗設計基本類型

結(jié)腸息肉電子內(nèi)窺鏡圖像輔助檢測產(chǎn)品可考慮平行對照設計,此處以序貫的平行對照為例進行說明,申請人亦可采用其他科學的平行對照設計開展研究,序貫的平行對照具體設計及試驗程序如下:

入組的受試者隨機分配到A組和B組,A組:常規(guī)結(jié)直腸鏡檢查先進行組:先接受無 AI 輔助的常規(guī)結(jié)直腸鏡檢查,對檢查過程中發(fā)現(xiàn)的所有息肉都凍結(jié)影像留存圖片。第一次退鏡后在AI 輔助下再做一次結(jié)直腸鏡檢查,對檢查過程中發(fā)現(xiàn)的所有息肉都凍結(jié)影像留存圖片。B 組:AI 輔助檢查先進行組:先接受 AI 輔助的結(jié)直腸鏡檢查,對檢查過程中發(fā)現(xiàn)的所有息肉都凍結(jié)影像留存圖片。第一次退鏡后再進行一次常規(guī)結(jié)直腸鏡檢查,對檢查過程中發(fā)現(xiàn)的所有息肉都凍結(jié)影像留存圖片。分別以各組兩次檢出的腸息肉作為基準,比較第一次檢查時,有AI輔助檢測和無AI輔助檢測的病變檢出能力。原則上,結(jié)腸息肉人工智能輔助檢測產(chǎn)品臨床試驗需將前瞻性腸鏡檢查樣本作為臨床試驗研究對象。

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號)(圖2)

二、評價指標

此類產(chǎn)品臨床試驗因不完美臨床參考標準等問題,可考慮選取息肉/腺瘤的初檢檢出率/漏診率或息肉檢出的靈敏度與特異性等作為主要評價指標。相關指標需以息肉/腺瘤水平而非受試者水平進行計算,例如初檢息肉檢出率=初檢發(fā)現(xiàn)的息肉數(shù)量÷兩次檢測到的息肉總數(shù),腺瘤漏診率=第二次檢測到的腺瘤數(shù)÷兩次檢測到的腺瘤總數(shù)。

次要評價指標可考慮息肉/腺瘤檢出率(受試者水平),平均息肉/腺瘤檢出數(shù),軟件獨立評估性能(即軟件獨立的息肉/腺瘤檢出率、息肉檢測準確性等):結(jié)直腸鏡操作時間(包括各次進鏡時間、退鏡時間)、軟件易用性評價、穩(wěn)定性評價、不良事件情況等。若同時觀察圖像傳輸、儲存等非輔助決策臨床功能的性能表現(xiàn),亦可設立相應次要評價指標。

三、樣本量估算

1.以序貫的平行對照試驗為例,若采用腺瘤漏診率作為評價指標,樣本量的計算基于腺瘤漏檢率的主要結(jié)果(每個病灶),假設如下: AI 先進行組別的腺瘤漏診率為 10%,標準檢查先進行組別的腺瘤漏診率為 30%,優(yōu)效界值設定為0,在 80%統(tǒng)計功效的條件下, 雙側(cè)α值設為 0.05。主要評價指標為初檢息肉檢出率,其樣本量估算公式為:

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號)(圖3)

假設每位患者的平均腺瘤數(shù)為 0.6,考慮10%的脫落率,需入組220名受試者,AI 先進行組110名,標準檢查先進行組110名。

2.若采用初檢息肉檢出率作為主要評價指標,A 組: 常規(guī)結(jié)直腸鏡檢查先進行組; B 組: AI 輔助檢查先進行組。PC、 PT分別為 A 組和 B 組預期初檢息肉檢出率,其中 PC=70%、 PT=80%;|D|為兩組預期率差的絕對值, |D| = |PC- PT|; Δ 為優(yōu)效性界值,取 0。主要評價指標為初檢息肉檢出率,其樣本量估算公式為:

人工智能輔助檢測醫(yī)療器械(軟件)臨床評價注冊審查指導原則(2023年第38號)(圖4)

假設每位患者的平均息肉數(shù)為 2.5, 需約 234 例,脫落率為 20%,最終樣本量為 296 例, A組和 B 組各 148 例。

思途企業(yè)咨詢

站點聲明

本網(wǎng)站所提供的信息僅供參考之用,并不代表本網(wǎng)贊同其觀點,也不代表本網(wǎng)對其真實性負責。圖片版權(quán)歸原作者所有,如有侵權(quán)請聯(lián)系我們,我們立刻刪除。如有關于作品內(nèi)容、版權(quán)或其它問題請于作品發(fā)表后的30日內(nèi)與本站聯(lián)系,本網(wǎng)將迅速給您回應并做相關處理。
鄭州思途醫(yī)療科技有限公司專注于醫(yī)療器械產(chǎn)品政策與法規(guī)規(guī)事務服務,提供產(chǎn)品注冊備案申報代理、臨床試驗、體系建立輔導、分類界定、申請創(chuàng)新辦理服務。

你可能喜歡看:
血液透析用水處理設備注冊審查指導原則(2024年修訂版)(2024年第19號)

血液透析用水處理設備注冊審查指導原則(2024年修訂版)(2024年第19號)

附件:血液透析用水處理設備注冊審查指導原則(2024年修訂版)(2024年第19號).doc血液透析用水處理設備注冊審查指導原則(2024年修訂版)本指導原則旨在指導注冊申請人對血液透析用水處理設備注冊申報資料的準備及撰寫,同時也為技術審評部門提供參考。本指導原則是對血液透析用水處理設備的一般要求,注冊申請人依據(jù)產(chǎn)品的具體特性確定其中內(nèi)容是否適用。若不適用,要具體闡述理由及相應的科學依據(jù),并依據(jù)產(chǎn)

一次性使用醫(yī)用沖洗器產(chǎn)品注冊審查指導原則(2022年第41號)

一次性使用醫(yī)用沖洗器產(chǎn)品注冊審查指導原則(2022年第41號)

附件:一次性使用醫(yī)用沖洗器產(chǎn)品注冊審查指導原則(2022年第41號).doc一次性使用醫(yī)用沖洗器產(chǎn)品注冊審查指導原則指導原則旨在指導注冊申請人對一次性使用醫(yī)用

一次性使用腹部穿刺器注冊審查指導原則(2021年第103號)

一次性使用腹部穿刺器注冊審查指導原則(2021年第103號)

指導原則旨在幫助和指導注冊申請人對一次性使用腹部穿刺器注冊申報資料進行準備,以滿足技術審評的基本要求。同時有助于審評機構(gòu)對該類產(chǎn)品進行科學規(guī)范的審評,提高審評工

影像型超聲診斷設備(第三類)注冊審查指導原則(2023年修訂版)(2024年第29號)

影像型超聲診斷設備(第三類)注冊審查指導原則2023年修訂版)(2024年第29號)

國家藥監(jiān)局器審中心關于發(fā)布影像型超聲診斷設備(第三類)注冊審查指導原則2023年修訂版)的通告(2024年第29號)發(fā)布時間:2024-10-14為進一步規(guī)范

抗腫瘤藥物臨床試驗中SUSAR分析與處理技術指導原則(2024年第42號)

抗腫瘤藥物臨床試驗中SUSAR分析與處理技術指導原則(2024年第42號)

國家藥監(jiān)局藥審中心關于發(fā)布《抗腫瘤藥物臨床試驗中SUSAR分析與處理技術指導原則》的通告(2024年第42號) 發(fā)布日期:20241010

醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料注冊審查指導原則(2024年第21號)

醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料注冊審查指導原則(2024年第21號)

附件:醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料注冊審查指導原則(2024年第21號).doc醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料注冊審查指導原則指導原則旨在指導注冊申請人準備及撰寫醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料注冊申報資料,同時也為技術審評部門審查注冊申報資料提供參考。本指導原則是對醫(yī)用透明質(zhì)酸鈉創(chuàng)面敷料產(chǎn)品的一般要求,注冊申請人應依據(jù)產(chǎn)品的具體特性確定其中內(nèi)容是否適用,若不適用,需具體闡述理由及相應的科學依據(jù),并依據(jù)產(chǎn)品的具體特性對

康復類數(shù)字療法軟件產(chǎn)品分類界定指導原則(2025年第27號)

康復類數(shù)字療法軟件產(chǎn)品分類界定指導原則(2025年第27號)

附件:康復類數(shù)字療法軟件產(chǎn)品分類界定指導原則(2025年第27號).doc康復類數(shù)字療法軟件產(chǎn)品分類界定指導原則一、目的為指導康復類數(shù)字療法軟件產(chǎn)品管理屬性和管

重組膠原蛋白創(chuàng)面敷料注冊審查指導原則(2023年第16號)

重組膠原蛋白創(chuàng)面敷料注冊審查指導原則2023年第16號)

附件:重組膠原蛋白創(chuàng)面敷料注冊審查指導原則2023年第16號).doc重組膠原蛋白創(chuàng)面敷料注冊審查指導原則指導原則旨在指導注冊申請人準備及撰寫重組膠原蛋白創(chuàng)

免于臨床試驗的體外診斷試劑臨床評價技術指導原則(2021年第74號)

免于臨床試驗的體外診斷試劑臨床評價技術指導原則(2021年第74號)

國家藥監(jiān)局關于發(fā)布免于臨床試驗的體外診斷試劑臨床評價技術指導原則的通告(2021年第74號)發(fā)布時間:2021-09-24為指導體外診斷試劑的臨床評價工作,根據(jù)

醫(yī)療器械產(chǎn)品技術要求編寫指導原則(2022年第8號)

醫(yī)療器械產(chǎn)品技術要求編寫指導原則(2022年第8號)

為提高醫(yī)療器械技術審評的規(guī)范性和科學性,指導醫(yī)療器械注冊人/備案人編寫產(chǎn)品技術要求,根據(jù)《醫(yī)療器械監(jiān)督管理條例》及《醫(yī)療器械注冊與備案管理辦法》《體外診斷試劑注冊與

十年

醫(yī)療器械服務經(jīng)驗

多一份參考,總有益處

聯(lián)系思途,免費獲得專屬《落地解決方案》及報價

咨詢相關問題或咨詢報價,可以直接與我們聯(lián)系

思途CRO——醫(yī)療器械注冊臨床第三方平臺

在線咨詢
186-0382-3910免費獲取醫(yī)療器械注冊落地解決方案
在線客服
服務熱線

北京公司
186-0382-3911

鄭州公司
186-0382-3910

合肥公司
188-5696-0331

微信咨詢
返回頂部
色综合久久久久| 狠狠草在线观看| 思思热这里只有精品| 91狠狠色色丁香婷婷综合久久| 激情五月婷婷网| 欧美性爱一区| 少妇高潮呻吟A片免费看软件| 激情五月综合| 99九九热在线观看| 久久女婷| 成人午夜天| 色婷婷小说| 99热主页日本| 婷婷五月天丁香社区| www.天天干| 91狠狠色丁香婷婷综合久久精品| 日韩高清成人| 国产裸体AAAA片色戒| 思思99热| 99视频这里有精品| 久久久精品色| 国产成人99久久亚洲综合精品| 91视频五月丁香| 丁香婷婷综合激情五月色| 激情五月婷| 97福利视频| 97视频91| 97人人搞| 婷婷丁香色情| 五月天综合激情网| 五月婷婷久久大香蕉| 日日影院 | 任你艹| 丁香六月啪| 99狠狠操一| 丁香五月天.com| 久久精品国产AV一区二区三区 | 天天干夜夜想| 日本综合久久| 在线中文字幕视频| 99久在线观看| 久久综合中文| 久久综合激情| 99色免费观看全部| 激情五月综合婷婷| 色优久久| 亚洲精品久久久无码| 婷婷五月色播| 色综合五月| 激情丁香五月婷婷| 九月婷婷| 青柠影视免费高清电视剧| 五月天激情婷婷| 天天日天天爽夜夜爽| 九九久久精品| 五月婷婷婷| 一起草AV| 中文av网站| 天天干天天操天天拍| 99色婷婷视频| 激情六月综合| 丁香在线视频| 丰满少妇猛烈A片免费看观看| 婷婷97| 国产色色视频| 欧美婷婷| 亚洲精品国产熟女久久久| 国产真实乱了老女人视频| 国产亚洲成AV人片在线观黄桃| 狠狠色丁香| 99re在线播放| 特级毛片绝黄A片免费播冫| 蜜桃成语时李时珍 免费| 亚洲亚洲人成综合网络| 婷婷的色色五月天| 久久人人九九| 丁香五月社区| 久久小视频| www.色五月| 精品一二三区久久AAA片| 99国产精品白浆在线观看免费| 成人做爰高潮A片免费视频| 色婷另类| 丁香五月色| 色婷婷综合网| 噼里啪啦在线观看免费完整版视频| 人妻内射一区二区在线视频| 日本WWW九九九| 激情五月天色色网| 狠狠色成人影片| 丰满少妇猛烈A片免费看观看| 国产乱妇无乱码大黄AA片| 欧美性猛交99久久久久99按摩| 五月花成人网| 天天天天天日| 国产JK精品白丝AV在线观看| 国产熟人AV一二三区| 色色色婷婷五月| 99视频在线精品免费观看2| 狠狠干天天日| 六月成人网| 夜夜大香蕉婷婷丁香| 色色激情五月| 久久九九国产精品怡红院| www.激情| 天天肏高清在线| 久久色婷婷| 九九九九这里只有精品| 嫩BBB槡BBBB搡BBBB| 丁香婷婷色情| 五月天激情网站| 精品一二三区久久AAA片| 另类 在线| 美女五月天| 国产成人精品123区免费视频| 国产综合婷婷| 六月丁香网| 六月婷婷综合激情| 激情五月综合网| 四川少扫搡BBW搡BBBB| 9色视频在线| 五月激情偷拍| 五月丁香久久网| 六月丁香五月婷婷| 美女精品一级不卡视频| www.狠狠| 五月丁香综合激情网| www.99色| 五月色网| 欧美g片| 五月婷久久| 亚洲乱码日产精品BD| 影音先锋一区二区三区| 99re6在线视频精品免费| 伊人激情啪啪| av亚洲国产小电影| 色婷婷小说| 亚洲va999成人A片在线观看| 亚洲最大视频| 欧洲亚洲免费视频9| 婷婷五月天丁香| 97色久| 亚洲V国产V欧美V久久久久久| 色婷婷综合久久久久| 黄桃AV无码免费一区二区三区| 日韩AV片| 99精品国产在热久久| 色五月首页| 最近2019中文字幕大全第二页| 亚洲免费婷婷| 99色干| 婷婷五月天综合AV| 婷婷五月天激情四射| 五月丁香婷婷久久| 四虎影在永久在线观看| 欧美成人精品A片免费一区99| 欧美日朝成人| 91九色视频在线观看| 色优久久| 色情五月婷婷| av九九| 五月婷婷久久大香蕉| 欧美交换配乱吟粗大25P| 九九精品热| 久久五月天色婷婷| .精品久久久麻豆国产精品| 婷婷色网| 在线99热| 超碰色色综合| 久久久久激情网| 99精品成人无码A片观看金桔| 91精品久久久久久综合五月天| 色老汉电影| 99热国品| 99精品偷自拍| 人人摸人人干| 九九热免费视频| 中文字幕成人| 丁香六月啪| 亚洲无码成人| 99资源在线视频| 国产欧美精品AAAAAA片| 农村熟妇高潮精品A片| 五月婷婷影| 久久婷五月婷| 色伊人婷婷| 婷婷99中文字幕| 色婷婷偷拍| 五月小说| 99操免费视频| 色婷婷国产精品综合在线观看| 国产SUV精品一区二区883| 久久久天堂国产精品女人| 亚洲va成人va成人va在线观看| 大香网伊人久久综合| 9久久久久久久久久久| 久久九九@| 蜜桃精品AV无码喷奶水小说| 拍拍视频| 1819岁日本MACBOOK| 亚洲妇女熟BBW| 亚洲熟妇AV乱码在线观看| 狠狠色成人影片| 热久精品| 99色综合| 极品人妻VIDEOSSS人妻| 性色做爰片在线观看WW | 丁香五月成人| 激情五月天网| 嫩草AV久久伊人妇女超级A| 91丨九色丨东北熟女| 色色五月婷婷| 国产精品18久久久| 青柠影视免费高清电视剧| 丰满的女邻居在线观看| 狠狠爱婷婷丁香| 人人九色| 思思热精品在线视频| 色5月婷婷| 久草五月| 少妇伦子伦精品无吗| 国产在线aaa片一区二区99| 少妇人妻人伦A片| 粉嫩小泬还没有毛小便是怎么回事| 激情内射人妻1区2区3区| 丁香花电影高清在线小说阅读 | 色老汉电影| 91免费看片| 欧美日本国产欧美日本韩国99| 婷婷午夜激情| 五月丁香网站| 国产精品久久久爽爽爽麻豆色哟哟 | 99激情| 1000部毛片A片免费观看| 天堂网在线观看| 久久超级碰碰| 国产一级片| 深爱激情五月网| 国产精品人成A片一区二区| 黄桃AV无码免费一区二区三区| 国产精品VIDEOSSEX久久发布| 丁香网站| 久操大香蕉| 99热官网| 天天弄| 99激情网| 欧美成人精品A片免费一区99| 一点色成人网| 亚洲欧美婷婷五月色综合| 色播五月网| 亚洲欧洲中文日韩久久AV乱码| 天堂新版在线| 狠狠综合| 四川BBB搡BBB爽爽视频| 在线99热| 国产黄大片在线观看画质优化| 97欧美在线| 亚洲激情av| 桃色成人网| 91人操人人人操人| 国产欧洲欧洲精品久久| 少妇高潮A片无套内谢麻豆传| 99热最新精品| 成人在线日韩| 影音先锋一区| 香蕉久久国产AV一区二区| 丁香五月色五月| 婷婷综合| 欧美成人日韩| 色香欲综合| 内射干少妇亚洲69XXX| 午夜色婷婷| 激情综合网激情五月天| 性视频久久| 五月天色综合| 精品99在线| 五月色综合| 丁香五月婷婷大香蕉| 久热无码| 猴哥影院免费看电影| 91一起操| 五月网| 亚洲免费婷婷| 五月婷网| 天堂新版在线| 可以免费观看的AV| 久久艹99| 国产精品色情AAAAA片软件| 五月天丁香婷| 亚洲国产精品VA在线看黑人| 五月激情啪啪啪| 亚洲亚洲人成综合网络| 亚洲婷婷免费| 9久热免费视频99| 六月色婷婷| 伊人碰碰碰| WWW.久久.COM| 性爱视频99| 五月丁香久| 538在线精品| 六月丁香激情网| 激情AV| 202丰满熟女妇大| 国产精品大香蕉| 偷偷操99| 成人免费120分钟啪啪| 亚州操人在线视频| 五月综合丁香婷婷| 亚洲情综合五月天| 99综合| 激情综合婷婷| 99riAV国产精品视频| 国产又爽又猛又粗的视频A片| 另类小说五月天| 色婷婷偷拍| 欧美交换配乱吟粗大25P| 26uuu最新地址| 欧美精产国品一二三区| 亚洲色图五月丁香| 三年中文在线观看免费大全中国| 九九激情网| 91精品久久久久久综合五月天| 1024操逼视频| 中文字幕在线观看视频www| 精品影院| www.99色| 99在线精品视频| 欧美人妻一区二区| 97人妻碰碰中文无码久热丝袜| 九九色播五月丁香| 欧美成人日韩| 无码人妻AV久久久一区二区三区 | 第四色在线观看| 亚洲九九视频| 伊人五月天| 九月丁香婷婷| 99性视频| 九九aV| www.婷婷五月天| 乱亲女洗澡69XX| 国产精产国品一二三在观看| 五月婷婷综合网| 天天干天天操天天爽| 久操热| 免费黄色片子| 大香蕉综合在线| 人妻精品在线| 久99视频在线观看| www99精品| 99热主页日本| 色停停香蕉视频| 黄色成人网站在线播放| 久久新地址| 99激情网| 99色天堂| 亚洲综合五月天| 97色色色| 乱岳熟女50岁| 国产精品一区在线观看你懂的| 婷婷五月天色| 国产又粗又大又爽又黄| 色婷婷丁香A片区毛片区女人区| 色色亚洲| 国产看真人毛片爱做A片| 中文字幕按摩做爰| 瀚〣BB妲BBB妲BBB| 五月婷婷草| 99ri精品在线| 91大神操美女| av九九| 五月花免费视频| 激情开心五月天| 婷婷久久五月天| 野战J办公桌椅H| 少妇高潮呻吟A片免费看软件| 免费看欧美成人A片无码| 少妇的肉体AA片免费| 一本之道高清视频在线观看| 婷婷色情网| 久久久中文| 精品人妻久久久久久| 能看的av| 开心五月四房播播| 欧美丁香五月97色| 九九视频这里只有精品| 欧美激情综合| 五月婷婷开心中文字幕| 激情综合啪啪| 天天干天天干天天干| 欧美电影在线播放| 天天肏天天肏天天肏| 五月丁香啪啪婷婷| 五月天婷婷综合| 97在线观视频免费观看| 色就干| 久99久在线| 五月婷婷片| 五月天开心网| 国产97色在线 | 日韩| 9久精品视频| 色婷婷五月天在线观看| 最近2018中文字幕免费看2019| 欧美啪啪9| 99久久6| 精品一二三区久久AAA片| 四川少扫搡BBW搡BBBB| 九月丁香婷婷综合| 五月天婷婷影院| 久re热视频| 日本色婷婷| 亚洲综合激情五月久久| 一区二区乱码视频| 狠狠草在线观看| 亚洲日本韩国| 97超碰人人操| 天天日天天插| 在线视频另类| 亚洲国产精品二二三三区| 噜噜操操| 丁香五月大香蕉| 九九青草热| 99热激情| www.婷婷.com| 99热这里只有精品8| 99热婷婷| 婷婷五月天激情小说| 婷婷狠狠97| 亚洲精品婷婷| 狼人婷婷综合| 久久久久久人妻| 91啪啪网| 26uuu欧美| 久热AA| 五月丁香啪啪啪| 99九九综合久久九九| 五月婷婷啪啪| 影音先锋一区| 国产精品久久久久久亚洲毛片| 日韩欧美一级大黄网站| 日本不卡一区二区三区| av狠狠操| 伊人久久大香线蕉av一区| 五月天伊人| 96精品久久久久久久久| 爽tv | 日本人妻A片成人免费看片| 噼里啪啦在线观看免费完整版视频 | 色五月婷婷大香蕉| www.夜夜操| 亚洲乱码在线观看| 99热在线观看| 思思热视频| 日本久久性| 色狠狠色噜噜AV天堂五区| 婷婷精品在线| 一级二级色大片| 国产成人网| 五月丁香久久综合| 91九色中文| 99性爱| 久热91| 夜夜躁婷婷AV| 99精品国产在热久久| 天天天天天日| 在线中文av| 99热碰碰| 国产肥白大熟妇BBBB视频| 99热精品中文字幕| 色啪综合| 99在线免费视频| 国外亚洲成AV人片在线观看| 天天爽天天干| 亚洲综合在线视频| 99操久久| 99热免费精品| 99狠狠| 丰满女老板BD高清A片| 五月丁香综合激情| 天天日夜夜拍| 色人久久| 久久九九爽| 色婷婷五月综合在线| 超碰v| 五月丁香色综合| 五月天啪啪啪| 色99网| 99黄色性生活| 五月婷婷五月天| 狠狠色噜噜狠狠| 亚洲精品一区中文字幕乱码| 国产乱人偷精品人妻A片| 丁香五月天婷婷激情| 婷婷金品综合视频| 99婷婷| 久久亚洲婷婷| 国产激情综合五月久久| 成片免费播放| 激情九月婷婷| 97在线精品| 91viP在线看| 丁香五月婷婷啪| 丁香婷婷五月天激情四射| 久久婷婷人人| 色色色地址| 成人在线综合| 欧美色久| 91爱操| 五月丁香婷婷基地| 久久婷婷啪啪视频| 欧洲电影在线观看免费版英语版| 特级毛片AAAAAA| 亚洲V国产V欧美V久久久久久 | 国产精品久久久久久久久久| 少妇荡乳欲伦交换A片欧美| 五月天桃色深爱网| 性av| 综合伊人久久| 亚洲色频| 欧美大片免费观看| 成人在线网址| 青青草免费公开视频| 影音先锋91资源站| 日本丁香五月| 久久久99免费视频| 无码日本精品XXXXXXXXX| 伊人五月综合网| 亚洲妇女熟BBW| 久久婷五月综合| 五月婷婷亚洲| XX色综合| 亚洲性爱电影| 无码人妻精品一区二区蜜桃色欲 | 婷婷丁香人妻天天爽| av亚洲国产小电影| 六月激情婷婷| 色色色婷婷五月天| 粉嫩AV久久一区二区三区| 五月花激情| 丁香久久综合| 免费无码毛片一区二区A片| 国产黄大片在线观看画质优化| 日本美女上人| 开心四房播播| 免费看欧美成人A片无码| 色色色成人网| 97人人操人人爽| 五月天丁香综合| 99国产精品白浆在线观看免费| 97操碰| 99啪啪网| 伊人婷婷大香蕉| www.色99| 91精品综合久久久久久五月丁香| 综合性爱网| 99色中文| 67194国产| 中文字幕永久免费| 天堂成人A片永久免费网站 | 成人综合视频在线| 亚洲精品国产A久久久久久| 另类天堂| 人人操插| 大香蕉婷婷五月| 99国产精品白浆在线观看免费| 99性爱| 五月婷婷激情五月| 国产成人AV| 99re思思热久久| 五月婷婷大香蕉| 综合色情网| 色久九| 99ri在线观看视频| 日韩婷婷| 五月丁香人妻| 九九激情| 久久AAAA片一区二区| 亚洲视频在线观看| 婷婷丁香五月激情密臀av| 老熟女重囗味HDXX69| www.色9| 婷婷综合五月| 狼人婷婷久久| 久久精品夜色噜噜亚洲a∨| 蜜桃人妻无码AV天堂三区| 操91| 婷婷五月天视频| 大陆极品少妇内射AAAAAA| 亚洲亚洲人成综合网络| 五月网站| 亚洲精品成人区在线观看| 高潮A片揉搓乳尖乱颤视频| 少妇熟女视频一区二区三区| 欧美大道不卡| 一级性爱视频| 亚洲激情AV| 国产毛片精品一区二区色欲黄A片| 久久五月婷| 婷婷激情六月| 成人综合网站| 亚洲视频在线观看| 久99热| 久久99精品九九久久久婷婷| 99亚州综合精品成人网| 五月天成人免费视频| 免费无码毛片一区二区A片| 99ER热精品视频| 精品人妻伦一二三区久久| 99久在线精品99re8热| 日本三级日本三级99| 国产AV午夜精品一区二区入口 | 啪啪啪综合网| 久久婷婷亚洲| 极品人妻VIDEOSSS人妻| 五月天婷婷综合网| 狠狠色丁香| 熟女人妻一区二区三区免费看| A片试看50分钟做受视频| 色激情五月| 久久小说| 少妇性BBB搡BBB爽爽爽视頻 | 色呦呦美女| 亚洲熟妇AV乱码在线观看| 久久久久人妻精品| 99久久人妻精品无码二区| 91chinese在线| 91久久电影| 亚洲蜜桃精久久久久久久久久久久| 91超碰人人操| 六月撸婷婷| 少妇性BBB搡BBB爽爽爽视頻| 五月婷婷六月色| 9久久精品| av在线中文| 无套内谢少妇毛片A片樱花| 26uuu日韩| 三级黄网站| 色五月激情| 色就干| 成人国产欧美大片一区| 国产色色视频| 天天日夜夜拍| 日本综合色图| 91Chinese在线| 日韩性视频| 婷婷九月亚洲| 日本天堂爱爱| 日韩在线99| 99热婷婷| WWW.17C.COM最新官网| 中文毛片无遮挡高潮免费| 在线看的免费网站| 五月综合色| 天天爽夜夜操| 久久久久久人妻| 五月婷激情| 思思re99视频在线观看| 色婷婷丁香五月| 丁香色色网| 日韩成人AV在线| www.婷婷六月天| 任你爽精品免费视频6| 色女人久久| 久超超碰| 亚洲成人AV在线播放| 久青操| 久久久久亚洲AV无码网影音先锋| 国产激情在线| 丁香狠狠色婷婷| 国产色网站| 一区二区免费看| 婷婷五月天Av| 亚洲av成人在线| 久久大香蕉同僚| 欧美视频五区| 日本啪啪天堂| 综合色色网| 五月天综合婷婷| 婷婷六月丁香五月| 天天日天天色| 亚洲精品白浆高清久久久久久| 国产乱妇无乱码大黄AA片| 欧美叉叉叉BBB网站| 国外亚洲成AV人片在线观看| 亚洲亚洲人成综合网络| 中文成人在线| 91久久精品无码一区二区三区| 91干视频| 丁香五月激情啪啪| 99热在线播放| 婷婷综合久久| 人妻体体内射精一区二区| 小小拗女BBW搡BBBB搡| 欧美在线视频免费播放| 激情床戏| www久久久| 天天干天天拍| 久久小说| 久碰婷婷视频| 操久久网| 99热这里只有精品在线| 少妇AB又爽又紧无码网站| 成人做爰高潮A片免费视频| 婷婷娌伦网| 色碰碰| 色爱亚洲| 丰满老熟妇BBBBB搡BBB| www.色九月| PORNY九色9l自拍视频成人| 大香蕉AV在线| 韩国真做片在线观看| 激情五月婷婷| 99热99在线| 热久精品| 亚洲精品久久久久久久久久飞鱼| 色九九九九| 99玖玖免费视频| 天天狠天天叉| 欧美日本免费一道免费视频| 狠狠色婷婷7777久| 97福利视频| 无码少妇高潮喷水A片免费| 欧美乱大交XXXXX潮喷l头像| 婷婷的久久网站| 五月丁香六月天| 99精品国产乱码久久久人妻| 久久9精品| 色婷五月天| 女主播扒开屁股给粉丝看尿口 | 欧美视频五区| 婷婷综合激情| XX色综合| 激情小说五月天| 三十熟女| 久久精品99| 嫩草AV久久伊人妇女超级A| www.色9| 久久这里只有精品热在99| 少妇人妻人伦A片| 成人网址在线观看| 国产熟妇乱子伦hd| 另类激情五月| 国产精品色色| 秋霞成人毛片一级A片| 色婷婷成人| 色色狼人综合| 99热免费| 丁香色色色| 成人中文网| 大香蕉久| 无码人妻AV久久久一区二区三区 | 99碰碰视频| 天天日天天舔| 99精品热视频| 久久久天堂国产精品女人| 外国碰视频网站97| 国产AV一区二区三区最新精品| 久久激情五月天| 最近中文字幕大全免费版在线 | 人妻激情综合| WWW.久久.COM| 亚洲色99| 久久婷婷五月综合激情国产| av大香蕉| 99自拍网| 猛烈顶弄H禁欲老师H春潮| 日日综合网| 日本99在线| 国产亚洲精品久久久久苍井松| 色五月天堂| 中文成人在线| 色色a| 亚洲视频二区| 国产乱子轮XXX农村| 成人丁香| 99精品久久久久久久婷婷| 亚洲经典三级| www.99热这里只有精品| 97婷婷丁香| 成人综合网站| 久热只有精品| www.五月婷婷久久.com| 俺也去色官网| 久久99综合| 五月天丁香网| 久久婷婷内射| 午夜69成人做爰视频| 五月丁香啪啪| 亚洲激情av| 在线观看av网站| 噼里啪啦在线观看免费完整版视频| 激情久久久| 亚欧州精品视频| 推油小说| 香蕉人妻AV久久久久天天| 五月婷综合| 超碰chaompinm| 五月停停999| 国产成人精品一区二三区熟女在线| 五月天婷婷综合| 69精品人人人人| 婷婷激情九月| 26.uuu丁香五月婷婷| 丁香五月花| 狠狠色婷婷| 亚洲色网络| 婷婷五月天av| 五月丁香91| 五月天丁香成人| 开心四房| 国产毛片精品一区二区色欲黄A片| 激情五月天网站| 色婷婷www| 色婷久久| 亚洲无码另类| 婷婷五月天奸女| 婷婷九月亚洲| 97超碰在线免费观看| 中文成人在线| 人妻体体内射精一区二区| 人妻丰满精品一区二区A片 | 国产黄大片在线观看画质优化| 婷婷激情五月| 精品人妻一区二区| 热99在线| 可以看的AV| 五月丁香色| 日韩视频99| 五月丁香天堂网| 九九这里都是精品| 99久久性爱| 九九久久网| 五月天啪啪| 激情五月婷婷丁香| 亚洲视频99| 色情成人五月天| 激情五月综合| 五月丁香大香蕉| 九九成人| 久热在线中文字幕色999舞| 江苏少妇性BBB搡BBB爽爽爽 | 怡春院| 狠狠的射| 激情人妻综合| 欧美综合五月丁香六月婷| 琪琪色五月天| 精品激情| 色中色综合| 亚洲精品色| 日本强伦片中文字幕免费看 | 亚洲无AV在线中文字幕| 99久久人妻精品无码二区| 国产精品18久久久| 丁香花高清在线完整版| 天天综合色丁香| 欧美日韩成人免费在线| 日韩性视频| 久久只有18视频| 六月婷婷色综合| 夜夜爽77777妓女免费下载| 婷婷丁香社区| 国产精品人成A片一区二区| 日韩精品一区二区亚洲AV观看 | 俺去也五月天| 成人综合网站| 中文成人在线| 婷婷五月色综合| 久久久久久久97| 国产亚洲色婷婷久久99精品91| 天天狠天天叉| 日日日日日| 暗卫含着她的乳尖H御书屋| 色色色地址| 欧美日韩99| 久久婷婷亚洲| 亚洲无AV在线中文字幕| 婷婷六月天天| 99热91| 中字幕视频在线永久在线观看免费| 国产肥白大熟妇BBBB视频| 玖玖99免费视频| 色婷婷影视| 亚洲色五月| 丁香花在线视频完整版| 日本精品99网站| 五月丁香五月综合欧美| 国产亚洲精品久久久久久久久动漫| 超碰97免费在线| 1024人妻| 亚洲视频在线观看| 婷婷九月亚洲| 俺去也五月| 亚洲妇女熟BBW| 色色五月天丁香| 99这里有精品| 一本之道高清视频在线观看| 色综合婷婷| 最近中文字幕在线中文视频| 操日视频| 久热这里只有精品6| 国色天香成人网| 99re视频在线播放| 色99色| 婷婷丁香五月激情密臀av| 五月天激情四射| 精品夜夜澡人妻无码AV| 久久超级碰碰| 99热官网| 毛片新网地| 特级西西4444www无码| www.97| 激情五月天婷婷| 色婷婷小说| 激情综合久久| 久久久国产精品黄毛片| 99re久久| 国产毛多水多女人A片 | 色五月欧美| 色欲久久久久久综合网综合网| 欧美人妻一区二区| 强伦人妻BD在线电影| 久久五月丁香| 无码日本精品XXXXXXXXX | 五月婷婷香| 天堂中文最新版| 欧美性丁香色色五月天干干| 亚洲人人操| 丁香六月婷婷| 五月丁香婷婷色色色| 这里有精品| 99九色视频在线观看| AA片在线观看视频在线播放 | 五月丁香色综合| 日本色99| 国产69精品久久久久999小说 | 婷婷伊人久久| 国产XXXX搡XXXXX搡麻豆| 99热这里是精品| 蜜桃视频网站| 色综合色| 丁香六月婷婷开心| 国产真实乱了老女人视频| 99热手机在线精品| 色噜噜狠狠色综合网| 国产精品第一国产精品| 99熟女| www.91婷婷| 天天射网站| 69精品人人人人| 69久久99精品久久久久婷婷| 国产特级毛片AAAAAAA高清| 人人操99| 色五月婷婷影院| 精品国产乱码久久久久夜深人妻| 色色五月婷| 久久总和99| 风流少妇A片一区二区蜜桃| 激情综合五月婷婷| 色情五月综合婷婷| 99视频网址| 日本不卡一区二区三区| 九九热视频精品| 色热久| 婷婷九月在线| 亚洲精品又粗又大又爽A片| 精品乱码久久久久| ww久久| www.zbzhongsen.com| 国产亚洲成AV人片在线观黄桃 | 99色色| 婷婷五月天色播| 丁香婷婷网| 狼友超碰| 少妇荡乳欲伦交换A片欧美| 99视频内射三四| 色五月天婷婷| 久久婷综合| 婷婷99中文字幕| 丁香色婷婷| 免费观看18视频网站| 欧美色五月| 青青草五月天| www.yw尤物| 欧美影院婷婷| 欧美色宗和激情| 婷婷综合一二三| 国产精品美女久久久久AV超清| 国外亚洲成AV人片在线观看| 久草热在线视频| 婷婷激情社区| 久久曰曰| 九九99免费视频| 婷婷午夜精品久久久| 97色天堂| 久人操| 蜜桃视频网站APP| 亚洲无AV在线中文字幕 | 亚洲字幕AV一区二区三区四区| 婷婷五月花| 国产AV一区二区三区最新精品 | 国产精品视频| 精品99在线| 99热热这里只精品996小说| 亚洲人妻av伦理| 成人视频网| AA片在线观看视频在线播放| 日本乱子人伦在线视频| 久久人妻视频| 丁香五月色| 五月婷婷六月丁香| 99国产精品久久久久久久久久久| 五月天开心网| 婷婷99狠狠| 五月丁香在线| 96精品成人无码A片观看金桔| 97人人草| 99在线精品免费视频| 少妇真实被内射视频三四区| 国产亚洲精品久久久久苍井松| 欧美色五月| 69精品人人人人人人人人人| 国产亚洲精品AAAAAAA片 | 激情六月综合| 久久激情网| 大香蕉婷婷| 久久久99精品免费观看| 国产乱妇无乱码大黄AA片| 亚洲V国产V欧美V久久久久久| 图片区 小说区 区 亚洲五月| 成人国产欧美大片一区| 五月花成人| 九九干视频| 99久在线视频| 激情五月综合| 久久538| 天天综合色| 无码激情AAAAA片-区区| 久色网| 伊人久久婷| 欧美色色色| 丁香五月激情五月| 黄桃AV无码免费一区二区三区| 午夜精品久久久久久久爽| 美欧成人视频| 激情五月综合网最新| 五月婷丁香| 亚洲色五月| 大地9中文在线观看免费高清| 蜜桃视频在线观看免费播放| 97碰| 热久久99热欧美国产亚洲| 亚洲色色色| 婷婷97狠狠成人网站| 激情综合99| 欧美一级色| 色情婷婷| 天堂资源中文| 超碰成人在线观看| 开心深爱激情网| 无码人妻精品一区二区蜜桃色欲| 裸体做A爰片毛片A片免费| 婷婷射综合| 五月丁香六月婷婷久久| 丁香久久| av在线免费网站 | 久99热| 大香蕉精品视频| 99这里只有精品| 青柠影视免费高清电视剧 | 丁香五月成人社区| 777精品久无码人妻蜜桃| 狠狠爱五月婷婷| 97人人干| 国产又爽又猛又粗的视频A片| 玖玖午夜视频| 久久久久er热| 日本不卡高字幕在线2019| 婷婷五月电影| 中文AV网| 再深点灬舒服灬太大了添A片小说| 日本啪啪天堂| 五月丁香啪啪啪| 狼友超碰| 色婷婷五月天偷拍| 色五月激情五月| 国产成人+综合亚洲+天堂| 被男人添B超爽视频| 亚洲综合无码| 99热免费| www.久久爱.com| 99视频| 久久视频婷婷| 日韩视频99| 西西女色窝窝7777777| 亚洲1区| 乱岳熟女50岁| 色色色欧美| 成人精品视频99在线观看免费| 久久停停超碰| 国产乱子轮XXX农村| 国产99久久久| 亚洲乱码日产精品BD| 在线看片av| 欧美交换配乱吟粗大25P| 久热综合| 精品一二三区久久AAA片| 91一起操| 日韩欧美猛交XXXXX无码| 久久九九综合| 国产做A爰片毛片A片美国| 99热国产这里只有精品| 91超级碰碰| 激情综合一| 欧美综合五月丁香六月婷| 亚洲精品V天堂中文字幕| 超碰操网| 亚洲精品又粗又大又爽A片 | 色五月av| 久久性操| 亚洲第一成人无码A片| 亚洲成人在线播放| 荡乳尤物3pH| 99精品久久| 97干97色| 丰满少妇乱A片无码| 99热只有| 日韩成人无码人妻| 色就干| 婷婷五月激情网| 丝袜人妻| 激情五月婷婷| 五月天偷拍| 国产精品电影| 丁香狠狠色婷婷| 香蕉久久国产AV一区二区| 五月婷婷综合激情| WWW免费视频碰碰碰碰| 国产全是老熟女太爽了| 男女99免费视频| 91精品久久久久久综合五月天| 亚洲操操| 老司机伊人| 色碰碰| 中文字幕资源网| 99色在线| 五月色婷婷综合| 九色PORNY自拍成人精彩视频| 中字幕视频在线永久在线观看免费| 婷婷狠狠干| 香蕉综合在线| 99超级碰碰| 亚洲精品V天堂中文字幕| 色噜噜狠狠色综无码久久合欧美| 激情五月天色色网| 97色在线观看视频| 国产成人精品亚洲线观看| 天天干天天拍| 人人摸人人摸| 伊人久久艹| 五月婷婷亚洲|