中国卫生政策研究  2022, Vol. 15 Issue (6): 67-72   DOI: 10.3969/j.issn.1674-2982.2022.06.010   PDF    
“一带一路”发展中国家妇幼卫生培训评价指标体系构建
李行, 蒋泓     
复旦大学公共卫生学院 国家卫生健康委员会卫生技术评估重点实验室 上海 200032
摘要:目的:建立应用于“一带一路”发展中国家妇幼卫生培训的评价指标体系,为了解培训效果,实现对培训活动的反馈,提高培训质量提供科学的评估工具。方法:根据决策导向型评价模型设计评价框架,结合文献综述和专家访谈,开展两轮Delphi法专家咨询确立指标体系。结果:指标体系包括4个一级指标、16个二级指标、53个三级指标。其中一级指标包括背景评价、投入评价、过程评价、结果评价4个维度。两轮Delphi专家咨询的积极系数均为100%,权威系数为0.91,协调系数分别为0.207~0.262,结果可取。结论:研究所构筑的培训评价指标体可为我国“一带一路”妇幼卫生援外培训项目及时了解培训效果、改善培训质量提供有效的评估工具和量化依据。
关键词一带一路    妇幼卫生    培训评价    Delphi法    
Evaluation index system of maternal and child health training in developing countries of "the Belt and Road"
LI Hang, JIANG Hong     
Key Laboratory of Health Technology Assessment of National Health Commission, School of Public Health, Fudan University, Shanghai 200032, China
Abstract: Objective: To establish an evaluation index system of maternal and child health training in developing countries of"the Belt and Road", so as to provide a scientific evaluation tool for collecting information on the training efficacy and feedbacks on the training activities as well as providing suggestions on how to improve the training quality. Methods: The evaluation framework was designed based on CIPP (Context, Input, Process, Product) evaluation model. Then the index system was established by combining literature review, expert interview and two rounds of consultation with Delphi method experts. Results: The index system includes 4 primary indicators, 16 secondary indicators and 53 tertiary indicators. Among them, primary indicators include background evaluation, input evaluation, process evaluation and result evaluation. The active coefficient of the two rounds of Delphi method expert consultation was both 100%, the authority coefficient was 0.91, and the coordination coefficient was 0.207~0.262, confirming the validity of the results. Conclusions: The training evaluation index system established in this research can provide an effective tool and quantification references for timely evaluation of training efficacy and improvement of training quality for China's "the Belt and Road" maternal and child health training program.
Key words: The Belt and Road    Maternal and child health    Training evaluation    Delphi method    

卫生领域合作作为共建“一带一路”倡议的重要内容之一,以“健康丝绸之路”为主线,通过加强全球公共卫生治理,达到构建人类卫生健康共同体的目标。[1]妇幼卫生是全球卫生领域合作的重要关注点,继联合国千年目标(Millennium Development Goals,MDGs)后,2030年可持续发展目标(Sustainable Development Goals,SDG)继续将改善孕产妇保健、降低儿童死亡率等作为核心指标。[2]

中国在改善妇幼健康方面积累了丰富的经验,并且是全球少数几个同时实现MGD4和MGD5,改善儿童和孕产妇生存和健康指标的国家之一。[3-4]其中有很多经验和做法对其他发展中国家具有借鉴意义。长期以来,中国向其他发展中国家提供力所能及的援助,尤其在以可持续发展为目标的时代,更强调全球所有国家的参与和合作伙伴关系的发展[5],中国也因此增加了对援外培训的支持,其中包括为发展中国家卫生专业人员提供培训,促进其技能提升以实现持续发展[6]

2019年起,国家卫生健康委员会国际交流与合作中心(IHECC)和联合国儿童基金会合作(UNICEF)共同开展“一带一路”妇幼卫生合作示范培训基地的建设,旨在在国内建立整合最佳资源以支持南南合作交流的培训基地网络,依托该网络开展长期可持续的“一带一路”发展中国家妇幼卫生援外培训。[7]目前,我国在努力促进全球实现SDG目标的进程中,已积极开展了诸多涉外培训活动,妇幼健康作为发展中国家卫生工作的薄弱点,是“一带一路”倡议培训活动的重点领域,但当下仍缺乏一套规范化的评估工具以了解培训成效。同时,由于新冠疫情对全球的影响,在线培训的模式将会长期持续,因此指标体系的制定也应结合线上与线下妇幼卫生援外培训项目的特点。研究如何建立“一带一路”妇幼卫生培训评价指标条目并形成专家共识,是规范、持续、动态地开展和推进妇幼卫生援外培训所必须的。

本研究旨在制定“一带一路”发展中国家妇幼卫生评价指标体系,用于开展培训后,对受援国学员进行妇幼卫生援外培训的评估,从而为改善中国妇幼卫生合作示范培训的质量提供可靠的工具。

1 资料与方法 1.1 研究框架与指标来源

本研究以决策导向型(Context, Input, Process, Product, CIPP)评价模型作为理论框架,CIPP模型是将培训项目本身作为一个对象进行分析,由背景评价(Context evaluation)、投入评价(Input evaluation)、过程评价(Process evaluation)、结果评价(Product Evaluation)四项评估活动的首字母组成[8],根据文献回顾确定二级指标。三级指标建立的主要参考标准: 一是现有援外培训评估表,如商务部《中国对外援助培训项目学员评估调查表》;二是基于文献研究评阅,如援外医疗培训质量评价研究、远程教育质量保证标准研究等;三是现有原则,如南南合作原则、布鲁姆教育目标分类法(提供了从培训结果的角度描述和刻画达成各教学目标的依据,分别为认知,理解,分析,应用,综合,评价)。[9]

在初步构建了三级指标体系后,课题组邀请了3名分别来自妇幼卫生、卫生政策、全球卫生领域的专家进行定性访谈。基于培训背景、投入、过程、结果四个维度,结合目前“一带一路”妇幼卫生培训与开展的现况收集专家对指标体系的意见与建议,完善并形成了初拟的指标体系。

1.2 专家咨询法遴选指标 1.2.1 确定函询专家

2021年10—11月,本研究邀请在妇幼卫生领域有丰富理论和实践经验并开展或参与过援外培训活动的专家。专家入选标准:(1)具有高级职称或者在国际卫生组织担任资深项目官员;(2)具有从事公共卫生、妇幼卫生和护理相关领域工作或者全球卫生、卫生政策工作经验;(3)具有参与援外培训项目制定的经验。最终确定了来自妇幼卫生、助产、卫生政策等领域专家共16人。

1.2.2 实施专家函询

本研究共发放两轮咨询问卷,第二轮咨询问卷是在汇总第一轮专家咨询意见的基础上形成的,主要内容与第一轮基本一致。采取指标必要性得分均值小于0.40且变异系数大于0.25作为指标排除标准。同时在问卷中,请专家进行重要度评判时综合考虑指标的可行性、适用性等因素,对于一些不适合指标,直接提出“删除”建议。将量化评判和专家意见相结合,决定是否对指标进行增加、删除和修改。最后依据两轮专家函询结果及讨论分析,建立“一带一路”发展中国家妇幼卫生培训评价指标体系。

1.3 统计分析 1.3.1 Delphi法结果计算

专家积极系数,即专家对研究的关心程度=实际参与调查的专家人数/全部邀请专家人数,专家的权威程度根据熟悉程度和判断依据的影响程度计算,专家权威系数=(对专家判断影响程度+专家对问题的熟悉程度)/2。专家意见集中程度根据指标的必要性赋值计算,专家意见协调程度根据变异系数和协调系数计算,专家协调系数采用肯德尔(Kendall)和谐系数W检验,和谐系数(W)取值范围在0~1之间,W值越大,表明专家的意见越统一,协调程度越高,对W值的显著关系进行检验,若P < 0.05,则表示意见具有显著一致性。

1.3.2 层次分析法确定指标权重

应用层次分析法测定各项指标的组合权重:(1)根据专家评分对各指标必要性进行两两比较,按照Satty 1-9比例标度赋值,构造判断(成对比较)矩阵。(2)采用方根法计算矩阵特征向量的近似值。(3)对判断矩阵的一致性进行检验,若一致性比例CR < 0.1, 则认为判断矩阵的一致性可以接受。

2 结果 2.1 初拟指标体系

本研究对妇幼卫生援外培训项目背景、培训课程的投入、实施和效果4个维度进行评价,依据这4个维度的内容,制定评价指标体系建设方案(表 1)。

表 1 CIPP模型评价指标体系建设方案

基于CIPP模型,课题组结合文献回顾、专家访谈意见与工作实际,初步构建了“一带一路”妇幼卫生培训项目的评价指标体系,包含4个一级指标,19个二级指标,83个三级指标。

2.2 Delphi咨询结果 2.2.1 专家情况

参与咨询的16位专家平均年龄为50岁,平均工作年限为26年,主要分布在妇幼卫生、卫生政策与管理、助产和护理学、全球卫生等专业领域,都对援外培训工作有丰富的理论和实践经验(表 2)。

表 2 专家基本情况(N=16)
2.2.2 专家积极系数

专家积极系数根据问卷的有效回收率计算,本研究两轮咨询的问卷回收率均为100%,受询专家具有较高积极性。

2.2.3 专家意见权威程度

专家意见权威程度用专家权威系数来表示,本研究专家的权威系数为0.91,说明专家意见较为权威。

2.2.4 专家意见协调系数

第一轮咨询的一级指标、二级指标、三级指标Kendall协调系数分别为0.133、0.115、0.203,经过调整后,第二轮的咨询一级指标、二级指标、三级指标Kendall系数为0.207、0.229、0.262,差异均有统计学意义(P<0.05),表明专家意见具有一致性。

2.2.5 指标体系修改与调整

第一轮咨询后,课题组根据专家评分及修改意见,进行如下修改与调整:(1)删除二级指标“学员在线课程的可及性”“在线培训及时性”“在线培训效果”。(2)删除“机场接送”“文化”“健康保障制度”等11个三级指标。(3)调整三级指标“教师资质”为“师资配备”,“学员招募”为“招生信息介绍”等。形成4个一级指标,16个二级指标,55个三级指标。

第二轮咨询后,课题组根据专家修改意见,进行如下修改与调整:(1)删除三级指标“培训课程设计”“‘南南合作’发展”。(2)为保证布鲁姆认知目标分类体系完整性,保留对于变异系数大于0.25的三级指标“评价”。

经调整,确定最终纳入的指标后,根据层次分析法计算各层级各指标的权重,最终的“一带一路”妇幼卫生培训项目的评价指标体系包含4个一级指标,16个二级指标,53个三级指标(表 3)。

表 3 “一带一路”发展中国家妇幼卫生培训评价指标体系及权重(学员评估)
3 讨论 3.1 评价指标体系的科学性和合理性 3.1.1 应用Delphi法的科学性和合理性

Delphi专家咨询已被广泛的运用于指标评价研究,是一种客观性较强的专家咨询法[10],其研究结果的可靠性由函询专家的积极性、权威性及意见协调程度等确定。[11]

问卷回收率达70%时说明专家积极性良好[12],本研究两轮专家函询的问卷回收率均为100.0%,且多位专家针对指标条目提出修改意见,专家积极性较高。

运用Delphi法的关键在于权威专家的选择和严谨的研究过程。[13]本研究遴选的专家长期从事妇幼卫生、卫生政策、卫生管理、卫生体系、护理教育及全球卫生等工作,专家全部为高级职称,工作年限在20年以上的专家占81.3%,并均深入参与过援外培训的开展。一般认为当权威系数Cr>0.800时,专家对内容的决定很有把握。[14]本研究专家的权威系数为0.91, 说明专家作出的判断是建立在理论知识和实践经验上的,具有可信性。

专家意见的协调程度包括变异系数与Kendall协调系数,变异系数反映专家评分的集中程度,第一轮专家咨询后,删除了变异系数大于0.25的条目如组织管理中的“机场接送”和“南南合作”精神体现中的“无附加条件”。在第二轮中除“评价”外指标变异系数均小于0.25,且集中程度较第一轮高。Kendall系数常用于考察多位评分者评分的一致性程度,P < 0.05,说明专家意见具有一致性。[15]本研究第一轮和第二轮咨询三级指标的Kendall协调系数分别为0.133和0.207,P值均小于0.01,说明专家意见趋于一致且具有一致性。

3.1.2 指标体系的权重分析

本研究构建的指标体系分为背景评价、投入评价、过程评价和结果评价4个维度,其中背景评价权重系数最高,且二级指标权重系数相同,表明背景评价对于援外培训尤为重要,培训需求和培训目标的评价均为培训背景评价的重要组成部分。因此,在培训开展前对受援国学员进行需求分析,制定科学合理的培训目标对提高培训质量有重要意义;在投入评价中,培训方案权重系数最高,且三级指标培训大纲占比最重,表明培训大纲的适宜性对于培训非常关键。而对于在线培训条件,最重要的是有丰富的在线课程资源;在过程评价中,“南南合作”精神体现权重系数最高,其次为培训态度(教师备课、尊重学员、沟通交流)和培训内容;在结果评价中,满意度权重系数最高,其次为“南南合作”影响。表明专家认为“南南合作”精神、学员满意度是援外培训需关注的重要内容。因此,在实际培训开展中,除了注重对培训内容和培训态度外,更应该加强融入“南南合作”理念,提升学员满意度。

综上,本研究通过两轮专家咨询,遴选了专家具有共识的指标,总体上研究结果具有一定的科学性和合理性。

3.2 评价指标体系的应用价值

本研究以CIPP模型以理论框架,通过两轮Delphi法遴选了指标,构建了一套由4个一级指标,16个二级指标和53个三级指标构成的“一带一路”妇幼卫生培训评价指标体系。本研究所构建的工具可以为我国“一带一路”妇幼卫生培训的评估提供科学合理的评估体系框架;基于本研究指标体系所构建的评估工具,将可为培训组织者提供学员反馈,有利于组织方结合培训背景、投入、过程、结果环节,制定精准的改善策略;同时,本指标体系的构建框架和核心原则亦可为其他“一带一路”发展中国家培训活动提供参考依据。

3.3 评价指标体系的局限性

本研究构建的评价指标体系同样存在一定局限性,由于本研究函询专家均来自国内,没有结合其他国家例如受援国专家的意见。此外,指标体系需要在实际应用中得到检验和进一步完善。

作者声明本文无实际或潜在的利益冲突。

参考文献
[1]
光明网. 高质量共建"一带一路"助力构建人类卫生健康共同体[EB/OL]. [2022-03-17]. https://theory.gmw.cn/2020-08/04/content_34055808.htm
[2]
宇传华, 王璐. 联合国健康相关指标及中国现状[J]. 公共卫生与预防学, 2017, 28(1): 1-7.
[3]
钱序, 蒋泓. 新时期妇幼健康发展的机遇和挑战[J]. 上海预防医学, 2020, 32(7): 527-530.
[4]
中华人民共和国国家卫生健康委员会. 中国妇幼健康事业发展报告[R]. 北京: 国家卫生健康委员会, 2019.
[5]
蒋泓, 钱序. 可持续发展时代全球健康教学探讨: 基于国际暑期学校的经验[J]. 上海预防医学, 2019, 31(9): 778-783.
[6]
Liu P, Guo Y, Qian X, et al. China's distinctive engagement in global health[J]. Lancet, 2014, 384(27): 793-804.
[7]
国家卫健委国际交流与合作中心. 一带一路"妇幼卫生合作示范培训基地项目筹备工作研讨会在京召开[EB/OL]. [2022-03-17]. http://www.ihecc.org.cn/news.html?_=1551320525069
[8]
杨琳, 阮洪. 培训评估模型应用于医学培训的研究进展[J]. 护理研究, 2018, 32(18): 2831-2834. DOI:10.12102/j.issn.1009-6493.2018.18.003
[9]
杨向东. 基于核心素养的基础教育课程标准研制[J]. 全球教育展望, 2017, 46(10): 34-48.
[10]
张夏芸, 杨沁平, 王玉恒, 等. 上海市慢性病防治公共管理指标体系研究与构建[J]. 中国卫生资源, 2021, 24(6): 719-724. DOI:10.3969/j.issn.1007-953X.2021.06.019
[11]
吴莹玉, 黄霞, 贾培培, 等. 护士工作场所暴力防范培训体系的构建[J]. 中华护理杂志, 2020, 55(4): 584-589. DOI:10.3761/j.issn.0254-1769.2020.04.020
[12]
刘湾湾, 蒋泓, 黄勤瑾, 等. 应用法确定妇女孕前生殖健康素养的内容[J]. 中国妇幼保健, 2017, 32(24): 6240-6243.
[13]
陈磊, 汪瑶, 他福慧, 等. 基于卫生交流合作视角的"一带一路"沿线国家分类指标体系研究[J]. 中国卫生政策研究, 2019, 12(12): 55-60.
[14]
陈彦羽, 陶发胜, 姜文亭. 德尔菲法在制定城市维稳时伤员院前急救卫生装备品类中的应用[J]. 中国全科医学, 2012, 15(5): 577-579.
[15]
李娟生, 李江红, 刘小宁, 等. Kendall's W分析方法在医学数据处理中的应用及在SPSS中的实现方法[J]. 现代预防医学, 2008, 35(1): 33-42.
[收稿日期: 2022-05-26 修回日期: 2022-06-20]

(编辑     薛云)