Knowing the operative game plan: a novel tool for the assessment of surgical procedural knowledge

Knowing the operative game plan: a novel tool for the assessment of surgical procedural knowledge

Can J Surg 2012;55(4):S158-S162 | PDF | Appendix

Jacques Balayla, MD*†; Simon Bergman, MD, MSc*†; Gabriela Ghitulescu, MD*; Liane S. Feldman, MD‡; Shannon A. Fraser, MD, MSc*

From the *Department of Surgery, Jewish General Hospital, McGill University, the †Lady Davis Institute for Medical Research, Jewish General Hospital, and the ‡Department of Surgery, Montreal General Hospital, McGill University, Montréal, Que.

Abstract

Background: What is the source of inadequate performance in the operating room? Is it a lack of technical skills, poor judgment or a lack of procedural knowledge? We created a surgical procedural knowledge (SPK) assessment tool and evaluated its use.

Methods: We interviewed medical students, residents and training program staff on SPK assessment tools developed for 3 different common general surgery procedures: inguinal hernia repair with mesh in men, laparoscopic cholecystectomy and right hemicolectomy. The tools were developed as a step-wise assessment of specific surgical procedures based on techniques described in a current surgical text. We compared novice (medical student to postgraduate year [PGY]-2) and expert group (PGY-3 to program staff) scores using the Mann–Whitney U test. We calculated the total SPK score and defined a cut-off score using receiver operating characteristic analysis.

Results: In all, 5 participants in 7 different training groups (n = 35) underwent an interview. Median scores for each procedure and overall SPK scores increased with experience. The median SPK for novices was 54.9 (95% confidence interval [CI] 21.6–58.8) compared with 98.05 (95% CP 94.1–100.0) for experts (p = 0.012). The SPK cut-off score of 93.1 discriminates between novice and expert surgeons.

Conclusion: Surgical procedural knowledge can reliably be assessed using our SPK assessment tool. It can discriminate between novice and expert surgeons for common general surgical procedures. Future studies are planned to evaluate its use for more complex procedures.

Résumé

Contexte : Comment peut-on expliquer un rendement qui laisse à désirer au bloc opératoire ? S’agit-il d’un manque de compétences techniques, d’un piètre jugement ou d’une méconnaissance des procédures ? Nous avons créé un outil d’évaluation des connaissances en matière de procédures chirurgicales (CPC) et nous en avons évalué l’utilisation.

Méthodes : Nous avons interrogé des étudiants en médecine, des résidents et le personnel des programmes de formation au sujet des outils d’évaluation des CPC mis au point pour 3 interventions de chirurgie générale courantes : soit la réparation d’hernie inguinale avec pose de filet prothétique chez l’homme, la cholécystectomie laparoscopique et l’hémicolectomie droite. Les outils ont été conçus sous forme d’évaluations séquentielles de ces interventions chirurgicales par rapport aux techniques décrites dans un ouvrage de chirurgie actuel. Nous avons comparé les scores des chirurgiens novices (depuis les étudiants en médecine jusqu’à R2) et experts (depuis R3 jusqu’au personnel des programmes) à l’aide du test U de Mann–Whitney. Nous avons calculé les scores de CPC et défini un seuil à l’aide d’une analyse de la fonction d’efficacité du récepteur.

Résultats : En tout, 5 participants de 7 groupes de formation différents (n = 35) ont été interviewés. Les scores de CPC médians pour chaque intervention et les scores globaux augmentaient selon l’expérience. Pour les scores médians de CPC, les novices ont obtenu 54,9 (intervalle de confiance [IC] à 95 % 21,6–58,8), contre 98,05 (ICà 95 % 94,1–100,0) chez les experts (p = 0,012). Le score seuil de CPC de 93,1 établit la distinction entre les chirurgiens novices et experts.

Conclusion : Notre outil d’évaluation de la connaissance des procédures chirurgicales permet d’analyser les CPC de manière fiable. Il permet de distinguer entre chirurgiens novices et experts lors d’interventions de chirurgie générale courantes. D’autres études sont prévues pour évaluer l’utilisation de l’outil pour des interventions plus complexes.


Accepted for publication Nov. 16, 2011

Abstract presented at the Canadian Surgery Forum 2010, Québec, Que., Sept. 2–5, 2010.

Competing interests: None declared.

Contributors: All authors contributed to study design, reviewed the article and approved its publication. J. Balayla and S.A. Fraser acquired and analyzed the data, and wrote the article.

DOI: 10.1503/cjs.015411

Correspondence to: S. Fraser, Division of General Surgery, Jewish General Hospital, 3755 Chemin de la Côte-Sainte-Catherine, A-510, Montréal QC H3T 1E2, shannon.fraser@mcgill.ca