Алексеева Александра Юрьевна
Семенова Татьяна Владимировна
Объективный структурированный клинический экзамен (ОСКЭ) — это метод, используемый для оценки клинической компетентности. Рональд Харден, в 1975 г. впервые применивший этот метод оценки, дает ему следующее определение:
«Подход к оценке клинической или профессиональной компетентности, в котором компоненты! компетентности оценивают планомерно и структурированно, с особым вниманием к объективности оценки».
В основе метода лежит комплексная оценка с конечным множеством (обычно от 10 до 20) оценочных станций, моделирующих различные аспекты клинической компетентности. Все участники проходят одинаковые испытания, последовательно переходя от станции к станции в соответствии с расписанием, результаты выполнения заданий при этом оценивают с использованием чек-листов. Для проведения ОСКЭ могут быть использованы различные тренажеры и симуляторы, стандартизированные или реальные пациенты, а также дополнительные диагностические элементы (результаты ЭКГ, рентгенограммы, КТ, МРТ).
Суть ОСКЭ заключается в создании для экзаменуемых репродуцируемых клинических ситуаций, позволяющих продемонстрировать приобретенные технические, дедуктивные (диагностические, когнитивные) и коммуникативные навыки. ОСКЭ имитирует (симулирует) процесс обследования и лечения пациента, поэтому практические испытания на станциях ОСКЭ обычно представляют собой задания на интерпретацию исследований, оценку коммуникативных навыков (сбор анамнеза, сообщение плохих новостей), а также технических навыков. Таким образом, ОСКЭ — это больше, чем комплексный экзамен. Правильно разработанные станции ОСКЭ позволяют проверить клинические компетенции, связанные с самостоятельным осуществлением медицинской деятельности. В отличие от традиционных методов оценки, эта методика позволяет оценить и продемонстрировать, что учащиеся делают, а не то, что они знают или теоретически могут либо будут делать.
За 40 лет, прошедших со времени изобретения метода Рональдом Харденом, наблюдается стабильный рост использования ОСКЭ для проведения экзаменов у студентов, ординаторов и практикующих врачей во всем мире. ОСКЭ используется при повышении квалификации в системе непрерывного медицинского образования (НМО) и в качестве средства получения обратной связи для коррекции процесса обучения. Сегодня ОСКЭ используется в качестве:
- средства оценки достижения минимально приемлемого стандарта для студентов и резидентов при переводных и выпускных экзаменах в большинстве медицинских школ США, Великобритании и Канады. В Казахстане ОСКЭ стал обязательным экзаменом после III, V и VII курсов во всех медицинских вузах;
- средства оценки интернов при назначении на более высокие должности в Королевских коллегиях врачей различных специальностей в Великобритании;
- средства текущей, формативной оценки и самооценки для коррекции обучения студентов-медиков;
- средства суммативной (итоговой) оценки выпускников, претендующих на лицензию для занятия должности или на сертификат для практической деятельности. На модели ОСКЭ основаны 2-я часть экзамена PLAB в Великобритании, Квалификационный экзамен-II Медицинского совета Канады [The Medical Council of Canada Qualifying Examination Part II (MCCQE)] и раздел оценки клинических умений экзамена для получения медицинской лицензии в США [The United States Medical Licensing Examination® (USMLE®)];
- с 2016 г. методика ОСКЭ применяется в качестве 2-го этапа первичной аккредитации специалистов в России.
Сильные и слабые стороны
ОСКЭ как инструмент для оценки клинической компетентности обладает многими преимуществами по сравнению с другими методами оценки: тестирование с выбором правильного ответа, собеседование по предмету и т.п. Правильно разработанные станции ОСКЭ более объективны, легко воспроизводимы (репродуцируемы), реалистичны, соответствуют действительности (валидны). Некоторые авторы утверждают, что ОСКЭ с его многочисленными вариациями сегодня доминирует в сфере оценки компетентности. Как правило, чем больше станций с различными практическими испытаниями в рамках ОСКЭ, тем выше степень надежности его результатов. Результаты исследований, проведенных Аккредитационным советом по последипломному медицинскому образованию США (ACGME), указывают, что добиться необходимой степени надежности можно при внедрении ОСКЭ, состоящего из 20 практических испытаний. Исследование, проведенное ACGME, показывает корреляцию от 0,59 до 0,71 между результатами ОСКЭ и предаттестационных экзаменов. Таким образом, при достаточном количестве станций ОСКЭ может считаться надежным инструментом проверки знаний, умений и навыков с достаточно высокой степенью надежности.
Преимущества объективного структурированного клинического экзамена
Валидность — степень, в которой содержание метода оценки позволяет оценить действительно приобретенные или подлежащие проверке знания, навыки и умения, которые отражают поведение в реальной клинической ситуации.
Формы валидности
Валидность содержания обеспечивается в том случае, когда экзамен составлен таким образом, что он достоверно тестирует реальные современные знания, навыки и нормы поведения, соответствующие эталонным, т.е. отражает поведение в данном клиническом контексте большинства экспертов в этой области в реальной практике.Валидность построения — способность экзамена правильно различать (дифференцировать) группы тестируемых по уровню экспертизы (например, поставленная задача может достоверно и надежно отличить начинающих клиницистов от экспертов).
Конвергентная, дивергентная и предсказательная валидность
- Валидность также может проявляться в надежности (силе) взаимосвязи баллов, полученных одним измерением, с другими методами измерения на экзамене.
- Конвергентная валидность — надежность экзамена и его способность давать равные оценки по одной и той же задаче, используя различные элементы (или методы) оценки. Например, принятие решения начать закрытый массаж сердца и время от остановки сердца до начала закрытого массажа сердца. Оба фактора должны быть отражены в чек-листе. Таким образом, 2 измерения позволяют оценить способность правильно начать реанимацию.
- Дивергентная валидность — способность и надежность экзамена давать различные оценки по одной и той же задаче, используя различные элементы (или методы) оценки.
- Предсказательная валидность — способность экзамена предсказать поведение и работу конкретного медработника в будущей практике (например, врачи, сдавшие экзамен по лапароскопическим навыкам, оперируют с меньшим количеством осложнений, чем те, кто не сдавал экзамен).
Как уже отмечалось выше, по сравнению с традиционным подходом к клиническим экзаменам ОСКЭ обеспечивает более достоверную оценку клинической компетентности. Составители экзаменов должны заранее определить, что необходимо проверить, и планировать содержание экзамена для проверки определенных знаний, умений и навыков. При этом можно контролировать не только содержание, но и степень сложности экзамена: более простые случаи для студентов младших курсов, более сложные для старших. Акцент оценки может быть смещен с проверки фактических знаний на тестирование широкого спектра умений и навыков, включая сбор анамнеза. Помимо наиболее распространенных методов клинического обследования, можно включить методы исследований, применяемые узкими специалистами, такими как офтальмологи, оториноларингологи.
С развитием ОСКЭ, помимо традиционно охватываемых им доменов, таких как коммуникационные навыки, клинический осмотр, выполнение медицинских процедур и интерпретация данных, в содержание экзамена все чаще включают оценку профессионализма, безопасность пациентов и межпрофессиональные навыки.
Надежность (воспроизводимость результатов тестирования)
ОСКЭ характеризуется не только большей достоверностью, но и большей надежностью, — результат экзамена мало зависит от конкретного экзаменатора и стандартизированного пациента (СП) (конечно, и экзаменаторы, и пациенты-актеры должны быть обучены и откалиброваны). Использование экзаменаторами чек-листов и тестовых заданий закрытого типа (с выбором одного наилучшего ответа) обеспечивает более объективную оценку. Дополнительное преимущество ОСКЭ заключается в том, что большой набор станций позволяет оценить более широкий спектр навыков учащихся.
Высокую надежность ОСКЭ обусловливают следующие факторы:
- экзаменуемые проходят через набор станций, помогающих оценить разные аспекты клинической компетентности;
- все экзаменуемые получают одинаковый набор заданий;
- каждого экзаменуемого оценивает множество подготовленных экзаменаторов, наблюдающих за выполнением заданий на различных станциях;
- на станциях, включающих выполнение процедур, используются симуляторы с электронным или компьютерным контролем и объективной оценкой в реальном времени;
- в чек-листах, разрабатываемых для каждой станции отдельно, отражено то, что должно оцениваться в рамках экзамена.
Практичность
Еще одно преимущество ОСКЭ — возможность оценивать большие группы студентов. При этом можно регулировать нагрузку экзаменаторов, оставляя их только на тех станциях, где их присутствие необходимо: наблюдение за сбором анамнеза или обследованием пациента. В отличие от традиционных устных экзаменов, формирование четких инструкций и чек-листов для оценки на каждой станции позволяет привлекать в качестве экзаменаторов более широкий круг преподавателей и клиницистов. ОСКЭ позволяет заранее определить критерии сдачи экзамена и после его проведения предоставить обратную связь профессорско-преподавательскому составу и студентам.
Гибкость
Гибкость ОСКЭ как метода оценки стала причиной его широкого использования в самых разных дисциплинах и на различных этапах медицинского образования. Соблюдая общие принципы, можно широко варьировать количество, время выполнения станций и соответственно продолжительность экзамена; использование тренажеров, симуляторов, СП для оценки различных компетенций; формат заданий и ожидаемых от экзаменуемого ответов, привлечение экзаменаторов, формат обратной связи и т.д.
Справедливость оценки
Справедливость — характеристика метода оценки, демонстрирующая отсутствие влияния на результат и дискриминации экзаменуемых. Для справедливости оценки необходимо жестко следовать установленным правилам и стандартам. Справедливость, выгодно отличающая ОСКЭ от традиционных методов оценки, обеспечивается следующими факторами:
- в отличие от традиционных методов с вытягиванием билета, все экзаменуемые выполняют одинаковый набор заданий;
- каждый экзаменуемый оценивается множеством экзаменаторов с использованием заранее согласованных чек-листов и шкал оценки;
- используются симуляторы и тренажеры с объективной компьютерной или электронной оценкой правильности выполнения процедур;
- СП отобраны в соответствии с полом, возрастом, данным в задании и общаются со всеми экзаменуемыми строго по стандарту;
- содержание экзамена соответствует учебному плану и ожидаемым результатам обучения, профессиональным стандартам;
- в большинстве случаев экзамен записывают на видео, что позволяет объективно проводить апелляцию.
Недостатки объективного структурированного клинического экзамена
Нельзя не упомянуть о недостатках ОСКЭ, ограничивающих его применимость. При использовании ОСКЭ не проверяется способность студента рассматривать пациента как нечто целое, знания и навыки студентов тестируются отдельными блоками компетенций. Поэтому, учитывая, что при оценке клинической компетентности каждый подход имеет собственные преимущества, не нужно ограничиваться одним подходом к оценке, необходимо применять и другие методы, позволяющие оценить способность студента справляться с клиническим случаем в целом, — для этого можно использовать виртуальных пациентов. При оценке клинической компетентности выпускников и ординаторов ОСКЭ может быть дополнен оценкой работы в палате по отчетам наставников.
Существенный недостаток ОСКЭ для многих образовательных организаций — необходимость больших финансовых затрат и затрат сил организаторов и экзаменаторов. Экзаменаторы и пациенты-актеры должны быть обучены и откалиброваны, экзаменаторы должны быть очень внимательны, многократно наблюдая одно и то же задание. Можно попытаться снизить нагрузку на экзаменаторов, обеспечив их ротацию по станциям, однако при этом необходимо устроить для экзаменаторов дополнительный брифинг и дать им время для тщательного ознакомления с новыми станциями.
При использовании для экзамена реальных пациентов их следует тщательно подбирать, а инструкции для экзаменуемых должны минимизировать неудобства, которые могут причиняться пациентам. При оценке владения определенной методикой в распоряжении экзаменатора должно быть несколько пациентов, чтобы обеспечить им отдых; необходимо обеспечить однородность пациентов по полу, возрасту, проявлениям основного заболевания. Использование симуляторов значительно упрощает проведение экзамена.
Участие в ОСКЭ может быть стрессом для студентов, не знакомых с его методикой, поэтому важно использовать этот метод не только для итоговой, но и для текущей (формативной) оценки. Важно проводить экзамен в специально подготовленных помещениях, максимально реалистично повторяющих клинические условия.
Для подготовки к ОСКЭ необходимо потратить больше времени, чем для традиционного (тестирование) экзамена, однако нужно отметить, что эти усилия компенсируются не только вышеперечисленными преимуществами. При каждом последующем проведении ОСКЭ подготовка занимает меньше времени, а банк готовых блоков объективного экзамена и контрольных листов позволяет уменьшить затрачиваемые время и усилия.
Применение объективного структурированного клинического экзамена
ОСКЭ может использоваться практически во всех ситуациях, в которых требуется оценить уровень клинической компетентности.
Этапы медицинского образования
ОСКЭ широко применяется на стадии отбора абитуриентов в медицинские вузы, для профессиональной ориентации, в качестве итогового экзамена в конце курса обучения или как метод промежуточной оценки.
Отбор абитуриентов
Традиционно факторами, определяющими отбор абитуриентов в медицинские вузы, являются их академические достижения по определенным дисциплинам, однако, оставляя в стороне методы их оценки, этих факторов недостаточно для отбора студентов, которые могут стать хорошими врачами. Дополнительные испытания при приеме абитуриентов, которые вузы имеют право вводить на собственное усмотрение, могут быть сосредоточены на выявлении навыков общения, способности к сопереживанию, мотивации к обучению, критического мышления, поведения в кризисных ситуациях. ОСКЭ хорошо подходит для оценки таких категорий, и его модификации (Multiple Mini-Interview — MMI) применяются для отбора абитуриентов в ряде стран. Многолетнее исследование, проведенное в Канаде, показало прямую корреляцию между результатами, продемонстрированными абитуриентами на таком экзамене, с их дальнейшими успехами при обучении и в национальном лицензионном экзамене. Систематический обзор исследований использования MMI показал его валидность, надежность и применимость в качестве метода отбора абитуриентов.
Додипломное образование (специалитет)
В Данди (Шотландия), где этот метод был впервые применен, студентам присваивают степени за клиническую компетентность в конце осеннего, весеннего и летнего триместров на 3-м и 4-м годах обучения. Данные степени учитываются экзаменаторами при заключительной оценке, проводимой в конце V курса. ОСКЭ также может быть подходящим методом для проведения последипломных экзаменов, для которых были описаны проблемы с оценкой клинической компетентности. В Казахстане ОСКЭ применяется в качестве переводного экзамена после III курса, после V курса -при завершении обучения в бакалавриате как итоговый экзамен, после VII курса -при итоговой аттестации после обучения в 2-летней интернатуре.
В США 101 из 130 аккредитованных медицинских школ используют ОСКЭ в качестве итогового экзамена и промежуточных экзаменов после клинических циклов. Вертикальная интеграция дисциплин с ранним включением в программы обучения на начальных курсах клинических аспектов позволяет использовать методику уже после 1-го года обучения.
ОСКЭ используется и для рутинной оценки прогресса студентов во время обучения, как по отдельным дисциплинам, так и по общей успеваемости.
Обучение в ординатуре
ОСКЭ широко используется как наиболее релевантный инструмент оценки выпускников программ ординатуры (резидентуры). ACGME рекомендует использование ОСКЭ для оценки после каждого года резидентуры, а также для оценки отдельных доменов EPA (Entrusted professional activities — доверенная самостоятельная профессиональная деятельность): помимо клинических компетенций, это навыки, связанные с передачей пациента и его безопасностью, с телефонными коммуникациями.
Непрерывное медицинское образование
Практика применения ОСКЭ в НМО чаще всего сосредоточена на оценке программ обучения, а также на выявлении образовательных пробелов и потребностей. Например, в Великобритании ОСКЭ применяется для ревалидации лицензии при подозрении на наличие потенциальных проблем, а также при лицензировании врачей-иностранцев.
Области применения
ОСКЭ особенно хорошо подходит для критериально-ориентированных, барьерных экзаменов, которые проводятся для принятия решения об успешности завершения программы обучения и заключения о достижении студентом критериев, предусмотренных программой обучения или стандартами, и его готовности к самостоятельной практической деятельности или переходу к следующей части курса. В ряде стран ОСКЭ является частью экзамена для допуска к специальности. Так, в США с 2004 г. ОСКЭ является частью национального лицензионного экзамена. Этап 2CS (Clinical Skills) включает 12 станций ОСКЭ по 15 мин, ранее разработанных Educational Commission for Foreign Medical Graduates (ECFMG) для оценки иностранных выпускников.
C 2016 г. ОСКЭ используется в качестве 2-го этапа первичной аккредитации в Российской Федерации. Как и любое новшество, экзамен ОСКЭ вызывает ряд проблемных вопросов. Организация, администрирование и проведение экзамена ОСКЭ требуют обширных знаний и планирования. Первый опыт, накопленный в процессе 2-летней первичной аккредитации специалистов здравоохранения в России, говорит о том, что целесообразно создавать специальные рабочие группы, отвечающие за различные аспекты ОСКЭ. Необходима предварительная большая методическая работа по созданию паспортов станций ОСКЭ. В состав паспортов должны войти перечни клинических сценариев, максимально приближенных к реальным условиям будущей профессиональной деятельности испытуемых, алгоритмы выполнения практических навыков, оценочные чек-листы, инструкции для экзаменаторов и испытуемых, информация о необходимых тренажерах и симуляторах и т.д. В дальнейшем предполагается подключить к экзамену ОСКЭ СП, как это делается во многих странах мира, где их роли исполняют специально подготовленные актеры. Таким образом, экзамен ОСКЭ в России находится в самом начале своего пути и проходит стадию становления и интенсивного развития.
ОСКЭ также широко используется в качестве инструмента формативной оценки для выявления областей знаний, в которых у студента имеются пробелы и в которых ему необходимо приобрести дополнительные навыки. Экзамен может быть составлен таким образом, чтобы отбирать студентов, обладающих определенными навыками или способностями, например, для выявления учащихся со способностями выше средних, как, например, в экзамене на членство в Королевском обществе терапевтов в Великобритании.
Для лучшего понимания областей применения ОСКЭ, важно понять связь между компетентностью и способностью к выполнению клинической работы. Часто ОСКЭ характеризуют как инструмент для оценки практических умений. Это не совсем верно, так как умения — это только один аспект клинической деятельности. Любой инструмент оценки способности к клинической деятельности должен содержать задачи разного уровня сложности — для обучающихся, выпускников и для профессионалов/экспертов. ОСКЭ в комбинации с высокореалистичными симуляциями идеально подходит для тестирования комплекса когнитивных и технических навыков в критических ситуациях.
Ключевое различие между ОСКЭ и оценкой на рабочем месте заключается в условиях, в которых проводится оценка, а не в том, что первый экзамен оценивает умения, а второй — способности к клинической деятельности, как часто считается. Тем не менее различие между ними очень существенно, так как выполнение одних и тех же задач одним и тем же человеком может существенно различаться в зависимости от контекста. Соответственно, чек-листы правильных действий и оценки могут разительно отличаться. Поэтому для всех практических целей ОСКЭ следует рассматривать как инструмент для оценки выполнения задач в смоделированных условиях.
ОСКЭ следует планировать для оценки определенных знаний и умений, которые невозможно адекватно оценить с помощью устного, письменного или компьютерного экзамена. Типичными примерами таких умений являются способность экзаменуемого собирать анамнез или выполнять медицинские манипуляции. В то же время существует риск того, что при проведении ОСКЭ можно выделить отдельные практические умения для их оценки. Это приводит к снижению генерализуемости (обобщаемости) — способности метода всесторонне оценивать выполнение задач экзаменуемым. Крайне важно, чтобы практические умения, необходимые для выполнения медицинских процедур, тестировались не изолированно, а в сочетании с другими умениями, например, с коммуникативными навыками или умением составлять план лечения, что позволяет более глобально оценить способность экзаменуемого к самостоятельной клинической деятельности.
Безусловно, использовать ОСКЭ для оценки способности экзаменуемого интерпретировать рентгеновский снимок или распознать повышенный уровень мочевины и назвать его возможные причины вне контекста общения с пациентом нецелесообразно. Эти когнитивные навыки легко оценить при письменной оценке, и они требуют привлечения меньших ресурсов. Планирование станции ОСКЭ для оценки способности экзаменуемого поставить мочевой катетер приводит к риску изолированного выполнения отдельного практического умения, тогда как в реальности экзаменуемым придется одновременно общаться с пациентом и применять знания о процедуре в процессе ее выполнения.
Воздействие на процесс обучения
Многочисленные исследования показывают положительное воздействие ОСКЭ на процесс обучения. Одним из очевидных преимуществ применения данной методики является то, что внимание учащихся сосредоточено на приобретении клинических умений и навыков. Знания учащихся испытывают в максимально приближенных к клиническим условиях, которые помогут наиболее точно оценить их умения и компетенции, необходимые в клинической практике. Как упоминалось выше, ОСКЭ обеспечивает высокую достоверность и хорошую обратную связь при текущей оценке знаний учащегося. Исследованиями было установлено, что участие в ОСКЭ улучшает степень владения компетенцией при прохождении последующих практических испытаний, а также улучшает качество учебного опыта испытуемых. В то же время результаты ОСКЭ позволяют правильно изменять и адаптировать учебный план для достижения поставленных академических задач.
ОСКЭ может оказывать потенциально негативное воздействие на процесс обучения, так как предполагает прохождение ограниченного количества практических испытаний, иллюстрирующих уровень компетенций в области клинической медицины. При этом существует опасность того, что учащийся может подготовиться к экзамену, сосредоточившись на освоении отдельных навыков по некоторым категориям, не понимая их связь с клинической деятельностью. Поэтому ОСКЭ следует рассматривать только как один из компонентов комплексного процесса оценки и развития клинической подготовки.
Участие СП, использование симуляторов и манекенов с объективной оценкой и немедленной обратной связью позволяют оценить практические и клинические компетенции в виде текущей (формативной) оценки, выявить пробелы и сосредоточить внимание учащегося на этих компетенциях.
Подготовка и планирование объективного структурированного клинического экзамена
Организационная структура
Для успешного осуществления ОСКЭ требуется многочисленный коллектив специалистов, как преподавателей, так и практикующих экспертов. Как правило, в медицинских вузах существуют подразделения или ответственные лица, контролирующие процедуры оценки знаний учащихся. Внедрение ОСКЭ должно осуществляться с помощью этого подразделения. Рациональным подходом может стать формирование отдельного подразделения, которое будет заниматься внедрением ОСКЭ в существующие программы оценки. После успешного внедрения ОСКЭ это подразделение должно осуществлять непрерывный анализ и обеспечение качества, используемые и в отношении других методик оценки.
В рамках этого подразделения рекомендуется назначить руководителя группы по проведению ОСКЭ, в обязанности которого будут входить контроль разработки, планирования, организации и проведения экзамена и соответствующая отчетность. Этот человек должен обладать знаниями экспертного уровня или предшествующим опытом проведения ОСКЭ. Если соблюсти все условия невозможно, назначенный руководитель должен пройти обучение, собрать необходимую информацию путем анализа литературы, посещения специализированных семинаров и обращения за помощью к специалистам из других центров.
Проектирование экзамена
Составление проекта — это процесс определения содержания, валидности и надежности экзамена. В данном ОСКЭ это подразумевает отбор совокупности компонентов оцениваемых компетенций и частоту, с которой каждый из них должен демонстрироваться в ходе экзамена. В каждом проекте ОСКЭ должны учитываться контекст экзамена, те знания и умения, которые нужно оценить в соответствии с учебным планом, и необходимость повторения оценки тех или иных областей знаний с помощью различных методов.
Как мы уже отмечали выше, в первую очередь ОСКЭ подразумевает оценку способности, готовности к выполнению определенных манипуляций в смоделированных условиях, т.е. в основном определяет результаты обучения тем или иным клиническим компетенциям.
Процесс проектирования должен обеспечить формирование необходимого набора элементов из учебного плана, относящихся к овладению предусмотренными образовательным и/или профессиональным стандартами компетенциями, таким образом, экзамен должен отражать содержание обучения. Как правило, проект ОСКЭ состоит из двумерной матрицы, в которой одна ось отражает основные подлежащие тестированию компетенции (например, сбор анамнеза, коммуникативные навыки, физикальное обследование, планирование тактики ведения больного и т.д.), а вторая представляет те проблемы или состояния, в отношении которых демонстрируются эти умения. Пример такого проекта показан в таблице 1 и более подробно в приложении 2. Проектирование автономно может проводить аттестационная комиссия, однако в случае наиболее важных экзаменов темы, включаемые в тестовый проект, могут быть согласованы с помощью метода экспертной оценки Дельфи или других методик опроса экспертов.
Длительность экзамена (количество станций)
Для разработки проекта экзамена необходимо предварительно определить его длительность. Она будет зависеть от числа станций ОСКЭ и продолжительности пребывания экзаменуемого на станции. Как правило, станция ОСКЭ включает одно задание, а его выполнение четко ограничено по времени: обычно на его выполнение кандидатам отводится 5-10 мин. Достоверность и валидность зависят от числа станций и общей длительности экзамена. Адекватное и реалистичное определение времени, необходимого для выполнения заданий, способствует повышению валидности тестирования. В то же время увеличение объема оцениваемых знаний и умений, обычно за счет введения в экзамен необходимого числа станций, способствует повышению достоверности. Доказано, что специфичность заданий является основной причиной недостаточной достоверности;таким образом, для проведения достоверного обобщения профессиональных способностей кандидата необходимо оценивать клинические компетенции в широком диапазоне.
Число станций, необходимых для получения достоверного показателя, отражаемое альфой Кронбаха или коэффициентом обобщаемости (G), определяет продолжительность экзамена. Значение коэффициента G от 0,7 до 0,8 отражает приемлемую достоверность в случае экзаменов особой важности. Подробное обсуждение этого предмета выходит за рамки данной статьи, интересующиеся могут обратиться к руководствам AMEE № 49, 54 и 66.
В практическом плане при принятии решения о продолжительности теста необходимо учитывать, с одной стороны, коэффициенты достоверности, а с другой -проблемы, связанные с возможностями воплощения и наличием необходимых ресурсов. В большинстве случаев при четко построенных станциях ОСКЭ достаточной достоверности удается достичь с помощью 12-20 станций продолжительностью по 5-10 мин каждая.
Традиционно станции, связанные со сбором анамнеза, занимают больше времени, а технические станции (провести элементы физикального осмотра) — меньше. Поскольку экзаменуемые переходят от станции к станции по сигналу, на некоторых этапах им приходится находиться на станции после того, как они выполнили всю задачу, ожидая сигнала. Такое ожидание может быть достаточно дискомфортно для них, нужно приложить усилия по ориентированию экзаменуемых, чтобы такая ситуация была нормальной, а лишнее время можно было использовать для, например, продолжения сбора анамнеза в надежде набрать дополнительные баллы или повтора элементов физикального осмотра с той же целью.
Разработка банка станций объективного структурированного клинического экзамена
Прежде чем к банку заданий будут добавлены новые станции, они должны пройти процесс независимой оценки и пилотного включения. По возможности следует использовать психометрические данные на каждом отдельном этапе, включая оценку возможности дифференцировки экзаменуемых. Представленная схема содержит описание одного из подходов к формированию совокупности этапов ОСКЭ, обеспечивающих оценку выполнения расписания (рис. 1). Эта схема может использоваться в качестве пошагового руководства или адаптироваться к индивидуальным требованиям. Кроме того, используя ее, можно обновить существующий набор станций или оценить их качество, выполняя определенные шаги алгоритма.
Выбор тем для новых станций
В тех организациях, где ОСКЭ предстоит использовать впервые, проект экзамена, в основе которого лежат результаты, предполагаемые учебным планом, может стать приемлемой стартовой точкой, определяющей задания, входящие в состав новых станций ОСКЭ. Если последовательность станций ОСКЭ уже определена, руководитель группы по проведению ОСКЭ или эксперты по соответствующим учебным дисциплинам, могут проанализировать эту последовательность и определить недостатки при возможной оценке тех или иных умений или разделов знаний.Необходимость добавления новых станций может возникнуть и при внесении изменений в учебный план или коррекции задач обучения в рамках отдельных модулей либо дисциплин. Оценку знаний и умений необходимо сопоставлять с объемом обучения по выбранным темам в соответствии с учебным расписанием. При аккредитации специалистов содержание экзамена целесообразно определять единообразно на всей территории страны с утверждением требований к экзамену на федеральном уровне.
После того как определена область оцениваемых знаний, важно удостовериться, что в формате ОСКЭ за ограниченное время, отведенное на каждую станцию, можно реально оценить компетенции, которыми, как предполагается, должны владеть экзаменуемые.
Выбор авторов для станции
Руководитель группы по проведению ОСКЭ отвечает за отбор сотрудников, которые будут планировать и составлять станции ОСКЭ. Если уже есть группа опытных экзаменаторов, очевидным решением будет поиск добровольцев для составления вопросов в этой группе. В других случаях при составлении вопросов в качестве консультантов могут быть приглашены эксперты по тем или иным учебным дисциплинам. Для того чтобы специалист, занимающийся составлением тестовых материалов, мог выполнить эту работу надлежащим образом, важно, чтобы он был ознакомлен с фундаментальными принципами ОСКЭ. Для специалистов, впервые сталкивающихся с такой задачей, должны быть проведены краткие ознакомительные семинары или разработаны письменные инструкции.
Выбор типа станции
Руководитель группы по проведению ОСКЭ или лицо, координирующее составление вопросов, должен проконсультировать составителей вопросов о том, какие именно требуются вопросы. Понимание различных форматов вопросов ОСКЭ крайне важно при выборе необходимых типов станций, позволяющих оценить те или иные результаты обучения (табл. 2).
Для экзамена, включающего свыше 10 станций, рекомендуется сделать комнату отдыха в середине экзамена.
Выбор шаблона для станции объективного структурированного клинического экзамена
После того как выбран тип станции, необходимо разработать подходящий шаблон для составления задания или использовать уже имеющийся шаблон. Он помогает авторам разрабатывать задания, имеющие общий формат, который соответствует формату других заданий банка. Подобная стандартизация позволяет избежать ситуации, при которой кандидаты оказываются в невыгодном положении из-за того, что задания предлагаются в непривычном формате, и помогает сохранить объективность оценок.
Руководство для экзаменатора
Содержание руководства для экзаменатора по оценке для каждой станции будет зависеть от раздела оценки, избранной в качестве стандарта для экзамена. Ниже подробно обсуждаются различные типы оценки. Если есть список контрольных вопросов (чек-лист) или оценочная шкала, составителю следует дополнять их по мере составления вопросов. Если предполагается использовать единую оценочную шкалу, формировать критерии оценки для индивидуальных этапов не нужно.
Собрание экзаменаторов
Проведение собраний с экзаменаторами — один из методов обеспечения качества новых станций ОСКЭ. После того как экзаменаторы составят новые задания, им предлагается представить эти вопросы на собрании в небольших группах. Это позволит всем участникам изучить задания, составленные другими. Благодаря присутствию авторов отдельных станций на этих заседаниях упрощается процесс внесения изменений в станции.
Помимо того что процесс независимой оценки позволяет проанализировать клиническую точность и адекватность задач, предлагаемых на том или ином этапе экзамена, он помогает выявить проблемы, связанные с валидностью и генерализуемостью экзамена.
Пилотное выполнение
После независимого анализа на собрании экзаменаторов необходимо провести пилотный прогон станции, который поможет выявить проблемы, связанные с практическим выполнением и распределением времени на выполнение тех или иных этапов задания. При необходимости при тестировании можно внести изменения в станции для повышения качества оценки этапов. На этой стадии можно провести первичный психометрический анализ достоверности и качества станций. При выявлении любых проблем, связанных с конкретной станцией, ее следует перепланировать и вновь провести пробный прогон.
Часто пилотирование проводят в рамках пробного или этапного экзамена, в результате чего дополнительным преимуществом могут стать ориентирование экзаменуемых и непосредственное предоставление информации об их профессиональных возможностях.
Если те или иные станции пилотируются в рамках экзаменов высокой степени значимости, важно поставить экзаменуемых в известность о включении пилотной станции в экзамен и о том, что ее результаты не повлияют на общую экзаменационную оценку. В связи с необходимостью получения валидных и достоверных данных о результатах пилотных станций, включенных в реальный экзамен, сведения о том, какие именно станции пилотируются, обычно не разглашают (рис. 2).
Психометрический анализ
При разработке новых станций, если в рамках пробного ОСКЭ используется полный набор новых заданий, психометрический анализ продемонстрирует общую достоверность набора вопросов. Использование G-теории позволит определить число сходных станций, необходимых для обеспечения достаточной надежности тестирования путем проведения исследований или исследования принятия решений на основании имеющихся данных. Для получения данных об источниках вариабельности или ошибок рекомендуется применение Item Response Theory (IRT). Эта теория может использоваться в том случае, если одна или несколько станций пилотируются в ходе реального экзамена. Подробное обсуждение этого предмета также выходит за пределы данной статьи, но достаточно подробно разбирается в руководстве AMEE № 49; G-теория подробно рассматривается в руководстве AMEE № 68.
Выбор типа оценки
При разработке банка станций для ОСКЭ необходимо определить применяемый тип оценки, соответствующий ожиданиям, связанным с выполнением задания. Выделяют 2 основных типа оценки: аналитические и холистические.
Аналитический метод балльной оценки
Список контрольных вопросов, или чек-лист, — это список утверждений, описывающих действия, выполнения которых ожидают от экзаменуемых на определенном этапе. Этот список готовят заранее, на основании консультации с группой, занимающейся разработкой станций ОСКЭ, и в соответствии с оцениваемыми компетенциями.
Чек-листы могут быть бинарными («да/ нет», «выполняется/не выполняется»), при этом оценку кандидатам выставляют в зависимости от того, выполнено или не выполнено задание, без уточнения качества его выполнения, и хорошо используются для определения минимального уровня компетентности (например, студент попытался оценить наличие выпота в коленном суставе, и неважно, присутствовал ли этот симптом у конкретного СП; за правильное действие, студент получит плюс в чек-листе). Такие чек-листы не всегда позволяют определить низкий или высокий уровень выполнения задания.
В некоторых случаях чек-листы могут включать 5-7-балльные оценочные шкалы, что позволяет экзаменаторам выставлять оценки кандидатам в зависимости от качества выполнения ими заданных действий. Эти чек-листы с оценочными шкалами отличаются от глобальной (холистической) оценки, описываемой ниже, но так же как и глобальные оценки, они привносят больший элемент субъективности.
Традиционно основным преимуществом бинарных чек-листов считается их потенциальная способность давать объективную оценку и обеспечивать большую степень согласия между различными экзаменаторами. Действительно, первоначально такие контрольные списки использовались Р. Харденом, который впервые разработал методику ОСКЭ. Тем не менее накапливаются доказательства, ставящие под сомнение эту точку зрения и показывающие, что объективность не всегда обеспечивает более высокую достоверность оценки результатов экзамена.
Надо отметить, что в случае применения чек-листов для оценки обычно не имеет значения правильность последовательности действий при проведении физикального осмотра или порядка вопросов в сборе анамнеза. Чем больше баллов экзаменуемый набрал за отведенное время, тем выше общая оценка за станцию. Иногда экзаменуемый получает высокий общий балл, но весь процесс получения информации или проведения осмотра катастрофически не структурирован и не организован, поэтому в дополнение к чек-листам во многих случаях используются глобальные оценочные шкалы.
Примеры бинарных чек-листов и оценочных шкал (которые можно рассматривать как мини-глобальные оценки, поскольку в этом случае оценивается один элемент всей специальности) показаны в табл. 3.
Холистическая оценка (глобальная оценочная шкала)
В отличие от контрольных списков, характеризующихся специфичностью для конкретного задания, глобальные оценочные шкалы позволяют экзаменатору оценить весь процесс в целом. При оценке специалиста высокого класса, который, возможно, не следует заранее определенной последовательности шагов, указанной в проверочном листе, но все же легко и быстро выполняет задание в соответствии с высшими стандартами, мы сталкиваемся с тем, что навыки кандидата может отразить только общая (глобальная) оценка процесса выполнения задания.
Глобальные шкалы позволяют экзаменатору определить не только факт выполнения действия, но и то, насколько хорошо оно было выполнено. Таким образом, этот метод позволяет лучше оценивать навыки, для которых качество выполнения столь же важно, как и сам факт их выполнения.
Примером может стать оценка способности кандидатов сопереживать пациентам на этапах демонстрации коммуникативных навыков. Следовательно, холистические шкалы более полезны при оценке таких сфер, как суждение, сопереживание, организация знаний и технические навыки. В некоторых случаях пациент (реальный или стандартизированный) привлекается к оценке экзаменуемого и заполняет мини-вопросник или дает глобальную оценку поведения экзаменуемого.
Глобальные шкалы отличаются от вышеописанных оценочных шкал в контрольных списках, вследствие того что использование глобальных шкал позволяет получить более целостное представление о выполнении задания на станции. Накапливаются доказательства того, что глобальная оценка имеет высокую степень корреляции с чек-листами по определению уровня компетентности.
Формирование коллектива экзаменаторов
Участие в экзамене квалифицированных экзаменаторов играет решающую роль в обеспечении достоверности оценок. Обучение и повышение квалификации экзаменаторов — это непрерывный процесс, в ходе которого к коллективу добавляются новые экзаменаторы, а уже работающие получают новые знания.
Отбор потенциальных экзаменаторов
Достоверность оценок, выставляемых экзаменаторами, зависит не только от последовательной системы осуществляемой ими проверки знаний, но и от клинического опыта экзаменаторов, оценивающих экзаменуемых на тех или иных станциях ОСКЭ.
Как правило, врачи оценивают компетенции будущих врачей, а медицинские сестры — будущих медицинских сестер, однако владение профессиональными навыками, связанными со станциями, может обусловливать дополнительную гибкость и снижать временные издержки. Необходимый уровень опыта экзаменаторов зависит от контекста станции. Например, для оценки клинического мышления и принятия решений необходим эксперт, тогда как простые процедуры может оценить не эксперт. Более того, определение эксперта в контексте ОСКЭ тоже неоднозначно. Например, оценить осмотр нервной системы у здорового СП можгу равнозначно и семейный врач, и терапевт, и невролог. В целом уровень необходимой экспертизы экзаменатора должен быть как минимум равен уровню компетенции, которая оценивается на данном этапе.
Иногда для снижения затрат времени на поиск необходимого количества врачей, которые могли бы выступить в качестве экзаменаторов, к приему медицинских экзаменов привлекаются лица, не являющиеся врачами. Имеются литературные данные, свидетельствующие о том, что оценки, выставляемые симулированными пациентами хорошо коррелируют с оценками врачей. Тем не менее в одном исследовании авторы указывают, что совпадение оценок врачей и лиц, не являющихся врачами, наблюдается при оценках с использованием контрольных списков, но не подтверждается при использовании глобальных оценок.
Независимо от того, являются ли экзаменаторы специалистами в определенной области медицины, подготовка всех экзаменаторов позволяет уменьшить вариабельность их оценок и увеличить согласованность их поведения, что может способствовать повышению достоверности экзаменационных оценок (рис. 3).
Для проведения ОСКЭ в качестве итогового экзамена для обеспечения объективности важно привлекать экзаменаторов, не знакомых с экзаменуемыми и не принимавших участия в их обучении. При проведении переводных экзаменов в качестве экзаменаторов можно привлечь преподавателей старших курсов, при итоговой аттестации необходимо привлекать внешних экзаменаторов. Они могут быть приглашены из различных учреждений, могут проконтролировать соблюдение стандартов по сравнению с другими учреждениями, а также подтвердить, что процесс оценки достижений студента носит строгий и справедливый характер и осуществляется в соответствии с утвержденными приказами и правилами.
Помимо работников образовательных или научных организаций, к проведению итоговых экзаменов желательно, а в случае с аккредитацией специалистов — обязательно, привлекать специалистов из практического здравоохранения. Большинство потенциальных врачей-экзаменаторов работают в местных лечебно-профилактических учреждениях; важно выявлять и обращаться к тем из них, кто проявляет особый интерес к медицинскому образованию.
Как правило, экзаменаторы не получают дополнительного финансового вознаграждения, а также испытывают трудности, связанные с отсутствием на основном месте работы во время проведения экзаменов, поэтому их участие в проведении экзаменов следует рассматривать как часть их образовательной активности в рамках НМО и профессиональной подготовки с зачислением соответствующего количества часов.
Необходимо провести калибровку экзаминаторов. Традиционно все потенциальные экзаменаторы смотрят запись пилотной станции ОСКЭ и независимо заполняют чек-листы. Дальнейшее обсуждение результатов выявляет отклонение в оценках. В процессе обсуждения оценки корректируют, еще раз тестируют эту же станцию с участием другого экзаменуемого, и процесс повторяют до достижения приемлемого уровня разницы между наблюдателями (0,7). В любом случае каждый новый экзамен, каждая новая станция и каждый новый экзаменатор требуют калибровки.
Семинары для обучения экзаменаторов
Семинары для обучения и повышения квалификации экзаменаторов должны проводиться задолго до начала экзаменов. Уровень подготовки зависит от исходной ситуации и возможностей экзаменаторов. Как и в случае других видов обучения, результаты семинаров по повышению квалификации экзаменаторов должны быть разносторонними.
Эти семинары могут быть организованы в форме мастер-классов, как правило, они включают вводную лекцию, групповое обсуждение и практическую часть, в ходе которой экзаменаторам дается возможность выставить оценки за пробный ОСКЭ или просмотреть видеозапись реального ОСКЭ с выставлением оценок. Разработаны средства онлайн-обучения для экзаменаторов, включающие видеозаписи правильного и некорректного поведения экзаменатора при проведении ОСКЭ.
Цели и ожидаемые результаты обучения экзаменаторов
- Понимать сферу применения и принципы экзамена ОСКЭ.
- В ходе экзамена демонстрировать последовательное профессиональное поведение.
- Понимать и использовать оценочные рубрики для обеспечения стандартизации оценки.
- Дать письменное заключение о профессиональной пригодности, если это потребуется, при итоговых экзаменах.
- Дать устное заключение по окончании станции экзамена при промежуточных экзаменах.
- Обеспечить конфиденциальность экзаменационных ведомостей кандидатов.
Несмотря на то что многие экзаменаторы регулярно участвуют в экзаменах и поддерживают свои умения, им необходимо обновлять знания. Кроме того, потребность в дополнительном обучении экзаменаторов может возникнуть в результате изменения формата экзамена или правил выставления оценок, а также при изменении требований регулирующих органов. Такое обновление знаний может осуществляться либо с помощью онлайн-ресурсов, либо в рамках отдельных семинаров.
Формирование цепочки и подбор оборудования для объективного структурированного клинического экзамена
Цепочка объективного структурированного клинического экзамена
Цепочка — это термин, используемый для описания комплекса станций, обеспечивающих безостановочный поток кандидатов во время экзамена. Каждый экзаменуемый на протяжении экзамена должен посетить каждый пункт цепочки. Количество экзаменуемых в каждой группе должно быть равно числу экзаменационных пунктов, если только не используется система перевалочных станций. Каждому кандидату назначается начальная станция, а затем он переходит от станции к станции по направлению цепочки до тех пор, пока все станции не будут пройдены. За построение этой цепочки несет ответственность группа по проведению по ОСКЭ.
Цепочка с перевалочными станциями
Добавление перевалочных станций позволяет экзаменуемым и экзаменаторам сделать перерыв, при этом, если необходимо, можно добавить к группе еще одного экзаменуемого. Следует позаботиться о том, чтобы эта станция была звукоизолированной, т.е. чтобы кандидат, находящийся на ней, не слышал, что говорят на других станциях. Это помещение необходимо четко пометить и сообщить кандидатам о нем до начала экзамена (еще лучше провести со студентами практические семинары для ознакомления с экзаменационной цепочкой). Важно помнить, что цепочка не может начинаться с комнаты отдыха или заканчиваться ею — если перевалочные станции находятся в начале или в конце цепочки, в конечном итоге кандидат может пропустить одну или несколько станций.
Формирование отдельных станций
При формировании отдельных станций следует позаботиться о назначении помещений, оборудования и персонала, подходящих для выполнения тех или иных заданий. Например, станция, не требующая участия экзаменатора, на которой кандидату представляются результаты инструментального исследования и несколько письменных вопросов, потребует только уголка, в котором поместятся стул и стол, тогда как база для оценки выполнения мероприятий первой помощи потребует достаточного пространства для размещения манекена, дефибриллятора и рабочего места экзаменатора.
На каждой станции должны быть надлежащие приспособления для выполнения всех манипуляций, предусмотренных заданием, например регулируемое освещение при осмотре глазного дна или тихая зона для аускультации грудной клетки (рис. 4-6).
Помещения для проведения объективного структурированного клинического экзамена
Для обеспечения средовой реалистичности помещения, выделенные для станций ОСКЭ, должны быть оформлены и оснащены с максимальным сходством с реальными условиями в клинике. Часть оборудования, характерная для соответствующих клинических помещений, но не применяемая в рамках заданий на данной станции, можно имитировать при помощи макетов или фотообоев.
В зависимости от выбранного для станции задания можно создать имитационный родильный блок, палаты педиатрического профиля или интенсивной терапии, процедурный кабинет, смотровую или операционную. Во всех случаях следует руководствоваться требованиями к оснащению подобных помещений в клинике. В помещениях должна быть обеспечена техническая возможность записывать видеоизображения и аудиосигналы. Для прямого наблюдения и дистанционного управления тренажерами желательно соединять имитационные классы с кабинетами наблюдения при помощи окон с односторонними зеркальными стеклами в смежной стене. При этом должна быть предусмотрена возможность двусторонней трансляции звука из помещения в операторскую, и наоборот. В качестве имитационных кабинетов рекомендуется использовать помещения площадью не менее 8 м2.
Необходимо обеспечить звукоизоляцию помещений, используемых для ОСКЭ. В кабинетах, где предполагается проведение процедур с использованием жидкостей (имитация кровотечений, очистительные клизмы, катетеризация мочевого пузыря, промывание желудка, инъекции), рекомендуется обеспечить влагостойкое напольное покрытие.
В помещениях необходимо обеспечить электроснабжение, для некоторых видов симуляционного и медицинского оборудования может понадобиться подводка сжатого воздуха.
Симуляционное оборудование
Оборудование, необходимое для каждой станции ОСКЭ, должно быть включено в документацию на этапе описания каждой станции. Все оборудование должно быть доставлено заблаговременно, задолго до проведения ОСКЭ, и приведено в рабочее состояние. В наличии всегда должны быть запасное оборудование, сменные части, расходные материалы и батареи на случай поломки или отказа основного оборудования.
Следует принять решение об использовании студентами во время экзамена собственных инструментов и оборудования. Если предполагается, что студенты должны иметь собственный стетоскоп, им нужно об этом заблаговременно сообщить.
Если требуется более сложное оборудование, например высокореалистичные симуляторы пациента, должен быть технический персонал, способный программировать и управлять этим оборудованием, поскольку большинство экзаменаторов не знакомы с такими устройствами (рис. 7-13).
Проведение экзамена
Подготовка
После принятия решения о дате проведения экзамена, а также согласования его содержания и оценок, нужно выполнить следующие задачи:
- Назначение координатора экзамена. Данное лицо будет ответственно за все аспекты организации экзамена.
- Необходимо провести собрание всех экзаменаторов и вспомогательного персонала для обсуждения организации экзамена. Должна быть согласована роль каждого экзаменатора.
Если по какой-либо причине экзаменатор не может присутствовать на таком собрании, материалы собрания должны быть переданы ему в печатном виде, и все возникающие вопросы должны быть обговорены до начала экзамена.
- Должен быть назначен по меньшей мере один запасной экзаменатор, способный занять место того, который не может присутствовать в день экзамена в нужное время.
- Необходимо назначить лицо, ответственное за соблюдение графика проведения экзамена. Эту функцию может выполнять лаборант или секретарь. Сигналом для смены станций может служить звонок или зуммер. Он должен быть отчетливо слышен, и в то же время не быть слишком громким.
- Должен быть назначен сотрудник, который проведет инструктаж студентов в день экзамена.
- Должны быть назначены сотрудники, выполняющие во время экзамена роли администратора, следящего за временем, и проводников.
- На данной стадии следует проинформировать секретаря комиссии, чтобы дать ему возможность запланировать время, необходимое для подготовки:
- Вахтеры или дежурные на входе в здание, где проводится экзамен, должны быть проинформированы о том, какие помещения используются для экзамена, чтобы не допустить путаницы при поиске нужных помещений экзаменуемыми и внешними экзаменаторами.
- При проведении экзамена на территории медицинской организации медицинский персонал должен быть проинформирован об ограничении перемещений, а пациенты и их родственники извещены о том, что во время экзамена посещение пациентов будет запрещено.
- При участии в экзамене пациентов последних нужно отбирать заранее, по меньшей мере за 1 нед до экзамена, чтобы обеспечить время для обследования каждого из них экзаменатором соответствующей станции и организатором экзамена, а также для составления необходимой документации и вопросов.
- Пациенты, участвующие в экзамене, должны быть проинформированы о том, что от них ожидается, и заполнить форму информированного согласия на участие в экзамене.
- Симуляторы, используемые в экзамене, должны быть проверены на достоверность воспроизведения симптомов и возможность объективного контроля выполнения задания для данной станции экзаменатором соответствующей станции и организатором экзамена.
- На станциях, включающих обследование студентами пациента, при тестировании больших групп студентов должно присутствовать не менее 3 схожих по возрасту, полу и проявлениям основного заболевания пациентов.
- Рекомендуется запланировать запасную станцию на случай невозможности использования одной из запланированных.
- Если пациенты, принимающие участие в экзамене, амбулаторные, следует принять меры по их доставке в больницу и из больницы в день экзамена. Пациенты должны прибыть в палату не менее чем за 30 мин до начала экзамена.
- Студенты должны быть заблаговременно проинструктированы о типе экзамена.
- Студенты должны быть проинформированы о том, какие инструменты им потребуются во время экзамена, например, стетоскоп, неврологический молоточек, мерная лента. Должны быть согласованы меры на случай отсутствия у студента необходимого оборудования: будет ли оно предоставляться, будет ли студент допущен к экзамену.
- Методика фиксации и подсчета баллов, которая будет применяться на экзамене, должна быть предварительно спланирована. Если для этой цели планируется использовать программные средства, необходимо их тщательно проверить во время пробного экзамена.
- Необходимо проверить наличие всех инструментов, необходимых для проведения экзамена (например, камертона для исследования слуха).
- Должны быть сделаны все надлежащие приготовления, чтобы обеспечить наличие и бесперебойную работу систем видеонаблюдения и аудиоконтроля.
- Необходимо предусмотреть освежающие напитки для экзаменаторов, пациентов и, при необходимости, студентов.
— контрольных материалов;
— инструкций для экзаменаторов и кандидатов;
— списка студентов, сдающих экзамен;
— списка всех станций с указанием помещений;
— списков экзаменаторов и оборудования с распределением по станциям;
— плана расположения станций.
В день перед экзаменом
- Станции должны быть четко обозначены перед экзаменом. Это принципиально важно. Необходимо проверить, может ли лицо, не участвующее в планировании, найти дорогу от одной станции к следующей.
- Необходимо проверить наличие оборудования, требующееся для проведения экзамена. Данное оборудование может включать медицинские инструменты, симуляционное оборудование, расходные материалы, имитаторы лекарственных средств, а также устройство для сигнализации о необходимости перехода на следующую станцию.
- Необходимо проверить системы видеонаблюдения и аудиоконтроля, убедиться в возможности бесперебойной записи экзамена, достаточного объема свободного места на устройствах хранения данных для записи всего экзамена.
- Учитывая невозможность оставления экзаменатором рабочего места в течение длительного времени, желательно обеспечить наличие освежающих напитков.
- Экзаменаторы должны пройти заключительный инструктаж по экзамену в целом и их конкретной роли в нем. Каждому экзаменатору должно быть предоставлено:
— напоминание о времени и месте проведения экзамена (экзамен не может быть начат, пока не соберутся все экзаменаторы);
— список станций экзамена с обозначением их станции;
— план расположения станций;
— инструкция для экзаменатора на станции;
— чек-лист для их станции.
6. Для экзаменуемых должны быть подготовлены следующие документы:
- — набор общих инструкций (пример представлен в Приложении 1);
— план расположения станций;
— карточки с маршрутом;
— бейджи с крупно нанесенными последовательными номерами по числу студентов;
— при наличии компьютеризированной системы контроля доступа — бесконтактные идентификационные карты.
В день экзамена
Собрания в день экзамена
Перед началом экзамена необходимо провести несколько собраний для брифинга участников для обсуждения следующих вопросов.
Собрание экзаменуемых
- Инструктаж.
- Описание цепочки с указанием стартового пункта, перевалочных пунктов (при наличии).
- Напоминание о правилах и нормах поведения.
- Карантинные процедуры.
- Правила противопожарной безопасности.
Собрание экзаменаторов
- Цель экзамена (этапный или итоговый).
- Проверка соответствия экзаменуемых списку в начале экзамена.
- Ознакомление с чек-листами и правилами заполнения экзаменационных ведомостей.
- Важность поддержания конфиденциальности станций и оценок.
- Недопустимость сообщения экзаменуемым информации сверх того, что допускается сценарием.
- Необходимость одинакового отношения ко всем экзаменуемым.
- Процедуры сообщения о проблемах.
- Заполнение документов после окончания экзамена.
- Правила противопожарной безопасности.
- Собрание стандартизированных пациентов
- Важность стандартизации поведения.
- Роль СП в обеспечении обратной связи.
- Помещения для отдыха, время перерывов и приема пищи.
- Правила противопожарной безопасности.
Проведение экзамена
- Организатор экзамена должен прибыть не менее чем за 1 ч до запланированного начала экзамена.
- Он должен проверить расположение и нумерацию станций и провести последнюю проверку оборудования и стандартизированных или реальных пациентов.
- Оборудование, предназначенное для экзамена, должно быть распределено по станциям, где оно будет использоваться.
- Оборудование для видеонаблюдения и аудиоконтроля должно быть включено и подготовлено к началу записи.
- Экзаменуемые должны пройти инструктаж в отдельном помещении и иметь возможность поставить вопросы. Пример «Инструкций для студентов» представлен в Приложении 1.
- Организатор должен убедиться в том, что все экзаменаторы прибыли и заняли соответствующие станции. При необходимости нужно заменить отсутствующего экзаменатора запасным.
- После того как все подготовлено к экзамену, начать регистрацию экзаменуемых, с выдачей им бейджей со случайными номерами, регистрируемыми администратором экзамена в списке студентов вручную или с помощью компьютера карточек с индивидуальным маршрутом.
- По сигналу экзаменуемые должны занять исходную станцию, которая была им назначена. После того как все студенты и экзаменаторы займут свои места, по сигналу (обычно в виде звонка, зуммера или голосовой команды), который должен быть отчетливо слышен, начинается экзамен.
- Лицо, следящее за временем, должно звонить в звонок с интервалом, заданным при проектировании экзамена для перехода на следующую станцию и начала ознакомления с заданием, а затем через 60 с для входа на станцию.
- Если в тот же день экзамен должна пройти вторая группа экзаменуемых, необходимо проверить, что они находятся в зоне для инструктажа до завершения первой части экзамена и отделены от своих коллег, прошедших первую часть экзамена. При невозможности одновременного сбора экзаменуемых необходимо обеспечить «карантин» для завершивших экзамен, чтобы ограничить их общение с вновь прибывающими претендентами.
- Следует убедиться в том, что в конце экзамена у всех экзаменаторов были собраны контрольные листы с отметками. Данные материалы передаются секретарю комиссии.
- После завершения экзамена, проводимого в медицинской организации, необходимо проинформировать об этом медицинский персонал и пациентов.
Решение проблем
В день экзамена могут возникнуть различные проблемы. Некоторые распространенные проблемы при проведении ОСКЭ и их возможные решения описаны ниже (в данной главе не разбираются проблемы, возникающие при проведении централизованной первичной аккредитации, не связанные непосредственно с процедурой ОСКЭ).
Поломки оборудования
Всегда следует иметь под рукой запасное оборудование. Если экзаменуемые теряют время на ожидание запасного оборудования, можно перенести станцию экзамена на конец цепочки.
Непредсказуемое поведение студентов
Экзаменуемые в условиях стресса часто ведут себя непредсказуемо. В частности, они могут потеряться в месте проведения экзамена или на этапах цепочки ОСКЭ. Заранее назначенные проводники должны помогать экзаменуемым передвигаться в правильном направлении между станциями. Экзаменаторам иногда необходимо поторопить студента, чтобы он своевременно перешел на следующую станцию, если он пропустил звонок или голосовую команду.
Экзаменуемые уносят инструкции или оборудование из экзаменационных помещений
Инструкции должны быть надежно закреплены на стене, столе или подставке или отображаться на мониторах перед входом на станцию. Экзаменаторы и вспомогательный персонал должны внимательно следить, чтобы экзаменуемые не забрали из экзаменационного помещения оборудование.
Экзаменатор уносит экзаменационные ведомости или информацию об экзаменационной станции
В результате информация о содержании экзамена может быть разглашена и не может использоваться для следующих групп экзаменующихся.
Экзаменаторы должны быть предупреждены о том, что все документы должны оставаться в месте проведения экзамена. Вспомогательный персонал собирает все документы, прежде чем экзаменаторы покинут экзаменационные помещения, для того чтобы снизить вероятность такого происшествия.
Различные характеристики СП, влияющие на стандартизацию станции экзамена
В редких случаях СП могут вести себя по-разному с различными студентами или предоставлять ненужную информацию. Тщательный отбор и тренировочные процедуры должны свести к минимуму значимость этой проблемы.
После экзамена
- Необходимо обеспечить подсчет результатов экзамена или заполнение компьютерных форм и выставление оценок в ведомости в соответствии с исходным планом.
- Студентам в кратчайшие сроки следует предоставить обратную связь. Это может быть сделано путем раздачи индивидуальных контрольных листов с комментариями экзаменаторов или обсуждения экзамена со студентами, особенно с теми, кто получил плохие результаты.
- Необходимо фиксировать и документировать любые возможные проблемы, возникшие при организации экзамена, чтобы не допустить их в будущем.
- Фиксируйте любые предложения, которые могут быть полезны при организации следующего экзамена.
- Кураторы и экзаменаторы должны обсудить успешность студентов для выявления очевидных пробелов в знаниях и умениях и принятия надлежащих мер по их устранению.
Обеспечение успеха объективного структурированного клинического экзамена
Для успешного использования ОСКЭ необходимы тщательная подготовка и жесткое соблюдение правил проведения экзамена. Можно выделить несколько факторов, критически влияющих на надежность и валидность ОСКЭ.
Количество станций. Использование большой выборки клинических случаев в экзамене существенно повышает его надежность, при этом для обеспечения надежной оценки общей компетентности экзаменуемых очень важно правильно определить продолжительность отдельных станций.
Стандартизированные шкалы оценки. Важно заранее разработать и утвердить шкалы оценки, обеспечивающие оценку экзаменаторами разных экзаменуемых по одним и тем же критериям, что уменьшает разброс оценок между разными экзаменаторами и экзаменуемыми.
Привлечение обученных экзаменаторов. Подготовка экзаменаторов снижает разброс оценок между разными экзаменаторами и повышает единообразие их поведения, а значит, и надежность оценки. Кроме того, возможность ротации экзаменаторов по станциям может уменьшить системную погрешность, связанную с экзаменаторами.
Использование помещений и оборудования. Для каждой станции необходимо отдельное помещение или отделение с использование мобильных перегородок. Важно обеспечить видеонаблюдение и аудиозапись. На станциях, включающих выполнение процедур, должны использоваться симуляторы с электронным контролем и объективной оценкой в реальном времени. Применение систем менеджмента симуляционного центра повышает надежность и существенно снижает трудоемкость подготовки и проведения экзамена.
Стандартизованное поведение пациентов. Плохо стандартизованные пациенты, поведение которых может варьироваться с разными экзаменуемыми, могут существенно снижать надежность экзамена.
Стандартизованное поведение экзаменаторов. В идеале экзаменаторы должны находиться за зеркалом Гизелла (одностороннее зеркало) или наблюдать действие на мониторе. В реальности в большинстве случаев экзаменатор находится в той же комнате, где происходит действие. Правильное поведение экзаменатора — нейтральное присутствие. В большинстве случаев экзаменатор приветствует экзаменуемого, проверяет и сверяет личность и предлагает следовать инструкциям. Все последующее действие проходит без каких-либо комментариев со стороны экзаменатора, кроме тех сценариев, где предусматривается вопрос (например, по окончании демонстрации осмотра грудной клетки, в сценарии станции предусматривается, что экзаменатор задает вопрос: «Как отличить шум трения перикарда от шума трения при плеврите?»). Исключение составляют ОСКЭ для текущей (формативной) оценки. В таких случаях допускаются наводящие вопросы.
Экзаменатор ни в коем случае не может комментировать действия экзаменуемого, а тем более давать оценку действия в конце станции. Плохая организация ОСКЭ может привести к тому, что экзаменуемые будут учиться проходить экзамен, а не улучшать реальное выполнение клинических задач. В то же время важно не допустить перегрузки экзаменуемых оценкой, пытаясь оценить слишком много компонентов выполнения задач на одной экзаменационной станции. Примером такой перегрузки является задание экзаменуемому на одной станции собрать анамнез, обследовать пациента с кровохарканьем, интерпретировать рентгеновский снимок и пояснить возможный диагноз. Хотя это может отражать реальную жизнь за счет помещения оцениваемых умений в определенный контекст, маловероятно, что можно адекватно оценить все эти умения на одной станции, учитывая ограничения по времени.
В заключение необходимо отметить что ОСКЭ — это инструмент, и результаты его использования в первую очередь зависят от усилий и квалификации организаторов. Как и любые достижения, все преимущества оценки с использованием ОСКЭ достигаются ценой значительных усилий.
Приложение 1. Пример инструкций для студентов
Объективный структурированный клинический экзамен — инструкции для студентов
Цель экзамена — определить ваши знания по терапии и компетентность в диагностике и лечении пациентов.
Для успешной сдачи экзамена вам необходимо получить как минимум 70% по станции и как минимум 75% средний балл по всем станциям в целом. В случае, когда общий балл превысит 74%, но баллы по одной или более станций ниже 70%, вам представится возможность пересдать эти станции. Если вы набрали <75%, вам представится возможность пересдать весь экзамен.
- Вы будете переходить между 20 станциями (нумерованными от 1 до 20), проводя на каждой по 5 мин. В начале экзамена и в конце каждого 5-минутного периода будет звучать звонок. Это даст вам время для перехода на следующую станцию.
- После 10-й станции следует 5-минутная станция отдыха.
- На каждой станции вам будут представлены четкие письменные инструкции относительно того, что от вас требуется. Пожалуйста, внимательно их прочтите.
- Перед началом экзамена вам будет выдан бейдж с номером. Этот бейдж необходимо носить на себе таким образом, чтобы он был виден экзаменаторам на протяжении всего экзамена.
- Перед началом экзамена вам будет выдана карточка с номерами станций. Это ваш индивидуальный маршрут. Необходимо четко соблюдать указанную в нем последовательность станций.
- Экзаменаторы не будут отвечать на ваши вопросы по контексту станции и не будут разъяснять инструкций. Экзаменаторам запрещено озвучивать вашу оценку за станцию. Все вопросы и комментарии вы можете направить директору экзамена по его завершении.
- Во время экзамена производится видеозапись. Она используется для апелляционного процесса и для оценки качества. Видеозапись является конфиденциальным документом и уничтожается через 30 дней после экзамена.
Приложение 2. Пример временного графика для объективного структурированного клинического экзамена
Образец временного графика для ОСКЭ для 40 студентов в одной цепочке, с 20 станциями и 5 мин, отводимыми на каждую станцию
From Wikipedia, the free encyclopedia
An objective structured clinical examination (OSCE) is an approach to the assessment of clinical competence in which the components are assessed in a planned or structured way with attention being paid to the objectivity of the examination which is basically an organization framework consisting of multiple stations around which students rotate and at which students perform and are assessed on specific tasks.[1] OSCE is a modern[2] type of examination often used for assessment in health care disciplines.
History and Purpose[edit]
The development of OSCE is credited to Prof. Ronald Harden. Since the publication of the first paper in the British Medical Journal in 1975, OSCE has been widely adopted in many medical schools and professional bodies. The format of OSCE is continuously evolving and may include real or simulated patients, clinical specimens, and other clinical materials. OSCE is primarily used to assess focused clinical skills such as history taking, physical examination, diagnosis, communication, and counseling.[3]
In the last three decades the OSCE has seen a steady exponential growth and usage in both undergraduate and postgraduate examinations around the globe. The OSCE is also used for licensure examinations and as a feedback tool in formative settings. Common uses of the OSCE are listed below.[1]
- As a performance based assessment tool for testing the minimum accepted standards of students or trainees as barrier (exit) examinations during the undergraduate years in most of the medical schools.
- As a postgraduate high stakes assessment tool in Royal College examinations.
- As a formative assessment tool in undergraduate medical education.
- As a tool for the assessment of graduates seeking highstakes licensure and certification to practise medicine.
- As an educational tool to provide immediate feedback.
Objective structured clinical examinations evaluate learners “showing how” to perform complex clinical tasks including those infrequently observed and those core to practice.[4]
Design[edit]
An OSCE usually comprises a circuit of short (the usual is 5–10 minutes although some use up to 15 minute) stations, in which each candidate is examined on a one-to-one basis with one or two impartial examiner(s) and either real or simulated (actors or electronic patient simulators) patients. Each station has a different examiner, as opposed to the traditional method of clinical examinations where a candidate would be assigned to an examiner for the entire examination. Candidates rotate through the stations, completing all the stations on their circuit. In this way, all candidates take the same stations. It is considered to be an improvement over traditional examination methods because the stations can be standardised enabling fairer peer comparison and complex procedures can be assessed without endangering patients health.
As the name suggests, an OSCE is designed to be objective – all candidates are assessed using exactly the same stations (although if real patients are used, their signs may vary slightly) with the same marking scheme. In an OSCE, candidates get marks for each step on the mark scheme that they perform correctly, which therefore makes the assessment of clinical skills more objective, rather than subjective, structured – stations in OSCEs have a very specific task. Where simulated patients are used, detailed scripts are provided to ensure that the information that they give is the same to all candidates, including the emotions that the patient should use during the consultation. Instructions are carefully written to ensure that the candidate is given a very specific task to complete. The OSCE is carefully structured to include parts from all elements of the curriculum as well as a wide range of skills. A clinical examination — the OSCE is designed to apply clinical and theoretical knowledge. Where theoretical knowledge is required, for example, answering questions from the examiner at the end of the station, then the questions are standardized and the candidate is only asked questions that are on the mark sheet and if the candidate is asked any others then there will be no marks for them.
Variation[edit]
There are several variations of OSCE, those are:[1]
- Objective Structured Practical Examination (OSPE), which assess practical skills, knowledge and/or interpretation of data in non clinical settings.
- Objective Structured Assessment of Technical Skills (OSATS), which designed for objective skills assessment, consisting of a global rating scale and a procedure specific checklist. It is primarily used for feedback or measuring progress of training in surgical specialities.
- Objective Structured Video Examinations (OSVE). The variation consists of videotaped recordings of patient-doctor encounters are shown to students simultaneously and questions related to the video clip are asked. Written answers are marked in a standardised manner.
- Team Objective Structured Clinical Examination (TOSCE). Formative assessment covering common consultations in general practice. A team of students visits each station in a group, performing one task each in a sequence. The candidates are marked for their performance and feedback is provided. The team approach improves efficiency and encourages learning from peers.
Advantages[edit]
The advantages of OSCE are:[3]
- Broader content coverage: Unlike the conventional short or long case examination format, multi-station OSCE allows broader content and domain coverage.
- Decreased bias: Student performance in each station is marked by independent examiners on a predetermined marking template that is customized to each patient scenario, thus reduces the variability of examination.
- Practicability: OSCE allows the use of simulated patients and clinical materials, thereby decreasing the need for real patients during the examination.
Disadvantages[edit]
The disadvantages of OSCE are:[3]
- Fragmentation of tasks: OSCE is often criticized for fragmenting a physician’s task as the candidates are asked to focus on a particular task, thus potentially undermines what a physician is expected to do in real life.
- Construct invalidity: OSCE is based on a predefined list of activities that a candidate is required to perform during the examination. However, this may not be a true reflection of how a competent and experienced physician works in real life.
- Preparation time and budget: The preparation time for simulated patient (SP)-based OSCE is longer, as it includes script writing, training, and pilot testing. It may take several sessions for an SP to become familiar with the case and realistically portray the findings in a consistent manner. The increased budget needed to run a successful SP program is also a valid concern.
OSCE marking[edit]
Marking in OSCEs is done by the examiner. Occasionally written stations, for example, writing a prescription chart, are used and these are marked like written examinations, again usually using a standardized mark sheet. One of the ways an OSCE is made objective is by having a detailed mark scheme and standard set of questions. For example, a station concerning the demonstration to a simulated patient on how to use a metered dose inhaler [MDI] would award points for specific actions which are performed safely and accurately. The examiner can often vary the marks depending on how well the candidate performed the step. At the end of the mark sheet, the examiner often has a small number of marks that they can use to weight the station depending on performance and if a simulated patient is used, then they are often asked to add marks depending on the candidates approach. At the end, the examiner is often asked to give a «global score». This is usually used as a subjective score based on the candidates overall performance, not taking into account how many marks the candidate scored. The examiner is usually asked to rate the candidate as pass/borderline/fail or sometimes as excellent/good/pass/borderline/fail. This is then used to determine the individual pass mark for the station.
Many centres allocate each station an individual pass mark. The sum of the pass marks of all the stations determines the overall pass mark for the OSCE. Many centres also impose a minimum number of stations required to pass which ensures that a consistently poor performance is not compensated by a good performance on a small number of stations.
There are, however, criticisms that the OSCE stations can never be truly standardized and objective in the same way as a written exam. It has been known for different patients / actors to afford more assistance, and for different marking criteria to be applied. Finally, it is not uncommon at certain institutions for members of teaching staff be known to students (and vice versa) as the examiner. This familiarity does not necessarily affect the integrity of the examination process, although there is a deviation from anonymous marking. However, in OSCEs that use several circuits of the same stations the marking is repeatedly shown to be very consistent which supports the validity that the OSCE is a fair clinical examination. There are arguments for and against quarantining OSCE examinees to prevent sharing of exam information.[5] Although the data tend to show no improvement in the overall scores in a later OSCE session, the research methodology is flawed and validity of the claim is questionable.[6] A study suggested that marks do not give a sound inference of student collusion in an OSCE.[7]
Candidates Preparation[edit]
Preparing for OSCEs is very different from preparing for an examination on theory. In an OSCE, clinical skills are tested rather than pure theoretical knowledge. It is essential to learn correct clinical methods, and then practice repeatedly until one perfects the methods whilst simultaneously developing an understanding of the underlying theory behind the methods used. Marks are awarded for each step in the method; hence, it is essential to dissect the method into its individual steps, learn the steps, and then learn to perform the steps in a sequence.
Most hospitals and universities have clinical skills labs where students have the opportunity to practice clinical skills such as taking blood or mobilizing patients in a safe and controlled environment. It is often very helpful to practise in small groups with colleagues, setting a typical OSCE scenario and timing it with one person role playing a patient, one person doing the task and if possible, one person either observing and commenting on technique or even role playing the examiner using a sample mark sheet. Many OSCE textbooks have sample OSCE stations and mark sheets that can be helpful when studying in the manner. In doing this the candidate is able to get a feel of running to time and working under pressure.
In many OSCEs the stations are extended using data interpretation. For example, the candidate may have to take a brief history of chest pain and then interpret an electrocardiogram. It is also common to be asked for a differential diagnosis, to suggest which medical investigations the candidate would like to do or to suggest a management plan for the patient.
The peer-assisted mock OSCE improved tutee confidence, reduced the anxieties associated with OSCEs, and improved candidate confidence for OSCE.[8][9]
See also[edit]
- Health assessment
- Multiple mini-interview
References[edit]
- ^ a b c Khan, Kamran Z.; Ramachandran, Sankaranarayanan; Gaunt, Kathryn; Pushkar, Piyush (2013). «The Objective Structured Clinical Examination (OSCE): AMEE Guide No. 81. Part I: An historical and theoretical perspective». Medical Teacher. 35 (9): e1437–e1446. doi:10.3109/0142159X.2013.818634. ISSN 0142-159X. PMID 23968323. S2CID 28150274.
- ^ Harden, R M; Stevenson, M; Downie, W W; Wilson, G M (1975). «Assessment of clinical competence using objective structured examination». BMJ. 1 (5955): 447–451. doi:10.1136/bmj.1.5955.447. PMC 1672423. PMID 1115966.
- ^ a b c Amin, Zubair; Eng, Khoo Hoon (2009). Basics in Medical Education (2 ed.). WORLD SCIENTIFIC. doi:10.1142/7044. ISBN 978-981-283-538-3.
- ^ Criscione-Schreiber, Lisa (2020). «Turning Objective Structured Clinical Examinations into Reality». Rheumatic Disease Clinics of North America. 46 (1): 21–35. doi:10.1016/j.rdc.2019.09.010. PMID 31757285. S2CID 208234190.
- ^ «Calls to ensure end-of-year exam fairness». BMA — Connecting doctors. Retrieved 2017-04-13.
- ^ Yeung, E (April 2, 2017). «Sharing of information in objective structured clinical examinations — does no evidence of difference mean evidence of no difference?». BMJ Open. 6 (10): e012541. doi:10.1136/bmjopen-2016-012541. PMC 5073653. PMID 27729351.
- ^ Parks, R; Warren, P M; Boyd, K M; Cameron, H; Cumming, A; Lloyd-Jones, G (2006). «The Objective Structured Clinical Examination and student collusion: Marks do not tell the whole truth». Journal of Medical Ethics. 32 (12): 734–738. doi:10.1136/jme.2005.015446. PMC 2563344. PMID 17145916.
- ^ Young, Ian; Montgomery, Kieran; Kearns, Patrick; Hayward, Samantha; Mellanby, Ed (7 May 2014). «The benefits of a peer-assisted mock OSCE». The Clinical Teacher. 11 (3): 214–218. doi:10.1111/tct.12112. PMID 24802924. S2CID 12122898.
- ^ Braier-Lorimer, Darryl Alexander; Warren-Miell, Hannah (2021-11-25). «A peer-led mock OSCE improves student confidence for summative OSCE assessments in a traditional medical course». Medical Teacher. 44 (5): 535–540. doi:10.1080/0142159X.2021.2004306. ISSN 0142-159X. PMID 34822315. S2CID 244660969.
External links[edit]
- OSCE FAQ from the Medical Council of Canada
- OSCE information from the National Dental Examining Board of Canada
From Wikipedia, the free encyclopedia
An objective structured clinical examination (OSCE) is an approach to the assessment of clinical competence in which the components are assessed in a planned or structured way with attention being paid to the objectivity of the examination which is basically an organization framework consisting of multiple stations around which students rotate and at which students perform and are assessed on specific tasks.[1] OSCE is a modern[2] type of examination often used for assessment in health care disciplines.
History and Purpose[edit]
The development of OSCE is credited to Prof. Ronald Harden. Since the publication of the first paper in the British Medical Journal in 1975, OSCE has been widely adopted in many medical schools and professional bodies. The format of OSCE is continuously evolving and may include real or simulated patients, clinical specimens, and other clinical materials. OSCE is primarily used to assess focused clinical skills such as history taking, physical examination, diagnosis, communication, and counseling.[3]
In the last three decades the OSCE has seen a steady exponential growth and usage in both undergraduate and postgraduate examinations around the globe. The OSCE is also used for licensure examinations and as a feedback tool in formative settings. Common uses of the OSCE are listed below.[1]
- As a performance based assessment tool for testing the minimum accepted standards of students or trainees as barrier (exit) examinations during the undergraduate years in most of the medical schools.
- As a postgraduate high stakes assessment tool in Royal College examinations.
- As a formative assessment tool in undergraduate medical education.
- As a tool for the assessment of graduates seeking highstakes licensure and certification to practise medicine.
- As an educational tool to provide immediate feedback.
Objective structured clinical examinations evaluate learners “showing how” to perform complex clinical tasks including those infrequently observed and those core to practice.[4]
Design[edit]
An OSCE usually comprises a circuit of short (the usual is 5–10 minutes although some use up to 15 minute) stations, in which each candidate is examined on a one-to-one basis with one or two impartial examiner(s) and either real or simulated (actors or electronic patient simulators) patients. Each station has a different examiner, as opposed to the traditional method of clinical examinations where a candidate would be assigned to an examiner for the entire examination. Candidates rotate through the stations, completing all the stations on their circuit. In this way, all candidates take the same stations. It is considered to be an improvement over traditional examination methods because the stations can be standardised enabling fairer peer comparison and complex procedures can be assessed without endangering patients health.
As the name suggests, an OSCE is designed to be objective – all candidates are assessed using exactly the same stations (although if real patients are used, their signs may vary slightly) with the same marking scheme. In an OSCE, candidates get marks for each step on the mark scheme that they perform correctly, which therefore makes the assessment of clinical skills more objective, rather than subjective, structured – stations in OSCEs have a very specific task. Where simulated patients are used, detailed scripts are provided to ensure that the information that they give is the same to all candidates, including the emotions that the patient should use during the consultation. Instructions are carefully written to ensure that the candidate is given a very specific task to complete. The OSCE is carefully structured to include parts from all elements of the curriculum as well as a wide range of skills. A clinical examination — the OSCE is designed to apply clinical and theoretical knowledge. Where theoretical knowledge is required, for example, answering questions from the examiner at the end of the station, then the questions are standardized and the candidate is only asked questions that are on the mark sheet and if the candidate is asked any others then there will be no marks for them.
Variation[edit]
There are several variations of OSCE, those are:[1]
- Objective Structured Practical Examination (OSPE), which assess practical skills, knowledge and/or interpretation of data in non clinical settings.
- Objective Structured Assessment of Technical Skills (OSATS), which designed for objective skills assessment, consisting of a global rating scale and a procedure specific checklist. It is primarily used for feedback or measuring progress of training in surgical specialities.
- Objective Structured Video Examinations (OSVE). The variation consists of videotaped recordings of patient-doctor encounters are shown to students simultaneously and questions related to the video clip are asked. Written answers are marked in a standardised manner.
- Team Objective Structured Clinical Examination (TOSCE). Formative assessment covering common consultations in general practice. A team of students visits each station in a group, performing one task each in a sequence. The candidates are marked for their performance and feedback is provided. The team approach improves efficiency and encourages learning from peers.
Advantages[edit]
The advantages of OSCE are:[3]
- Broader content coverage: Unlike the conventional short or long case examination format, multi-station OSCE allows broader content and domain coverage.
- Decreased bias: Student performance in each station is marked by independent examiners on a predetermined marking template that is customized to each patient scenario, thus reduces the variability of examination.
- Practicability: OSCE allows the use of simulated patients and clinical materials, thereby decreasing the need for real patients during the examination.
Disadvantages[edit]
The disadvantages of OSCE are:[3]
- Fragmentation of tasks: OSCE is often criticized for fragmenting a physician’s task as the candidates are asked to focus on a particular task, thus potentially undermines what a physician is expected to do in real life.
- Construct invalidity: OSCE is based on a predefined list of activities that a candidate is required to perform during the examination. However, this may not be a true reflection of how a competent and experienced physician works in real life.
- Preparation time and budget: The preparation time for simulated patient (SP)-based OSCE is longer, as it includes script writing, training, and pilot testing. It may take several sessions for an SP to become familiar with the case and realistically portray the findings in a consistent manner. The increased budget needed to run a successful SP program is also a valid concern.
OSCE marking[edit]
Marking in OSCEs is done by the examiner. Occasionally written stations, for example, writing a prescription chart, are used and these are marked like written examinations, again usually using a standardized mark sheet. One of the ways an OSCE is made objective is by having a detailed mark scheme and standard set of questions. For example, a station concerning the demonstration to a simulated patient on how to use a metered dose inhaler [MDI] would award points for specific actions which are performed safely and accurately. The examiner can often vary the marks depending on how well the candidate performed the step. At the end of the mark sheet, the examiner often has a small number of marks that they can use to weight the station depending on performance and if a simulated patient is used, then they are often asked to add marks depending on the candidates approach. At the end, the examiner is often asked to give a «global score». This is usually used as a subjective score based on the candidates overall performance, not taking into account how many marks the candidate scored. The examiner is usually asked to rate the candidate as pass/borderline/fail or sometimes as excellent/good/pass/borderline/fail. This is then used to determine the individual pass mark for the station.
Many centres allocate each station an individual pass mark. The sum of the pass marks of all the stations determines the overall pass mark for the OSCE. Many centres also impose a minimum number of stations required to pass which ensures that a consistently poor performance is not compensated by a good performance on a small number of stations.
There are, however, criticisms that the OSCE stations can never be truly standardized and objective in the same way as a written exam. It has been known for different patients / actors to afford more assistance, and for different marking criteria to be applied. Finally, it is not uncommon at certain institutions for members of teaching staff be known to students (and vice versa) as the examiner. This familiarity does not necessarily affect the integrity of the examination process, although there is a deviation from anonymous marking. However, in OSCEs that use several circuits of the same stations the marking is repeatedly shown to be very consistent which supports the validity that the OSCE is a fair clinical examination. There are arguments for and against quarantining OSCE examinees to prevent sharing of exam information.[5] Although the data tend to show no improvement in the overall scores in a later OSCE session, the research methodology is flawed and validity of the claim is questionable.[6] A study suggested that marks do not give a sound inference of student collusion in an OSCE.[7]
Candidates Preparation[edit]
Preparing for OSCEs is very different from preparing for an examination on theory. In an OSCE, clinical skills are tested rather than pure theoretical knowledge. It is essential to learn correct clinical methods, and then practice repeatedly until one perfects the methods whilst simultaneously developing an understanding of the underlying theory behind the methods used. Marks are awarded for each step in the method; hence, it is essential to dissect the method into its individual steps, learn the steps, and then learn to perform the steps in a sequence.
Most hospitals and universities have clinical skills labs where students have the opportunity to practice clinical skills such as taking blood or mobilizing patients in a safe and controlled environment. It is often very helpful to practise in small groups with colleagues, setting a typical OSCE scenario and timing it with one person role playing a patient, one person doing the task and if possible, one person either observing and commenting on technique or even role playing the examiner using a sample mark sheet. Many OSCE textbooks have sample OSCE stations and mark sheets that can be helpful when studying in the manner. In doing this the candidate is able to get a feel of running to time and working under pressure.
In many OSCEs the stations are extended using data interpretation. For example, the candidate may have to take a brief history of chest pain and then interpret an electrocardiogram. It is also common to be asked for a differential diagnosis, to suggest which medical investigations the candidate would like to do or to suggest a management plan for the patient.
The peer-assisted mock OSCE improved tutee confidence, reduced the anxieties associated with OSCEs, and improved candidate confidence for OSCE.[8][9]
See also[edit]
- Health assessment
- Multiple mini-interview
References[edit]
- ^ a b c Khan, Kamran Z.; Ramachandran, Sankaranarayanan; Gaunt, Kathryn; Pushkar, Piyush (2013). «The Objective Structured Clinical Examination (OSCE): AMEE Guide No. 81. Part I: An historical and theoretical perspective». Medical Teacher. 35 (9): e1437–e1446. doi:10.3109/0142159X.2013.818634. ISSN 0142-159X. PMID 23968323. S2CID 28150274.
- ^ Harden, R M; Stevenson, M; Downie, W W; Wilson, G M (1975). «Assessment of clinical competence using objective structured examination». BMJ. 1 (5955): 447–451. doi:10.1136/bmj.1.5955.447. PMC 1672423. PMID 1115966.
- ^ a b c Amin, Zubair; Eng, Khoo Hoon (2009). Basics in Medical Education (2 ed.). WORLD SCIENTIFIC. doi:10.1142/7044. ISBN 978-981-283-538-3.
- ^ Criscione-Schreiber, Lisa (2020). «Turning Objective Structured Clinical Examinations into Reality». Rheumatic Disease Clinics of North America. 46 (1): 21–35. doi:10.1016/j.rdc.2019.09.010. PMID 31757285. S2CID 208234190.
- ^ «Calls to ensure end-of-year exam fairness». BMA — Connecting doctors. Retrieved 2017-04-13.
- ^ Yeung, E (April 2, 2017). «Sharing of information in objective structured clinical examinations — does no evidence of difference mean evidence of no difference?». BMJ Open. 6 (10): e012541. doi:10.1136/bmjopen-2016-012541. PMC 5073653. PMID 27729351.
- ^ Parks, R; Warren, P M; Boyd, K M; Cameron, H; Cumming, A; Lloyd-Jones, G (2006). «The Objective Structured Clinical Examination and student collusion: Marks do not tell the whole truth». Journal of Medical Ethics. 32 (12): 734–738. doi:10.1136/jme.2005.015446. PMC 2563344. PMID 17145916.
- ^ Young, Ian; Montgomery, Kieran; Kearns, Patrick; Hayward, Samantha; Mellanby, Ed (7 May 2014). «The benefits of a peer-assisted mock OSCE». The Clinical Teacher. 11 (3): 214–218. doi:10.1111/tct.12112. PMID 24802924. S2CID 12122898.
- ^ Braier-Lorimer, Darryl Alexander; Warren-Miell, Hannah (2021-11-25). «A peer-led mock OSCE improves student confidence for summative OSCE assessments in a traditional medical course». Medical Teacher. 44 (5): 535–540. doi:10.1080/0142159X.2021.2004306. ISSN 0142-159X. PMID 34822315. S2CID 244660969.
External links[edit]
- OSCE FAQ from the Medical Council of Canada
- OSCE information from the National Dental Examining Board of Canada
Объективный структурированный клинический экзамен (ОСКЭ) ‒ объективная форма оценивания сформированности профессиональных компетенций экзаменуемых в имитированных условиях, позволяет продемонстрировать приобретенные практические навыки, выполнение определенных профессиональных задач, установление коммуникаций и другие компетенции, необходимые для самостоятельного осуществления медицинской деятельности.
Внедрение ОСКЭ в образовательный процесс в медицинских университетах Республики Беларусь тесно связано с созданием и развитием лабораторий практического обучения (симуляционных центров), учебная среда и оборудование которых способствуют отработке и демонстрации практических навыков и компетенций.
Приказом Министерства здравоохранения Республики Беларусь от 17.03.2021 № 289 утверждено Примерное положение об организации объективного структурированного клинического экзамена.
Для проведения ОСКЭ используются технические средства обучения, медицинские изделия, медицинская документация.
Для оценки эффективности коммуникаций и сформированности навыков физикального обследования пациента в ОСКЭ могут принимать участие «стандартизированные (симулированные)» пациенты, прошедшие соответствующую подготовку по симуляции клинических проявлений заболевания (состояния).
Для проведения ОСКЭ создаются экзаменационные станции, на которых моделируются условия, максимально приближенные к реальной профессиональной деятельности специалиста при оказании медицинской помощи в организации здравоохранения (операционная, отделение интенсивной терапии и реанимации, процедурный кабинет и др.) или иных условиях.
Для каждой станции разрабатывается паспорт (шаблон) станции, который представляет собой совокупность информации об оснащении станции, ее учебно-методическом обеспечении.
Методические рекомендации по разработке паспорта (примерного) экзаменационной станции объективного структурированного клинического экзамена (ОСКЭ) по учебным дисциплинам для специальностей высшего образования I ступени профиля образования «Здравоохранение» утверждены первым заместителем Министра здравоохранения Республики Беларусь
3 марта 2022 года.
На каждой станции ОСКЭ выполняются задания с имитированной клинической ситуацией и (или) лечебные и диагностические манипуляции, демонстрируются навыки медицинского ухода за пациентом в соответствии с требованиями образовательных стандартов, учебных и иных программ подготовки специалистов с высшим медицинским, фармацевтическим образованием.
Выполнение заданий на станциях оценивается с использованием чек-листов, оценочных шкал и других инструментов оценки. Чек-лист включает в себя основные элементы выполнения задания, которые должны быть продемонстрированы экзаменуемым в соответствии с оцениваемыми профессиональными компетенциями.
До начала ОСКЭ осуществляется проводится брифинг, на котором сообщается информация об организационных моментах экзамена (перечень и последовательность станций, условия выполнения заданий и др.). По результатам ОСКЭ для осуществления обратной связи с экзаменуемыми проводится дебрифинг.
В процессе прохождения станций ОСКЭ экзаменаторы регистрируют последовательность и правильность действий экзаменуемых в режиме реального времени или в асинхронном режиме с использованием технических средств обучения, заполняют чек-листы, оценивают выполненные задания.