Алексеева Александра Юрьевна
Семенова Татьяна Владимировна
Объективный структурированный клинический экзамен (ОСКЭ) — это метод, используемый для оценки клинической компетентности. Рональд Харден, в 1975 г. впервые применивший этот метод оценки, дает ему следующее определение:
«Подход к оценке клинической или профессиональной компетентности, в котором компоненты! компетентности оценивают планомерно и структурированно, с особым вниманием к объективности оценки».
В основе метода лежит комплексная оценка с конечным множеством (обычно от 10 до 20) оценочных станций, моделирующих различные аспекты клинической компетентности. Все участники проходят одинаковые испытания, последовательно переходя от станции к станции в соответствии с расписанием, результаты выполнения заданий при этом оценивают с использованием чек-листов. Для проведения ОСКЭ могут быть использованы различные тренажеры и симуляторы, стандартизированные или реальные пациенты, а также дополнительные диагностические элементы (результаты ЭКГ, рентгенограммы, КТ, МРТ).
Суть ОСКЭ заключается в создании для экзаменуемых репродуцируемых клинических ситуаций, позволяющих продемонстрировать приобретенные технические, дедуктивные (диагностические, когнитивные) и коммуникативные навыки. ОСКЭ имитирует (симулирует) процесс обследования и лечения пациента, поэтому практические испытания на станциях ОСКЭ обычно представляют собой задания на интерпретацию исследований, оценку коммуникативных навыков (сбор анамнеза, сообщение плохих новостей), а также технических навыков. Таким образом, ОСКЭ — это больше, чем комплексный экзамен. Правильно разработанные станции ОСКЭ позволяют проверить клинические компетенции, связанные с самостоятельным осуществлением медицинской деятельности. В отличие от традиционных методов оценки, эта методика позволяет оценить и продемонстрировать, что учащиеся делают, а не то, что они знают или теоретически могут либо будут делать.
За 40 лет, прошедших со времени изобретения метода Рональдом Харденом, наблюдается стабильный рост использования ОСКЭ для проведения экзаменов у студентов, ординаторов и практикующих врачей во всем мире. ОСКЭ используется при повышении квалификации в системе непрерывного медицинского образования (НМО) и в качестве средства получения обратной связи для коррекции процесса обучения. Сегодня ОСКЭ используется в качестве:
- средства оценки достижения минимально приемлемого стандарта для студентов и резидентов при переводных и выпускных экзаменах в большинстве медицинских школ США, Великобритании и Канады. В Казахстане ОСКЭ стал обязательным экзаменом после III, V и VII курсов во всех медицинских вузах;
- средства оценки интернов при назначении на более высокие должности в Королевских коллегиях врачей различных специальностей в Великобритании;
- средства текущей, формативной оценки и самооценки для коррекции обучения студентов-медиков;
- средства суммативной (итоговой) оценки выпускников, претендующих на лицензию для занятия должности или на сертификат для практической деятельности. На модели ОСКЭ основаны 2-я часть экзамена PLAB в Великобритании, Квалификационный экзамен-II Медицинского совета Канады [The Medical Council of Canada Qualifying Examination Part II (MCCQE)] и раздел оценки клинических умений экзамена для получения медицинской лицензии в США [The United States Medical Licensing Examination® (USMLE®)];
- с 2016 г. методика ОСКЭ применяется в качестве 2-го этапа первичной аккредитации специалистов в России.
Сильные и слабые стороны
ОСКЭ как инструмент для оценки клинической компетентности обладает многими преимуществами по сравнению с другими методами оценки: тестирование с выбором правильного ответа, собеседование по предмету и т.п. Правильно разработанные станции ОСКЭ более объективны, легко воспроизводимы (репродуцируемы), реалистичны, соответствуют действительности (валидны). Некоторые авторы утверждают, что ОСКЭ с его многочисленными вариациями сегодня доминирует в сфере оценки компетентности. Как правило, чем больше станций с различными практическими испытаниями в рамках ОСКЭ, тем выше степень надежности его результатов. Результаты исследований, проведенных Аккредитационным советом по последипломному медицинскому образованию США (ACGME), указывают, что добиться необходимой степени надежности можно при внедрении ОСКЭ, состоящего из 20 практических испытаний. Исследование, проведенное ACGME, показывает корреляцию от 0,59 до 0,71 между результатами ОСКЭ и предаттестационных экзаменов. Таким образом, при достаточном количестве станций ОСКЭ может считаться надежным инструментом проверки знаний, умений и навыков с достаточно высокой степенью надежности.
Преимущества объективного структурированного клинического экзамена
Валидность — степень, в которой содержание метода оценки позволяет оценить действительно приобретенные или подлежащие проверке знания, навыки и умения, которые отражают поведение в реальной клинической ситуации.
Формы валидности
Валидность содержания обеспечивается в том случае, когда экзамен составлен таким образом, что он достоверно тестирует реальные современные знания, навыки и нормы поведения, соответствующие эталонным, т.е. отражает поведение в данном клиническом контексте большинства экспертов в этой области в реальной практике.Валидность построения — способность экзамена правильно различать (дифференцировать) группы тестируемых по уровню экспертизы (например, поставленная задача может достоверно и надежно отличить начинающих клиницистов от экспертов).
Конвергентная, дивергентная и предсказательная валидность
- Валидность также может проявляться в надежности (силе) взаимосвязи баллов, полученных одним измерением, с другими методами измерения на экзамене.
- Конвергентная валидность — надежность экзамена и его способность давать равные оценки по одной и той же задаче, используя различные элементы (или методы) оценки. Например, принятие решения начать закрытый массаж сердца и время от остановки сердца до начала закрытого массажа сердца. Оба фактора должны быть отражены в чек-листе. Таким образом, 2 измерения позволяют оценить способность правильно начать реанимацию.
- Дивергентная валидность — способность и надежность экзамена давать различные оценки по одной и той же задаче, используя различные элементы (или методы) оценки.
- Предсказательная валидность — способность экзамена предсказать поведение и работу конкретного медработника в будущей практике (например, врачи, сдавшие экзамен по лапароскопическим навыкам, оперируют с меньшим количеством осложнений, чем те, кто не сдавал экзамен).
Как уже отмечалось выше, по сравнению с традиционным подходом к клиническим экзаменам ОСКЭ обеспечивает более достоверную оценку клинической компетентности. Составители экзаменов должны заранее определить, что необходимо проверить, и планировать содержание экзамена для проверки определенных знаний, умений и навыков. При этом можно контролировать не только содержание, но и степень сложности экзамена: более простые случаи для студентов младших курсов, более сложные для старших. Акцент оценки может быть смещен с проверки фактических знаний на тестирование широкого спектра умений и навыков, включая сбор анамнеза. Помимо наиболее распространенных методов клинического обследования, можно включить методы исследований, применяемые узкими специалистами, такими как офтальмологи, оториноларингологи.
С развитием ОСКЭ, помимо традиционно охватываемых им доменов, таких как коммуникационные навыки, клинический осмотр, выполнение медицинских процедур и интерпретация данных, в содержание экзамена все чаще включают оценку профессионализма, безопасность пациентов и межпрофессиональные навыки.
Надежность (воспроизводимость результатов тестирования)
ОСКЭ характеризуется не только большей достоверностью, но и большей надежностью, — результат экзамена мало зависит от конкретного экзаменатора и стандартизированного пациента (СП) (конечно, и экзаменаторы, и пациенты-актеры должны быть обучены и откалиброваны). Использование экзаменаторами чек-листов и тестовых заданий закрытого типа (с выбором одного наилучшего ответа) обеспечивает более объективную оценку. Дополнительное преимущество ОСКЭ заключается в том, что большой набор станций позволяет оценить более широкий спектр навыков учащихся.
Высокую надежность ОСКЭ обусловливают следующие факторы:
- экзаменуемые проходят через набор станций, помогающих оценить разные аспекты клинической компетентности;
- все экзаменуемые получают одинаковый набор заданий;
- каждого экзаменуемого оценивает множество подготовленных экзаменаторов, наблюдающих за выполнением заданий на различных станциях;
- на станциях, включающих выполнение процедур, используются симуляторы с электронным или компьютерным контролем и объективной оценкой в реальном времени;
- в чек-листах, разрабатываемых для каждой станции отдельно, отражено то, что должно оцениваться в рамках экзамена.
Практичность
Еще одно преимущество ОСКЭ — возможность оценивать большие группы студентов. При этом можно регулировать нагрузку экзаменаторов, оставляя их только на тех станциях, где их присутствие необходимо: наблюдение за сбором анамнеза или обследованием пациента. В отличие от традиционных устных экзаменов, формирование четких инструкций и чек-листов для оценки на каждой станции позволяет привлекать в качестве экзаменаторов более широкий круг преподавателей и клиницистов. ОСКЭ позволяет заранее определить критерии сдачи экзамена и после его проведения предоставить обратную связь профессорско-преподавательскому составу и студентам.
Гибкость
Гибкость ОСКЭ как метода оценки стала причиной его широкого использования в самых разных дисциплинах и на различных этапах медицинского образования. Соблюдая общие принципы, можно широко варьировать количество, время выполнения станций и соответственно продолжительность экзамена; использование тренажеров, симуляторов, СП для оценки различных компетенций; формат заданий и ожидаемых от экзаменуемого ответов, привлечение экзаменаторов, формат обратной связи и т.д.
Справедливость оценки
Справедливость — характеристика метода оценки, демонстрирующая отсутствие влияния на результат и дискриминации экзаменуемых. Для справедливости оценки необходимо жестко следовать установленным правилам и стандартам. Справедливость, выгодно отличающая ОСКЭ от традиционных методов оценки, обеспечивается следующими факторами:
- в отличие от традиционных методов с вытягиванием билета, все экзаменуемые выполняют одинаковый набор заданий;
- каждый экзаменуемый оценивается множеством экзаменаторов с использованием заранее согласованных чек-листов и шкал оценки;
- используются симуляторы и тренажеры с объективной компьютерной или электронной оценкой правильности выполнения процедур;
- СП отобраны в соответствии с полом, возрастом, данным в задании и общаются со всеми экзаменуемыми строго по стандарту;
- содержание экзамена соответствует учебному плану и ожидаемым результатам обучения, профессиональным стандартам;
- в большинстве случаев экзамен записывают на видео, что позволяет объективно проводить апелляцию.
Недостатки объективного структурированного клинического экзамена
Нельзя не упомянуть о недостатках ОСКЭ, ограничивающих его применимость. При использовании ОСКЭ не проверяется способность студента рассматривать пациента как нечто целое, знания и навыки студентов тестируются отдельными блоками компетенций. Поэтому, учитывая, что при оценке клинической компетентности каждый подход имеет собственные преимущества, не нужно ограничиваться одним подходом к оценке, необходимо применять и другие методы, позволяющие оценить способность студента справляться с клиническим случаем в целом, — для этого можно использовать виртуальных пациентов. При оценке клинической компетентности выпускников и ординаторов ОСКЭ может быть дополнен оценкой работы в палате по отчетам наставников.
Существенный недостаток ОСКЭ для многих образовательных организаций — необходимость больших финансовых затрат и затрат сил организаторов и экзаменаторов. Экзаменаторы и пациенты-актеры должны быть обучены и откалиброваны, экзаменаторы должны быть очень внимательны, многократно наблюдая одно и то же задание. Можно попытаться снизить нагрузку на экзаменаторов, обеспечив их ротацию по станциям, однако при этом необходимо устроить для экзаменаторов дополнительный брифинг и дать им время для тщательного ознакомления с новыми станциями.
При использовании для экзамена реальных пациентов их следует тщательно подбирать, а инструкции для экзаменуемых должны минимизировать неудобства, которые могут причиняться пациентам. При оценке владения определенной методикой в распоряжении экзаменатора должно быть несколько пациентов, чтобы обеспечить им отдых; необходимо обеспечить однородность пациентов по полу, возрасту, проявлениям основного заболевания. Использование симуляторов значительно упрощает проведение экзамена.
Участие в ОСКЭ может быть стрессом для студентов, не знакомых с его методикой, поэтому важно использовать этот метод не только для итоговой, но и для текущей (формативной) оценки. Важно проводить экзамен в специально подготовленных помещениях, максимально реалистично повторяющих клинические условия.
Для подготовки к ОСКЭ необходимо потратить больше времени, чем для традиционного (тестирование) экзамена, однако нужно отметить, что эти усилия компенсируются не только вышеперечисленными преимуществами. При каждом последующем проведении ОСКЭ подготовка занимает меньше времени, а банк готовых блоков объективного экзамена и контрольных листов позволяет уменьшить затрачиваемые время и усилия.
Применение объективного структурированного клинического экзамена
ОСКЭ может использоваться практически во всех ситуациях, в которых требуется оценить уровень клинической компетентности.
Этапы медицинского образования
ОСКЭ широко применяется на стадии отбора абитуриентов в медицинские вузы, для профессиональной ориентации, в качестве итогового экзамена в конце курса обучения или как метод промежуточной оценки.
Отбор абитуриентов
Традиционно факторами, определяющими отбор абитуриентов в медицинские вузы, являются их академические достижения по определенным дисциплинам, однако, оставляя в стороне методы их оценки, этих факторов недостаточно для отбора студентов, которые могут стать хорошими врачами. Дополнительные испытания при приеме абитуриентов, которые вузы имеют право вводить на собственное усмотрение, могут быть сосредоточены на выявлении навыков общения, способности к сопереживанию, мотивации к обучению, критического мышления, поведения в кризисных ситуациях. ОСКЭ хорошо подходит для оценки таких категорий, и его модификации (Multiple Mini-Interview — MMI) применяются для отбора абитуриентов в ряде стран. Многолетнее исследование, проведенное в Канаде, показало прямую корреляцию между результатами, продемонстрированными абитуриентами на таком экзамене, с их дальнейшими успехами при обучении и в национальном лицензионном экзамене. Систематический обзор исследований использования MMI показал его валидность, надежность и применимость в качестве метода отбора абитуриентов.
Додипломное образование (специалитет)
В Данди (Шотландия), где этот метод был впервые применен, студентам присваивают степени за клиническую компетентность в конце осеннего, весеннего и летнего триместров на 3-м и 4-м годах обучения. Данные степени учитываются экзаменаторами при заключительной оценке, проводимой в конце V курса. ОСКЭ также может быть подходящим методом для проведения последипломных экзаменов, для которых были описаны проблемы с оценкой клинической компетентности. В Казахстане ОСКЭ применяется в качестве переводного экзамена после III курса, после V курса -при завершении обучения в бакалавриате как итоговый экзамен, после VII курса -при итоговой аттестации после обучения в 2-летней интернатуре.
В США 101 из 130 аккредитованных медицинских школ используют ОСКЭ в качестве итогового экзамена и промежуточных экзаменов после клинических циклов. Вертикальная интеграция дисциплин с ранним включением в программы обучения на начальных курсах клинических аспектов позволяет использовать методику уже после 1-го года обучения.
ОСКЭ используется и для рутинной оценки прогресса студентов во время обучения, как по отдельным дисциплинам, так и по общей успеваемости.
Обучение в ординатуре
ОСКЭ широко используется как наиболее релевантный инструмент оценки выпускников программ ординатуры (резидентуры). ACGME рекомендует использование ОСКЭ для оценки после каждого года резидентуры, а также для оценки отдельных доменов EPA (Entrusted professional activities — доверенная самостоятельная профессиональная деятельность): помимо клинических компетенций, это навыки, связанные с передачей пациента и его безопасностью, с телефонными коммуникациями.
Непрерывное медицинское образование
Практика применения ОСКЭ в НМО чаще всего сосредоточена на оценке программ обучения, а также на выявлении образовательных пробелов и потребностей. Например, в Великобритании ОСКЭ применяется для ревалидации лицензии при подозрении на наличие потенциальных проблем, а также при лицензировании врачей-иностранцев.
Области применения
ОСКЭ особенно хорошо подходит для критериально-ориентированных, барьерных экзаменов, которые проводятся для принятия решения об успешности завершения программы обучения и заключения о достижении студентом критериев, предусмотренных программой обучения или стандартами, и его готовности к самостоятельной практической деятельности или переходу к следующей части курса. В ряде стран ОСКЭ является частью экзамена для допуска к специальности. Так, в США с 2004 г. ОСКЭ является частью национального лицензионного экзамена. Этап 2CS (Clinical Skills) включает 12 станций ОСКЭ по 15 мин, ранее разработанных Educational Commission for Foreign Medical Graduates (ECFMG) для оценки иностранных выпускников.
C 2016 г. ОСКЭ используется в качестве 2-го этапа первичной аккредитации в Российской Федерации. Как и любое новшество, экзамен ОСКЭ вызывает ряд проблемных вопросов. Организация, администрирование и проведение экзамена ОСКЭ требуют обширных знаний и планирования. Первый опыт, накопленный в процессе 2-летней первичной аккредитации специалистов здравоохранения в России, говорит о том, что целесообразно создавать специальные рабочие группы, отвечающие за различные аспекты ОСКЭ. Необходима предварительная большая методическая работа по созданию паспортов станций ОСКЭ. В состав паспортов должны войти перечни клинических сценариев, максимально приближенных к реальным условиям будущей профессиональной деятельности испытуемых, алгоритмы выполнения практических навыков, оценочные чек-листы, инструкции для экзаменаторов и испытуемых, информация о необходимых тренажерах и симуляторах и т.д. В дальнейшем предполагается подключить к экзамену ОСКЭ СП, как это делается во многих странах мира, где их роли исполняют специально подготовленные актеры. Таким образом, экзамен ОСКЭ в России находится в самом начале своего пути и проходит стадию становления и интенсивного развития.
ОСКЭ также широко используется в качестве инструмента формативной оценки для выявления областей знаний, в которых у студента имеются пробелы и в которых ему необходимо приобрести дополнительные навыки. Экзамен может быть составлен таким образом, чтобы отбирать студентов, обладающих определенными навыками или способностями, например, для выявления учащихся со способностями выше средних, как, например, в экзамене на членство в Королевском обществе терапевтов в Великобритании.
Для лучшего понимания областей применения ОСКЭ, важно понять связь между компетентностью и способностью к выполнению клинической работы. Часто ОСКЭ характеризуют как инструмент для оценки практических умений. Это не совсем верно, так как умения — это только один аспект клинической деятельности. Любой инструмент оценки способности к клинической деятельности должен содержать задачи разного уровня сложности — для обучающихся, выпускников и для профессионалов/экспертов. ОСКЭ в комбинации с высокореалистичными симуляциями идеально подходит для тестирования комплекса когнитивных и технических навыков в критических ситуациях.
Ключевое различие между ОСКЭ и оценкой на рабочем месте заключается в условиях, в которых проводится оценка, а не в том, что первый экзамен оценивает умения, а второй — способности к клинической деятельности, как часто считается. Тем не менее различие между ними очень существенно, так как выполнение одних и тех же задач одним и тем же человеком может существенно различаться в зависимости от контекста. Соответственно, чек-листы правильных действий и оценки могут разительно отличаться. Поэтому для всех практических целей ОСКЭ следует рассматривать как инструмент для оценки выполнения задач в смоделированных условиях.
ОСКЭ следует планировать для оценки определенных знаний и умений, которые невозможно адекватно оценить с помощью устного, письменного или компьютерного экзамена. Типичными примерами таких умений являются способность экзаменуемого собирать анамнез или выполнять медицинские манипуляции. В то же время существует риск того, что при проведении ОСКЭ можно выделить отдельные практические умения для их оценки. Это приводит к снижению генерализуемости (обобщаемости) — способности метода всесторонне оценивать выполнение задач экзаменуемым. Крайне важно, чтобы практические умения, необходимые для выполнения медицинских процедур, тестировались не изолированно, а в сочетании с другими умениями, например, с коммуникативными навыками или умением составлять план лечения, что позволяет более глобально оценить способность экзаменуемого к самостоятельной клинической деятельности.
Безусловно, использовать ОСКЭ для оценки способности экзаменуемого интерпретировать рентгеновский снимок или распознать повышенный уровень мочевины и назвать его возможные причины вне контекста общения с пациентом нецелесообразно. Эти когнитивные навыки легко оценить при письменной оценке, и они требуют привлечения меньших ресурсов. Планирование станции ОСКЭ для оценки способности экзаменуемого поставить мочевой катетер приводит к риску изолированного выполнения отдельного практического умения, тогда как в реальности экзаменуемым придется одновременно общаться с пациентом и применять знания о процедуре в процессе ее выполнения.
Воздействие на процесс обучения
Многочисленные исследования показывают положительное воздействие ОСКЭ на процесс обучения. Одним из очевидных преимуществ применения данной методики является то, что внимание учащихся сосредоточено на приобретении клинических умений и навыков. Знания учащихся испытывают в максимально приближенных к клиническим условиях, которые помогут наиболее точно оценить их умения и компетенции, необходимые в клинической практике. Как упоминалось выше, ОСКЭ обеспечивает высокую достоверность и хорошую обратную связь при текущей оценке знаний учащегося. Исследованиями было установлено, что участие в ОСКЭ улучшает степень владения компетенцией при прохождении последующих практических испытаний, а также улучшает качество учебного опыта испытуемых. В то же время результаты ОСКЭ позволяют правильно изменять и адаптировать учебный план для достижения поставленных академических задач.
ОСКЭ может оказывать потенциально негативное воздействие на процесс обучения, так как предполагает прохождение ограниченного количества практических испытаний, иллюстрирующих уровень компетенций в области клинической медицины. При этом существует опасность того, что учащийся может подготовиться к экзамену, сосредоточившись на освоении отдельных навыков по некоторым категориям, не понимая их связь с клинической деятельностью. Поэтому ОСКЭ следует рассматривать только как один из компонентов комплексного процесса оценки и развития клинической подготовки.
Участие СП, использование симуляторов и манекенов с объективной оценкой и немедленной обратной связью позволяют оценить практические и клинические компетенции в виде текущей (формативной) оценки, выявить пробелы и сосредоточить внимание учащегося на этих компетенциях.
Подготовка и планирование объективного структурированного клинического экзамена
Организационная структура
Для успешного осуществления ОСКЭ требуется многочисленный коллектив специалистов, как преподавателей, так и практикующих экспертов. Как правило, в медицинских вузах существуют подразделения или ответственные лица, контролирующие процедуры оценки знаний учащихся. Внедрение ОСКЭ должно осуществляться с помощью этого подразделения. Рациональным подходом может стать формирование отдельного подразделения, которое будет заниматься внедрением ОСКЭ в существующие программы оценки. После успешного внедрения ОСКЭ это подразделение должно осуществлять непрерывный анализ и обеспечение качества, используемые и в отношении других методик оценки.
В рамках этого подразделения рекомендуется назначить руководителя группы по проведению ОСКЭ, в обязанности которого будут входить контроль разработки, планирования, организации и проведения экзамена и соответствующая отчетность. Этот человек должен обладать знаниями экспертного уровня или предшествующим опытом проведения ОСКЭ. Если соблюсти все условия невозможно, назначенный руководитель должен пройти обучение, собрать необходимую информацию путем анализа литературы, посещения специализированных семинаров и обращения за помощью к специалистам из других центров.
Проектирование экзамена
Составление проекта — это процесс определения содержания, валидности и надежности экзамена. В данном ОСКЭ это подразумевает отбор совокупности компонентов оцениваемых компетенций и частоту, с которой каждый из них должен демонстрироваться в ходе экзамена. В каждом проекте ОСКЭ должны учитываться контекст экзамена, те знания и умения, которые нужно оценить в соответствии с учебным планом, и необходимость повторения оценки тех или иных областей знаний с помощью различных методов.
Как мы уже отмечали выше, в первую очередь ОСКЭ подразумевает оценку способности, готовности к выполнению определенных манипуляций в смоделированных условиях, т.е. в основном определяет результаты обучения тем или иным клиническим компетенциям.
Процесс проектирования должен обеспечить формирование необходимого набора элементов из учебного плана, относящихся к овладению предусмотренными образовательным и/или профессиональным стандартами компетенциями, таким образом, экзамен должен отражать содержание обучения. Как правило, проект ОСКЭ состоит из двумерной матрицы, в которой одна ось отражает основные подлежащие тестированию компетенции (например, сбор анамнеза, коммуникативные навыки, физикальное обследование, планирование тактики ведения больного и т.д.), а вторая представляет те проблемы или состояния, в отношении которых демонстрируются эти умения. Пример такого проекта показан в таблице 1 и более подробно в приложении 2. Проектирование автономно может проводить аттестационная комиссия, однако в случае наиболее важных экзаменов темы, включаемые в тестовый проект, могут быть согласованы с помощью метода экспертной оценки Дельфи или других методик опроса экспертов.
Длительность экзамена (количество станций)
Для разработки проекта экзамена необходимо предварительно определить его длительность. Она будет зависеть от числа станций ОСКЭ и продолжительности пребывания экзаменуемого на станции. Как правило, станция ОСКЭ включает одно задание, а его выполнение четко ограничено по времени: обычно на его выполнение кандидатам отводится 5-10 мин. Достоверность и валидность зависят от числа станций и общей длительности экзамена. Адекватное и реалистичное определение времени, необходимого для выполнения заданий, способствует повышению валидности тестирования. В то же время увеличение объема оцениваемых знаний и умений, обычно за счет введения в экзамен необходимого числа станций, способствует повышению достоверности. Доказано, что специфичность заданий является основной причиной недостаточной достоверности;таким образом, для проведения достоверного обобщения профессиональных способностей кандидата необходимо оценивать клинические компетенции в широком диапазоне.
Число станций, необходимых для получения достоверного показателя, отражаемое альфой Кронбаха или коэффициентом обобщаемости (G), определяет продолжительность экзамена. Значение коэффициента G от 0,7 до 0,8 отражает приемлемую достоверность в случае экзаменов особой важности. Подробное обсуждение этого предмета выходит за рамки данной статьи, интересующиеся могут обратиться к руководствам AMEE № 49, 54 и 66.
В практическом плане при принятии решения о продолжительности теста необходимо учитывать, с одной стороны, коэффициенты достоверности, а с другой -проблемы, связанные с возможностями воплощения и наличием необходимых ресурсов. В большинстве случаев при четко построенных станциях ОСКЭ достаточной достоверности удается достичь с помощью 12-20 станций продолжительностью по 5-10 мин каждая.
Традиционно станции, связанные со сбором анамнеза, занимают больше времени, а технические станции (провести элементы физикального осмотра) — меньше. Поскольку экзаменуемые переходят от станции к станции по сигналу, на некоторых этапах им приходится находиться на станции после того, как они выполнили всю задачу, ожидая сигнала. Такое ожидание может быть достаточно дискомфортно для них, нужно приложить усилия по ориентированию экзаменуемых, чтобы такая ситуация была нормальной, а лишнее время можно было использовать для, например, продолжения сбора анамнеза в надежде набрать дополнительные баллы или повтора элементов физикального осмотра с той же целью.
Разработка банка станций объективного структурированного клинического экзамена
Прежде чем к банку заданий будут добавлены новые станции, они должны пройти процесс независимой оценки и пилотного включения. По возможности следует использовать психометрические данные на каждом отдельном этапе, включая оценку возможности дифференцировки экзаменуемых. Представленная схема содержит описание одного из подходов к формированию совокупности этапов ОСКЭ, обеспечивающих оценку выполнения расписания (рис. 1). Эта схема может использоваться в качестве пошагового руководства или адаптироваться к индивидуальным требованиям. Кроме того, используя ее, можно обновить существующий набор станций или оценить их качество, выполняя определенные шаги алгоритма.
Выбор тем для новых станций
В тех организациях, где ОСКЭ предстоит использовать впервые, проект экзамена, в основе которого лежат результаты, предполагаемые учебным планом, может стать приемлемой стартовой точкой, определяющей задания, входящие в состав новых станций ОСКЭ. Если последовательность станций ОСКЭ уже определена, руководитель группы по проведению ОСКЭ или эксперты по соответствующим учебным дисциплинам, могут проанализировать эту последовательность и определить недостатки при возможной оценке тех или иных умений или разделов знаний.Необходимость добавления новых станций может возникнуть и при внесении изменений в учебный план или коррекции задач обучения в рамках отдельных модулей либо дисциплин. Оценку знаний и умений необходимо сопоставлять с объемом обучения по выбранным темам в соответствии с учебным расписанием. При аккредитации специалистов содержание экзамена целесообразно определять единообразно на всей территории страны с утверждением требований к экзамену на федеральном уровне.
После того как определена область оцениваемых знаний, важно удостовериться, что в формате ОСКЭ за ограниченное время, отведенное на каждую станцию, можно реально оценить компетенции, которыми, как предполагается, должны владеть экзаменуемые.
Выбор авторов для станции
Руководитель группы по проведению ОСКЭ отвечает за отбор сотрудников, которые будут планировать и составлять станции ОСКЭ. Если уже есть группа опытных экзаменаторов, очевидным решением будет поиск добровольцев для составления вопросов в этой группе. В других случаях при составлении вопросов в качестве консультантов могут быть приглашены эксперты по тем или иным учебным дисциплинам. Для того чтобы специалист, занимающийся составлением тестовых материалов, мог выполнить эту работу надлежащим образом, важно, чтобы он был ознакомлен с фундаментальными принципами ОСКЭ. Для специалистов, впервые сталкивающихся с такой задачей, должны быть проведены краткие ознакомительные семинары или разработаны письменные инструкции.
Выбор типа станции
Руководитель группы по проведению ОСКЭ или лицо, координирующее составление вопросов, должен проконсультировать составителей вопросов о том, какие именно требуются вопросы. Понимание различных форматов вопросов ОСКЭ крайне важно при выборе необходимых типов станций, позволяющих оценить те или иные результаты обучения (табл. 2).
Для экзамена, включающего свыше 10 станций, рекомендуется сделать комнату отдыха в середине экзамена.
Выбор шаблона для станции объективного структурированного клинического экзамена
После того как выбран тип станции, необходимо разработать подходящий шаблон для составления задания или использовать уже имеющийся шаблон. Он помогает авторам разрабатывать задания, имеющие общий формат, который соответствует формату других заданий банка. Подобная стандартизация позволяет избежать ситуации, при которой кандидаты оказываются в невыгодном положении из-за того, что задания предлагаются в непривычном формате, и помогает сохранить объективность оценок.
Руководство для экзаменатора
Содержание руководства для экзаменатора по оценке для каждой станции будет зависеть от раздела оценки, избранной в качестве стандарта для экзамена. Ниже подробно обсуждаются различные типы оценки. Если есть список контрольных вопросов (чек-лист) или оценочная шкала, составителю следует дополнять их по мере составления вопросов. Если предполагается использовать единую оценочную шкалу, формировать критерии оценки для индивидуальных этапов не нужно.
Собрание экзаменаторов
Проведение собраний с экзаменаторами — один из методов обеспечения качества новых станций ОСКЭ. После того как экзаменаторы составят новые задания, им предлагается представить эти вопросы на собрании в небольших группах. Это позволит всем участникам изучить задания, составленные другими. Благодаря присутствию авторов отдельных станций на этих заседаниях упрощается процесс внесения изменений в станции.
Помимо того что процесс независимой оценки позволяет проанализировать клиническую точность и адекватность задач, предлагаемых на том или ином этапе экзамена, он помогает выявить проблемы, связанные с валидностью и генерализуемостью экзамена.
Пилотное выполнение
После независимого анализа на собрании экзаменаторов необходимо провести пилотный прогон станции, который поможет выявить проблемы, связанные с практическим выполнением и распределением времени на выполнение тех или иных этапов задания. При необходимости при тестировании можно внести изменения в станции для повышения качества оценки этапов. На этой стадии можно провести первичный психометрический анализ достоверности и качества станций. При выявлении любых проблем, связанных с конкретной станцией, ее следует перепланировать и вновь провести пробный прогон.
Часто пилотирование проводят в рамках пробного или этапного экзамена, в результате чего дополнительным преимуществом могут стать ориентирование экзаменуемых и непосредственное предоставление информации об их профессиональных возможностях.
Если те или иные станции пилотируются в рамках экзаменов высокой степени значимости, важно поставить экзаменуемых в известность о включении пилотной станции в экзамен и о том, что ее результаты не повлияют на общую экзаменационную оценку. В связи с необходимостью получения валидных и достоверных данных о результатах пилотных станций, включенных в реальный экзамен, сведения о том, какие именно станции пилотируются, обычно не разглашают (рис. 2).
Психометрический анализ
При разработке новых станций, если в рамках пробного ОСКЭ используется полный набор новых заданий, психометрический анализ продемонстрирует общую достоверность набора вопросов. Использование G-теории позволит определить число сходных станций, необходимых для обеспечения достаточной надежности тестирования путем проведения исследований или исследования принятия решений на основании имеющихся данных. Для получения данных об источниках вариабельности или ошибок рекомендуется применение Item Response Theory (IRT). Эта теория может использоваться в том случае, если одна или несколько станций пилотируются в ходе реального экзамена. Подробное обсуждение этого предмета также выходит за пределы данной статьи, но достаточно подробно разбирается в руководстве AMEE № 49; G-теория подробно рассматривается в руководстве AMEE № 68.
Выбор типа оценки
При разработке банка станций для ОСКЭ необходимо определить применяемый тип оценки, соответствующий ожиданиям, связанным с выполнением задания. Выделяют 2 основных типа оценки: аналитические и холистические.
Аналитический метод балльной оценки
Список контрольных вопросов, или чек-лист, — это список утверждений, описывающих действия, выполнения которых ожидают от экзаменуемых на определенном этапе. Этот список готовят заранее, на основании консультации с группой, занимающейся разработкой станций ОСКЭ, и в соответствии с оцениваемыми компетенциями.
Чек-листы могут быть бинарными («да/ нет», «выполняется/не выполняется»), при этом оценку кандидатам выставляют в зависимости от того, выполнено или не выполнено задание, без уточнения качества его выполнения, и хорошо используются для определения минимального уровня компетентности (например, студент попытался оценить наличие выпота в коленном суставе, и неважно, присутствовал ли этот симптом у конкретного СП; за правильное действие, студент получит плюс в чек-листе). Такие чек-листы не всегда позволяют определить низкий или высокий уровень выполнения задания.
В некоторых случаях чек-листы могут включать 5-7-балльные оценочные шкалы, что позволяет экзаменаторам выставлять оценки кандидатам в зависимости от качества выполнения ими заданных действий. Эти чек-листы с оценочными шкалами отличаются от глобальной (холистической) оценки, описываемой ниже, но так же как и глобальные оценки, они привносят больший элемент субъективности.
Традиционно основным преимуществом бинарных чек-листов считается их потенциальная способность давать объективную оценку и обеспечивать большую степень согласия между различными экзаменаторами. Действительно, первоначально такие контрольные списки использовались Р. Харденом, который впервые разработал методику ОСКЭ. Тем не менее накапливаются доказательства, ставящие под сомнение эту точку зрения и показывающие, что объективность не всегда обеспечивает более высокую достоверность оценки результатов экзамена.
Надо отметить, что в случае применения чек-листов для оценки обычно не имеет значения правильность последовательности действий при проведении физикального осмотра или порядка вопросов в сборе анамнеза. Чем больше баллов экзаменуемый набрал за отведенное время, тем выше общая оценка за станцию. Иногда экзаменуемый получает высокий общий балл, но весь процесс получения информации или проведения осмотра катастрофически не структурирован и не организован, поэтому в дополнение к чек-листам во многих случаях используются глобальные оценочные шкалы.
Примеры бинарных чек-листов и оценочных шкал (которые можно рассматривать как мини-глобальные оценки, поскольку в этом случае оценивается один элемент всей специальности) показаны в табл. 3.
Холистическая оценка (глобальная оценочная шкала)
В отличие от контрольных списков, характеризующихся специфичностью для конкретного задания, глобальные оценочные шкалы позволяют экзаменатору оценить весь процесс в целом. При оценке специалиста высокого класса, который, возможно, не следует заранее определенной последовательности шагов, указанной в проверочном листе, но все же легко и быстро выполняет задание в соответствии с высшими стандартами, мы сталкиваемся с тем, что навыки кандидата может отразить только общая (глобальная) оценка процесса выполнения задания.
Глобальные шкалы позволяют экзаменатору определить не только факт выполнения действия, но и то, насколько хорошо оно было выполнено. Таким образом, этот метод позволяет лучше оценивать навыки, для которых качество выполнения столь же важно, как и сам факт их выполнения.
Примером может стать оценка способности кандидатов сопереживать пациентам на этапах демонстрации коммуникативных навыков. Следовательно, холистические шкалы более полезны при оценке таких сфер, как суждение, сопереживание, организация знаний и технические навыки. В некоторых случаях пациент (реальный или стандартизированный) привлекается к оценке экзаменуемого и заполняет мини-вопросник или дает глобальную оценку поведения экзаменуемого.
Глобальные шкалы отличаются от вышеописанных оценочных шкал в контрольных списках, вследствие того что использование глобальных шкал позволяет получить более целостное представление о выполнении задания на станции. Накапливаются доказательства того, что глобальная оценка имеет высокую степень корреляции с чек-листами по определению уровня компетентности.
Формирование коллектива экзаменаторов
Участие в экзамене квалифицированных экзаменаторов играет решающую роль в обеспечении достоверности оценок. Обучение и повышение квалификации экзаменаторов — это непрерывный процесс, в ходе которого к коллективу добавляются новые экзаменаторы, а уже работающие получают новые знания.
Отбор потенциальных экзаменаторов
Достоверность оценок, выставляемых экзаменаторами, зависит не только от последовательной системы осуществляемой ими проверки знаний, но и от клинического опыта экзаменаторов, оценивающих экзаменуемых на тех или иных станциях ОСКЭ.
Как правило, врачи оценивают компетенции будущих врачей, а медицинские сестры — будущих медицинских сестер, однако владение профессиональными навыками, связанными со станциями, может обусловливать дополнительную гибкость и снижать временные издержки. Необходимый уровень опыта экзаменаторов зависит от контекста станции. Например, для оценки клинического мышления и принятия решений необходим эксперт, тогда как простые процедуры может оценить не эксперт. Более того, определение эксперта в контексте ОСКЭ тоже неоднозначно. Например, оценить осмотр нервной системы у здорового СП можгу равнозначно и семейный врач, и терапевт, и невролог. В целом уровень необходимой экспертизы экзаменатора должен быть как минимум равен уровню компетенции, которая оценивается на данном этапе.
Иногда для снижения затрат времени на поиск необходимого количества врачей, которые могли бы выступить в качестве экзаменаторов, к приему медицинских экзаменов привлекаются лица, не являющиеся врачами. Имеются литературные данные, свидетельствующие о том, что оценки, выставляемые симулированными пациентами хорошо коррелируют с оценками врачей. Тем не менее в одном исследовании авторы указывают, что совпадение оценок врачей и лиц, не являющихся врачами, наблюдается при оценках с использованием контрольных списков, но не подтверждается при использовании глобальных оценок.
Независимо от того, являются ли экзаменаторы специалистами в определенной области медицины, подготовка всех экзаменаторов позволяет уменьшить вариабельность их оценок и увеличить согласованность их поведения, что может способствовать повышению достоверности экзаменационных оценок (рис. 3).
Для проведения ОСКЭ в качестве итогового экзамена для обеспечения объективности важно привлекать экзаменаторов, не знакомых с экзаменуемыми и не принимавших участия в их обучении. При проведении переводных экзаменов в качестве экзаменаторов можно привлечь преподавателей старших курсов, при итоговой аттестации необходимо привлекать внешних экзаменаторов. Они могут быть приглашены из различных учреждений, могут проконтролировать соблюдение стандартов по сравнению с другими учреждениями, а также подтвердить, что процесс оценки достижений студента носит строгий и справедливый характер и осуществляется в соответствии с утвержденными приказами и правилами.
Помимо работников образовательных или научных организаций, к проведению итоговых экзаменов желательно, а в случае с аккредитацией специалистов — обязательно, привлекать специалистов из практического здравоохранения. Большинство потенциальных врачей-экзаменаторов работают в местных лечебно-профилактических учреждениях; важно выявлять и обращаться к тем из них, кто проявляет особый интерес к медицинскому образованию.
Как правило, экзаменаторы не получают дополнительного финансового вознаграждения, а также испытывают трудности, связанные с отсутствием на основном месте работы во время проведения экзаменов, поэтому их участие в проведении экзаменов следует рассматривать как часть их образовательной активности в рамках НМО и профессиональной подготовки с зачислением соответствующего количества часов.
Необходимо провести калибровку экзаминаторов. Традиционно все потенциальные экзаменаторы смотрят запись пилотной станции ОСКЭ и независимо заполняют чек-листы. Дальнейшее обсуждение результатов выявляет отклонение в оценках. В процессе обсуждения оценки корректируют, еще раз тестируют эту же станцию с участием другого экзаменуемого, и процесс повторяют до достижения приемлемого уровня разницы между наблюдателями (0,7). В любом случае каждый новый экзамен, каждая новая станция и каждый новый экзаменатор требуют калибровки.
Семинары для обучения экзаменаторов
Семинары для обучения и повышения квалификации экзаменаторов должны проводиться задолго до начала экзаменов. Уровень подготовки зависит от исходной ситуации и возможностей экзаменаторов. Как и в случае других видов обучения, результаты семинаров по повышению квалификации экзаменаторов должны быть разносторонними.
Эти семинары могут быть организованы в форме мастер-классов, как правило, они включают вводную лекцию, групповое обсуждение и практическую часть, в ходе которой экзаменаторам дается возможность выставить оценки за пробный ОСКЭ или просмотреть видеозапись реального ОСКЭ с выставлением оценок. Разработаны средства онлайн-обучения для экзаменаторов, включающие видеозаписи правильного и некорректного поведения экзаменатора при проведении ОСКЭ.
Цели и ожидаемые результаты обучения экзаменаторов
- Понимать сферу применения и принципы экзамена ОСКЭ.
- В ходе экзамена демонстрировать последовательное профессиональное поведение.
- Понимать и использовать оценочные рубрики для обеспечения стандартизации оценки.
- Дать письменное заключение о профессиональной пригодности, если это потребуется, при итоговых экзаменах.
- Дать устное заключение по окончании станции экзамена при промежуточных экзаменах.
- Обеспечить конфиденциальность экзаменационных ведомостей кандидатов.
Несмотря на то что многие экзаменаторы регулярно участвуют в экзаменах и поддерживают свои умения, им необходимо обновлять знания. Кроме того, потребность в дополнительном обучении экзаменаторов может возникнуть в результате изменения формата экзамена или правил выставления оценок, а также при изменении требований регулирующих органов. Такое обновление знаний может осуществляться либо с помощью онлайн-ресурсов, либо в рамках отдельных семинаров.
Формирование цепочки и подбор оборудования для объективного структурированного клинического экзамена
Цепочка объективного структурированного клинического экзамена
Цепочка — это термин, используемый для описания комплекса станций, обеспечивающих безостановочный поток кандидатов во время экзамена. Каждый экзаменуемый на протяжении экзамена должен посетить каждый пункт цепочки. Количество экзаменуемых в каждой группе должно быть равно числу экзаменационных пунктов, если только не используется система перевалочных станций. Каждому кандидату назначается начальная станция, а затем он переходит от станции к станции по направлению цепочки до тех пор, пока все станции не будут пройдены. За построение этой цепочки несет ответственность группа по проведению по ОСКЭ.
Цепочка с перевалочными станциями
Добавление перевалочных станций позволяет экзаменуемым и экзаменаторам сделать перерыв, при этом, если необходимо, можно добавить к группе еще одного экзаменуемого. Следует позаботиться о том, чтобы эта станция была звукоизолированной, т.е. чтобы кандидат, находящийся на ней, не слышал, что говорят на других станциях. Это помещение необходимо четко пометить и сообщить кандидатам о нем до начала экзамена (еще лучше провести со студентами практические семинары для ознакомления с экзаменационной цепочкой). Важно помнить, что цепочка не может начинаться с комнаты отдыха или заканчиваться ею — если перевалочные станции находятся в начале или в конце цепочки, в конечном итоге кандидат может пропустить одну или несколько станций.
Формирование отдельных станций
При формировании отдельных станций следует позаботиться о назначении помещений, оборудования и персонала, подходящих для выполнения тех или иных заданий. Например, станция, не требующая участия экзаменатора, на которой кандидату представляются результаты инструментального исследования и несколько письменных вопросов, потребует только уголка, в котором поместятся стул и стол, тогда как база для оценки выполнения мероприятий первой помощи потребует достаточного пространства для размещения манекена, дефибриллятора и рабочего места экзаменатора.
На каждой станции должны быть надлежащие приспособления для выполнения всех манипуляций, предусмотренных заданием, например регулируемое освещение при осмотре глазного дна или тихая зона для аускультации грудной клетки (рис. 4-6).
Помещения для проведения объективного структурированного клинического экзамена
Для обеспечения средовой реалистичности помещения, выделенные для станций ОСКЭ, должны быть оформлены и оснащены с максимальным сходством с реальными условиями в клинике. Часть оборудования, характерная для соответствующих клинических помещений, но не применяемая в рамках заданий на данной станции, можно имитировать при помощи макетов или фотообоев.
В зависимости от выбранного для станции задания можно создать имитационный родильный блок, палаты педиатрического профиля или интенсивной терапии, процедурный кабинет, смотровую или операционную. Во всех случаях следует руководствоваться требованиями к оснащению подобных помещений в клинике. В помещениях должна быть обеспечена техническая возможность записывать видеоизображения и аудиосигналы. Для прямого наблюдения и дистанционного управления тренажерами желательно соединять имитационные классы с кабинетами наблюдения при помощи окон с односторонними зеркальными стеклами в смежной стене. При этом должна быть предусмотрена возможность двусторонней трансляции звука из помещения в операторскую, и наоборот. В качестве имитационных кабинетов рекомендуется использовать помещения площадью не менее 8 м2.
Необходимо обеспечить звукоизоляцию помещений, используемых для ОСКЭ. В кабинетах, где предполагается проведение процедур с использованием жидкостей (имитация кровотечений, очистительные клизмы, катетеризация мочевого пузыря, промывание желудка, инъекции), рекомендуется обеспечить влагостойкое напольное покрытие.
В помещениях необходимо обеспечить электроснабжение, для некоторых видов симуляционного и медицинского оборудования может понадобиться подводка сжатого воздуха.
Симуляционное оборудование
Оборудование, необходимое для каждой станции ОСКЭ, должно быть включено в документацию на этапе описания каждой станции. Все оборудование должно быть доставлено заблаговременно, задолго до проведения ОСКЭ, и приведено в рабочее состояние. В наличии всегда должны быть запасное оборудование, сменные части, расходные материалы и батареи на случай поломки или отказа основного оборудования.
Следует принять решение об использовании студентами во время экзамена собственных инструментов и оборудования. Если предполагается, что студенты должны иметь собственный стетоскоп, им нужно об этом заблаговременно сообщить.
Если требуется более сложное оборудование, например высокореалистичные симуляторы пациента, должен быть технический персонал, способный программировать и управлять этим оборудованием, поскольку большинство экзаменаторов не знакомы с такими устройствами (рис. 7-13).
Проведение экзамена
Подготовка
После принятия решения о дате проведения экзамена, а также согласования его содержания и оценок, нужно выполнить следующие задачи:
- Назначение координатора экзамена. Данное лицо будет ответственно за все аспекты организации экзамена.
- Необходимо провести собрание всех экзаменаторов и вспомогательного персонала для обсуждения организации экзамена. Должна быть согласована роль каждого экзаменатора.
Если по какой-либо причине экзаменатор не может присутствовать на таком собрании, материалы собрания должны быть переданы ему в печатном виде, и все возникающие вопросы должны быть обговорены до начала экзамена.
- Должен быть назначен по меньшей мере один запасной экзаменатор, способный занять место того, который не может присутствовать в день экзамена в нужное время.
- Необходимо назначить лицо, ответственное за соблюдение графика проведения экзамена. Эту функцию может выполнять лаборант или секретарь. Сигналом для смены станций может служить звонок или зуммер. Он должен быть отчетливо слышен, и в то же время не быть слишком громким.
- Должен быть назначен сотрудник, который проведет инструктаж студентов в день экзамена.
- Должны быть назначены сотрудники, выполняющие во время экзамена роли администратора, следящего за временем, и проводников.
- На данной стадии следует проинформировать секретаря комиссии, чтобы дать ему возможность запланировать время, необходимое для подготовки:
- Вахтеры или дежурные на входе в здание, где проводится экзамен, должны быть проинформированы о том, какие помещения используются для экзамена, чтобы не допустить путаницы при поиске нужных помещений экзаменуемыми и внешними экзаменаторами.
- При проведении экзамена на территории медицинской организации медицинский персонал должен быть проинформирован об ограничении перемещений, а пациенты и их родственники извещены о том, что во время экзамена посещение пациентов будет запрещено.
- При участии в экзамене пациентов последних нужно отбирать заранее, по меньшей мере за 1 нед до экзамена, чтобы обеспечить время для обследования каждого из них экзаменатором соответствующей станции и организатором экзамена, а также для составления необходимой документации и вопросов.
- Пациенты, участвующие в экзамене, должны быть проинформированы о том, что от них ожидается, и заполнить форму информированного согласия на участие в экзамене.
- Симуляторы, используемые в экзамене, должны быть проверены на достоверность воспроизведения симптомов и возможность объективного контроля выполнения задания для данной станции экзаменатором соответствующей станции и организатором экзамена.
- На станциях, включающих обследование студентами пациента, при тестировании больших групп студентов должно присутствовать не менее 3 схожих по возрасту, полу и проявлениям основного заболевания пациентов.
- Рекомендуется запланировать запасную станцию на случай невозможности использования одной из запланированных.
- Если пациенты, принимающие участие в экзамене, амбулаторные, следует принять меры по их доставке в больницу и из больницы в день экзамена. Пациенты должны прибыть в палату не менее чем за 30 мин до начала экзамена.
- Студенты должны быть заблаговременно проинструктированы о типе экзамена.
- Студенты должны быть проинформированы о том, какие инструменты им потребуются во время экзамена, например, стетоскоп, неврологический молоточек, мерная лента. Должны быть согласованы меры на случай отсутствия у студента необходимого оборудования: будет ли оно предоставляться, будет ли студент допущен к экзамену.
- Методика фиксации и подсчета баллов, которая будет применяться на экзамене, должна быть предварительно спланирована. Если для этой цели планируется использовать программные средства, необходимо их тщательно проверить во время пробного экзамена.
- Необходимо проверить наличие всех инструментов, необходимых для проведения экзамена (например, камертона для исследования слуха).
- Должны быть сделаны все надлежащие приготовления, чтобы обеспечить наличие и бесперебойную работу систем видеонаблюдения и аудиоконтроля.
- Необходимо предусмотреть освежающие напитки для экзаменаторов, пациентов и, при необходимости, студентов.
— контрольных материалов;
— инструкций для экзаменаторов и кандидатов;
— списка студентов, сдающих экзамен;
— списка всех станций с указанием помещений;
— списков экзаменаторов и оборудования с распределением по станциям;
— плана расположения станций.
В день перед экзаменом
- Станции должны быть четко обозначены перед экзаменом. Это принципиально важно. Необходимо проверить, может ли лицо, не участвующее в планировании, найти дорогу от одной станции к следующей.
- Необходимо проверить наличие оборудования, требующееся для проведения экзамена. Данное оборудование может включать медицинские инструменты, симуляционное оборудование, расходные материалы, имитаторы лекарственных средств, а также устройство для сигнализации о необходимости перехода на следующую станцию.
- Необходимо проверить системы видеонаблюдения и аудиоконтроля, убедиться в возможности бесперебойной записи экзамена, достаточного объема свободного места на устройствах хранения данных для записи всего экзамена.
- Учитывая невозможность оставления экзаменатором рабочего места в течение длительного времени, желательно обеспечить наличие освежающих напитков.
- Экзаменаторы должны пройти заключительный инструктаж по экзамену в целом и их конкретной роли в нем. Каждому экзаменатору должно быть предоставлено:
— напоминание о времени и месте проведения экзамена (экзамен не может быть начат, пока не соберутся все экзаменаторы);
— список станций экзамена с обозначением их станции;
— план расположения станций;
— инструкция для экзаменатора на станции;
— чек-лист для их станции.
6. Для экзаменуемых должны быть подготовлены следующие документы:
- — набор общих инструкций (пример представлен в Приложении 1);
— план расположения станций;
— карточки с маршрутом;
— бейджи с крупно нанесенными последовательными номерами по числу студентов;
— при наличии компьютеризированной системы контроля доступа — бесконтактные идентификационные карты.
В день экзамена
Собрания в день экзамена
Перед началом экзамена необходимо провести несколько собраний для брифинга участников для обсуждения следующих вопросов.
Собрание экзаменуемых
- Инструктаж.
- Описание цепочки с указанием стартового пункта, перевалочных пунктов (при наличии).
- Напоминание о правилах и нормах поведения.
- Карантинные процедуры.
- Правила противопожарной безопасности.
Собрание экзаменаторов
- Цель экзамена (этапный или итоговый).
- Проверка соответствия экзаменуемых списку в начале экзамена.
- Ознакомление с чек-листами и правилами заполнения экзаменационных ведомостей.
- Важность поддержания конфиденциальности станций и оценок.
- Недопустимость сообщения экзаменуемым информации сверх того, что допускается сценарием.
- Необходимость одинакового отношения ко всем экзаменуемым.
- Процедуры сообщения о проблемах.
- Заполнение документов после окончания экзамена.
- Правила противопожарной безопасности.
- Собрание стандартизированных пациентов
- Важность стандартизации поведения.
- Роль СП в обеспечении обратной связи.
- Помещения для отдыха, время перерывов и приема пищи.
- Правила противопожарной безопасности.
Проведение экзамена
- Организатор экзамена должен прибыть не менее чем за 1 ч до запланированного начала экзамена.
- Он должен проверить расположение и нумерацию станций и провести последнюю проверку оборудования и стандартизированных или реальных пациентов.
- Оборудование, предназначенное для экзамена, должно быть распределено по станциям, где оно будет использоваться.
- Оборудование для видеонаблюдения и аудиоконтроля должно быть включено и подготовлено к началу записи.
- Экзаменуемые должны пройти инструктаж в отдельном помещении и иметь возможность поставить вопросы. Пример «Инструкций для студентов» представлен в Приложении 1.
- Организатор должен убедиться в том, что все экзаменаторы прибыли и заняли соответствующие станции. При необходимости нужно заменить отсутствующего экзаменатора запасным.
- После того как все подготовлено к экзамену, начать регистрацию экзаменуемых, с выдачей им бейджей со случайными номерами, регистрируемыми администратором экзамена в списке студентов вручную или с помощью компьютера карточек с индивидуальным маршрутом.
- По сигналу экзаменуемые должны занять исходную станцию, которая была им назначена. После того как все студенты и экзаменаторы займут свои места, по сигналу (обычно в виде звонка, зуммера или голосовой команды), который должен быть отчетливо слышен, начинается экзамен.
- Лицо, следящее за временем, должно звонить в звонок с интервалом, заданным при проектировании экзамена для перехода на следующую станцию и начала ознакомления с заданием, а затем через 60 с для входа на станцию.
- Если в тот же день экзамен должна пройти вторая группа экзаменуемых, необходимо проверить, что они находятся в зоне для инструктажа до завершения первой части экзамена и отделены от своих коллег, прошедших первую часть экзамена. При невозможности одновременного сбора экзаменуемых необходимо обеспечить «карантин» для завершивших экзамен, чтобы ограничить их общение с вновь прибывающими претендентами.
- Следует убедиться в том, что в конце экзамена у всех экзаменаторов были собраны контрольные листы с отметками. Данные материалы передаются секретарю комиссии.
- После завершения экзамена, проводимого в медицинской организации, необходимо проинформировать об этом медицинский персонал и пациентов.
Решение проблем
В день экзамена могут возникнуть различные проблемы. Некоторые распространенные проблемы при проведении ОСКЭ и их возможные решения описаны ниже (в данной главе не разбираются проблемы, возникающие при проведении централизованной первичной аккредитации, не связанные непосредственно с процедурой ОСКЭ).
Поломки оборудования
Всегда следует иметь под рукой запасное оборудование. Если экзаменуемые теряют время на ожидание запасного оборудования, можно перенести станцию экзамена на конец цепочки.
Непредсказуемое поведение студентов
Экзаменуемые в условиях стресса часто ведут себя непредсказуемо. В частности, они могут потеряться в месте проведения экзамена или на этапах цепочки ОСКЭ. Заранее назначенные проводники должны помогать экзаменуемым передвигаться в правильном направлении между станциями. Экзаменаторам иногда необходимо поторопить студента, чтобы он своевременно перешел на следующую станцию, если он пропустил звонок или голосовую команду.
Экзаменуемые уносят инструкции или оборудование из экзаменационных помещений
Инструкции должны быть надежно закреплены на стене, столе или подставке или отображаться на мониторах перед входом на станцию. Экзаменаторы и вспомогательный персонал должны внимательно следить, чтобы экзаменуемые не забрали из экзаменационного помещения оборудование.
Экзаменатор уносит экзаменационные ведомости или информацию об экзаменационной станции
В результате информация о содержании экзамена может быть разглашена и не может использоваться для следующих групп экзаменующихся.
Экзаменаторы должны быть предупреждены о том, что все документы должны оставаться в месте проведения экзамена. Вспомогательный персонал собирает все документы, прежде чем экзаменаторы покинут экзаменационные помещения, для того чтобы снизить вероятность такого происшествия.
Различные характеристики СП, влияющие на стандартизацию станции экзамена
В редких случаях СП могут вести себя по-разному с различными студентами или предоставлять ненужную информацию. Тщательный отбор и тренировочные процедуры должны свести к минимуму значимость этой проблемы.
После экзамена
- Необходимо обеспечить подсчет результатов экзамена или заполнение компьютерных форм и выставление оценок в ведомости в соответствии с исходным планом.
- Студентам в кратчайшие сроки следует предоставить обратную связь. Это может быть сделано путем раздачи индивидуальных контрольных листов с комментариями экзаменаторов или обсуждения экзамена со студентами, особенно с теми, кто получил плохие результаты.
- Необходимо фиксировать и документировать любые возможные проблемы, возникшие при организации экзамена, чтобы не допустить их в будущем.
- Фиксируйте любые предложения, которые могут быть полезны при организации следующего экзамена.
- Кураторы и экзаменаторы должны обсудить успешность студентов для выявления очевидных пробелов в знаниях и умениях и принятия надлежащих мер по их устранению.
Обеспечение успеха объективного структурированного клинического экзамена
Для успешного использования ОСКЭ необходимы тщательная подготовка и жесткое соблюдение правил проведения экзамена. Можно выделить несколько факторов, критически влияющих на надежность и валидность ОСКЭ.
Количество станций. Использование большой выборки клинических случаев в экзамене существенно повышает его надежность, при этом для обеспечения надежной оценки общей компетентности экзаменуемых очень важно правильно определить продолжительность отдельных станций.
Стандартизированные шкалы оценки. Важно заранее разработать и утвердить шкалы оценки, обеспечивающие оценку экзаменаторами разных экзаменуемых по одним и тем же критериям, что уменьшает разброс оценок между разными экзаменаторами и экзаменуемыми.
Привлечение обученных экзаменаторов. Подготовка экзаменаторов снижает разброс оценок между разными экзаменаторами и повышает единообразие их поведения, а значит, и надежность оценки. Кроме того, возможность ротации экзаменаторов по станциям может уменьшить системную погрешность, связанную с экзаменаторами.
Использование помещений и оборудования. Для каждой станции необходимо отдельное помещение или отделение с использование мобильных перегородок. Важно обеспечить видеонаблюдение и аудиозапись. На станциях, включающих выполнение процедур, должны использоваться симуляторы с электронным контролем и объективной оценкой в реальном времени. Применение систем менеджмента симуляционного центра повышает надежность и существенно снижает трудоемкость подготовки и проведения экзамена.
Стандартизованное поведение пациентов. Плохо стандартизованные пациенты, поведение которых может варьироваться с разными экзаменуемыми, могут существенно снижать надежность экзамена.
Стандартизованное поведение экзаменаторов. В идеале экзаменаторы должны находиться за зеркалом Гизелла (одностороннее зеркало) или наблюдать действие на мониторе. В реальности в большинстве случаев экзаменатор находится в той же комнате, где происходит действие. Правильное поведение экзаменатора — нейтральное присутствие. В большинстве случаев экзаменатор приветствует экзаменуемого, проверяет и сверяет личность и предлагает следовать инструкциям. Все последующее действие проходит без каких-либо комментариев со стороны экзаменатора, кроме тех сценариев, где предусматривается вопрос (например, по окончании демонстрации осмотра грудной клетки, в сценарии станции предусматривается, что экзаменатор задает вопрос: «Как отличить шум трения перикарда от шума трения при плеврите?»). Исключение составляют ОСКЭ для текущей (формативной) оценки. В таких случаях допускаются наводящие вопросы.
Экзаменатор ни в коем случае не может комментировать действия экзаменуемого, а тем более давать оценку действия в конце станции. Плохая организация ОСКЭ может привести к тому, что экзаменуемые будут учиться проходить экзамен, а не улучшать реальное выполнение клинических задач. В то же время важно не допустить перегрузки экзаменуемых оценкой, пытаясь оценить слишком много компонентов выполнения задач на одной экзаменационной станции. Примером такой перегрузки является задание экзаменуемому на одной станции собрать анамнез, обследовать пациента с кровохарканьем, интерпретировать рентгеновский снимок и пояснить возможный диагноз. Хотя это может отражать реальную жизнь за счет помещения оцениваемых умений в определенный контекст, маловероятно, что можно адекватно оценить все эти умения на одной станции, учитывая ограничения по времени.
В заключение необходимо отметить что ОСКЭ — это инструмент, и результаты его использования в первую очередь зависят от усилий и квалификации организаторов. Как и любые достижения, все преимущества оценки с использованием ОСКЭ достигаются ценой значительных усилий.
Приложение 1. Пример инструкций для студентов
Объективный структурированный клинический экзамен — инструкции для студентов
Цель экзамена — определить ваши знания по терапии и компетентность в диагностике и лечении пациентов.
Для успешной сдачи экзамена вам необходимо получить как минимум 70% по станции и как минимум 75% средний балл по всем станциям в целом. В случае, когда общий балл превысит 74%, но баллы по одной или более станций ниже 70%, вам представится возможность пересдать эти станции. Если вы набрали <75%, вам представится возможность пересдать весь экзамен.
- Вы будете переходить между 20 станциями (нумерованными от 1 до 20), проводя на каждой по 5 мин. В начале экзамена и в конце каждого 5-минутного периода будет звучать звонок. Это даст вам время для перехода на следующую станцию.
- После 10-й станции следует 5-минутная станция отдыха.
- На каждой станции вам будут представлены четкие письменные инструкции относительно того, что от вас требуется. Пожалуйста, внимательно их прочтите.
- Перед началом экзамена вам будет выдан бейдж с номером. Этот бейдж необходимо носить на себе таким образом, чтобы он был виден экзаменаторам на протяжении всего экзамена.
- Перед началом экзамена вам будет выдана карточка с номерами станций. Это ваш индивидуальный маршрут. Необходимо четко соблюдать указанную в нем последовательность станций.
- Экзаменаторы не будут отвечать на ваши вопросы по контексту станции и не будут разъяснять инструкций. Экзаменаторам запрещено озвучивать вашу оценку за станцию. Все вопросы и комментарии вы можете направить директору экзамена по его завершении.
- Во время экзамена производится видеозапись. Она используется для апелляционного процесса и для оценки качества. Видеозапись является конфиденциальным документом и уничтожается через 30 дней после экзамена.
Приложение 2. Пример временного графика для объективного структурированного клинического экзамена
Образец временного графика для ОСКЭ для 40 студентов в одной цепочке, с 20 станциями и 5 мин, отводимыми на каждую станцию
- Авторы
- Резюме
- Файлы
- Ключевые слова
- Литература
Алпысова А.Р.
1
Суббота Ю.В.
1
Кызырова Ж.С.
1
1 РГП на ПХВ «Карагандинский государственный медицинский университет»
Проведен анализ внедрения группового объективного структурированного клинического экзамена в Карагандинском государственном медицинском университете (КГМУ), который показал неоспоримые достоинства перед традиционным методом оценки знаний. Использование автоматизированной системы подсчета данных представило возможным проведение экзамена у большого количества обучающихся в максимально короткие сроки. Создание условий работы в команде, приближенных к реальной медицинской практике, позволило оценить ролевое исполнение задачи каждого студента (лидер, помощники, наблюдатель), а также в целом всей команды. Внедрение стандартизированных пациентов помогло в полной мере выявить коммуникативные навыки у студентов, так как определяли не только навыки общения, контакта с пациентами, но и раскрывали такие качества, как уровень интеллекта, грамотность, профессионализм, обратную связь с пациентом.
групповой объективный структурированный клинический экзамен
метод оценки знаний
1. Алпысова А. Р., Суббота Ю. В., Матаева Л. М., Бочарова Л. И., Телембетов Н. Т. Опыт внедрения инновационных методов оценки знаний // Медицина и экология. – 2015. – № 4. – С.63-66.
2. Анартаева М. У., Доскараева П. Т., Акжигитова М. А., Асанкулова Т. А., Аширкулова А. А. Использование симуляционных технологий в подготовке медицинских кадров // Медицина и экология. – 2011. – № 1 (58). – С. 178.
3. Глыбочко П. Предлагаемая нами система определяет многоэтапную и многоуровневую подготовку и аттестацию специалистов // Здоровье нации – новая стратегия. – 2012. – № 3 (22) . – С. 19-21.
4. Зимняя И. А. Ключевые компетенции – новая парадигма результата образования // Высшее образование сегодня: учеб. издание. – М., 2004. – С. 40.
5. Муминов Т. А., Даулетбекова М. И. Объективный структурированный клинический экзамен в оценке мануальных навыков выпускников по специальности «Лечебное дело»: учеб. для вузов. – Алматы: Эверо, 2007. – 136 с.
6. Сейилханова А. А., Турысбекова Ш. Е., Ыбраймжанова А. К., Дюсенбекова Б. Н., Калиева Г. Т., Тулепбергенова С. А. Использование активных методов обучения в медицинском вузе // Медицина и экология. – 2015. – № 1 (74). – С. 76-78.
7. Смаилова Ж. К. Оценка профессиональной компетенции студентов медицинского ВУЗа: учеб. для вузов. – Семей, 2014.
8. Zhautikova S. B., Umer F., Ilahi M., Karipova A. M. Transition from traditional to innovative methods of teaching in medical universities of Pakistan // J. Medicinе and ecology. –2014. – № 4 (73). – P. 37.
Актуальность проблемы реформирования системы медицинского образования на сегодняшний день предрасполагает к созданию инновационных методов контроля полученных знаний в процессе подготовки высококвалифицированных профессиональных кадров [4].
В настоящее время в области медицинского и фармацевтического образования определяющую роль играет Болонское соглашение, ключевыми моментами которого являются понятия компетентности и переход к компетентностной модели выпускника [4, 5].
Процесс медицинского образования качественно нового уровня с учётом современных требований и мировых тенденций предполагает:
— внедрение компетентностного подхода в системе подготовки специалистов, обеспечение взаимосвязи академических знаний и практических умений;
— развитие вариативности образовательных программ, в том числе с использованием новых образовательных технологий и лучшего мирового опыта;
— внедрение эффективной качественной клинической подготовки и переподготовки специалистов на базе опыта передовых российских и зарубежных институтов [4].
Профессиональная компетентность, помимо знаний, владения навыками, включает в себя когнитивную готовность, коммуникативность, креативную подготовленность и корпоративное позиционирование [3,4]. Профессиональную подготовку полно характеризуют квалификационные требования, относящиеся к специфике специальности.
Как показывает практика, процесс подготовки молодых специалистов в области здравоохранения к реальным жизненным ситуациям является затруднительным.
Вероятно, одним из главных препятствий в достижении данной цели является недостаточно всесторонняя оценка полученных студентами знаний. В большинстве случаев оценивается багаж теоретических знаний и не принимается во внимание проявление коммуникативных способностей, наличие клинического мышления, нравственных и этических принципов поведения выпускников. Зачастую, это происходит при проведении традиционного экзамена, когда у большей части преподавателей в силу дефицита времени, а иногда нежелания уделить необходимое внимание вышеуказанным вопросам, данные аспекты остаются неохваченными.
Контроль теоретических знаний и умение продемонстрировать практический навык, которые требуют определенного количества времени, является конечным результатом общепринятой формы проведения экзамена по клиническим дисциплинам и оценки знаний обучающегося. Несовершенством данного процесса является также отсутствие стандартизации в критериях оценки по практическим навыкам, разный уровень сложности заданий, предлагаемых обучающимся. Не секрет, что негативное явление в ряде случаев оказывает также личностное, субъективное отношение экзаменатора к определенному студенту.
Указанные недостатки в системе контроля знаний определяют необходимость внедрения следующих требований: измеряемость результатов, объективизм оценки, стандартизация заданий, применение новых технологий, надежность [4,6].
Этим требованиям отвечает объективный структурированный клинический экзамен (ОСКЭ), основоположниками которого являются Барроус и Абраамсон, предложившие стандартизованных пациентов для оценки деятельности студентов в медицинской школе [1, 8].
На сегодняшний день ОСКЭ широко используется не только в известных и престижных университетах мира, но и в Казахстане. Данный стиль проведения экзамена обеспечивает объективную оценку реальных клинических знаний и навыков выпускников; выдержку четких правил, которым нужно неукоснительно следовать и экзаменатору, и экзаменуемому, определение именно клинической сути содержания экзамена [2,7].
Критериям объективной оценки практических навыков и умений обучающихся, ранжированию их по уровню подготовки, улучшению качества подготовленности и конкурентоспособности современного выпускника соответствует объективный структурированный клинический экзамен (ОСКЭ), а также его модифицированная инновационная модель – групповой объективный структурированный клинический экзамен (ГОСКЭ).
Для оценки клинических навыков обучающихся все более широко используют моделирование на сложных манекенах с сердечными звуками, дыханием, оксиметрией и пульсом, отвечающих на разнообразные вмешательства, что позволяет оценить возможности студентов (индивидуально или в составе команды) управлять нестабильными жизненными признаками (артериальное давление и сердечные сокращения). Высокотехнологичное моделирование считается важной помощью в обучении и может быть полезным в оценке знаний, клинического мышления и взаимодействия [4, 5].
Современные выпускники вуза, в ряде случаев, владея академическими знаниями, зачастую не способны оказать первую медицинскую помощь, выполнить простейшие манипуляции уровня среднего медицинского работника, в связи с чем наиболее актуально использование данного метода обучения и оценки знаний при освоении дисциплины «Скорая и неотложная медицинская помощь». В связи с максимальной приближенностью к условиям оказания неотложной помощи на догоспитальном этапе бригадой скорой медицинской помощи создалась необходимость в разработке инновационного метода итогового контроля.
ГОСКЭ является наиболее оптимальным и инновационным вариантом оценки знаний студентов по неотложным состояниям, в связи с его максимальной приближенностью к условиям оказания неотложной помощи на догоспитальном этапе бригадой скорой медицинской помощи.
Командный метод работы студентов имитирует деятельность бригады скорой помощи, где конечный результат деятельности группы студентов во многом зависит от слаженной работы команды, так же, как и в реальных условиях. Ролевое исполнение обязанностей членов команды действительно соответствует деятельности сотрудников скорой медицинской помощи, а именно – врача (лидера), 2 фельдшеров (помощников), наблюдателя (пациента/родственников).
С началом работы кафедры «Скорой и неотложной медицинской помощи» в 2011–2012 учебном году успешно стартовал проект проведения ГОСКЭ, разработанный сотрудниками кафедры и учебно-клинического центра КГМУ, не имеющий аналогов данной методики обучения и оценки клинических навыков в других ВУЗах страны. Данный проект имеет ежегодное продолжение, в связи с чем назрела необходимость проведения анализа внедрения новой методики оценки знаний выпускников при сдаче государственного экзамена за прошедшие 4 года.
Цель настоящей работы: проведение анализа опыта внедрения ГОСКЭ при прохождении государственной аттестационной комиссии (ГАК) студентами 5 курса специальности «Общая медицина».
Материал исследования: результаты Государственной аттестационной комиссии 686 студентов специальности «Общая медицина» за 2015 год.
Методы исследования: аналитический, математический.
Результаты исследования и их обсуждение. В ходе анализа проведенных государственных экзаменов отмечается ежегодное совершенствование технологии данного метода контроля. Одним из этапов прохождения ГАК в нашем университете является командный метод оценки знаний.
Перечень станций, методика проведения ГОСКЭ модифицируются с каждым годом с учетом внедрения новых протоколов диагностики и лечения по неотложным состояниям на догоспитальном этапе. Ежегодный опыт ГОСКЭ диктует условия модифицирования проведения экзамена. Так, например, за период 2011–2013 учебных годов (уч. гг.) изменилось не только количество станций, но и заданий для студентов в целях расширения спектра практических навыков и уровня теоретических знаний. В частности, в 2012–2013 уч. г. количество станций увеличилось с 8 (2011-2012 уч. г.) до 10, а в 2012-2013 уч. г. при том же количестве клинических станций было увеличено количество ситуационных задач (2–4) по каждой станции.
В связи с тем, что государственный аттестационный экзамен является интегрированным, в 2013–2014 уч. г. были привлечены к проведению ГОСКЭ и разработке учебно-методических комплексов и другие клинические кафедры, такие как кафедра хирургических болезней, общей врачебной практики, неврологии, психиатрии и наркологии, внутренних болезней, детских инфекций, акушерства и гинекологии.
Положительным при проведении ГОСКЭ следует отметить применение разработанной в 2013–2014 уч. г. сотрудниками Учебно-клинического центра (УКЦ) КГМУ автоматизированной системы подсчета баллов с использованием оптического распознавания оценочных листов, что дало возможность устранить ошибки при подсчете результатов, сократить время выставления оценки, а также хранить оценочные листы в сканированном виде длительное время.
Методика проведения ГОСКЭ в 2013–2014 уч. г. была усовершенствована внедрением коммуникативных навыков с помощью привлечения стандартизированных пациентов на клинической станции «Оказание неотложной помощи при гипертоническом кризе (осложненный) + коммуникативные навыки», организованной сотрудниками кафедры общей врачебной практики № 1.
В 2014–2015 уч. г. новшеством в проведении ГОСКЭ явилось привлечение к роли стандартизированных пациентов бывших сотрудников (ныне пенсионеров) Областной станции скорой медицинской помощи г. Караганды. Сотрудники кафедры скорой и неотложной медицинской помощи № 1 разработали новую клиническую станцию «Оказание неотложной помощи при острых осложнениях сахарного диабета» с различными вариантами заданий, где были задействованы вышеуказанные «актеры». Позитивным моментом их участия послужили компетентность, артистизм, ответственность, наличие коммуникативных навыков; создание ими атмосферы, приближенной к реальности. Новая клиническая станция имела несколько различных вариантов клинических ситуаций, требующих соответствующих алгоритмических подходов к действию. Нужно отметить, что стандартизированные пациенты полностью укладывались в условия клинических ситуаций: были приняты во внимание их возрастная характеристика, половая принадлежность, антропометрические данные. Была отмечена отличная демонстрация ролевой игры актеров.
Еще одним позитивным аспектом в проведении ГОСКЭ с привлечением незнакомого для студента стандартизированного пациента явилась возможность наблюдения экзаменатором проявлений коммуникативных навыков студентов с неизвестными для них людьми (пациентами), в отличие от предыдущих экзаменов, когда роль пациентов выполняли преподаватели, в связи с чем поведение экзаменуемых менялось в зависимости от межличностных отношений между преподавателем и студентом.
Именно при демонстрации командного метода работы студенты чувствовали повышенную ответственность и необходимость слаженной работы для принятия единого правильного решения при оказании неотложной помощи.
Динамика совершенствования проведения ГОСКЭ за 2011–2015 гг.
2011–2012 уч. г., 2012–2013 уч. г. |
2013–2014 уч. г. |
2014–2015 уч. г. |
Увеличение количества клинических станций (с 8 до 10), ситуационных задач (с 1 до 4). |
1.Проведение ГОСКЭ 7 кафедрами интегрированных дисциплин с разработкой учебно-методических комплексов. 2.Применение разработанной автоматизированной системы для подсчета баллов с использованием оптического распознавания оценочных листов. 3.Привлечение стандартизированных пациентов (преподавателей). |
Привлечение независимых стандартизированных пациентов (работников скорой помощи). |
Немаловажной чертой явилось проведение ГОСКЭ на трех языках, с привлечением иностранного коллеги для роли стандартизированного пациента в целях создания реальной атмосферы и отсутствия языкового барьера для студентов иностранного факультета.
Всего в 2015 году I этап государственного экзамена (тестирование) успешно прошли 686 студентов, которые были допущены к сдаче ГОСКЭ (II этап ГАК). Эти студенты были распределены в 171 команду: 84 группы – русского, 37 групп – казахского и 2 группы – иностранного отделений. Каждая команда имела лидера, 2 помощников и наблюдателя, причем ролевое исполнение студентов чередовалось при смене станций. ГОСКЭ продолжался в течение 4 дней, за один час и 20 минут одновременно могли сдать экзамен 40 человек. Данный подход к организации процесса реально сэкономил время проведения экзамена и явился еще одним положительным моментом ГОСКЭ. Проведение экзамена сопровождалось видео- и аудиорегистрацией с транслированием материала по внутренней локальной сети ВУЗа.
В большинстве случаев отмечалась хорошая подготовленность студентов, слаженная командная работа, несмотря на случайный подбор членов группы. Проведение экзамена с участием независимых стандартизированных пациентов указало на некоторые недочеты в самом образовательном процессе в течение всего периода обучения, который заключался в недостаточном умении студентов проявлять коммуникативные навыки, владение которыми отчетливо проявляется именно в экстремальной ситуации. За несколько лет учебы обучающиеся привыкли работать с манекенами и муляжами, в работе с которыми вербальное и невербальное общение занимало второстепенную роль, в сравнении с выполнением непосредственно самого практического навыка. Во время прохождения экзамена команда была озадачена лишь правильностью постановки диагноза и техники выполнения предусмотренных заданием процедур на манекене, таких как: глюкометрии, внутривенной инъекции, капельной инфузии, тонометрии. По завершении манипуляций большинство студентов на станции не продемонстрировало обратную связь с пациентом, которому была оказана неотложная помощь, в результате чего экзаменатор не имел возможности оценить эффективность проведенных мероприятий в полном объеме [1].
Заключение. Проанализировав динамику развития внедрения инновационного метода оценки знаний – ГОСКЭ, нами выделены положительные и отрицательные аспекты в процессе обучения и контроля знаний, в целях совершенствования образовательного процесса и системы оценки, что, в конечном результате, способствует подготовке более квалифицированных выпускников, адаптированных к практической деятельности.
Выводы:
- ГОСКЭ максимально приближен к реальным условиям работы бригады скорой помощи.
- Командный метод работы создает необходимость проявления ответственного подхода студентов и слаженности действий для принятия единого правильного решения.
- Применение автоматизированной системы подсчета баллов с использованием оптического распознавания оценочных листов устраняет ошибки при подсчете результатов, сокращается время выставления оценки, существует возможность хранения оценочных листов в сканированном виде длительное время.
- Работа студентов с профессиональными стандартизированными пациентами, ролевая игра которых соответствует условиям клинических ситуаций (возрастная характеристика, половая принадлежность, антропометрические данные) развивает коммуникативные навыки выпускников.
- Сокращено время проведения экзамена.
- Выявленное недостаточное умение студентов проявлять коммуникативные навыки, владение которыми отчетливо проявляется в экстремальной ситуации, показало необходимость их совершенствования в течение всего процесса обучения в ВУЗе.
Библиографическая ссылка
Алпысова А.Р., Суббота Ю.В., Кызырова Ж.С. ГРУППОВОЙ ОБЪЕКТИВНЫЙ СТРУКТУРИРОВАННЫЙ КЛИНИЧЕСКИЙ ЭКЗАМЕН, КАК ИННОВАЦИОННЫЙ МЕТОД ОЦЕНКИ ЗНАНИЙ // Современные проблемы науки и образования. – 2016. – № 1.
;
URL: https://science-education.ru/ru/article/view?id=24111 (дата обращения: 11.03.2023).
Предлагаем вашему вниманию журналы, издающиеся в издательстве «Академия Естествознания»
(Высокий импакт-фактор РИНЦ, тематика журналов охватывает все научные направления)
Сайт издательства «Медиа Сфера»
содержит материалы, предназначенные исключительно для работников здравоохранения. Закрывая это сообщение, Вы подтверждаете, что являетесь дипломированным медицинским работником или студентом медицинского образовательного учреждения.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Тулеутаева С.Т.
Карагандинский государственный медицинский университет, Караганда, Республика Казахстан
Аимбетова Д.Б.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Гарифуллина Р.Р.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Объективный структурированный клинический экзамен в стоматологии: сильные и слабые стороны
Авторы:
Кемелова Г.С., Тулеутаева С.Т., Аимбетова Д.Б., Гарифуллина Р.Р.
Как цитировать:
Кемелова Г.С., Тулеутаева С.Т., Аимбетова Д.Б., Гарифуллина Р.Р. Объективный структурированный клинический экзамен в стоматологии: сильные и слабые стороны. Стоматология.
2019;98(4):8‑11.
Kemelova GS, Tuleutayeva ST, Aimbetova DB, Garifullina RR. The objective structured clinical examination in dentistry: strengths and weaknesses. Stomatologiya. 2019;98(4):8‑11. (In Russ.)
https://doi.org/10.17116/stomat2019980418
Читать метаданные
Цель исследования — выявить сильные и слабые стороны объективного структурированного клинического экзамена (ОСКЭ) по специальности «стоматология». В исследовании использованы материалы ОСКЭ по специальности «стоматология» IV и VI курсов обучения, результаты ОСКЭ за три учебных года и обратная связь. Данные оценивались с помощью альфы Кронбаха, индекса дискриминации и коэффициента корреляции Пирсона. В исследовании оценены надежность и валидность ОСКЭ с выявлением слабых и сильных сторон. Высокая надежность экзамена ОСКЭ-4 за 3 года подтверждена альфой Кронбаха 0,75 (2016 г.), 0,79 (2017 г.) и 0,669 (2018 г.) и ОСКЭ-6 0,78 (2016 г.), 0,819 (2017 г.) и 0,745 (2018 г.); стандартное отклонение среднего балла (SD) на ОСКЭ-4 равно 7,05 SEm% (2016 г.), SD=5,61 SEm% (2017 г.) и SD=3,95 SEm% (2018 г.), на ОСКЭ-6 SD=8,08 SEm% (2016 г.), SD=6,60 SEm% (2017 г.) и SD=4,38 SEm% (2018 г.) и свидетельствует о минимальной вариабельности переменных. Коэффициент корреляции с итоговым баллом за 3 года ОСКЭ-4 составил 0,68 (2016 г.), 0,48 (2017 г.) и 0,35 (2018 г.), на ОСКЭ-6 — 0,48 (2016 г.), 0,57 (2017 г.) и 0,45 (2018 г.). Таким образом, выявление сильных и слабых сторон ОСКЭ позволяет внести коррективы в программу образовательного процесса и изменения в образовательную программу, ориентированную на конечные результаты.
Авторы:
Кемелова Г.С.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Тулеутаева С.Т.
Карагандинский государственный медицинский университет, Караганда, Республика Казахстан
Аимбетова Д.Б.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Гарифуллина Р.Р.
Карагандинский государственный медицинский университет, Караганда, Казахстан
Путь становления будущего специалиста общей практики в стоматологии сложный и многогранный и во многом зависит от формирования знаний и навыков, которые будут применяться в клинической практике в будущем [1, 2]. Основы знаний фундаментальных дисциплин, умений и навыков в сфере стоматологии закладываются на первых трех курсах обучения [3, 4], в последующие годы студенты закрепляют фундаментальные знания на клинических дисциплинах и овладевают практическими умениями и навыками [5—7]. Для оценки конечных результатов обучения в вузе чаще используется метод оценивания в два этапа — тестирование и практический экзамен. В качестве практического экзамена в последние 10 лет в Карагандинском государственном медицинском университете (КГМУ) применяется объективный структурированный клинический экзамен (ОСКЭ), который явился одним из инновационных подходов оценивания. Объективность данного формата экзамена не вызывает сомнений, однако нет данных об эффективности и надежности, а также о влиянии ОСКЭ на результативность программы обучения в нашем вузе. Это и стало отправной точкой для более детального изучения всех параметров ОСКЭ, проводимого в КГМУ по специальности «стоматология», за последние 3 года.
Цель исследования — выявление сильных и слабых сторон объективного структурированного клинического экзамена по специальности «стоматология».
Материал и методы
Дизайн исследования — описательный ретроспективный с использованием количественных и аналитических методов. Материалами для исследования служили результаты ОСКЭ за 2016, 2017 и 2018 гг., онлайн-анкетирование студентов, отзывы экзаменаторов по специальности «стоматология» Карагандинского государственного медицинского университета.
Результаты и обсуждение
Итоговый объективный структурированный клинический экзамен был принят для студентов IV курса (ОСКЭ-4) как второй этап итогового экзамена по завершении этапа обучения и для интернов VI курса (ОСКЭ-6) по специальности «стоматология» как второй этап итоговой государственной аттестации выпускника. Традиционно ОСКЭ-4 проводится по 10 станциям. На станциях ОСКЭ-4 оцениваются навыки по пропедевтике клинической стоматологии; в него также включены вопросы неотложной помощи при лекарственном анафилактическом шоке и первичной хирургической помощи при травмах и переломах челюстно-лицевой области. При разработке ОСКЭ-4 по каждой станции были подготовлены по 10 вариантов клинических задач и ситуаций. Продолжительность оценки на одной станции составила 8 мин, общая продолжительность экзамена — 85 мин, из них 5 мин — на переходы от станции к станции. Студентов IV курса оценивали от 15 до 19 экзаменаторов, в число которых включались специалисты практического здравоохранения.
ОСКЭ-6 включает 11 станций по клинической стоматологии и неотложной помощи, при этом уровень сложности заданий соответствует уровню подготовки обучающихся. Перечень станций ОСКЭ-6 составлен на основании тех компетенций, которыми должен овладеть выпускник по специальности «стоматология» на выходе. Продолжительность оценки на одной станции 10 мин, одного потока ОСКЭ-6 — 115 мин, из них 5 мин — на переходы между станциями. Интерны, опираясь на предыдущий опыт ОСКЭ-4, уверенно проходили ОСКЭ-6 и не испытывали трудностей при переходе от станции к станции. Все станции были оснащены современными стоматологическими фантомами Foshion FE 220 и другим необходимым медицинским оборудованием для демонстрации требуемых навыков.
Как показано на рис. 1, число
На рис. 2 представлены
При анализе «слишком сложных станций» и «слишком простых станций» за 3 года на ОСКЭ-4 таковых не выявлено. Анализ распределения баллов по станциям ОСКЭ-6 в 2016 г. выявил, что было три «слишком сложных станции»: «Диагностика заболеваний пародонта у детей» (средняя оценка — СБ 66±4,74%), «Неотложная помощь у детей на стоматологическом приеме» (СБ 73±4,44%), «Лечение зубочелюстных аномалий в трансверзальной плоскости» (СБ 59±4,92%). В 2017 г. выявлена одна «слишком сложная станция» — «Неотложная помощь у детей на стоматологическом приеме» (СБ 68±4,66%), и в 2018 г. «наиболее сложной» была также одна станция «Лечение зубочелюстных аномалий в трансверзальной плоскости» (СБ 65±4,77%). Анализ сложностей станций проводится с целью выявления слабых сторон в образовательном процессе для внесения изменений в учебную программу. Так, выявленные «слишком сложные станции» требуют увеличения количества часов и углубленного изучения обучающимися данной темы в течение учебного года.
В 2016 г. оценка ОСКЭ осуществлялась с помощью бумажной версии оценочного листа, и критерии чек-листа отражали только алгоритмы клинических навыков. После проведенного анализа на валидность станций и критериев ОСКЭ были внесены изменения в пункты оценочного листа, а также был изменен сам формат оценивания. В 2017 г. критерии оценочного листа включали категории компетентностей, которые объединяли некоторые простые алгоритмы. В 2018 г. был внедрен электронный чек-лист для оценивания обучающихся на планшетах, и критерии оценочного листа охватывали также ряд компетенций, таких как профессионализм, клинические навыки, коммуникативные навыки. Каждому пункту чек-листа был присвоен коэффициент значимости навыка по отдельной станции и отдельному навыку.
Для оценки внутренней надежности экзамена измерялась альфа (α) Кронбаха по шкале от 0 до 1. При α=0 экзамен считается абсолютно ненадежным из-за отсутствия согласования между всеми полученными оценками, при α=1 экзамен считается абсолютно надежным. Наиболее приемлемый показатель α от 0,7 до 0,9, а α меньше 0,5 считается недопустимым. ОСКЭ-4 оказался валидным и надежным экзаменом, так как в 2016 г. альфа Кронбаха составила 0,75, в 2017 г. — 0,79, в 2018 г. — 0,669. Высокая надежность экзамена ОСКЭ-6 также подтверждается альфой Кронбаха, которая составляла 0,78 в 2016 г., 0,819 — в 2017 г. и 0,745 — в 2018 г. Важным также считается параметр стандартной ошибки измерения. В нашем случае среднеквадратичное стандартное отклонение среднего балла по ОСКЭ-4 составило SD=7,05 SEm% в 2016 г., SD=5,61 SEm% — в 2017 г. и SD=3,95 SEm% — в 2018 г. По ОСКЭ-6 стандартное отклонение среднего балла составило SD=8,08 SEm% в 2016 г., SD=6,60 SEm% — в 2017 г. и SD=4,38 SEm% — в 2018 г., что также свидетельствует о минимальной вариабельности переменных. Проведенный анализ внутренней надежности ОСКЭ-4 и ОСКЭ-6 показал в обоих случаях высокую долю вероятности достижения конечных результатов по завершении этапа обучения и соответствия требуемым компетентностям.
На рис. 4 для
С целью получения обратной связи по применению планшета на экзамене, а также по процедуре проведения ОСКЭ-4 и ОСКЭ-6 было проведено онлайн-анкетирование экзаменаторов. Результаты показали, что 88,2±3,23% респондентов оценивают качество проведения ОСКЭ как «самое высокое» и 11,8±3,23% — как «высокое». Оснащенность ОСКЭ 82,4±3,81% респондентов оценивают как «очень высокую» и 11,8±3,23% — как «высокую». Удобство заполнения электронного чек-листа отметили как «очень высокое» 94,1±2,36% экзаменаторов и лишь один (5,9±2,36%) — как «высокое». Качество заданий на станциях 94,1±2,36% респондентов оценили как «очень высокое». Несмотря на то что ОСКЭ большинством отмечен как наиболее объективный клинический экзамен, были определены области для его улучшения. Например, рекомендовалось «стимулировать студентов к самостоятельной подготовке по ОСКЭ» и «повышать качество элементов стоматологического оснащения». Большинство экзаменаторов выражали полную удовлетворенность по процедуре проведения ОСКЭ. Использование электронных чек-листов на планшете для экзаменаторов было наиболее удобным способом при заполнении пунктов оценочного листа по сравнению с бумажной версией. Применение электронного чек-листа существенно облегчило сбор данных и внесение результатов в общую базу данных; упростило идентификацию экзаменуемых и обработку результатов по отдельным станциям. Безусловно, метод оценивания с помощью планшета имеет недостатки, которые могут быть связаны с качеством работы Интернета и владением экзаменатором навыками использования компьютерных приложений.
После завершения ОСКЭ-4 и ОСКЭ-6 обучающиеся (97,6±1,53%) проходили онлайн-анкетирование по удовлетворенности, из них 70,6±4,56% респондентов оценили качество проведения экзамена как «самое высокое», 25,3±4,35% — как «высокое» и 4,1±1,98% — как «среднее». Оснащение станций 69,4±4,61% респондентов отмечено как «самое высокое», 22,4±4,17% — как «высокое» и 8,2±2,74% — как «среднее». Качество заданий на экзамене 81,3±3,90% респондентов оценили как «самое высокое», 12,2±3,27% — как «высокое» и 6,1±2,39% — как «удовлетворительное». На вопрос, достаточно ли было времени на выполнение задания, 77,8±4,16% ответили «да» и 22,2±4,16% — «нет». Респонденты отмечают благоприятную среду в центре практических навыков для достижения клинической компетентности во время обучения и на экзамене. В качестве предложений по улучшению ОСКЭ они рекомендуют выделить дополнительные занятия для подготовки к ОСКЭ.
Данное исследование проведено с целью выявления слабых и сильных сторон ОСКЭ по специальности «стоматология». Сильными сторонами ОСКЭ по специальности «стоматология» являются: надежность и гибкость метода оценки компетентности обучающихся; обеспечение справедливой и объективной оценки; охват в оценке ряда компетенций; обеспечение стандартизованных условий для прохождения экзамена и заданий для всех экзаменуемых; соответствие учебной программе заданий на станциях; облегчение процедуры оценивания и обработки результатов при оценке с помощью планшета. Однако следует отметить и слабые стороны ОСКЭ: значительная нагрузка на экзаменатора при большом числе обучающихся; снижение внимания экзаменатора при длительном экзамене; возможность утечки информации среди экзаменуемых при наличии небольшого количества вариантов заданий на станциях. Проведенный анализ результатов ОСКЭ на IV и VI курсах показал эффективность, надежность, объективность и валидность метода оценивания. Ожидаемые результаты обучения, измеряемые с помощью ОСКЭ, соответствуют требуемому уровню компетентности обучающихся. Применение ОСКЭ на IV и VI курсах является целесообразным и соответствующим форматом экзамена, позволяющим определить результативность обучения и надежность инструментов, а также способствующим повышению качества подготовки специалистов.
Результаты исследования позволяют сделать следующие выводы:
1. Для обеспечения эффективного образовательного процесса на уровне бакалавриата по специальности «стоматология» и повышения надежности объективного структурированного клинического экзамена задания должны быть четкими, ориентированными на конечные результаты и позволяющими определить компетентность выпускника.
2. Выявление слабых сторон обучающихся в достижении компетентности по отдельным станциям позволяет внести коррективы в программу образовательного процесса, а именно обратить особое внимание на те компетенции, которые труднее всего осваиваются.
3. Создание благоприятной среды во время проведения ОСКЭ, включая средства измерения, снижение нагрузки на экзаменатора, способствует эффективному комплайенсу в достижении поставленных целей.
Авторы заявляют об отсутствии конфликта интересов.
The authors declare no conflicts of interest.
Сведения об авторах
Для корреспонденции: Кемелова Гульшат Сеймуратовна — Центр практических навыков, Карагандинский государственный медицинский университет; тел.: +7(701)590-8826; факс: +7(721)250-3930; e-mail: kemelova@kgmu.kz