$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Представленные результаты демонстрируют итоги применения протокола по совершенствованию курса «Стратегический менеджмент», интегрированного в 16-недельное соревнование. Результаты структурированы по точности реализации, качеству обучения, исходам на уровне студентов, исходам на уровне команд и предопределенным предупреждающим паттернам. Поскольку данные были получены от обычных образовательных групп с исторической контрольной группой, а не путем рандомизированного распределения, все результаты следует интерпретировать как выходные данные реализации и оценки в конкретном контексте, а не как причинно-следственное доказательство эффективности.
Точность реализации и качество обучения
Доступный набор данных образовательных записей включал 88 студентов в когорте исторического сравнения и 92 студентов в когорте протокола. Набор данных на уровне команд включал 22 команды из когорты сравнения и 23 команды из когорты протокола. После применения правила парного предварительного и последующего тестирования знаний для анализа прироста знаний были отобраны 79 студентов из когорты сравнения и 84 студента из когорты протокола.
Точность реализации протокола была проверена перед интерпретацией результатов обучения. Группа протокола выполнила 15 из 16 запланированных еженедельных мероприятий (93,8%), в то время как контрольная группа выполнила 13 из 16 (81,3%). Сессия по решению структурированного или комплексного кейса была проведена в группе протокола, но не входила в структуру исторического сравнения. В группе протокола 88 из 92 студентов выполнили все три задания конкурса, что составило 95,7%. В контрольной группе 18 из 88 студентов имели полные записи по трем сопоставимым проектным оценкам, что составило 20,5%; эти записи были сохранены только для описательного сравнения, поскольку в историческом курсе не была реализована полная последовательность конкурсных заданий. Обратная связь была предоставлена в течение 7 календарных дней для 243 из 268 работ группы протокола (90,7%) по сравнению с 49 из 66 работ контрольной группы (74,2%). Среднее время предоставления обратной связи составило 5,8 ± 1,9 дня и 8,4 ± 2,7 дня соответственно. Доля завершенных наблюдений составила 81,3% и 62,5%. Коэффициент внутриклассовой корреляции (ICC) для двух оценивающих в группе протокола при перекрывающемся субъективном скоринге составил 0,82, что превысило заданный порог 0,75. В целом группа протокола достигла 5 из 5 основных показателей точности реализации, тогда как контрольная группа достигла 2 из 5.
Показатели качества обучения были выше в когорте с использованием протокола. Взаимодействие в аудитории составило 3,70 ± 0,44 в когорте с протоколом и 3,15 ± 0,48 в контрольной когорте. Полнота разработки кейсов составила 4,08 ± 0,36 и 3,23 ± 0,42 соответственно. Соответствие заданий критериям оценки составило 4,01 ± 0,39 и 2,30 ± 0,51. Вовлеченность студентов в когорте с протоколом увеличилась на 0,42 ± 0,41 балла, что превысило заранее определенный порог значимости в 0,30 балла, в то время как в контрольной когорте прирост составил 0,07 ± 0,34 балла. Посещаемость была схожей в обеих когортах: 89,6% ± 5,8% и 89,1% ± 6,2%. В Таблице 5 обобщены данные показатели.
| Индикатор | Источник данных | Предопределенный порог | Историческая когорта сравнения | Когорта протокола | Интерпретация |
| Запланированное выполнение еженедельных мероприятий | Журнал реализации курса | ≥85% | 13/16 недель, 81,3% | 15/16 недель, 93,8% | Достигнуто в когорте протокола |
| Реализация на уровне предприятия или в формате структурированных кейс-сессий | Журнал взаимодействия с предприятием | ≥1 проведенных сессии | 0/1 сеанс, 0,0% | 1/1 сессия, 100,0% | Достигнуто в когорте протокола |
| Завершение задачи или заполнение привязанной записи о проекте | Записи о подаче материалов | ≥85% | 18/88 студентов, 20,5% | 88/92 студентов, 95,7% | Достигнуто в когорте протокола; исторические записи носят только описательный характер |
| Обратная связь предоставляется в течение 7 дней | Журнал обратной связи | ≥80% | 49/66 заявок, 74,2% | 243/268 заявок, 90,7% | Достигнуто в когорте протокола |
| Заполнение контрольного списка наблюдений | Формы наблюдения | ≥75% | 10/16 сессий, 62,5% | 13/16 сессий, 81,3% | Достигнуто в когорте по протоколу |
| Согласованность двух оценивающих | Баллы экспертов | ККИ ≥ 0,75 | Не требуется | ICC = 0,82 | Достигнуто в когорте по протоколу |
| Время обработки обратной связи | Журнал обратной связи | Предпочтительно среднее значение ≤7 дней | 8,4 ± 2,7 дня | 5,8 ± 1,9 дня | В пределах предпочтительного диапазона в когорте протокола |
| Взаимодействие в аудитории | Контрольный список наблюдений | Среднее значение ≥3,50 или прирост ≥0,30 | 3.15 ± 0.48 | 3.70 ± 0.44 | Более высокая концентрация в когорте протокола |
| Полнота дизайна исследования | Контрольный список по дизайну кейс-стади | Предпочтительно среднее значение ≥ 4,00 | 3.23 ± 0.42 | 4.08 ± 0.36 | Более высокий показатель в когорте по протоколу |
| Соответствие заданий критериям оценивания | Контрольный список по выравниванию | Среднее значение ≥ 4,00 | 2.30 ± 0.51 | 4.01 ± 0.39 | Достигнуто в когорте протокола |
| Повышение вовлеченности студентов | Посещаемость, журналы, пункты опроса | Увеличение ≥0,30 балла | +0.07 ± 0.34 | +0.42 ± 0.41 | Достигнуто в когорте протокола |
| Посещаемость | Журнал посещаемости | Описательный | 89.1% ± 6.2% | 89.6% ± 5.8% | Схожесть между когортами |
| Основное резюме точности реализации | Показатели реализации | Большинство основных пороговых значений достигнуто | достигнуто 2 из 5 пороговых значений | Достигнуты пороговые значения 5/5 | Протокол реализован в соответствии с планом |
Таблица 5: Репрезентативные показатели точности реализации и качества обучения. В этой таблице представлены репрезентативные результаты точности реализации и качества обучения для когорты исторического сравнения и когорты по протоколу, а также указано, были ли достигнуты заранее определенные операционные пороговые значения.
Рисунок 2 демонстрирует профиль точности реализации и качества обучения. На рисунке 2A показано выполнение запланированных еженедельных мероприятий. На рисунке 2B показано выполнение последовательности из трех заданий. На рисунке 2C показано предоставление обратной связи в течение 7 календарных дней. На рисунке 2D показаны взаимодействие в классе, полнота разработки кейса, соответствие заданий критериям оценки и прирост вовлеченности студентов. На рисунке 2E показано завершение наблюдений и завершение корпоративных или структурированных сессий по кейсам. Показатели точности, выраженные в процентах, и индикаторы обучения, основанные на шкалах, следует интерпретировать в рамках соответствующих шкал измерения.

Рисунок 2: Профиль точности реализации и качества обучения. На этом рисунке обобщены показатели точности реализации и качества обучения для когорты исторического сравнения и когорты протокола. (A) Выполнение запланированных еженедельных мероприятий. (B) Завершение полного задания или сопоставимого проекта, с разграничением полной последовательности из трех заданий в когорте протокола и сопоставимых записей проектов в когорте исторического сравнения. (C) Обратная связь, полученная в течение 7 календарных дней; время обработки обратной связи приведено в качестве дополнительной информации. (D) Показатели качества обучения, включая взаимодействие в классе, полноту разработки кейсов, соответствие заданий критериям оценивания и прирост вовлеченности студентов. (E) Заполнение контрольного списка наблюдений и реализация сессий по корпоративным или структурированным кейсам. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты обучения для студентов
Результаты на уровне студентов анализировались отдельно от результатов соревнований на уровне команд. Исходные показатели знаний составили 64,18 ± 8,74 в когорте протокола и 62,37 ± 8,91 в контрольной когорте, при этом небольшая исходная разница составила 1,81 балла (d = 0,21). Показатели знаний после курса составили 71,08 ± 8,58 и 66,41 ± 9,06, с разницей в 4,67 балла (d = 0,53). Прирост знаний составил 6,90 ± 5,41 балла и 4,04 ± 5,26 балла, с разницей в 2,86 балла (d = 0,54). Когорта протокола превысила заранее определенный порог прироста знаний в 5 баллов.
Показатели индивидуального анализа клинических случаев в конце семестра составили 82.31 ± 7.06 в основной группе (группе протокола) и 76.42 ± 7.38 в контрольной группе, разница составила 5.89 балла (d = 0.82). Этот результат интерпретировался как показатель успеваемости по окончании курса, а не как парный прирост, поскольку истинная исходная оценка анализа случаев не проводилась. Уровень удовлетворенности составил 3.66 ± 0.58 и 3.34 ± 0.62 (d = 0.53). Воспринимаемая практическая значимость составила 3.91 ± 0.55 и 3.41 ± 0.59 (d = 0.88). Давление конкуренции было выше в основной группе — 3.12 ± 0.76 по сравнению с 2.48 ± 0.71 (d = 0.87), однако высокая нагрузка была отмечена 13 из 92 студентов основной группы, что соответствует 14.1%, ниже заранее определенного предупредительного порога в 20%. Итоговый балл за курс рассматривался как вторичный образовательный результат и составил 87.20 ± 6.10 в основной группе и 84.80 ± 6.70 в контрольной группе (d = 0.37). В Таблице 6 обобщены результаты на уровне отдельных студентов и команд.
| Результат | Уровень | Историческая контрольная группа | Группа протокола | Разница | Размер эффекта | Интерпретация |
| Доступная выборка образовательных записей | Студент | n = 88 | n = 92 | — | — | Используемые обезличенные записи о курсе |
| Парная выборка анализа знаний | Студент | n = 79 | n = 84 | — | — | Студенты с исходными и итоговыми показателями знаний по курсу |
| Исходный показатель знаний | Студент | 62.37 ± 8.91 | 64.18 ± 8.74 | 1.81 | 0.21 | Незначительная исходная разница |
| Итоговый показатель знаний по курсу | Студент | 66.41 ± 9.06 | 71.08 ± 8.58 | 4.67 | 0.53 | Выше в группе протокола |
| Прирост знаний | Студент | 4.04 ± 5.26 | 6.90 ± 5.41 | 2.86 | 0.54 | Группа протокола превысила порог значимости ≥5 баллов |
| Индивидуальный балл анализа кейса | Студент | 76.42 ± 7.38 | 82.31 ± 7.06 | 5.89 | 0.82 | Превышен порог значимости анализа кейса ≥3 баллов |
| Прирост вовлеченности студентов | Студент | +0.07 ± 0.34 | +0.42 ± 0.41 | +0.35 | 0.93 | Превышен порог значимости ≥0.30 баллов |
| Показатель удовлетворенности | Студент | 3.34 ± 0.62 | 3.66 ± 0.58 | 0.32 | 0.53 | Выше в группе протокола |
| Воспринимаемая практическая значимость | Студент | 3.41 ± 0.59 | 3.91 ± 0.55 | 0.5 | 0.88 | Выше в группе протокола |
| Показатель давления конкуренции | Студент | 2.48 ± 0.71 | 3.12 ± 0.76 | 0.64 | 0.87 | Более высокое давление в группе протокола |
| Давление из-за высокой нагрузки | Студент | Не оценивалось как давление конкуренции | 13/92, 14.1% | — | — | Ниже предупредительного порога 20% |
| Итоговый балл по курсу | Студент | 84.80 ± 6.70 | 87.20 ± 6.10 | 2.4 | 0.37 | Вторичный образовательный результат |
| Количество команд | Команда | n = 22 | n = 23 | — | — | Анализ на уровне команд представлен отдельно |
| Опыт прохождения раунда принятия решений | Команда | 0.77 ± 0.81 раундов | 5.09 ± 0.79 раундов | 4.32 | Не оценивалось | Индикатор опыта внедрения |
| Балл за Задание 1 или соответствующий диагноз | Команда | 69.84 ± 6.45 | 72.18 ± 6.28 | 2.34 | 0.37 | Умеренная разница на уровне команд |
| Балл за Задание 2 или соответствующее решение | Команда | 71.09 ± 6.12 | 73.52 ± 5.91 | 2.43 | 0.4 | Умеренная разница на уровне команд |
| Балл за Задание 3 или соответствующую финальную защиту | Команда | 72.71 ± 6.36 | 77.20 ± 6.04 | 4.49 | 0.72 | Наибольшая разница на уровне команд |
| Итоговый балл команды | Команда | 71.21 ± 5.81 | 74.30 ± 5.52 | 3.09 | 0.55 | Средняя разница на уровне команд |
| Критерий стратегического диагноза | Команда | 14.60 ± 1.80 | 15.60 ± 1.70 | 1 | — | Критерий рубрики финальной защиты |
| Критерий стратегического выбора | Команда | 17.90 ± 2.20 | 19.10 ± 2.10 | 1.2 | — | Критерий рубрики финальной защиты |
| Критерий осуществимости внедрения | Команда | 14.40 ± 1.90 | 15.50 ± 1.80 | 1.1 | — | Критерий рубрики финальной защиты |
| Критерий инновационности | Команда | 10.80 ± 1.60 | 11.50 ± 1.50 | 0.7 | — | Критерий рубрики финальной защиты |
| Критерий использования доказательств | Команда | 7.10 ± 1.00 | 7.50 ± 0.90 | 0.4 | — | Критерий рубрики финальной защиты |
| Критерий устной защиты | Команда | 7.91 ± 1.10 | 8.00 ± 1.00 | 0.09 | — | Критерий рубрики финальной защиты |
| Средний вклад коллег | Команда | 3.72 ± 0.41 | 3.91 ± 0.36 | 0.19 | 0.49 | Отсутствие серьезных сбоев в командном процессе |
| Команды с дисбалансом вклада | Команда | 4/22, 18.2% | 3/23, 13.0% | −5.2 процентных пункта | — | Отсутствие систематического паттерна дисбаланса |
| Распределение наград | Команда | Не применимо | 10 нет; 8 третьих; 2 вторых; 3 первых | — | — | Только для группы протокола |
| Паттерн предупреждения о завышении баллов | Команда | Не применимо | 2/23 команды, 8.7% | — | — | Отмечено для устранения проблем |
Таблица 6: Репрезентативные показатели на уровне студентов и команд. В данной таблице представлены репрезентативные показатели на уровне студентов и команд, включая доступную выборку из образовательных записей, парную выборку для анализа знаний, баллы за проверку знаний, прирост знаний, индивидуальный балл за анализ кейса, уровень вовлеченности, удовлетворенность, воспринимаемую практическую значимость, нагрузку, итоговый балл за курс, баллы за командные задания, баллы по критериям оценки итоговой защиты, вклад коллег, распределение наград и индикаторы предупреждений.
Рисунок 3 представлены результаты студенческого уровня с оценками неопределенности, где это применимо. Рисунок 3A представлены показатели знаний до и после прохождения курса. Рисунок 3B свидетельствует о приобретении знаний. Рисунок 3C демонстрирует эффективность анализа отдельных случаев. Рисунок 3D демонстрирует рост вовлеченности, удовлетворенности и воспринимаемой практической значимости. Рисунок 3E показывает итоговый балл за курс в качестве вторичного исхода.

Рисунок 3: Репрезентативные результаты обучения на уровне студентов.На данном рисунке представлены результаты на индивидуальном уровне отдельно от результатов командных соревнований. (A) Исходные баллы и баллы после курса по знаниям в области стратегического менеджмента. (B) Прирост знаний от исходного до итогового оценивания после курса. (C) Индивидуальный балл за анализ кейса в конце семестра. (D) Прирост вовлеченности и показатели восприятия по данным опроса, включая удовлетворенность и воспринимаемую практическую значимость; там, где это необходимо, используются отдельные шкалы. (E) Итоговый балл за курс как вторичный образовательный результат и высокое давление рабочей нагрузки в когорте протокола относительно предопределенного предупредительного порога. Значения представлены как mean ± SD там, где указаны значения ±, а планки погрешностей соответствуют SD. На графике (E) пунктирная справочная линия указывает на предопределенный предупредительный порог высокой рабочей нагрузки в 20%. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты соревнований на уровне команд
Результаты на уровне команд анализировались отдельно от результатов на уровне студентов. Для описательного отчета записи о проектах контрольной когорты были сопоставлены с аналогичными точками оценки, когда таковые имелись, однако эти записи не означали завершения всей интегрированной последовательности конкурса. Прохождение раундов принятия решений рассматривалось как индикатор реализации программы, а не как оценка эффекта обучения. Когорта основного протокола прошла 5.09 ± 0.79 раундов принятия решений, в то время как контрольная когорта прошла 0.77 ± 0.81 сопоставимых раунда.
В группе протокола средний балл за Задание 1 составил 72.18 ± 6.28, средний балл за Задание 2 — 73.52 ± 5.91, а средний балл за Задание 3 — 77.20 ± 6.04. Соответствующие сопоставимые баллы в контрольной группе составили 69.84 ± 6.45, 71.09 ± 6.12 и 72.71 ± 6.36. Итоговый командный балл составил 74.30 ± 5.52 в группе протокола и 71.21 ± 5.81 в контрольной группе. Показатели критериев оценки итоговой защиты или сопоставимого итогового проекта были следующими: стратегическая диагностика — 15.60 ± 1.70 и 14.60 ± 1.80; стратегический выбор — 19.10 ± 2.10 и 17.90 ± 2.20; осуществимость реализации — 15.50 ± 1.80 и 14.40 ± 1.90; инновационность — 11.50 ± 1.50 и 10.80 ± 1.60; использование доказательств — 7.50 ± 0.90 и 7.10 ± 1.00; и устная защита — 8.00 ± 1.00 и 7.91 ± 1.10 соответственно.
Распределение наград было представлено только для протокольной когорты, поскольку в контрольной когорте не использовалась полная структура соревнований с присуждением наград. В протокольной когорте 10 команд не получили наград, 8 получили третий приз, 2 получили второй приз и 3 получили первый приз. Средний вклад сверстников составил 3,91 ± 0,36 в протокольной когорте и 3,72 ± 0,41 в контрольной когорте. Дисбаланс вкладов был выявлен в 3 из 23 команд протокольной когорты и в 4 из 22 команд контрольной когорты. Паттерн предупреждения о завышении баллов был выявлен в 2 из 23 команд протокольной когорты, что соответствует 8,7%.
Рисунок 4 представляет результаты на уровне команд и паттерны предупреждений. Рисунок 4A демонстрирует баллы команд за Задание 1, Задание 2 и Задание 3. Рисунок 4B показывает баллы по критериям рубрики итоговой защиты. Рисунок 4C отображает только распределение наград по когортам протоколов. Рисунок 4D показывает случаи предупреждений о завышении баллов. Рисунок 4E демонстрирует баланс вклада участников и количество случаев дисбаланса вклада.

Рисунок 4: Результаты соревнований на уровне команд и паттерны предупреждений.На данном рисунке представлены результаты на уровне команд отдельно от результатов обучения на уровне студентов. (A) Баллы команд на разных этапах выполнения заданий: стратегическая диагностика (Задание 1), стратегическое решение (Задание 2) и финальная защита (Задание 3); для когорты исторического сравнения, где это возможно, указаны соответствующие баллы по проектам. (B) Баллы по критериям рубрики финальной защиты, включая стратегическую диагностику, стратегический выбор, осуществимость реализации, инновационность, использование доказательств и устную защиту. (C) Распределение наград только для когорты протокола, поскольку в когорте исторического сравнения не использовалась полная структура соревнований с наградами. (D) Паттерн предупреждения об «инфляции баллов», определяемый как высокая эффективность финальной защиты при отсутствии поддерживающей диагностической базы или доказательств индивидуального обучения. (E) Балл за вклад сверстников и количество случаев дисбаланса вклада представлены в качестве отдельных индикаторов на уровне команд. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Субоптимальные паттерны и индикаторы для поиска и устранения неисправностей
У двух из 23 команд протокольной когорты наблюдался заранее определенный паттерн предупреждения о завышении баллов. Эти команды имели относительно высокие итоговые баллы за защиту, но более низкие диагностические баллы по Заданию 1 и ниже среднего прирост индивидуальных знаний. Данный паттерн был отмечен для последующего анализа в следующем цикле курса, а не интерпретирован как свидетельство улучшения обучения. Значительного эффекта потолка обнаружено не было, так как исходные баллы за знания были ниже 85 из 100, а исходный уровень удовлетворенности — ниже 4,50 из 5. Посещаемость в когортах была схожей, и систематического дисбаланса вклада членов команд не наблюдалось, хотя три команды протокольной когорты потребовали мониторинга.
В целом, репрезентативные результаты показали, что данный протокол позволил получить интерпретируемые данные на трех уровнях: точность реализации, доказательства обучения на уровне студентов и показатели эффективности соревнований на уровне команд. Случаи, вызвавшие предостережения, подтвердили применимость протокола для мониторинга курса, поиска и устранения неисправностей, а также последующей доработки курса.
Обезличенный набор данных, поддерживающий данное исследование, был размещен на сайте figshare.com и доступен по адресу https://doi.org/10.6084/m9.figshare.33094931. Набор данных включает записи на уровне студентов, записи о соревнованиях на уровне команд, показатели реализации, записи о потоке участников, записи аудита пропущенных данных и записи баллов оценщиков. Идентификаторы студентов, записи о согласии, файлы связей и идентифицируемые текстовые комментарии в свободной форме не включены.
Дополнительная таблица S1: Обучение экспертов, согласованность оценок и процедура выравнивания баллов. В данной таблице представлены сведения о назначении экспертов, проверке независимости, ознакомлении с критериями оценки, калибровочном оценивании, проверке согласованности оценок, правиле разрыва в баллах, процедуре выравнивания, аудите ввода данных, блокировке баллов и процедуре архивирования.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S2: Матрица устранения неполадок при отклонениях от протокола и неоптимальном выполнении.В этой таблице перечислены отклонения от протокола и паттерны неоптимального выполнения, включая триггерные правила, корректирующие действия, необходимые записи и примечания по интерпретации.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S3: Структура набора данных и словарь переменных для деидентифицированного образовательного набора данных.В этой таблице определены переменные на уровне студента, команды и сессии занятия, включая коды переменных, описания, типы данных, диапазоны кодирования, источники данных и правила обработки пропущенных данных.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный файл 1: Операционные шаблоны, оценочные материалы и рабочая книга с деидентифицированным набором данных.Данный дополнительный файл содержит операционные шаблоны, оценочные материалы, формы подсчета баллов, пункты опроса, проверку дизайна кейсов, правила обработки пропущенных данных, структуру рабочей книги с деидентифицированным набором данных, журнал очистки, шаблон резюме анализа и запись о контроле версий, используемые для обеспечения воспроизводимости.Пожалуйста, нажмите здесь, чтобы скачать этот файл.