$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Включение участников, полнота данных и надежность показателей
Для участия была приглашена первоначальная когорта из 204 студентов всех учебных групп, из которых 198 человек дали свое согласие. Позже четырнадцать случаев были исключены по причине прекращения обучения в течение периода реализации протокола или неполной привязки данных между записями наблюдений, рефлексии и платформы. В результате окончательная аналитическая выборка составила 184 студента. Характеристики участников, еженедельные показатели завершения и общая полнота данных подробно представлены в Таблице 3.
В ходе 4-недельной программы было проведено наблюдение за 24 учебными занятиями, что позволило сформировать синхронизированную запись аналитики обучения для каждого участника. Из 736 ожидаемых рефлексивных отчетов 701 был представлен в течение 72-часового окна, 18 были представлены с опозданием, и 17 отсутствовали. В итоге 171 студент успешно и своевременно выполнил все еженедельные рефлексивные задания. Данные аналитики обучения были полностью извлечены для 184 итоговых участников после исключения учетных записей преподавателей, дублирующих записей и действий, совершенных за пределами установленного временного окна.
Кодирование результатов наблюдений оставалось стабильным на протяжении всего периода протокола. Межэкспертная надежность для шести поведенческих показателей при наблюдении за классом продемонстрировала значения каппа Коэна в диапазоне от 0,76 до 0,84, при этом общая согласованность в ходе тестов на дрифт превышала 86%. Для баллов рефлексивного выражения коэффициенты внутриклассовой корреляции (ICC) по четырем измерениям варьировались от 0,82 до 0,89. В таблице 4 представлены описательная статистика и показатели надежности для основных переменных исследования.
Наблюдение за поведением в классе
В ходе 4-недельного протокола наблюдалось постепенное улучшение поведения учащихся в классе. Как показано на рисунке 2, показатели концентрации внимания на задании, вербального участия и сотрудничества со сверстниками на 4-й неделе были значительно выше по сравнению с начальными неделями. В частности, вербальное участие увеличилось с 0.18 ± 0.09 на первой неделе до 0.24 ± 0.10 к четвертой неделе (p < 0.05). Сотрудничество со сверстниками аналогично выросло с 0.29 ± 0.11 до 0.35 ± 0.12 (p = 0.006). Концентрация внимания на задании продемонстрировала высокозначимое улучшение, изменившись с 0.71 ± 0.12 до 0.76 ± 0.11 (p < 0.001).
Напротив, ведение конспектов или использование устройств, сосредоточенное на выполнении задания, демонстрировало лишь незначительный еженедельный прирост, который не достиг статистической значимости (p = 0.08). Поведение, направленное на поиск помощи, оставалось стабильно низким на протяжении всего периода наблюдения, не проявляя значимого влияния фактора времени (p = 0.21). Отвлекаемость от задания существенно снизилась с 0.14 ± 0.08 на 1-й неделе до 0.11 ± 0.07 на 4-й неделе (p = 0.03). В целом, композитный индекс наблюдаемой вовлеченности в учебном процессе (Observed Classroom Engagement Index) значимо вырос с 0.52 ± 0.10 в течение первой недели до 0.58 ± 0.11 к финальной неделе (p < 0.001).
Рефлексивные высказывания в ходе 4-недельного протокола
Характер рефлексивных высказываний менялся на протяжении периода исследования, хотя степень изменений различалась по его отдельным аспектам. Как показано на рисунке 3, общий балл рефлексии увеличился с первой недели до 7,2 ± 1,9 к четвертой неделе (p < 0,001).
Аналитическая глубина была заметно выше в конце 4-й недели по сравнению с первыми двумя неделями (p < 0.001). Аналогичным образом, социальный и просоциальный смысл вырос с 1.08 ± 0.55 до 1.54 ± 0.60 (p < 0.001), а саморегулирующая ориентация увеличилась с 1.42 ± 0.63 до 1.69 ± 0.65 (p < 0.05). Напротив, дескриптивная специфичность продемонстрировала слабую тенденцию к росту — с 2.14 ± 0.57 до 2.24 ± 0.55, что не было статистически значимым (p = 0.09).
Средний объем присланных работ по всему протоколу составил от 223 до 231 слова на одну запись. Из 736 ожидаемых рефлексивных отчетов 18 были представлены с опозданием, а 17 отсутствовали; записи с низким содержанием информации, а также ответы, в которых отсутствовали пояснения причин контекста или описание будущих действий/социального воздействия, были отмечены в базе данных. Эти случаи были сохранены в качестве индикаторов осуществимости и исключались только из моделей качества рефлексии за конкретную неделю, если соответствующий балл не мог быть присвоен.
Паттерны аналитики обучения в течение периода исследования
Метрики активности на платформе продемонстрировали значительную индивидуальную вариативность на протяжении 4-недельного окна, как показано на Рисунке 4.
За весь период среднее количество активных дней студентов на платформе составило 9.7 ± 2.4. Среднее число просмотров различных ресурсов составило 27.3 ± 8.6, при этом студенты открывали в среднем 0.81 ± 0.14 от общего количества назначенных ресурсов. Кроме того, среднее количество ответов в обсуждениях составило 4.8 ± 2.7. Средний показатель своевременности сдачи заданий и средний уровень завершения просмотра видео составили 0.86 ± 0.18 и 0.79 ± 0.17 соответственно. Доля позднего ночного доступа к платформе в среднем составила 0.12 ± 0.09.
Примечательно, что ответы в обсуждениях и своевременность сдачи заданий продемонстрировали более выраженные положительные корреляции с другими показателями участия, несмотря на широкий разброс баллов за своевременность.
Перекрестный анализ наблюдений, рефлексии и данных об обучении
Три источника данных продемонстрировали значимые, хотя и неоднородные, взаимосвязи. Как показано на Рисунке 5, студенты с более высокими индексами наблюдаемой вовлеченности в занятия, как правило, набирали больше баллов за общую рефлексию. В модели с поправкой на раздел наблюдаемая вовлеченность в занятия была положительным предиктором общего балла рефлексии (β = 0.34, p < 0.001).
Среди переменных аналитики обучения ответы в дискуссиях и своевременность выполнения заданий значимо и положительно коррелировали с качеством рефлексии. Как подробно показано в Таблице 5, ответы в дискуссиях положительно предсказывали общий балл рефлексии (β = 0.19, p = 0.013), так же как и своевременность выполнения заданий (β = 0.17, p = 0.028). Хотя общее количество просмотров ресурсов и доля открытых назначенных ресурсов изначально демонстрировали положительную связь, эти корреляции значительно ослабли после поправки на вмешивающиеся переменные. Доля доступа в ночное время не показала значимой связи с общим баллом рефлексии (p = 0.18).
Данные также выявили слабые перекрестные корреляции между наблюдаемым поведением в классе и конкретными действиями на платформе; например, просмотры исходных ресурсов лишь незначительно коррелировали с индексом вовлеченности в классе (Observed Classroom Engagement Index). Кроме того, студенты, которые чаще участвовали в групповых дискуссиях, демонстрировали более высокий уровень вербального общения, в то время как студенты с более высоким уровнем поведенческой регуляции реже откладывали сдачу заданий на потом.
Изменения просоциальных намерений
Просоциальные намерения продемонстрировали значительный рост от исходного уровня к моменту проведения итогового теста. Средний показатель просоциальных намерений увеличился с 3,61 ± 0,53 на исходном этапе до 3,84 ± 0,50 после 4-недельного протокола (p < 0,001). Рисунок 6 иллюстрирует парное распределение и скорректированные взаимосвязи.
В окончательной скорректированной модели более высокий индекс наблюдаемой вовлеченности в учебном процессе предсказывал более значительный рост просоциальных намерений после выполнения протокола по сравнению с исходным показателем (β = 0.21, p < 0.05). Среди рефлексивных аспектов наиболее существенное независимое влияние на просоциальные намерения после протокола оказало социальное-просоциальное значение (β = 0.29, p < 0.001). Хотя вербальное участие демонстрировало положительную нескорректированную корреляцию с просоциальными результатами после тестирования, эта связь утратила статистическую значимость после учета исходных значений (p = 0.09). Наконец, частота доступа в позднее ночное время осталась несвязанной с просоциальными намерениями после выполнения протокола (p = 0.27).
Наблюдаемые ограничения реализации и нулевые результаты
В ходе реализованного исследования было получено несколько субоптимальных, но информативных результатов, которые не привели к остановке протокола. Ни одна сессия не потребовала исключения из-за значения каппы наблюдателя ниже 0.70, все поля аналитики обучения остались доступными после окончательного экспорта, и ни одна проблема с видимостью не превысила заранее определенный порог отсутствующих данных. Наблюдаемые ограничения были сосредоточены на заполнении рефлексий, а также на нулевых или незначительных поведенческих результатах: 18 рефлексий были представлены с опозданием, 17 ожидаемых рефлексий отсутствовали, ведение заметок по заданию/использование устройств продемонстрировали лишь незначительный рост (p = 0.08), поиск помощи не показал значимого временного эффекта (p = 0.21), а доступ в позднее ночное время не был связан с общим баллом за рефлексию или просоциальными намерениями после выполнения протокола.
Эти результаты были сохранены, поскольку они описывают осуществимость реализации и граничные условия протокола. Сведения о поздних или отсутствующих рефлексиях были представлены в сводках по потоку участников и полноте данных; незначительные или нулевые ассоциации были указаны без выборочного исключения; а процедуры устранения неполадок в разделе «Протокол» определяют, как при последующих реализациях следует обрабатывать гипотетические сбои, такие как дрейф наблюдателя, ограничение видимости или отсутствие полей в LMS.
Обезличенные файлы анализа, словарь данных, скрипты анализа, пустые формы кодирования, вопросы для рефлексии, рубрика рефлексии и опросник просоциальных намерений были размещены в Zenodo: https://zenodo.org/records/20607517. Идентифицируемые необработанные видеозаписи из классных комнат, имена, институциональные идентификаторы и нередактированные тексты рефлексии не были опубликованы в открытом доступе.

Рисунок 1: Схема исследования и протокол интеграции данных из нескольких источников. (A) Набор участников, сбор информированного согласия и присвоение идентификаторов исследования для двух курсов бакалавриата и шести учебных групп. (B) 4-недельный цикл сбора данных: еженедельное наблюдение в аудитории, задание по рефлексивному письму и синхронизированное окно захвата аналитики обучения. (C) Три параллельных потока данных: поведенческое наблюдение в аудитории, оценка рефлексивных высказываний и обезличенные записи с платформы обучения. (D) Формирование основного набора данных на уровне участников и базы данных в длинном формате на недельном уровне, что позволило получить основные результаты исследования: индекс наблюдаемой вовлеченности в аудитории, оценку рефлексии и просоциальную интенцию. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 2: Еженедельные изменения наблюдаемого поведения в классе в течение 4-недельного протокола. (A) Концентрация на задании. (B) Вербальное участие. (C) Взаимодействие со сверстниками. (D) Ведение записей по заданию или использование устройств для выполнения задания. (E) Отвлечение от задания. (F) Обращение за помощью. Значения представляют собой еженедельные показатели доли на уровне каждого учащегося, полученные в результате интервальных наблюдений в классе. Точки обозначают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 3: Еженедельные изменения рефлексивного выражения в четырех рефлексивных работах. (A) Описательная специфичность. (B) Аналитическая глубина. (C) Саморегулирующая ориентация. (D) Социально-просоциальное значение. (E) Общий балл рефлексии. Баллы рефлексии присваивались двумя «слепыми» кодировщиками с использованием заранее определенной рубрики. Точки обозначают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 4: Распределение показателей аналитики обучения в течение 4-недельного окна исследования. (A) Активные дни на обучающей платформе. (B) Просмотры ресурсов. (C) Доля открытых назначенных ресурсов. (D) Опубликованные ответы в обсуждениях. (E) Средний показатель завершения просмотра видео. (F) Своевременность выполнения заданий. (G) Доля доступа в ночное время. Все значения были рассчитаны за тот же 4-недельный период, который использовался для наблюдения в классе и рефлексивного письма. Скрипичные диаграммы показывают распределения на уровне студентов, а диаграммы размаха указывают медианы и межквартильные размахи. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 5: Связи между наблюдаемой вовлеченностью в занятия, рефлексивным выражением и выбранными показателями аналитики обучения. (A) Связь между индексом наблюдаемой вовлеченности в занятия и общим баллом рефлексии. (B) Связь между количеством опубликованных ответов в дискуссиях и общим баллом рефлексии. (C) Связь между своевременностью сдачи заданий и общим баллом рефлексии. (D) Связь между вербальным участием и общим баллом рефлексии. Линии тренда представляют аппроксимированные линейные связи; затененные области указывают 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 6: Изменение просоциальных намерений и их связь с вовлеченностью в учебный процесс и рефлексивным смыслом. (A) Парное распределение показателей просоциальных намерений на исходном этапе и после завершения протокола. Линии соединяют парные показатели до и после воздействия для одного и того же студента. (B) Связь между наблюдаемым индексом вовлеченности в учебный процесс и просоциальными намерениями после протокола с поправкой на исходный показатель. (C) Связь между социально-просоциальным смыслом и просоциальными намерениями после протокола. (D) Связь между вербальным участием и просоциальными намерениями после протокола. Затененные области на панелях B-D указывают на 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Таблица 1: Индикаторы наблюдения за учащимися в классе и правила кодирования.В таблице подробно описаны операциональные определения и критерии кодирования для таких показателей, как сосредоточенность на задаче, вербальное участие, сотрудничество со сверстниками, ведение записей или использование устройств по теме задания, отвлечение от задачи и поиск помощи. Окно кодирования продолжительностью 70 мин, цикл «сканирование 20 с / запись 10 с», процедура кластерного сканирования, правило отсутствия видимости и формула OCEI описаны в разделе «Протокол». Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 2: Система оценки рефлексивного выражения, примеры уровней баллов и определения переменных аналитики обучения. В таблице представлена рубрика оценки рефлексивных текстов, включая примеры баллов 0, 1, 2 и 3 для каждого рефлексивного измерения, а также операционные определения извлеченных переменных аналитики обучения. Рефлексивные компоненты включают описательную специфичность, аналитическую глубину, саморегулирующую ориентацию, социально-просоциальное значение, общий балл рефлексии, количество слов и статус подачи. Аналитика обучения включает активные дни, просмотры ресурсов, долю открытых назначенных ресурсов, количество опубликованных ответов в обсуждениях, средний показатель завершения просмотра видео, пунктуальность выполнения заданий и долю ночного доступа. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 3: Характеристики участников, поток включения и полнота данных.В таблице обобщены данные о соответствии участников критериям отбора, уровне согласия, критериях исключения, конечном размере выборки и полноте данных по трем источникам. Приводятся исходные демографические характеристики, а также количество ожидаемых рефлексивных записей, своевременных заявок, несвоевременных заявок, пропущенных рефлексий и успешно извлеченных данных образовательной аналитики. Значения представлены в виде n (%), если не указано иное. Округление может привести к тому, что сумма процентов не будет точно равна 100%. Согласно протоколу, несвоевременные рефлексии архивируются, но исключаются из анализа рефлексий по конкретным неделям. Полное извлечение данных образовательной аналитики означает успешное получение деидентифицированных записей за период исследования после удаления учетных записей преподавателей, дублирующих записей и событий, выходящих за пределы временного окна. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 4: Описательная статистика и показатели надежности тестов основных переменных исследования. В таблице представлены средние значения, стандартные отклонения и индексы надежности по неделям для наблюдаемого поведения в классе, рефлексивного выражения, аналитики обучения и просоциальных намерений. Надежность данных наблюдений в классе оценивается с помощью каппы Коэна. Надежность оценки рефлексии представлена в виде коэффициентов внутриклассовой корреляции (ICC) для текстов с двойным оцениванием. Внутренняя согласованность показателя просоциальных намерений приведена с использованием α Кронбаха. Переменные аналитики обучения рассчитаны за тот же 4-недельный период, который использовался для наблюдений и рефлексии. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 5: Многофакторные взаимосвязи между наблюдаемым вовлечением в учебный процесс, рефлексивным выражением, аналитикой обучения и просоциальными намерениями. В таблице подробно описаны логические модели, использованные в основных анализах. Представлены многофакторные предикторы общего балла рефлексии, скорректированные предикторы просоциальных намерений после протокола (с контролем исходных уровней) и выбранные нескорректированные взаимосвязи. Значения β представляют собой нестандартизированные коэффициенты регрессии. Все многофакторные модели скорректированы по разделению на группы. Для всех оценок указаны стандартные ошибки (SE), 95% доверительные интервалы (CI) и значения p. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.