$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Teilnahmeberechtigung, Datenvervollständigung und Zuverlässigkeit der Bewertungen
Zunächst wurde eine Kohorte von 204 Studierenden aus allen Kursabschnitten zur Teilnahme eingeladen, woraufhin 198 Personen ihre Einwilligung gaben. 14 Fälle wurden anschließend aufgrund eines Kursausstiegs während des Erhebungszeitraums oder unvollständiger Datenverknüpfung zwischen Beobachtungs-, Reflexions- und Plattformdatensätzen ausgeschlossen. Daher umfasste die endgültige Stichprobe für die Analyse 184 Studierende. Die Merkmale der Teilnehmenden, die wöchentlichen Abschlussraten sowie die Gesamtvervollständigung der Daten sind in Tabelle 3 dargestellt.
Während des vierwöchigen Programms wurden 24 Unterrichtsstunden beobachtet, wodurch für jeden Teilnehmer eine synchronisierte Lernanalyse-Datensammlung entstand. Von den erwarteten 736 reflektierenden Berichten wurden 701 innerhalb des 72-Stunden-Zeitfensters eingereicht, 18 verspätet abgegeben und 17 fehlten vollständig. Letztendlich schlossen 171 Studierende alle wöchentlichen Reflexionen pünktlich ab. Nach Ausschluss von Dozentenkonten, doppelten Einträgen und Aktivitäten außerhalb des Zeitfensters wurden die Lernanalyse-Daten vollständig für die verbliebenen 184 Teilnehmer extrahiert.
Die Beobachtungskodierung blieb während des gesamten Protokollzeitraums äußerst stabil. Die Interrater-Reliabilität für die sechs Verhaltensindizes der Klassenraumbeobachtung zeigte Cohen’s-Kappa-Werte zwischen 0,76 und 0,84, wobei die Gesamtübereinstimmung während der Drifttests 86 % überstieg. Bei den Bewertungen für die reflektierende Ausdrucksweise variierten die Intraklassenkorrelationskoeffizienten (ICC) über die vier Dimensionen hinweg zwischen 0,82 und 0,89. Tabelle 4 zeigt die deskriptiven Statistiken und Reliabilitätsindizes für die primären Untersuchungsvariablen.
Klassenzimmer-Verhaltensbeobachtung
Die beobachteten Verhaltensweisen im Klassenzimmer zeigten im Verlauf des vierwöchigen Protokolls eine schrittweise Verbesserung. Wie in Abbildung 2 dargestellt, waren die Aufmerksamkeit während der Unterrichtsarbeit, die verbale Beteiligung und die Zusammenarbeit unter Mitschülern in der vierten Woche deutlich höher als in den Anfangswochen. Insbesondere stieg die verbale Beteiligung von 0,18 ± 0,09 in der ersten Woche auf 0,24 ± 0,10 in der vierten Woche an (p < 0,05). Die Zusammenarbeit unter Mitschülern erhöhte sich ebenfalls von 0,29 ± 0,11 auf 0,35 ± 0,12 (p = 0,006). Die Aufmerksamkeit während der Unterrichtsarbeit zeigte eine sehr signifikante Verbesserung und stieg von 0,71 ± 0,12 auf 0,76 ± 0,11 an (p < 0,001).
Umgekehrt zeigte die aufgabenbezogene Notizennahme oder Gerätenutzung nur geringfügige wöchentliche Zunahmen, die keine statistische Signifikanz erreichten (p = 0,08). Das Hilfe suchende Verhalten blieb während des gesamten Beobachtungszeitraums konstant niedrig und zeigte keinen signifikanten Zeiteffekt (p = 0,21). Ablenkungen abseits der Aufgabe nahmen signifikant von 0,14 ± 0,08 in Woche 1 auf 0,11 ± 0,07 in Woche 4 ab (p = 0,03). Insgesamt stieg der zusammengesetzte beobachtete Index für Klassenraum-Engagement signifikant von 0,52 ± 0,10 in der ersten Woche auf 0,58 ± 0,11 in der letzten Woche an (p < 0,001).
Reflektierende Äußerungen während des vierwöchigen Protokolls
Die reflektierenden Äußerungen entwickelten sich über den Untersuchungszeitraum hinweg weiter, wobei das Ausmaß der Veränderung zwischen den einzelnen Teilbereichen variierte. Wie in Abbildung 3 dargestellt, stieg die Gesamtpunktzahl für Reflexion von Woche 1 auf 7,2 ± 1,9 in Woche 4 an (p < 0,001).
Die analytische Tiefe war am Ende der Woche 4 im Vergleich zu den ersten beiden Wochen deutlich größer (p < 0,001). Ebenso nahm die sozial-prosossiale Bedeutung von 1,08 ± 0,55 auf 1,54 ± 0,60 zu (p < 0,001), und die selbstregulatorische Orientierung stieg von 1,42 ± 0,63 auf 1,69 ± 0,65 an (p < 0,05). Im Gegensatz dazu zeigte die deskriptive Spezifität einen leichten Anstieg von 2,14 ± 0,57 auf 2,24 ± 0,55, der nicht statistisch signifikant war (p = 0,09).
Die Einreichungen lagen im Durchschnitt zwischen 223 und 231 Wörtern pro Eintrag im gesamten Protokoll. Von den erwarteten 736 Reflexionsberichten wurden 18 verspätet eingereicht und 17 fehlten ganz; Einträge mit geringem Informationsgehalt sowie Antworten, die die Aufforderung zum kontextuellen Grund oder zukünftigen Handeln/sozialen Wirkung ausließen, wurden in der Datenbank markiert. Diese Fälle blieben als Indikatoren für die Durchführbarkeit erhalten und wurden nur dann von den wochenbezogenen Modellen zur Bewertung der Reflexionsqualität ausgeschlossen, wenn die entsprechende Bewertung nicht vergeben werden konnte.
Lernanalysemuster während des Studienzeitraums
Die Plattformaktivitätsmetriken zeigten über den vierwöchigen Zeitraum hinweg eine erhebliche interindividuelle Varianz, wie in Abbildung 4 dargestellt.
Über den gesamten Zeitraum betrugen die durchschnittlichen aktiven Tage der Studierenden auf der Plattform 9,7 ± 2,4. Die mittlere Anzahl an eindeutigen Zugriffen auf Ressourcen lag bei 27,3 ± 8,6, wobei die Studierenden durchschnittlich einen Anteil von 0,81 ± 0,14 der zugewiesenen Ressourcen öffneten. Außerdem betrug die durchschnittliche Anzahl an Diskussionsantworten 4,8 ± 2,7. Die durchschnittliche Pünktlichkeit bei Abgaben und die mittlere Videoabschlussrate lagen bei 0,86 ± 0,18 bzw. 0,79 ± 0,17. Der Anteil des Plattformzugriffs in den späten Abendstunden betrug im Durchschnitt 0,12 ± 0,09.
Bemerkenswerterweise zeigten Diskussionsantworten und Abgabepünktlichkeit von Aufgaben stärkere positive Korrelationen mit anderen Partizipationsindikatoren, trotz der breiten Streuung der Pünktlichkeitsscores.
Kreuzassoziation von Beobachtungen, Reflexionen und Lern-Daten
Die drei Datenquellen zeigten aussagekräftige, wenn auch nicht einheitliche Assoziationen. Wie in Abbildung 5 dargestellt, erzielten Studierende mit höheren Werten des beobachteten Klassenraum-Engagements tendenziell auch höhere Gesamtwerte bei den Reflexionen. Im abschnittsadjustierten Modell sagte das beobachtete Klassenraum-Engagement die Gesamtpunktzahl der Reflexion positiv voraus (β = 0.34, p < 0.001).
Unter den Variablen der Lernanalytik waren Diskussionsantworten und die Pünktlichkeit bei Abgaben signifikant und positiv mit der Qualität der Reflexion korreliert. Wie in Tabelle 5 detailliert beschrieben, sagten Diskussionsantworten die Gesamtpunktzahl der Reflexion positiv voraus (β = 0.19, p = 0.013), ebenso wie die Pünktlichkeit bei Abgaben (β = 0.17, p = 0.028). Während die absolute Anzahl der Ressourcenaufrufe und der Anteil der geöffneten zugewiesenen Ressourcen anfänglich positive Zusammenhänge zeigten, schwächten sich diese nach der Anpassung für störende Variablen signifikant ab. Der Anteil von Zugriffen in der Nacht zeigte keine signifikante Assoziation mit der Gesamtpunktzahl der Reflexion (p = 0.18).
Die Daten zeigten außerdem leichte Kreuzkorrelationen zwischen dem beobachteten Klassenraumverhalten und bestimmten Plattformaktivitäten; beispielsweise korrelierten die Rohdaten zu Ressourcenaufrufen nur geringfügig mit dem Index für beobachtete Klassenraumengagement. Darüber hinaus wiesen Studierende, die häufiger an Gruppendiskussionen teilnahmen, eine höhere verbale Kommunikationsfähigkeit auf, während Personen mit besserer Verhaltensregulation weniger Prokrastination bei der Abgabe von Aufgaben zeigten.
Veränderungen der prosozialen Intention
Die prosoziale Intention zeigte von der Ausgangsmessung bis zur Nachuntersuchung einen signifikanten Anstieg. Der mittlere Wert für die prosoziale Intention stieg von 3,61 ± 0,53 bei der Ausgangsmessung auf 3,84 ± 0,50 nach dem vierwöchigen Protokoll an (p < 0,001). Abbildung 6 veranschaulicht die gepaarten Verteilungen und die adjustierten Zusammenhänge.
Im endgültigen adjustierten Modell sagte ein höherer beobachteter Index der Klassenraum-Engagement eine stärkere Zunahme der prosozialen Absicht nach dem Protokoll im Vergleich zum Basiswerts aus (β = 0.21, p < 0.05). Unter den reflektierenden Dimensionen übte die sozial-prosoziale Bedeutung den stärksten unabhängigen Effekt auf die prosoziale Absicht nach dem Protokoll aus (β = 0.29, p < 0.001). Obwohl verbale Beteiligung eine positive, nicht-adjustierte Korrelation mit den prosozialen Ergebnissen nach dem Test zeigte, verlor dieser Zusammenhang nach Berücksichtigung der Basiswerte an statistischer Signifikanz (p = 0.09). Schließlich zeigte sich keine Beziehung zwischen der Nutzung von Zugriff in später Abendzeit und der prosozialen Absicht nach dem Protokoll (p = 0.27).
Beobachtete Implementierungsbeschränkungen und Nullbefunde
Die durchgeführte Studie ergab mehrere suboptimale, jedoch aussagekräftige Ergebnisse statt protokollstoppender Fehler. Keine beobachtete Sitzung musste aufgrund eines Kappa-Werts unter 0,70 ausgeschlossen werden, kein Lernanalyse-Feld blieb nach dem endgültigen Export nicht verfügbar, und kein Sichtbarkeitsproblem überschritt die vorab festgelegte Schwelle für fehlende Daten. Die beobachteten Einschränkungen konzentrierten sich auf den Abschluss von Reflexionen sowie auf Null- oder marginale Verhaltensbefunde: 18 Reflexionen wurden verspätet eingereicht, 17 erwartete Reflexionen fehlten, die aufgabenfokussierte Notizen- und Gerätenutzung zeigte lediglich einen marginalen Anstieg (p = 0,08), die Hilfesuche zeigte keinen signifikanten Zeiteffekt (p = 0,21) und der nächtliche Zugriff war nicht mit der Gesamtpunktzahl der Reflexion oder der proszialen Absicht nach dem Protokoll assoziiert.
Diese Ergebnisse wurden beibehalten, da sie die Durchführbarkeit und Randbedingungen des Protokolls beschreiben. Späte oder fehlende Rückmeldungen wurden in den Übersichten zum Teilnehmerfluss und zur Datenvollständigkeit berichtet; marginale oder nicht vorhandene Zusammenhänge wurden ohne selektive Auslassungen berichtet; und die Fehlerbehebungsverfahren im Protokollabschnitt legen fest, wie hypothetische Fehler wie Beobachterdrift, eingeschränkte Sichtbarkeit oder fehlende LMS-Felder bei zukünftigen Anwendungen zu behandeln sind.
Anonymisierte Analyse-Dateien, das Datenwörterbuch, Analyse-Skripte, leere Codierformulare, Reflexionsanregungen, der Reflexions-Rubrik sowie der Fragebogen zur prosocialen Intention wurden in Zenodo hinterlegt: https://zenodo.org/records/20607517. Identifizierbare Rohdaten von Unterrichtsvideos, Namen, institutionelle IDs und nicht geschwärzte Reflexionstexte wurden nicht öffentlich freigegeben.

Abbildung 1: Studienablauf und Protokoll zur Integration von Daten aus mehreren Quellen. (A) Rekrutierung der Teilnehmer, Einholung der Einwilligungen und Zuweisung der Studien-ID über zwei Bachelorveranstaltungen und sechs Kursabschnitte hinweg. (B) Der vierwöchige Datenerfassungszyklus: wöchentliche Klassenraumbeobachtung, reflektierende Schreibaufgabe und zeitlich synchronisierter Erfassungszeitraum für Lernanalytik. (C) Drei parallele Datenströme: Beobachtung des Verhaltens im Unterricht, Bewertung reflektierender Äußerungen und anonymisierte Aufzeichnungen der Lernplattform. (D) Erstellung des individuellen Gesamtdatensatzes pro Teilnehmer und der wochenbasierten Langformat-Datenbank, woraus die primären Forschungsergebnisse hervorgehen: Index der beobachteten Unterrichtsbeteiligung, Reflexionsscore und prosoziale Intention. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 2: Wöchentliche Veränderungen des beobachteten Klassenraumverhaltens während des vierwöchigen Protokolls. (A) Aufgabenbezogene Aufmerksamkeit. (B) Mündliche Beteiligung. (C) Zusammenarbeit unter Mitschülern. (D) Aufgabenbezogenes Notizenmachen oder aufgabenbezogener Gerätegebrauch. (E) Ablenkung von der Aufgabe. (F) Hilfesuche. Die Werte sind wöchentliche, auf Schülerebene berechnete Anteilswerte, abgeleitet aus intervallbasierten Klassenraumbeobachtungen. Die Punkte zeigen die wöchentlichen Mittelwerte an, und die Fehlerbalken zeigen die Standardabweichungen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 3: Wöchentliche Veränderungen der reflektierenden Ausdrucksweise über die vier Abgaben zur Reflexion hinweg. (A) Deskriptive Spezifität. (B) Analytische Tiefe. (C) Selbstregulatorische Orientierung. (D) Sozial-prosioziale Bedeutung. (E) Gesamtwertung der Reflexion. Die Bewertung der Reflexion erfolgte durch zwei verblindete Kodierer mithilfe eines vorab festgelegten Bewertungsschemas. Die Punkte zeigen die wöchentlichen Mittelwerte an, und die Fehlerbalken geben die Standardabweichungen an. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 4: Verteilung von Indikatoren der Lernanalytik während des vierwöchigen Untersuchungszeitraums. (A) Aktive Tage auf der Lernplattform. (B) Ansichten von Ressourcen. (C) Anteil geöffneter zugewiesener Ressourcen. (D) Verfasste Antworten in Diskussionen. (E) Mittlere Videodurchlaufquote. (F) Pünktlichkeit bei Abgaben. (G) Anteil von Zugriffen in der Nacht. Alle Werte wurden über denselben vierwöchigen Zeitraum berechnet, der auch für Klassenbeobachtungen und reflektierendes Schreiben verwendet wurde. Violin-Diagramme zeigen die Verteilung auf Ebene der Studierenden, Boxplots zeigen Mediane und Interquartilbereiche. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 5: Zusammenhänge zwischen beobachtetem Klassenraum-Engagement, reflektierendem Ausdruck und ausgewählten Indikatoren der Lernanalytik. (A) Zusammenhang zwischen dem Index für beobachtetes Klassenraum-Engagement und der Gesamtpunktzahl der Reflexion. (B) Zusammenhang zwischen veröffentlichten Diskussionsantworten und der Gesamtpunktzahl der Reflexion. (C) Zusammenhang zwischen der Pünktlichkeit bei Abgaben und der Gesamtpunktzahl der Reflexion. (D) Zusammenhang zwischen mündlicher Beteiligung und der Gesamtpunktzahl der Reflexion. Die Trendlinien stellen angepasste lineare Zusammenhänge dar; schattierte Bänder zeigen 95 %-Konfidenzintervalle an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 6: Veränderung der prosozialen Intention und ihre Zusammenhänge mit Klassenraumengagement und reflektierendem Sinn. (A) Gepaarte Verteilung der prosozialen Intentionsscores vor und nach dem Protokoll. Linien verbinden gepaarte Vorher/Nachher-Scores desselben Schülers. (B) Zusammenhang zwischen dem beobachteten Klassenraumengagement-Index und der prosozialen Intention nach dem Protokoll unter Kontrolle des Ausgangswerts. (C) Zusammenhang zwischen sozialem/prosozialem Sinn und der prosozialen Intention nach dem Protokoll. (D) Zusammenhang zwischen verbaler Beteiligung und der prosozialen Intention nach dem Protokoll. Die schattierten Bänder in den Teilabbildungen B–D zeigen 95 % Konfidenzintervalle an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
Tabelle 1: Indikatoren und Kodierregeln für die Beobachtung auf Schüler*innenebene im Unterricht. Die Tabelle enthält die operationalen Definitionen und Kodierkriterien für Aufmerksamkeit auf die Aufgabe, mündliche Beteiligung, Zusammenarbeit mit Mitschüler*innen, aufgabenbezogenes Notieren oder Gerät nutzen, Ablenkung von der Aufgabe sowie Hilfesuche. Das 70-minütige Kodierfenster, der 20-Sekunden-Scan-/10-Sekunden-Aufzeichnungszyklus, das Cluster-Scan-Verfahren, die Regel bei fehlender Sichtbarkeit und die OCEI-Formel werden im Protokollabschnitt beschrieben. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 2: Bewertungsrahmen für reflektierende Texte, beispielhafte Texte je Bewertungsstufe und Definitionen der lernanalytischen Variablen. Die Tabelle beschreibt die Bewertungsskala für reflektierende Texte, einschließlich Beispielen der Bewertungen 0, 1, 2 und 3 für jede reflektierende Dimension sowie der operationalen Definitionen der extrahierten lernanalytischen Variablen. Zu den reflektierenden Komponenten gehören beschreibende Genauigkeit, analytische Tiefe, selbstregulierte Orientierung, sozial-prosioziale Bedeutung, Gesamtbewertung der Reflexion, Wortanzahl und Abgabestatus. Die lernanalytischen Kenngrößen umfassen aktive Tage, Ansichten von Ressourcen, Anteil der geöffneten zugewiesenen Ressourcen, verfasste Diskussionsbeiträge, durchschnittliche Videodurchlaufquote, Pünktlichkeit bei Abgaben und Anteil des Zugriffs in Nachtstunden. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 3: Teilnehmermerkmale, Einschlussfluss und Datenvollständigkeit. Die Tabelle fasst die Teilnahmeberechtigung, Einwilligungsraten, Ausschlusskriterien, endgültige Stichprobengröße und Datenvollständigkeit über die drei Datenquellen hinweg zusammen. Sie berichtet über baseline-demografische Merkmale sowie erwartete reflektierende Einträge, pünktliche Abgaben, verspätete Abgaben, fehlende Reflexionen und erfolgreiche Extraktionen aus den Lernanalysen. Werte sind als n (%) angegeben, sofern nicht anders angegeben. Aufgrund von Rundungen können sich die Prozentangaben möglicherweise nicht exakt zu 100 % summieren. Gemäß Protokoll werden verspätete Reflexionen archiviert, aber von den wochenbezogenen Reflexionsanalysen ausgeschlossen. Eine vollständige Extraktion aus den Lernanalysen bezeichnet den erfolgreichen Abruf der anonymisierten Aufzeichnungen aus dem Studienzeitraum nach Entfernung von Dozentenkonten, doppelten Einträgen und außerhalb des Zeitfensters liegenden Ereignissen. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 4: Deskriptive Statistiken und Reliabilitätswerte der primären Untersuchungsvariablen. Die Tabelle zeigt wochenweise Mittelwerte, Standardabweichungen und Reliabilitätsindizes für beobachtetes Klassenraumverhalten, reflektierende Äußerungen, Lernanalysen und prosoziale Intentionen. Die Reliabilität der Beobachtungsdaten aus dem Klassenraum wird mithilfe Cohens Kappa bewertet. Die Zuverlässigkeit der Bewertung der Reflexionen wird als Intra-Klassen-Korrelationskoeffizient (ICC) für doppelt bewertete Texte angegeben. Die innere Konsistenz des Messwerts für prosoziale Intention wird mittels Cronbachs α berichtet. Die Variablen der Lernanalysen werden über denselben vierwöchigen Zeitraum berechnet, der auch für Beobachtungen und Reflexionen verwendet wurde. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 5: Multivariable Zusammenhänge zwischen beobachteter Klassenraum-Engagement, reflektierendem Ausdruck, Lernanalytik und prosozialem Intention. Die Tabelle beschreibt die in den Hauptanalysen verwendeten inferenzstatistischen Modelle. Dargestellt sind multivariable Prädiktoren der Gesamtpunktzahl der Reflexion, adjustierte Prädiktoren der prosozialen Intention nach dem Protokoll (unter Kontrolle der Ausgangswerte) sowie ausgewählte unadjustierte Zusammenhänge. Die β-Werte stellen nicht standardisierte Regressionskoeffizienten dar. Alle multivariablen Modelle sind auf Kursabschnitt adjustiert. Standardfehler (SE), 95 %-Konfidenzintervalle (KI) und p-Werte werden für alle Schätzungen angegeben. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.