$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Inclusie van deelnemers, volledigheid van gegevens en betrouwbaarheid van scores
Een initiële cohort van 204 studenten uit alle klassecties werd uitgenodigd om deel te nemen, wat resulteerde in 198 instemmende personen. Veertien gevallen werden vervolgens uitgesloten vanwegetenschrijving tijdens het protocolvenster of onvolledige gegevenskoppeling tussen de observatie-, reflectie- en platformgegevens. Bijgevolg bestond de uiteindelijke analytische steekproef uit 184 studenten. De kenmerken van de deelnemers, de wekelijkse voltooiingspercentages en de algehele volledigheid van de gegevens zijn nader beschreven in Tabel 3.
Gedurende het 4-weekse programma werden 24 lessen geobserveerd, waarbij voor elke deelnemer een gesynchroniseerd leeranalyse-record werd gegenereerd. Van de 736 verwachte reflectieverslagen werden er 701 binnen het tijdskader van 72 u werden ingediend, 18 werden te laat ingediend en 17 ontbraken. Uiteindelijk hebben 171 studenten alle wekelijkse reflectiesstichtig op tijd voltooid. De leeranalyses werden volledig geëxtraheerd voor de uiteindelijke 184 deelnemers, nadat accounts van docenten, dubbele vermeldingen en activiteiten buiten het tijdskader waren weggefilterd.
De observationele codering bleef zeer stabiel gedurende de protocolperiode. De interbeoordelaarsbetrouwbaarheid voor de zes gedragsindices van de klasobservatie vertoonde Cohen's kappa-waarden variërend van 0,76 tot 0,84, waarbij de totale overeenstemming tijdens de drift-tests boven de 86% lag. Voor de scores voor reflectieve expressie varieerden de intra-klasse correlatiecoëfficiënten (ICCs) over de vier dimensies tussen 0,82 en 0,89. Tabel 4 presenteert de descriptieve statistieken en betrouwbaarheidsindices voor de primaire studievariabelen.
Observatie van gedrag in de klas
De geobserveerde gedragingen in de klas vertoonden een geleidelijke verbetering gedurende het 4-weekse protocol. Zoals geïllustreerd in Figuur 2, waren de taakgerichte aandacht, verbale participatie en samenwerking met leeftijdsgenoten significant hoger in week 4 vergeleken met de beginweken. Specifiek steeg de verbale participatie van 0,18 ± 0,09 in de eerste week naar 0,24 ± 0,10 in de vierde week (p < 0,05). De samenwerking met leeftijdsgenoten steeg op vergelijkbare wijze van 0,29 ± 0,11 naar 0,35 ± 0,12 (p = 0,006). De taakgerichte aandacht vertoonde een zeer significante verbetering, verschuivend van 0,71 ± 0,12 naar 0,76 ± 0,11 (p < 0,001).
Omgekeerd vertoonden taakgerichte notities of het gebruik van apparaten slechts marginale wekelijkse stijgingen die geen statistische significantie bereikten (p = 0,08). Hulpzoekend gedrag bleef gedurende de gehele observatieperiode consistent laag en vertoonde geen significant tijdeffect (p = 0,21). Afleiding buiten de taak nam significant af van 0,14 ± 0,08 in week 1 naar 0,11 ± 0,07 in week 4 (p = 0,03). Over het geheel genomen steeg de samengestelde Observed Classroom Engagement Index significant van 0,52 ± 0,10 tijdens de eerste week naar 0,58 ± 0,11 in de laatste week (p < 0,001).
Reflectieve uitingen gedurende het 4-wekenprotocol
De reflectieve uitingen evolueerden gedurende de studieperiode, hoewel de omvang van de verandering varieerde tussen de subdimensies. Zoals getoond in Figuur 3, steeg de totale reflectiescore van Week 1 naar 7,2 ± 1,9 in Week 4 (p < 0,001).
De analytische diepgang was aan het einde van week 4 merkbaar groter in vergelijking met de eerste twee weken (p < 0.001). Op dezelfde manier groeide de sociaal-prosociale betekenis van 1.08 ± 0.55 naar 1.54 ± 0.60 (p < 0.001), en nam de zelfregulerende oriëntatie toe van 1.42 ± 0.63 naar 1.69 ± 0.65 (p < 0.05). In contrast hiermee vertoonde de beschrijvende specificiteit een lichte stijgende trend, van 2.14 ± 0.57 naar 2.24 ± 0.55, wat statistisch niet significant was (p = 0.09).
De inzendingen varieerden gemiddeld tussen de 223 and 231 woorden per vermelding gedurende het protocol. Van de 736 verwachte reflectieverslagen werden er 18 te laat ingediend en ontbraken er 17; vermeldingen met weinig informatie en reacties waarin de prompt over de contextuele oorzaak of toekomstige actie/maatschappelijke impact ontbrak, werden in de database gemarkeerd. Deze gevallen werden behouden als haalbaarheidsindicatoren en werden alleen uit de weekspecifieke modellen voor reflectiekwaliteit weggelaten wanneer de relevante score niet kon worden toegewezen.
Learning analytics-patronen tijdens het studievenster
Platformactiviteitsmetrieken vertoonden aanzienlijke interindividuele variatie over het venster van 4 weken, zoals weergegeven in Figuur 4.
Over de totale periode hadden studenten gemiddeld 9,7 ± 2,4 actieve dagen op het platform. Het gemiddelde aantal weergaven van verschillende bronnen was 27,3 ± 8,6, waarbij studenten gemiddeld een aandeel van 0,81 ± 0,14 van de toegewezen bronnen openden. Daarnaast was het gemiddelde aantal antwoorden in de discussies 4,8 ± 2,7. De gemiddelde punctualiteit bij het inleveren van opdrachten en de gemiddelde voltooiingsgraad van video's waren respectievelijk 0,86 ± 0,18 en 0,79 ± 0,17. Het aandeel toegang tot het platform tijdens de nacht was gemiddeld 0,12 ± 0,09.
Opvallend is dat reacties op discussies en de punctualiteit van opdrachten duidelijkere positieve correlaties vertoonden met andere participatie-indicatoren, ondanks de brede spreiding van de punctualiteitsscores.
Kruisassociatie van observaties, reflecties en leergegevens
De drie gegevensbronnen vertoonden betekenisvolle, zij het niet uniforme, associaties. Zoals getoond in Figuur 5, hadden studenten met hogere Indices van Geobserveerde Betrokkenheid in de Klas de neiging om hogere totale reflectiescores te behalen. In het op sectie aangepaste model voorspelde de geobserveerde betrokkenheid in de klas positief de totale reflectiescore (β = 0,34, p < 0,001).
Onder de variabelen van de leeranalyse waren reacties op discussies en de punctualiteit van opdrachten significant en positief gecorreleerd met de kwaliteit van de reflectie. Zoals gedetailleerd in Tabel 5, voorspelden reacties op discussies positief de totale reflectiescore (β = 0.19, p = 0.013), evenals de punctualiteit van opdrachten (β = 0.17, p = 0.028). Hoewel het aantal weergaven van bronnen en de proportie geopende toegewezen bronnen aanvankelijk positieve associaties vertoonden, werden deze correlaties significant zwakker na correctie voor confounders. De proportie toegang tijdens de late nacht vertoonde geen significante associatie met de totale reflectiescore (p = 0.18).
De gegevens onthulden daarnaast milde kruiscorrelaties tussen het geobserveerde gedrag in de klas en specifieke platformactiviteiten; zo correleerden ruwe weergaven van bronnen slechts marginaal met de Observed Classroom Engagement Index. Bovendien vertoonden studenten die vaker deelnamen aan groepsdiscussies een hogere verbale communicatie, terwijl studenten met een hogere gedragsregulatie minder uitstelgedrag vertoonden bij het inleveren van opdrachten.
Veranderingen in prosociale intentie
De prosociale intentie vertoonde een significante groei van de nulmeting naar de nameting. De gemiddelde score voor prosociale intentie steeg van 3,61 ± 0,53 bij de nulmeting naar 3,84 ± 0,50 na het 4-weekse protocol (p < 0,001). Figuur 6 illustreert de gepaarde distributie en de gecorrigeerde associaties.
In het uiteindelijke gecorrigeerde model voorspelde een hogere Observed Classroom Engagement Index een grotere toename van de prosociale intentie na het protocol ten opzichte van de basisscore (β = 0,21, p < 0,05). Van de reflectieve dimensies oefende de sociaal-prosociale betekenis het meest substantiële onafhankelijke effect uit op de prosociale intentie na het protocol (β = 0,29, p < 0,001). Hoewel verbale participatie een positieve ongecorrigeerde correlatie vertoonde met de prosociale uitkomsten bij de nattest, verloor deze associatie haar statistische significantie na correctie voor de basiswaarden (p = 0,09). Ten slotte bleef de toegangssnelheid in de late nachtelijke uren ongerelateerd aan de prosociale intentie na het protocol (p = 0,27).
Waargenomen implementatiebeperkingen en nulbevindingen
De uitgevoerde studie leverde verschillende suboptimale maar informatieve resultaten op in plaats van mislukkingen die tot het stopzetten van het protocol leidden. Geen enkele waargenomen sessie hoefde te worden uitgesloten vanwege een observer-kappa onder de 0,70, geen enkel veld voor leeranalyse bleef onbeschikbaar na de definitieve export, en geen enkel zichtbaarheidsprobleem overschreed de vooraf vastgestelde drempelwaarde voor ontbrekende gegevens. De waargenomen beperkingen concentreerden zich op de voltooiing van reflecties en op nul- of marginale gedragsmatige bevindingen: 18 reflecties werden te laat ingediend, 17 verwachte reflecties ontbraken, taakgerichte notities/apparaatgebruik vertoonden slechts een marginale toename (p = 0,08), hulpzoeken vertoonde geen significant tijdeffect (p = 0,21), en toegang laat op de avond was niet geassocieerd met de totale score van de reflecties of de prosociale intentie na het protocol.
Deze bevindingen zijn behouden omdat ze de haalbaarheid van de implementatie en de randvoorwaarden van het protocol beschrijven. Te late of ontbrekende reflecties werden vermeld in de samenvattingen van de deelnemersstroom en gegevensvolledigheid; marginale of nulassociaties werden gerapporteerd zonder selectieve weglating; en de probleemoplossingsprocedures in de sectie Protocol specificeren hoe hypothetische fouten, zoals observer drift, belemmerde zichtbaarheid of ontbrekende LMS-velden, in toekomstige implementaties moeten worden behandeld.
Geanonimiseerde analysebestanden, het datadictionary, analysescripts, lege codeerschema's, reflectievragen, het reflectierubriek en de vragenlijst voor prosociale intentie zijn gedeponeerd in Zenodo: https://zenodo.org/records/20607517. Identificeerbare ruwe videobeelden uit de klas, namen, institutionele ID's en niet-geredigeerde reflectieteksten zijn niet openbaar gemaakt.

Figuur 1: Studieworkflow en protocol voor de integratie van gegevens uit meerdere bronnen. (A) Werving van deelnemers, verzamelen van toestemming en toewijzing van studie-ID's over twee undergraduate cursussen en zes klassecties. (B) De 4-weekse cyclus van gegevensverzameling: wekelijkse observatie in de klas, reflectieve schrijftaak en gesynchroniseerd venster voor het vastleggen van leeranalyse. (C) Drie parallelle gegevensstromen: observationeel gedrag in de klas, score voor reflectieve expressie en geanonimiseerde gegevens van het leerplatform. (D) Constructie van de masterdataset op deelnemerniveau en de database in lang formaat op weekniveau, wat resulteert in de primaire onderzoeksoutputs: geobserveerde index van betrokkenheid in de klas, reflectiescore en prosociale intentie. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 2: Wekelijkse veranderingen in het waargenomen klasgedrag tijdens het 4-weekse protocol. (A) Taakgerichte aandacht. (B) Verbale participatie. (C) Samenwerking met peers. (D) Taakgerichte aantekeningen of taakgericht apparaatgebruik. (E) Niet-taakgerichte afleiding. (F) Hulpzoeken. Waarden zijn wekelijkse proportiescores op studentniveau, afgeleid van intervalgebaseerde klasobservaties. Punten geven de wekelijkse gemiddelden aan en foutenbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 3: Wekelijkse veranderingen in reflectieve expressie over de vier reflectieve inzendingen. (A) Beschrijvende specificiteit. (B) Analytische diepgang. (C) Zelfregulerende oriëntatie. (D) Sociaal-prosociale betekenis. (E) Totale reflectiescore. Reflectiescores werden toegekend door twee geblindeerde codeurs met behulp van het vooraf vastgestelde rubric. De punten geven de wekelijkse gemiddelden aan en de foutenbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 4: Distributie van leeranalyse-indicatoren tijdens het studievenster van 4 weken. (A) Actieve dagen op het leerplatform. (B) Weergaven van bronnen. (C) Proportie geopende toegewezen bronnen. (D) Geplaatste reacties in discussies. (E) Gemiddelde voltooiingsgraad van video's. (F) Tijdigheid van opdrachten. (G) Proportie toegang laat in de nacht. Alle waarden zijn berekend over hetzelfde venster van 4 weken dat is gebruikt voor klasobservatie en reflectief schrijven. Violin plots tonen distributies op studentniveau, en box plots geven medianen en interkwartielafstanden aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 5: Associaties tussen waargenomen betrokkenheid in de klas, reflectieve expressie en geselecteerde leeranalyse-indicatoren. (A) Associatie tussen de Observed Classroom Engagement Index en de totale reflectiescore. (B) Associatie tussen het aantal geplaatste reacties op discussies en de totale reflectiescore. (C) Associatie tussen de punctualiteit van opdrachten en de totale reflectiescore. (D) Associatie tussen verbale participatie en de totale reflectiescore. Trendlijnen representeren gefitte lineaire associaties; gearceerde banden geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 6: Verandering in prosociale intentie en de associaties daarvan met betrokkenheid in de klas en reflectieve betekenis. (A) Gepaarde distributie van scores voor prosociale intentie bij de nulmeting en na het protocol. Lijnen verbinden de gepaarde pre-/postscores van dezelfde student. (B) Associatie tussen de Observed Classroom Engagement Index en prosociale intentie na het protocol, gecorrigeerd voor de score bij de nulmeting. (C) Associatie tussen sociaal-prosociale betekenis en prosociale intentie na het protocol. (D) Associatie tussen verbale participatie en prosociale intentie na het protocol. Gekleurde banden in panelen B-D geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.
Tabel 1: Indicatoren voor klaslokalobservaties op studentniveau en coderingsregels.De tabel bevat de operationele definities en coderingscriteria voor taakgerichte aandacht, verbale participatie, samenwerking met peers, taakgerichte aantekeningen of apparaatgebruik, taakvreemde afleiding en hulpzoeken. Het coderingsvenster van 70 min, de scan-/registratiecyclus van 20 s/10 s, de cluster-scanprocedure, de regel voor ontbrekende zichtbaarheid en de OCEI-formule worden beschreven in de sectie Protocol. Klik hier om deze tabel te downloaden.
Tabel 2: Kader voor de score van reflectieve expressie, voorbeelden per scoreniveau en definities van variabelen voor leeranalyse. De tabel beschrijft het scoringsrubriek voor reflectieve teksten, inclusief voorbeelden van scores 0, 1, 2 en 3 voor elke reflectieve dimensie, en de operationele definities voor de geëxtraheerde variabelen voor leeranalyse. Reflectieve componenten omvatten beschrijvende specificiteit, analytische diepgang, zelfregulerende oriëntatie, sociaal-prosociaal betekenis, de totale reflectiescore, het aantal woorden en de indieningsstatus. Leeranalyse omvat actieve dagen, weergaven van bronnen, het aandeel geopende toegewezen bronnen, geplaatste reacties in discussies, de gemiddelde voltooiingsgraad van video's, de punctualiteit van opdrachten en het aandeel toegang in de nachtelijke uren. Klik hier om deze tabel te downloaden.
Tabel 3: Kenmerken van de deelnemers, inclusiestroom en volledigheid van de gegevens.De tabel vat de geschiktheid van de deelnemers, de toestemmingspercentages, de exclusiecriteria, de uiteindelijke steekproefomvang en de volledigheid van de gegevens over de drie gegevensbronnen samen. Er wordt melding gemaakt van demografische basiskenmerken naast de verwachte reflectie-invoer, tijdige indieningen, late indieningen, ontbrekende reflecties en succesvolle extracties uit de leeranalyse. Waarden worden weergegeven als n (%) tenzij anders aangegeven. Afronding kan ertoe leiden dat percentages niet exact optellen tot 100%. Conform het protocol worden late reflecties gearchiveerd, maar uitgesloten van de weekspecifieke reflectieanalyses. Een volledige extractie uit de leeranalyse duidt op het succesvol ophalen van gedeïdentificeerde gegevens uit het studievenster na verwijdering van instructeursaccounts, dubbele invoeren en gebeurtenissen buiten het venster. Klik hier om deze tabel te downloaden.
Tabel 4: Descriptieve statistiek en testbetrouwbaarheidsscores van de primaire studievariabelen. De tabel presenteert weekspecifieke gemiddelde waarden, standaarddeviaties en betrouwbaarheidsindices voor geobserveerd klasgedrag, reflectieve expressie, leeranalyse en prosociale intentie. De betrouwbaarheid van de observatiedata in de klas wordt geëvalueerd met behulp van Cohen's kappa. De betrouwbaarheid van de reflectiescores wordt weergegeven als intra-class correlatiecoëfficiënten (ICC's) voor dubbel gescoorde teksten. De interne consistentie van de maatstaf voor prosociale intentie wordt gerapporteerd met behulp van Cronbach's α. Variabelen voor leeranalyse zijn berekend over dezelfde periode van 4 weken die is gebruikt voor de observaties en reflecties. Klik hier om deze tabel te downloaden.
Tabel 5: Multivariabele associaties tussen waargenomen betrokkenheid in de klas, reflectieve expressie, leeranalyse en prosociale intentie. De tabel beschrijft de inferentiële modellen die in de hoofdanalyses zijn gebruikt. Hierin worden multivariabele predictoren van de totale reflectiescore, gecorrigeerde predictoren van de prosociale intentie na het protocol (gecorrigeerd voor baseline-niveaus) en geselecteerde ongecorrigeerde associaties gepresenteerd. β-waarden vertegenwoordigen niet-gestandaardiseerde regressiecoëfficiënten. Alle multivariabele modellen zijn gecorrigeerd voor de klassectie. Standaardfouten (SE), 95% betrouwbaarheidsintervallen (CI) en p-waarden zijn verstrekt voor alle schattingen. Klik hier om deze tabel te downloaden.