icon

Definitie

Bij een observatie wordt het gedrag van de student tijdens het uitvoeren van (beroeps)taken geobserveerd. De student moet bijvoorbeeld een beoordelingsgesprek voeren, een katheter inbrengen, pipetteren, een dansvoorstelling geven of een les geven. Een observatie kan plaatsvinden in een natuurgetrouwe beroepssituatie of in een gesimuleerde omgeving.

icon

Aanpak

Voorbereiding

Voor een valide observatie is het ten eerste belangrijk om ervoor te zorgen dat de te observeren taken representatief zijn: volledig en natuurgetrouw (van Berkel et al., 2017). ‘Volledig’ houdt in dat de taken …

Voorbereiding

Voor een valide observatie is het ten eerste belangrijk om ervoor te zorgen dat de te observeren taken representatief zijn: volledig en natuurgetrouw (van Berkel et al., 2017). ‘Volledig’ houdt in dat de taken een goede afspiegeling zijn van het assessmentdomein (alle verschillende taken die in het assessment aangeboden hadden kunnen worden). ‘Natuurgetrouw’ houdt in dat de taken ook representatief moeten zijn voor de beoogde vervolgsituatie, bijvoorbeeld in de beroepsuitoefening (het criteriumdomein). Tussen volledigheid en natuurgetrouwheid bestaat echter een spanningsveld: met beperkte tijd en middelen is het niet mogelijk om beide volledig te realiseren. Er zal daarom altijd een afweging moeten worden gemaakt.

Stel voor een valide en betrouwbare beoordeling beheersing van een competentie niet vast op basis van één of enkele uitgevoerde assessmenttaken, maar op basis van een assessmentprogramma.

Gebruik een beoordelingsmodel met vooraf vastgelegde criteria, bijvoorbeeld in de vorm van een rubric.

Zorg ervoor dat de verschillende kennis-, vaardigheids-, en houdingsaspecten die de toets beoogt te meten worden gedekt door de criteria in het beoordelingsmodel, om de inhoudsvaliditeit te borgen. Als competenties worden getoetst, formuleer de criteria dan wel zodanig dat deze verschillende aspecten niet afzonderlijk maar geïntegreerd worden beoordeeld.

Pas het vier-ogenprincipe toe: construeer het beoordelingsmodel samen met collega’s.

Omdat het de vraag is in hoeverre uit getoond gedrag conclusies kunnen worden geformuleerd over kennis, is het aan te bevelen om gebruik te maken van een aanvullend instrument, zoals een criteriumgericht interview dat voorafgaand aan of na de observatie wordt afgenomen. Als dit interview naderhand wordt afgenomen, dan kan de student bijvoorbeeld om een argumentatie worden gevraagd voor de gevolgde taakuitvoering (van Berkel et al., 2017).

In het geval van toetsen op afstand:

Beoordelingsformulier

Bij een observatie wordt meestal een beoordelingsformulier gebruikt. Bekijk goed of alle beoordelingscriteria ook op afstand valide gescoord kunnen worden; heb je straks als beoordelaar voor alle criteria voldoende informatie of kun je bepaalde criteria niet scoren doordat bepaalde informatie onvoldoende in beeld komt (bijvoorbeeld de reactie van een klant)?

Live of video-opname

Gebruik live opnames als het nodig is om in te grijpen of direct na te bespreken, of als de taak in één keer goed of binnen een bepaalde tijd moet worden uitgevoerd. Anders is het makkelijker om een video-opname te maken.

Anticiperen op technische problemen

Bij een live observatie op afstand is het belangrijk om studenten tijdig te informeren over voorbereidingen die zij moeten treffen om de observatie soepel te laten verlopen. Maak ook afspraken over het werken in de online omgeving. Denk aan het delen van het scherm, het in- en uitschakelen van camera/microfoon, de wijze waarop vragen kunnen worden gesteld en de handelswijze bij technische problemen. Studenten vinden het fijn om vooraf te weten wat er gebeurt als er zich technische problemen voordoen. Je kunt stimuleren dat studenten vooraf met elkaar oefenen. Bij sommige instellingen kan de student apparatuur lenen of kun je een fysieke locatie aanbieden voor een online observatie. Zorg er in ieder geval voor dat je tijdig en helder communiceert over de afspraken.

Opname privacywetgeving

Het verwerken, opslaan en verwijderen van opnames moet plaatsvinden binnen de wettelijke kaders. Informeer bij je instelling wat hiervoor de regels zijn.

Opname maken

Als een student een opname moet maken, dan heeft die student duidelijke instructies nodig over de verwachte opname: wat moet er wel en niet in beeld zijn, wat is de lengte van de opname, welke apparatuur mag of moet er gebruikt worden (vergeet hierbij ook de audio-opname niet)? Dit voorkomt grote verschillen tussen studenten in de kwaliteit van het opgenomen beeld- en geluidsmateriaal, die (onbewust) invloed kunnen hebben op de beoordeling van de handeling. Als docent is het goed om van tevoren na te denken over de best passende apparatuur. Zo zijn er op sommige instellingen bijvoorbeeld speciale opnamekits beschikbaar voor het opnemen van lessen, met een camera gericht op de student en een camera gericht op de leerlingen.

Beoordeling

Welke regels spreek je af bij het bekijken van de opname, zodat observaties zoveel mogelijk gelijk zijn tussen beoordelaars en eventueel ook met beoordelingen van studenten die op locatie worden beoordeeld. Mag je een opname bijvoorbeeld stopzetten of terugspoelen (iets dat bij live observeren niet kan)?

Tijdens afname

Draag er ten behoeve van de betrouwbaarheid van de toets zorg voor dat de omstandigheden van de observatie zo gelijk mogelijk zijn voor alle studenten, met behoud van volledigheid en natuurgetrouwheid (van Berkel et al., 2017).

Als je met meerdere beoordelaars werkt en direct feedback wilt geven, kun je de student vragen om even de ruimte te verlaten. Na het bespreken van de bevindingen kun je de student vragen om weer terug te komen.

In het geval van toetsen op afstand:

Zorg dat je de benodigde documenten (rubric, beoordelingsformulier e.d.) geprint of op een tweede scherm bij de hand hebt.

Als je met meerdere beoordelaars werkt en direct feedback wilt geven, kun je de student vragen om even uit de online omgeving te gaan of hem/haar tijdelijk in een break-out room zetten. Na het bespreken van de bevindingen kun je de student weer inbellen.

Na afloop

Als er een opname is van de handeling kan dit – samen met feedback en beoordeling – veel informatie aan de student geven. Geef bijvoorbeeld studenten de opdracht om samen video’s terug te kijken en van elkaar te leren.

Aandachtspunten

  • Schakel een tweede beoordelaar in die de geobserveerde prestatie beoordeelt onafhankelijk van de eerste beoordelaar, zeker wanneer standaarden en criteria abstract zijn.

  • Maak een onderbouwde keuze voor de te hanteren cesuur.

  • Als het doel van de observatie (ook) is om de (beroeps)houding en motivatie te beoordelen, overweeg dan een zogenaamde unobtrusive observation, een observatie waarbij de te beoordelen persoon zich er niet van bewust is dat er wordt beoordeeld; bijvoorbeeld door te werken met een ‘mystery guest’, een beoordelaar die zich voordoet als een reguliere ‘klant’.

  • Het kan belangrijk zijn om de observatie na te bespreken in een (assessment)gesprek. Als observator weet je soms niet waarom een student bepaalde keuzes maakt en kun je pas een goede beoordeling geven als je deze bespreekt.

  • Het kan van belang zijn om de observatie te combineren met andere bronnen. Wil je bijvoorbeeld weten of leerlingen zich veilig voelen bij een student in de klas of dat zij de uitleg van de student hebben begrepen, dan kun je dit soms beter aan de leerlingen zelf vragen met bijvoorbeeld een korte vragenlijst. Scores van observatoren hangen niet altijd samen met de scores van leerlingen (Dobbelaer, 2019).

expand section expand section Toon meer Toon minder
icon

Toetsen op afstand

Observeren op afstand kan op drie manieren:

  1. Live meekijken naar een online handeling. Het kan gaan om een online handeling (bijvoorbeeld het werken met een digitaal computerprogramma) of een handeling die (anders dan normaal) …

Observeren op afstand kan op drie manieren:

  1. Live meekijken naar een online handeling. Het kan gaan om een online handeling (bijvoorbeeld het werken met een digitaal computerprogramma) of een handeling die (anders dan normaal) voor de beoordeling online plaatsvindt (bijvoorbeeld het voeren van een gesprek). De observatie is plaatsonafhankelijk.

  2. Live meekijken naar een handeling op locatie. De beoordelaar(s) kijken vanaf afstand live mee (bijvoorbeeld bij het gebruik van een machine op een stageplek). De observatie is plaatsonafhankelijk.

  3. Bekijken van een video-opname. De student neemt de handeling op video op (bijvoorbeeld het geven van een les op de stage wordt opgenomen met daarvoor bestemde apparatuur).

Voordelen

  • Het grootste voordeel van observeren op afstand is dat het plaatsonafhankelijk kan, en bij een video-opname ook tijdsonafhankelijk. Dit maakt observeren voor een beoordelaar minder tijdrovend door het ontbreken van bijvoorbeeld reistijd. Ook het beoordelen door meerdere beoordelaars is gemakkelijker te organiseren. Uit onderzoek blijkt dat de validiteit van observaties vaak sterk toeneemt door het toevoegen van extra observaties of beoordelaars, iets wat vergemakkelijkt wordt door observeren op afstand.

  • Een ander voordeel van een video-opname is dat de beoordelaar samen met de student de video kan terugkijken om te reflecteren of een beoordeling te onderbouwen.

Nadelen

  • Bij observeren op afstand kan de informatie voor de beoordelaar beperkter zijn dan op locatie. Bijvoorbeeld bij het observeren van een les die door een student gegeven wordt op zijn stageschool in het primair onderwijs heeft de beoordelaar niet de mogelijkheid om een rondje langs de kinderen te lopen of kan het zicht via het beeld beperkt zijn als er bijvoorbeeld buiten beeld kinderen op de gang gaan werken. Ook kan het lastiger zijn om non-verbale communicatie goed te interpreteren. Als de informatie voor de beoordelaar te beperkt is, dan kan de validiteit van de beoordeling in het geding komen. De voor- en nadelen moeten daarom in iedere beoordelingscontext goed worden afgewogen.
expand section expand section Toon meer Toon minder
icon

Tips

  • Door voorafgaand aan een (online) observatie een aantal voorbeeldopnames (bijvoorbeeld eerder ingeleverde opnames) met bijbehorende ingevulde beoordelingsformulieren te verstrekken aan de studenten, is het voor de student duidelijker wat er verwacht wordt, zowel inhoudelijk als – in het geval van toetsen op afstand – wat betreft de opname. Ook kan de student dan de eigen prestatie vergelijken met de opname om te evalueren of de handeling voldoende beheerst wordt.

  • Je kunt de studenten ook vragen of zij een opgenomen (online) observatie willen delen waarin een (deels) mislukte handeling was uitgevoerd. Dat biedt aanknopingspunten voor zowel de student zelf als voor medestudenten om te leren van fouten.

  • Faciliteer het oefenen van de handeling door het inroosteren van een fysieke of online bijeenkomst. Zorg ervoor dat het beoordelingsformulier beschikbaar is en laat studenten elkaar feedback geven aan de hand van het beoordelingsformulier. Door het geven van peerfeedback leren studenten veel over de eigen prestatie, het stimuleert hun zelfbeoordelingsvermogen en ze doen inspiratie bij elkaar op. Zie

deze publicatie van Inholland voor meer informatie over het organiseren van peerfeedback.

  • Vraag de student bij een vooraf opgenomen observatie aan te geven op welk (deel)aspect ze in ieder geval graag feedback zouden willen krijgen. Dit bevordert het zelfsturend vermogen.

  • Geef direct na afloop van de (online) observatie en (ruim) voor het delen van het cijfer feedback aan de student. Dit is het moment waarop dit het best geïnternaliseerd wordt.

  • Soms vormt de observatie een afsluiting van een langdurig leerproces, bijvoorbeeld als het gaat om een voorstelling, een complexe handeling of het oplossen van een probleem. Een online observatie kan dan onpersoonlijk overkomen en doet niet altijd recht aan de inspanning die geleverd is. Het is goed dit mee te nemen in de afweging voor online observatie of observeren op locatie.

icon

Referenties

  • Toetsen in het hoger onderwijs (Van Berkel, Bax, and Joosten-ten Brinke 2017) is een algemeen boek over toetsen waarin in het hoofdstuk performance assessment verder wordt ingegaan op het toetsen van observeerbare handelingen. Zeer nuttige informatie over het waarborgen van de betrouwbaarheid en validiteit bij deze toetsvorm.

Bibliografie

Van Berkel, Henk, Anneke Bax, and Desirée Joosten-ten Brinke. 2017. Toetsen in Het Hoger Onderwijs. Springer.
expand section expand section Toon meer Toon minder