Van experimenteren moet je leren

Weblogs

Als wij een regulier onderzoek doen bij een mbo-instelling, dan verloopt dat volgens tamelijk vaste patronen. Zou een onderzoek op maat beter bijdragen aan de onderwijskwaliteit? En hoe werkt dat dan in de praktijk?

Afgelopen zomer vroeg mijn afdelingshoofd mij of ik zin had om een toezichtexperiment te leiden bij ROC Friese Poort. We willen namelijk als inspectie dat ons toezicht zo goed mogelijk bijdraagt aan de kwaliteitsverbetering van het onderwijs. Daartoe is het belangrijk dat we goed aansluiten bij de instelling en dat deze zich herkent in onze oordelen én aanknopingspunten ziet om zich verder te ontwikkelen. Vanuit die visie experimenteren we nu ook meer met maatwerk. Of ik zin had? Natuurlijk!

Maar wat was eigenlijk de bedoeling? De ruimte in het onderzoekskader gebruiken om bij de uitvoering van een vierjaarlijks onderzoek optimaal aan te sluiten bij de instelling, zoveel was duidelijk. En het onderzoekskader biedt voldoende ruimte voor maatwerk.

Van ideeën naar onderzoeksplan

De gedachte was de instelling in het proces te betrekken en hen te laten meedenken over de inrichting van het onderzoek. Immers, als we maximaal willen aansluiten bij waar de instelling staat, is de instelling een essentiële informatiebron. ROC Friese Poort was vanaf de start enthousiast om een actieve rol te spelen in het vierjaarlijks onderzoek. Zij zagen dit terecht als een kans om mee te denken met de inspectie en feedback te geven op de manier waarop wij een onderzoek uitvoeren.

Binnen de inspectie was inmiddels als gebruikelijk als eerste stap een expertanalyse opgesteld. Maar in de uitvoering ervan zaten nieuwe elementen: meer oog voor de positie van de instelling in de regio, voor andere spelers in de provincie, voor aanvragen bij het Regionaal Investeringsfonds (RIF), bedrijven waar ROC Friese Poort mee samenwerkt en ook bijvoorbeeld voor berichtgeving in de pers. Naast de gebruikelijke kengetallen gaf dit een breder en kleurrijker beeld.

Vervolgens stelden we ons de vraag: hoe richt je je onderzoek in bij een instelling die de zaken behoorlijk op orde lijkt te hebben? Moet je dan je volledige onderzoeksarsenaal inzetten of is er wellicht ruimte om bepaalde zaken meer proportioneel in te richten? Kunnen we de instelling bijvoorbeeld laten meepraten over waar we het onderzoek het beste op kunnen richten? Bij het startgesprek hebben we het bestuur meegenomen in onze vragen. Dit leidde tot een onderzoeksplan waarin we inderdaad andere keuzes hebben gemaakt dan in een standaard vierjaarlijks onderzoek.

Vernieuwende elementen

In de uitvoering van het onderzoek zaten verschillende vernieuwende elementen, ik noem hier de belangrijkste. Ten eerste hebben we de verificatieonderzoeken ter beoordeling van de kwaliteitszorg op bestuursniveau op locatie- of domeinniveau uitgevoerd in plaats van op opleidingsniveau. Zo sloten we beter aan bij de centrale visie en de ambitie van het bestuur en de teams. Daarnaast gaf dit ons mogelijk een breder beeld van de kwaliteitscultuur dan wanneer we een aantal losse opleidingen zouden onderzoeken.

Ten tweede liep het college van bestuur en de stafmedewerker een deel van het onderzoek mee. Dat bood hen inzicht in onze werkwijze. Dit leverde mooie gesprekken op: waarom gaan jullie hier wel en daar niet dieper op in? Die studenten klagen over het materiaal, maar jullie kijken hier toch anders naar, hoe kan dat?

Wat als het anders loopt?

Ten derde besloten we geen risico-onderzoeken uit te voeren, omdat we op grond van de jaarlijkse prestatieanalyse en het startgesprek met het bestuur het vertrouwen hadden dat de basiskwaliteit bij ROC Friese Poort gewaarborgd is.

Van te voren hadden we met het bestuur besproken wat we zouden doen als we onderweg toch zorgwekkende zaken tegenkwamen. We spraken af dat juist dan de lijnen kort moeten zijn: direct telefonisch contact over wat dit betekent voor het onderzoek. Breiden we het onderzoek uit of is het bestuur aan zet om uit te zoeken wat er aan de hand is? Dit is niet aan de orde geweest. Wel was het af toe nodig om extra onderzoekstijd bij de opleiding in te plannen, het bezoeken van die ene les bleek dan toch wat weinig. Hierin zijn we in overleg met de instelling over en weer flexibel geweest: Wanneer heeft deze opleiding nog meer lessen die we kunnen zien? Dan komen we op die dag nog even langs. Dat levert natuurlijk ook best wel eens spanning op bij docententeams. Daar zijn we ons van bewust. De kunst is om hier duidelijk over te communiceren. Dat hebben we meestal wel gedaan, maar niet altijd.

Tevreden, met nuttige feedback

Aan het eind van het onderzoek hebben we aan de hand van vragen en stellingen een uitgebreid evaluatiegesprek gevoerd met alle opleidingsmanagers en directeuren die in het onderzoek betrokken waren. Het college van bestuur was hier ook bij aanwezig, evenals onze contactpersoon uit de staf. Vanuit de inspectie waren, naast de contactinspecteur en de onderzoeksleider ook vier inspecteurs aanwezig die de diverse onderzoeken hadden uitgevoerd. Zowel de grootte van de groep als de gekozen vorm was nieuw ten opzichte van een regulier vierjaarlijks onderzoek.

En wat vond de instelling er van? We hoorden enthousiasme over de nieuwe werkwijze. De instelling had inderdaad eigen ruimte ervaren om het onderzoek mee vorm te geven. Daarnaast had het feit dat we vooraf vertrouwen hadden uitgesproken het hele onderzoek positief beïnvloed. Ook was er tevredenheid over de manier waarop de onderzoeksteams de gesprekken hadden gevoerd. Natuurlijk waren er ook - nuttige - kritische noten, zoals over (het effect van) onze communicatie. Wanneer we een programmaonderdeel bij nader inzien toch anders willen inrichten of extra documenten opvragen, is het belangrijk dat we transparant(er) zijn in waarom we dat doen. Zo vermijd je onnodige stress of onduidelijkheid bij de teams. Leerzaam!

Hierna: Follow-up experiment, evalueren, leren

En wat brengt ons dit nu? We hebben bij ROC Friese Poort nieuwe inzichten opgedaan over maatwerk waarmee we beter bij de instelling kunnen aansluiten. Het rapport Vierjaarlijks onderzoek ROC Friese Poort is inmiddels op onze website gepubliceerd. Maar om echt te kunnen leren, moet dit experiment natuurlijk niet tot één instelling worden beperkt. Daarom vervolgen we dit toezichtexperiment dit voorjaar bij een ander ROC. En daarna analyseren we alle bevindingen uitgebreid. Want van experimenteren moet je leren. In het najaar van 2019 organiseren we samen met de twee betrokken instellingen een themabijeenkomst voor het hele mbo-veld, waarin we graag van gedachten wisselen over maatwerk binnen het vierjaarlijks onderzoek. Immers, we willen met ons toezicht besturen stimuleren de onderwijskwaliteit verder te verbeteren. En als we een vorm van maatwerk kunnen vinden die daar aan bijdraagt, dan willen we dat zeker proberen. En het lijkt te werken. Of zoals het bestuur van ROC Friese Poort het zelf verwoordt in de beleidsreactie bij het rapport: “(…)een enorme stimulans om door te gaan op de weg die we zijn ingeslagen.”

Johanna de Koff is inspecteur van het onderwijs bij de sector mbo.