ArticlePDF Available

Ponsaers, P. (2010). “Onderzoek als vormgever van beleid, of beleid als vormgever van onderzoek?”, Themanummer Evaluatieonderzoek , Panopticon, Vol. 31, n°3, 1-10.

Authors:

Abstract

Dit themanummer kwam tot stand naar aanleiding van een 'call' die door de redactie werd gelanceerd. Hiermee riep de redactie op om voorstellen tot bijdragen in te sturen die betrekking hadden op "evaluatieonderzoek". Niet minder dan een dertigtal voorstellen bereikten na deze oproep de redactie. Uiteindelijk werd een beperkt staal weerhouden van bijdragen van meer reflexieve aard. Het mag geen toeval heten dat vanuit het criminologisch werkveld zo'n groot aanbod aan voorstellen toekwam. Op de één of andere manier heeft de criminologie iets met beleid. En wellicht ook ... het beleid met de criminologie. Beiden lijken in een liefde-haat verhouding tot elkaar veroordeeld. Veel zal ongetwijfeld te maken hebben met het feit dat criminaliteit nu eenmaal enkel bestaat bij de gratie van de reactie van overheidswege, en de criminologie dus als het ware kleeft aan de studie van criminaliteitsfenomenen en de reactie daarop vanuit het strafrechtsbedelingsapparaat. Hiermee is niets nieuws gezegd. Maar over de omgekeerde kijk, met name de kijk vanuit de overheid naar de wetenschap, en meer bepaald naar de criminologie, is slechts afgelopen jaren in toenemende gepubliceerd, hoewel ook deze problematiek wellicht zo oud is als de criminologie zelf. Ontstond de criminologie immers niet als een hulpwetenschap van het strafrecht en van de forensische psychiatrie? Dit themanummer focust precies op dit thema. In welke mate doet het beleid anno 2010 een beroep op wetenschappelijke inzichten en onderzoek bij het nemen van beslissingen, het maken van keuzes, het evalueren en bijsturen van beleidsmaatregelen? Of om het anders te stellen : in welke mate is het hedendaags crimineel en veiligheidsbeleid 'evidence' based in ons land? Evidence-based betekent in het Nederlands letterlijk 'bewezen werkzaam'. Die uitdrukking zegt veel over waar het om gaat, met name : Worden onderzoeksresultaten gegenereerd die toelaten met een hoge mate van waarschijnlijkheid te voorspellen dat bepaalde beleidsmaatregelen al dan niet 'werkzaam' zijn? Sommigen zijn de mening toegedaan dat het klassieke experiment (met voormeting-interventie-nameting, met controle-en experimentele groep) het meest geëigende onderzoeksdesign is om de werkzaamheid van maatregelen (interventies) te 'bewijzen'. Anderen zijn dan weer van mening dat binnen het criminologisch onderzoeksdomein onmogelijk pure experimentele situaties kunnen opgezet worden, er een hoop ethische en andere bezwaren opwerpen en stellen zich tevreden met quasi-experimenten. Nog andere vinden dat dergelijke designs veel te kwantificerend van aard zijn en stellen voor om de werkzaamheid van maatregelen via kwalitatieve designs te achterhalen.  Hoogleraar Criminologie en Rechtssociologie, Universiteit Gent, Rechtsfaculteit, Vakgroep Strafrecht & Criminologie, Onderzoeksgroep Sociale Veiligheidsanalyse.
1
Onderzoek als vormgever van beleid,
of beleid als vormgever van onderzoek?
Paul Ponsaers
Dit themanummer kwam tot stand naar aanleiding van een ‘call’ die door de redactie werd
gelanceerd. Hiermee riep de redactie op om voorstellen tot bijdragen in te sturen die
betrekking hadden op “evaluatieonderzoek”. Niet minder dan een dertigtal voorstellen
bereikten na deze oproep de redactie. Uiteindelijk werd een beperkt staal weerhouden van
bijdragen van meer reflexieve aard. Het mag geen toeval heten dat vanuit het criminologisch
werkveld zo’n groot aanbod aan voorstellen toekwam. Op de één of andere manier heeft de
criminologie iets met beleid. En wellicht ook ... het beleid met de criminologie. Beiden lijken
in een liefde-haat verhouding tot elkaar veroordeeld.
Veel zal ongetwijfeld te maken hebben met het feit dat criminaliteit nu eenmaal enkel bestaat
bij de gratie van de reactie van overheidswege, en de criminologie dus als het ware kleeft aan
de studie van criminaliteitsfenomenen en de reactie daarop vanuit het
strafrechtsbedelingsapparaat. Hiermee is niets nieuws gezegd. Maar over de omgekeerde kijk,
met name de kijk vanuit de overheid naar de wetenschap, en meer bepaald naar de
criminologie, is slechts afgelopen jaren in toenemende gepubliceerd, hoewel ook deze
problematiek wellicht zo oud is als de criminologie zelf. Ontstond de criminologie immers
niet als een hulpwetenschap van het strafrecht en van de forensische psychiatrie?
Dit themanummer focust precies op dit thema. In welke mate doet het beleid anno 2010 een
beroep op wetenschappelijke inzichten en onderzoek bij het nemen van beslissingen, het
maken van keuzes, het evalueren en bijsturen van beleidsmaatregelen? Of om het anders te
stellen : in welke mate is het hedendaags crimineel en veiligheidsbeleid ‘evidence’ based in
ons land?
Evidence-based betekent in het Nederlands letterlijk bewezen werkzaam’. Die uitdrukking
zegt veel over waar het om gaat, met name : Worden onderzoeksresultaten gegenereerd die
toelaten met een hoge mate van waarschijnlijkheid te voorspellen dat bepaalde
beleidsmaatregelen al dan niet ‘werkzaam’ zijn?
Sommigen zijn de mening toegedaan dat het klassieke experiment (met voormeting -
interventie - nameting, met controle- en experimentele groep) het meest geëigende
onderzoeksdesign is om de werkzaamheid van maatregelen (interventies) te ‘bewijzen’.
Anderen zijn dan weer van mening dat binnen het criminologisch onderzoeksdomein
onmogelijk pure experimentele situaties kunnen opgezet worden, er een hoop ethische en
andere bezwaren opwerpen en stellen zich tevreden met quasi-experimenten. Nog andere
vinden dat dergelijke designs veel te kwantificerend van aard zijn en stellen voor om de
werkzaamheid van maatregelen via kwalitatieve designs te achterhalen.
Hoogleraar Criminologie en Rechtssociologie, Universiteit Gent, Rechtsfaculteit, Vakgroep Strafrecht &
Criminologie, Onderzoeksgroep Sociale Veiligheidsanalyse.
2
1. De ‘boost’ van het evidence based denken : de Sherman groep
In 1997 werd het criminologisch evaluatieonderzoek een boost gegeven door de publicatie
Preventing crime: What works, What doesn’t, What’s promising, waarin honderden
evaluatiestudies geanalyseerd werden (Sherman et al, 1997). Het imposante werk begint met
een toch wel indringende uitspraak : “Effective public policy and practice needs to be based
on scientific evidence. This is the approach taken in medicine and other fields dedicated to the
betterment of society. This is not, however, the standard usually adopted in crime prevention
and social justice. Anecdotal evidence, program favorites of the month and political ideology
seemingly drive much of the crime policy agenda. This book aims to change this by assenssing
the existing programs”. Een update (Sherman, Farrington et al. 2002) bracht zeshonderd
verrichte programma-evaluaties over criminaliteitspreventie bij elkaar.
Deze indrukwekkende metastudies gaven beleidsmakers zicht op die maatregelen die blijken
te werken en welke dat in mindere mate blijken te doen. Het is van belang hierbij te
benadrukken dat het gaat om het voorspellen van effecten, niet om verklaren. Iets wat we
intussen weten is immers dat sommige oorzaken van misdaad met sterk verklarende
betekenis, meestal waardeloze predictie-instrumenten zijn. Het uitgangspunt in het oeuvre van
de Sherman-groep is het maken van afwegingen omtrent aanpakken, weze het “harde” of
“zachte”, die al dan niet zullen werken. Buruma (2003) had het in deze context over “De
schatkamers van de criminologie”. De groep heeft (evaluaties van) interventies van naderbij
onderzocht die plaatsvonden in families, scholen, buurten, op de werkplaats, bij politie en
gerechten. De groep komt, bij wijze van illustratie, tot volgende besluiten :
Wat niet werkt, als het gaat om strafuitvoering :
- Speciale afschrikkingsinterventie’, bvb. zeer korte opsluiting in zwaar beveiligde
inrichtingen;
- Resocialisatieprogramma’s die non-directief zijn en ongestructureerd counselen;
- Intensief gesuperviseerde voorwaardelijke invrijheidstelling;
- Huisarrest;
- Verhoogde surveillance in de buurt van een delinquent;
- Kampementen met strikte discipline;
- Survivaltochten met jongeren.
Wat wel werkt, als het gaat om strafuitvoering :
- Resocialisatie met intensieve behandeling;
- Gemeenschappelijke therapie van drugsdelinquenten in de gevangenis, met follow-up
erbuiten;
- Cognitieve gedragstherapie;
- Behandeling van (lichte) zedendelinquenten buiten de gevangenis;
- Beroepstraining;
- Multicomponent arbeidstherapie;
- Werk buiten de gevangenis;
- Opsluiten van meervoudig recidiverende delinquenten.
Wat niet werkt, als het gaat om politie :
- Het betrekken van burgers bij surveillance (de zogn. Neighbourhood Watch);
- Het arresteren van sommige jongeren voor onbenullige vergrijpen, het arresteren van
werklozen voor huiselijk geweld, arrestaties op de drugsmarkt;
- Surveillance in buurten zonder helder doel;
3
- Het verhogen van het aantal politiemensen, als daarbij niet exact wordt aangegeven welke
taken versterkt moeten worden.
Wat wel werkt, als het gaat om politie :
- Pro-actieve arrestaties van ernstige recidivisten en dronken rijders;
- De arrestatie van mannen die hun vrouw slaan, mits die mannen een baan hebben;
- Intensieve surveillance bij hot spots en probleemgeoriënteerd politiewerk (bvb. bij het
zoeken naar wapens).
Kortom : We weten dat al te blinde harde maatregelen niet werken, behoudens enkele
specifieke uitzonderingen. We weten ook dat een ongenuanceerde roep om ‘meer blauw op
straatirrationeel is. We weten verder dat intensieve controle door de reclassering als zodanig
niet werkt, net zo min als -wellicht sympathiek klinkende- zaken als huisarrest door middel
van electronisch toezicht of Neighbourhood Watch. Maar we weten ook dat er aanpakken zijn
die wel werken, zoals specifieke therapieën, en dat hard optreden tegen ernstige recidivisten
wel resultaten oplevert.
2. Evaluatie-onderzoek : criminologie als goedkope maîtresse van de overheid?
Evaluatie-onderzoek wordt nogal eens genoemd : the systematic application of social
research procedures for assessing the conceptualization, design, implementation and utility of
social intervention programs’ (Rossi & Freeman 1993: 7). De systematische werkwijze is
hierbij uitermate belangrijk, waarbij eerst de probleemstelling wordt omschreven, daarna een
onderzoeksdesign wordt uitgewerkt, gevolgd door een systematische dataverzameling-en
analyse en een rapportage waaruit blijkt welke punten wel of niet zijn opgelost (Colle et al.,
2002).
Via de toepassing van een beperkte set van methodologische procedures wordt het oorzakelijk
verband tussen programma’s en hun vermeende impact nagegaan. Evaluatie-onderzoek is de
ontwikkeling van (een aantal) argumentaties die erop gericht zijn een antwoord te vinden op
een geheel aan vragen en hypothesen over het te evalueren beleid (Devroe, 2002). De
hoofddoelstelling van evaluatie-onderzoek laat zich steeds samenvatten als het transparant
maken van divergenties in de uitvoering van het beleid enerzijds en het bevorderen van
cohesie in visie en samenwerking tussen de verschillende partners die betrokken zijn bij
uitvoering van het beleid anderzijds” (Devroe, 2004, 28). De evaluator poogt op
wetenschappelijke wijze een antwoord te geven op verschillende soorten van vragen met
betrekking tot een beleidsmaatregel, de werking en de effecten (Devroe, 2010).
In de “evidence-based” benadering zal onderzoek dus met experimenteel opzet maatregelen
op hun bruikbaarheid evalueren. De hoofdmoot van de experimentele criminologie bestaat
dan ook uit evaluatie-onderzoek naar de uitkomsten van preventie- en
interventieprogramma’s. Maar ook onderzoek naar opvattingen en attitudes ten aanzien van
criminaliteit en de aanpak daarvan kan steunen op een zekere traditie (Van der Laan, et al.
2007). Een duidelijke opdeling is deze van Rossi en Freeman (1993) waarbij de cognitieve, de
normatieve en de instrumentele evaluatie van elkaar gescheiden worden. De ‘cognitieve’
evaluatie peilt dan naar de efficiëntie en de effectiviteit. Bij een ‘normatieve’ evaluatie zal
men zich een mening vormen over de kwaliteit van de gevoerde politiek (werd het goed
gedaan?). De ‘instrumentele’ evaluatie houdt zich bezig met het nut, de inwerkingstelling en
de efficiëntie van de maatregelen die tot doel hebben de samenleving te verbeteren.
4
Over bovenstaande bestaan nogal wat meningsverschillen en zelfs strijd tussen verschillende
auteurs en ‘scholen’. Hoe het ook weze, allen zijn het er wel in min of meerdere mate over
eens dat het dient te gaan om wetenschappelijke informatie met een hoog kwaliteitsgehalte.
Ook is men het er tot op bepaalde hoogte over eens dat het doel van deze wetenschappelijke
activiteit erop neerkomt de genomen maatregelen (interventies) te evalueren. In essentie gaat
het dus om evaluatieonderzoek dat toelaat beleidskeuzes aan onderzoek te onderwerpen en
verder beleid op bij te sturen. Petrosino stelt dat: An evidence-based approach requires that
the results of rigorous evaluation be rationally integrated into decisions about interventions
by policymakers and practitioners alike’ (Petrosino, 2000: 635).
Eén van de ‘scholen’ in deze discussie is de “Campbell”-groep. Evaluatie wordt door deze
groep omschreven als het (wetenschappelijk) vaststellen van de resultaten van een bepaalde
activiteit in het bereiken van een vooraf bepaalde doelstelling aan de hand van meetbare
criteria of indicatoren (Campbell, 1969). Hij verwijst hiermee naar het
doelmatigheidsvraagstuk, waarbij wordt nagegaan of de doelstellingen werden bereikt.
Evaluatie is essentieel verbonden met het bepalen van doelstellingen (verhogen van de
efficiëntie, van de effectiviteit, van de kwaliteit, van de legitimiteit, edm.) welke op hun beurt
onlosmakelijk verbonden zijn met het bepalen van de gepaste en relevante indicatoren
(Deschamps, 1997).
Bij de meeste evaluatieonderzoeken wordt de vraag gesteld of de beoogde doelstellingen
werden bereikt (doeltreffendheid), of het proces degelijk werd doorlopen en of de resultaten
in verhouding zijn tot de bestede middelen (efficiëntie), of de veranderingen het directe
gevolg zijn van de beleidsmaatregelen (bijvoorbeeld nieuwe rechtsregels) of dat er andere
positieve gevolgen zijn voor de directe gebruikers (effectiviteit) en tenslotte of er gewenste of
ongewenste neveneffecten optreden in de samenleving (impact). In iedere evaluatie komt dus
het meten van de efficiëntie enerzijds en het meten van het effect anderzijds terug. Het
onderscheid tussen efficiëntie en effectiviteit wordt nogal eens vertaald in ‘de dingen goed
doen’ (efficiëntie) en ‘de goede dingen doen’ (effectiviteit) (Ponsaers en Enhus, 2000).
Volgens Tim Hope bestaat er grote politieke druk op onderzoeksgroepen. Zij hebben eerder
de neiging het bewijs uit onderzoek te herwerken naar beleidsdoeleinden, dan dat het beleid
vorm zou krijgen door resultaten van onderzoek (Hope, 2004). Daarentegen stelt Roché:
Evaluatie-onderzoek wordt nog steeds bekeken als het Trojaanse paard van een
mathematische en management aanpak die per definitie inhumaan is en men best links zou
laten liggen” (Roche, 2005: 299).
3. Modellen over relatie onderzoek-beleid
Is evidence-based werken nuttig? Is het opzetten van een ingewikkeld onderzoeksdesign
uitsluitend om te bewijzen dat iets werkt of niet werkt, wel de moeite waard? En is al dat
onderzoek wel nuttig voor de beleidsmaker, voor de onderzoeker, dan wel voor allebei?
Vanuit diverse modellen worden op deze vragen diverse antwoorden geformuleerd (Caplan,
1979; Van Hoesel, Leeuw et al, 2005).
Het ‘enlightenmentmodel’
Dit model kenmerkt zich door een grote, nauwelijks overbrugbare afstand tussen onderzoek
en beleid (Weiss, 1997). Het onderzoek heeft een louter cognitieve functie voor het beleid. De
absorptie van onderzoeksresultaten in het beleidscircuit verloopt traag. De universitaire
onderzoeker, geïsoleerd in zijn academische setting, werkt meestal volgens dit model.
5
Wetenschappelijke kennisvermeerdering is het doel. De kennis wordt niet altijd duidelijk
gecommuniceerd naar het beleid. De onderzoekscyclus in dit model heeft geen raakpunt met
het beleid.
Het ‘engineeringmodel’
Dit model (Ringeling, 1983) kenmerkt zich door een duidelijke afstand tussen onderzoek en
beleid, maar er is wel een bepaalde brug geslagen. Gebruik van dit onderzoek wordt door de
opdrachtgever in het kader van zijn eigen werkzaamheden gepland. De vertaling in
beleidsconclusies doet de opdrachtgever zelf.
Het interactiemodel
In dit model (Van De Vall, 1980 en 1990) is er sprake van een kleine afstand tussen
onderzoek en beleid. In alle fasen van de beleidscyclus vindt er interactie tussen onderzoeker
en opdrachtgever plaats. Het onderzoek vervult niet alleen een cognitieve functie maar is
daarnaast ook beslissingsgericht en/of actiegericht. De resultaten bevatten ook
beleidsconclusies en aanbevelingen, onderbouwd met analyses, waarin de opdrachtgever
nuttige informatie vindt.
Het ‘empowermentmodel’
In dit model (Fetterman, 2001) is er geen afstand tussen beleid en onderzoek, het onderzoek
zit midden in beleid of praktijk, het is ermee verweven. Onderzoek is primair actiegericht, het
gebruik van het onderzoek wordt gepland in relatie tot de gewenste actie. In het
interactiemodel wordt de meerwaarde van onderzoek voor het beleid wellicht het beste
gewaarborgd, de interactie tussen onderzoeker en beleidsmaker maakt immers deel uit van het
beleidsproces (Jacobs, 1999). Onderzoeksresultaten vormen niet de enige grond voor
besluitvorming. Politieke haalbaarheid, partijpolitieke belangen, agendapunten van allerlei
drukkingsgroepen, belangenafweging en eigen inschatting van politici hebben vaak meer
gewicht. Daarmee wordt duidelijk dat de toegepaste wetenschappelijke rationaliteit
ondergeschikt is aan de politieke, wat natuurlijk binnen de context van overheidshandelen een
gegeven is. Volgens Van Reekum (2008) blijkt hieruit dat de voorkeur voor bepaalde vormen
van kennis in beleidsprocessen een politieke keuze is en kan men in die zin slechts spreken
van het hanteren van kennis in de beleidsvoering.
4. ‘Gestapelde kennis’ bieden of ‘systematic reviews’?
Onderzoek wordt vaak niet benut door de beleidsmaker omdat die geen tijd heeft om dikke
onderzoeksrapporten te lezen. Er is nood aan ‘quick scans’, waarbij de beleidsmaker in een
kort bestek een inzicht krijgt in het beschikbare kennispotentieel, en een overzicht over welke
programma’s werken en niet werken. Hiervoor moet men diverse onderzoeksresultaten
‘stapelen’ om zo de kennis overzichtelijk, snel leesbaar (en dus bruikbaar) te krijgen. Deze
‘gestapelde’ informatie wordt ook wel het ‘stroomrendement’ genoemd. Dat is het rendement
van beleidsonderzoek dat gecumuleerd werd (Van Hoesel et al., 2005: 94). De insteek voor
beleid is dan niet langer één specifiek onderzoek, maar een verzameling, een “stroom” van
onderzoeken. De kennis uit een veelheid van onderzoeken kan bijdragen aan het algemene
kennispeil ten aanzien van een thema, een onderzoeksmethode, een wetenschappelijke
theorie, onderzoeksprogrammering, methodiek ontwikkeling, wetenschappelijke inzichten en
beleid. De uitkomst van deze ‘gestapelde’ kennis wordt een ‘systematic review’ genoemd en
het belang ervan neemt elke dag toe.
6
De ‘systematic review’ geeft, op basis van een screening van een grote hoeveelheid
onderzoeken met experimenteel design, weer wat werkt en wat niet werkt (Pawson, 2002). A
systematic review essentially takes an epidemiological look at the methodology and results
sections of a specific population of studies to reach a research-based consensus on a given
study topic (Johnson & De Li et al., 2000: 35). Het is de meest rigoureuze methode om
“evidence” uit voorgaande evaluatie-onderzoeken te lokaliseren, te ontsluiten en te
synthetiseren. Een ‘systematic review’ moet met dezelfde mate van detail gepresenteerd
worden als de originele studie (Welsh, 2006). Eén van de basisdoelstellingen van de
“Campbell Collaboration” (Devroe, Descamps et al., 2008) is ondersteuning bieden aan
vorsers bij de doorvoering van een ‘systematic review’.
Een systematische review kan gebruik maken van kwantitatieve methoden om een analyse te
doen. Ze kan m.a.w. een “meta-analyse” insluiten die een statistische analyse van de
resultaten van eerdere onderzoekstudies impliceert (Lipsey & Wilson, 2001). Meta-analyses
zijn studies waarin tientallen afzonderlijke evaluatieonderzoeken over een set interventies
worden beoordeeld, geclassificeerd en tot conclusies over de effectiviteit van interventies
worden gebracht. Zo werden meta-analyses verricht van tientallen evaluaties van maatregelen
om je huis beter te beveiligen, drop-out gedrag op school te voorkomen, enz… Het gebruik
van een meta-analyse is wellicht niet aangewezen voor een klein aantal studies of voor studies
die verschillende analyse units gebruiken.
5. Het debat is open ...
Rest ons de opgenomen bijdragen in dit themanummer kort te introduceren.
In de bijdrage “Wetenschap voor beleid of beleid voor wetenschap? Een analyse van 15 jaar
criminologisch onderzoek in België” gaat Elke Devroe in op de vraag of in België de
mogelijkheid bestaat “evidence-based” te werken binnen het criminologisch domein? In een
eerste gedeelte komt de ‘what works’ benadering en wat later de ‘evidence-based’ stroming
aan bod. Er wordt ingegaan op de terminologie van evidence-based beleid, de oorsprong en de
methodologische vereisten, de valkuilen en voorzichtigheidscommentaren. De kloof tussen
wetenschap en beleid wordt geëxploreerd. De auteur argumenteert dat in België de
beleidsvoering in de domeinen van politie en justitie eerder incident-driven dan evidence-
basedvalt te kenmerken. In een tweede gedeelte van deze bijdrage wordt bekeken of er in
ons land voldoende wetenschappelijk onderzoek aanwezig is in het domein politie en justitie
om nuttig gebruikt te kunnen worden door de beleidsmaker. De resultaten van een narratieve
review van afgelopen 15 jaar door de federale departementen uitbesteed onderzoek worden
hier geschetst. Vooral de grote afwezigheid van evaluatieonderzoek valt hier op. Het grootste
aandeel kan probleemverkennend worden genoemd en is van direct beleidsnut
(wetsvoorbereidend en praktisch ondersteunend). Besluitend wordt gesteld dat het onderzoek
onderbenut wordt bij beleidsbepaling en dat beleidsmaatregelen nauwelijks systematisch
worden geëvalueerd.
In de bijdrage “De plaats en betekenis van evaluatieonderzoek in de interbestuurlijke
veiligheids- en preventieplannen” gaan Gudrun Vande Walle, Ellen Wayenberg, Arne
Dormaels en Marleen Easton in op de vraag hoe het vandaag in België staat met
beleidsevaluatie in het domein van het veiligheidsbeleid. Zij stellen vast dat de laatste jaren
een aantal initiatieven werden genomen om beleidsevaluatie meer plaats en betekenis te geven
binnen het criminologische onderzoeksdomein. In deze bijdrage richten de auteurs zich meer
op het lokaal veiligheids- en preventiebeleid, een domein waarin evaluatieonderzoek wel
7
degelijk een plaats heeft verworven, in tegenstelling tot hetgeen vastgesteld werd in
hogergenoemde bijdrage m.b.t. justitie en politie. Sinds de jaren ’90 worden veiligheids- en
preventiecontracten afgesloten en er zijn diverse evaluatieonderzoeken naar gevoerd. De
auteurs trachten dan ook een evaluatie te maken van deze beleidsevaluaties. De centrale vraag
in de bijdrage is dan ook welke plaats en betekenis evaluatieonderzoek heeft in de
ontwikkeling van de interbestuurlijke veiligheids- en preventieplannen. De insteek is hier
interdisciplinair van aard, vanuit de bestuurskunde en de criminologie. De bijdrage start met
een historische schets van de veiligheids- en preventieplannen. Daarna geven wordt nagegaan
op welke manier beleidsevaluatie een rol gespeeld heeft. In een tweede gedeelte wordt de
evaluatie van de evaluatie doorgevoerd. De bijdrage wordt afgerond met het formuleren van
een constructieve en voorzichtige reflectie omtrent de mogelijkheden naar de toekomst toe
m.b.t. de relatie tussen onderzoek en beleid in dit onderzoeksdomein.
In de bijdrage “Tussen evaluatiedrift en cijferfobie. Een gedreven pleidooi voor deugdelijk
surveyonderzoek” stelt Stefaan Pleysier vast dat overheden, lokale besturen en bij de
veiligheidszorg en criminaliteitsbeheersing betrokken diensten worden, gestuurd worden door
een neoliberaal veiligheidsdiscours, geconfronteerd met een toenemende aandacht voor de
efficiëntie en effectiviteit van de ingezette middelen. Hij merkt op dat deze tendens in schril
contrast staat met de observatie dat ons land, met name in het criminologisch domein, een
traditie heeft in het verwaarlozen en onderwaarderen van cijferreeksen, ambtelijke statistieken
en beleidsondersteunende instrumenten. In zijn bijdrage betreurt Pleysier niet alleen deze
vorm van verwaarlozing maar wordt gewezen op de kwalijke gevolgen van deze
ontwikkelingen: het manifeste gebrek of precaire bestaan van deugdelijke statistieken en
beleidsondersteunende instrumenten heeft ertoe geleid dat vele lokale overheden, onder druk
van een zich manifesterende ‘evaluatiedrift’, hun heil zoeken in alternatieve en helaas vaak
ook pseudo-wetenschappelijke bevragingen rond criminaliteit en onveiligheid. Hierin schuilt
niet alleen het risico dat een complexe sociale realiteit op ondoordachte wijze wordt
gereduceerd tot wat in de evaluatie of meting vervat ligt, het dreigt meer algemeen het
wetenschappelijk onderzoek, of wat daarvoor moet doorgaan, te instrumentaliseren.
In de bijdrage “Verstrikt in het evidence-based web” breekt Hans Nelen een lans om de
criminologie terug te verlossen van een al te rigied evidence based denken. Hij argumenteert
dat het begrip effectiviteit verschillende dimensies heeft, terwijl aan criminologen en andere
sociaal wetenschappers in toenemende mate een eendimensionale vraag wordt voorgelegd,
met name onderzoeken of de door de overheid gekozen strategie, werkwijze, of interventie
‘werkt’. Nelen vraagt zich af waar die roep om evidence based te werken eigenlijk vandaan
komt en waarom die roep in meer dan één opzicht paradoxaal kan genoemd worden. Hij
waarschuwt tegen al te doorgeschoten evidence-based denken. Wat mag er van criminologen
worden verwacht als zij hun licht laten schijnen over de effecten van interventies om de
criminaliteit te beteugelen? Om een antwoord te formuleren op deze vragen gaat hij vooreerst
in op de oorsprong van het evidence-based denken, om daarna een aantal paradoxen te
expliciteren die naar zijn gevoelen verbonden zijn met dit denken. Zo stelt hij ondermeer vast
dat beleidsmatig soms al bepaalde conclusies zijn getrokken en oplossingen aangedragen
voordat überhaupt een probleemanalyse, laat staan een evaluatie heeft plaatsgevonden. Ook
beklemtoont hij dat de verwachtingen in de criminologie soms buitensporig hoog zijn. Verder
legt hij er de nadruk op dat het evidence based denken zich moeizaam verhoudt tot dat van het
voorzorgstrafrecht. Hij argumenteert dat de uitgangspunten van de Campbell Collaboration
heeft geleid tot een verschraling van het evaluatieonderzoek. Bij evaluatieonderzoek hoort
dan ook niet de vraag òf iets werkt centraal te staan, maar veeleer de vragen waarop die
8
interventie eigenlijk gericht is, waarom een interventie zou kunnen werken, voor wie, en
onder welke omstandigheden.
Rest ons de lezer een interessante lectuur te wensen van dit themanummer, over een
problematiek die de criminologie de eerstvolgende jaren wellicht niet meteen los zal laten. Of
is het het beleid dat de criminologie niet meer zal laten gaan? Benieuwd naar hoe dit zal
evolueren ...
Bibliografie
BURUMA, Y. (2003), “Veiligheid door repressie: emotie of verstand?”, WODC-lezing 2003, uitgesproken
donderdag 13 februari 2003, Pulchri Studio, Den Haag, 52 p.
CAMPBELL, D. (1969), “Reforms as experiments”, American psychologist, 24, 409-429.
CAPLAN, N. (1979), “The two communities theory and knowledge utilisation”, Behavioural scientists, 22.
COLLE, P. et al, (2002), “Evaluatieonderzoek in het veiligheidsdomein”, in BEYENS, K. e.a. (eds),
Criminologie in actie, Politeia, 470 p.
DESCAMPS,L. (1997), Katern 8, “Indicatoren en SIF-evaluatie”, in: KNOPS,G. (Ed), Handleiding voor de
opmaak van een geïntegreerd lokaal beleidsplan in het kader van het sociaal impulsfonds, Koning
Boudewijnstichting, 151 p.
DEVROE, E. (2002), “Evaluatie van preventie: de triangel van beleidsparadoxen”, in: Orde van de Dag, Kluwer,
afl. 19, 53-71.
DEVROE, E. (2004), “Over communicerende en complementaire vaten: beleidsrelevant onderzoek in België en
Nederland”, Tijdschrift voor Criminologie, jubileumuitgave 30 jaar NVK, 45 jaar TVC, 56-66.
DEVROE, E. (2010), Evidence-based policing: van begrip tot praktijk, Handboek Politiediensten, Katern
Organisatieverandering - strategie en beleid - Veiligheidsbeleid, Kluwer, afl. 92, 1-66.
DEVROE, E., DESCHAMPS, L., HANNES, K. (2008), “Evidence-based beleidsvoering in de kijker. Twee
Belgische initiatieven”, Panopticon, nummer 6, 59-66.
FETTERMAN, D. M., (2001), Foundations of empowerment evaluation, Thousend Oaks/Londen/New Delhi,
Sage Publications
HOPE, T. (2004), “Pretend it works, Evidence and Governance in the evaluation of the reducing burglary
initiative”, Criminal Justice, 4(3), 287-308
JACOBS, D. (1999), Het kennisoffensief, slim concurreren in de kenniseconomie, Samsom, Deventer/Alphen
aan den Rijn.
JOHNSON, B. R., DE LI, S., LARSON, D. B. and McCULLOUGH, M. (2000), A systematic review of the
religiosity and delinquency literature: A research note, Journal of Contemporary Criminal Justice, 16: 32-52
LIPSEY, M. W. and WILSON, D. B. (2001) Practical Meta-analysis, Thousand Oaks, CA: Sage.
PAWSON, R. (2002), “Evidence-based policy: the promise of ‘realist synthesis'”, Evaluation, 8 (3), 340-358.
PETROSINO, A. (2000), How can we respond effectively to juvenile crime? Pediatrics, 105, 635-637
PONSAERS. P., ENHUS. E. (2000), Vademecum Veiligheidsplannen ten behoeve van het opstellen van het
nationaal veiligheidsplan en de zonale veiligheidsplannen.” In: Vademecum Politiezones, Politeia, Addendum
2, p. 23-24.
RINGELING, A. B. (1983), De instrumenten van het beleid, Alphen aan den Rijn, Samsom.
ROCHE, S., “The transferability of Evaluation and the what works approach in France”, in MARSHALL, I. H.
(ed.), (2005), Special Issue: International transferability of the practice of evidence-based crime policies,
European Journal on Criminal Policy and Research, vol. 11, nr. 3/4, 297-320
ROSSI, P. H. en FREEMAN, H. E. (1993), Evaluation: a systematic approach, Sage Publications, United States,
488 p.
SHERMAN, L.W. & GOTTFREDSON, D. & MACKENZIE, D. & ECK, J. & REUTER, P. & BUSHWAY, S.
(1997). Preventing crime: What works, What doesn’t, What’s promising, Report to the U.S. Congress.
Washington, D.C.: U.S. Dept. of Justice, 655 p. in http://www.ncjrs.org/works.
SHERMAN, L. W., FARRINGTON, D. P., WELSH, P. C. and MACKENZIE, D. L. (2002). “Preventing
Crime”, in SHERMAN, L. W., FARRINGTON, D. P., WELSH, B. C. and MACKENZIE, D. L., (2002),
Evidence-based Crime Prevention, Routledge, London and New York, 1-13
VAN DER LAAN, P., VAN BUSSCHBACH, J. en BIJLEVELD, C. (2007), ”Experimentele criminologie en
criminologische experimenten”, Tijdschrift voor Criminologie, 49, 1, 3-11.
9
VAN DE VALL, M. (1980), Sociaal beleidsonderzoek: een professioneel paradigma, Alphen aan den Rijn,
Samsom, 224 p.
VAN DE VALL, M. (1990), De structuur van ongestructureerde problemen: een rationele methode tot
effectuering van beleid”, in: VAN DE BRAAK, H.J. (red.), Rationaliteit en beleid, hoofdstukken uit de
Rotterdamse sociologie, Academisch Boekencentrum (ABC), De Lier, 279-313.
VAN HOESEL, P. H. M., LEEUW, F. L. & MEVISSEN, J. W. M. (red.) (2005), Beleidsonderzoek in
Nederland, Kennis voor beleid: ontwikkeling van een professie, 186 p.
VAN REEKUM, R. (2008), “Wetenschappelijk gefundeerd beleid is een hype”, Tijdschrift voor sociale
vraagstuken, jrg. 62, nr. 9, 24-27.
WEISS, C., (1997), ‘Research for policy’s sake’: the enlightenment function of social research’, Policy Analysis,
3 (4), 531-545.
WELSH, B. C. (2006), “Evidence-based policing for crime prevention” in WEISBURD, D. & BRAGA, A.,
(2006), Police innovation, contrasting perspectives, Cambridge University Press, 305-322.
ResearchGate has not been able to resolve any citations for this publication.
Article
Full-text available
Evidence based is het buzzwoord in de wereld van sociaal en veel ander beleid. Waar komt die populariteit toch vandaan? Is beleid zonder evidence dan slecht beleid? Volgens Rogier van Reekum is evidence based vooral een retorisch instrument, maar ook een hype die wel zal overwaaien.
Chapter
In recent weeks Big City has experienced an increase in young people selling drugs on the street. The police chief directs one of his managers to organize a small group of officers to look into the matter and report back with a plan of action. One of these officers is tasked with researching what works to address the problem of street-level drug sales. The officer carries out literature searches, contacts other police departments and police research organizations such as the Police Foundation, and follows up with some of the researchers involved in evaluation studies. The most rigorous evaluations are coded according to the outcomes of interest, results are analyzed, and a report is prepared that shows what type of intervention works best. Detailed observational and other information on the problem gathered by the other officers is used to assess the applicability of the “best practice” to the local context and conditions. On the basis of this information, the chief authorizes the needed resources for a program to be implemented to address street-level drug sales, and introduces a monitoring and evaluation scheme to aid in-house policy and for dissemination purposes.This fictitious scenario, while brief on details, is an example of evidence-based policing in action. Evidence-based policing involves the police using the highest quality available research evidence on what works best to reduce a specific crime problem and tailoring the intervention to the local context and conditions. This approach likely holds wide appeal. © Cambridge University Press 2006 and Cambridge University Press, 2009.