ArticlePDF Available

Srovnání vybraných přístupů k realizaci evaluací

Authors:

Abstract

The main goal of the paper that is called "Comparison of Selected Evaluation Approaches" is to show the variety of how evaluators could solve the evaluation tasks. Results of the performed analysis present how uneven the outcomes of evaluation could be when different approach is taken. The article turns attention toward the basics of evaluative thinking by opening the range of alternative methodological and conceptual frameworks that could be used in the course of intervention program evaluation. Evaluation is defined with use of several definitions that put emphasis on methodological aspects of evaluative inquiry. In detail, there are four different approaches compared: goal-based, goal-free, constructivists and theory-driven. Each of the approaches is briefly introduced, context of its dissemination is explained and it is also described how the approach relates to other approaches. Useful component of the analysis is an example that highlights the main distinctions among the four approaches and results that each of the approaches can offer.
Evaluační teorie a praxe
Ročník 1(1)
2013
Odborné stati
*Jiří Remr, Institut sociologických studií, Fakulta sociálních věd, Univerzita Karlova
v Praze, remr@centrum.cz
Remr, J. (2013) Teoretické přístupy k realizaci evaluací“. Evaluační teorie a praxe 1(1)
1
Srovnání vybraných přístupů k realizaci evaluací
Comparison of Selected Evaluation Approaches
Jiří Remr*
Abstrakt
Cílem statě je poukázat na rozmanitost, jak mohou evaluátoři přistupovat
k řešení evaluačních úloh. Provedená analýza dokládá, jak pestrý je rej-
střík poívaných ístu a potažmo ta, k jak rozdílnému typu infor-
mací mohou evaluace založené na rozdílných přístupech vést. Text obrací
pozornost k základům evaluačního myšlení a poukazuje na možnosti
volby metodologického a konceptuálního rámce při řešení praktických
úloh. Stať tedy nemá ambice poskytovat praktický vod k realizaci eva-
luací, nýbrž poskytuje zobecněné poznatky abstrahované od detailů ru-
tinních evaluačních projektů.
Evaluace jsou nejprve vymezeny s využitím několika definic akcentujících
metodologické priority evaluací a evaluačního výzkumu. Dále je detailní
pozornost nována čtyřem přístupům k prováděevaluací, a to konfir-
mačnímu (Goal-based), exploračnímu (Goal-free), konstruktivistickému
(Constructivist) a k přístupu vedenému teorií (Theory-driven). Každý
z přístupů je vždy stručně charakterizován, dále je analyzován kontext
jeho vzniku a vztah k ostatním přístupům; v neposlední řadě jsou uvede-
ny klíčové znaky a odlišnosti od ostatních přístupů. Užitečnou součástí
analýzy každého přístupu je ilustrační příklad, z něhož jsou patrodliš-
nosti v pojetí evaluací realizované v duchu jednotlivých přístupů.
Evaluační teorie a praxe odborné stati
2
Abstract
Main goal of the paper is to show the variety of how evaluators could
solve the evaluation tasks. Results of the performed analysis present how
uneven the outcomes of evaluation could be when different approach is
taken. The article turns attention toward the basics of evaluative thinking
by opening the range of alternative methodological and conceptual
frameworks that could be used in the course of intervention program
evaluation.
Evaluation is defined with use of several definitions that put emphasis
on methodological aspects of evaluative inquiry. In detail, there are four
different approaches compared: goal-based, goal-free, constructivists
and theory-driven. Each of the approaches is briefly introduced, context
of its dissemination is explained and it is also described how the approach
relates to other approaches. Useful component of the analysis is an exam-
ple that highlights the main distinctions among the four approaches
and results that each of the approaches can offer.
Klíčová slova
Konfirmační přístup, explorační přístup, konstruktivistický přístup, eva-
luace vedená teorií, evaluační přístupy
Keywords
Goal-based evaluation, goal-free evaluation, constructivist evaluation,
theory-driven evaluation, evaluation approach
Evaluační teorie a praxe odborné stati
3
Úvod
Jedny z nejčastěji citovaných definic evaluace (kromě definic dále uvádě-
ných v textu také např. Rossi, Lipsey a Freeman 2004, Scriven 1991, Weiss
1972, House 1980) spojuje důraz na proces získávání podkladů (důkazů)
a postupy uplatňované při jejich vyhodnocení. Podobně také Guba
a Lincolnová (1989) považují evaluaci za činnost, při které se uplatňují
vědecké postupy s cílem získat a analyzovat obsah, strukturu a výstupy
intervencí. Konstruktivisticky zakotvená definice evaluací odkazuje
k metodologickému základu, když vyjmenovává konkrétní postupy,
jež se v oblasti evaluací využívají. Navíc vymezuje obsah evaluačních
šetření, která v jejich pojetí zahrnují nejen výsledky, ale také obsah, struk-
turu a výstupy. Stake (2004) ve své definici evaluací a charakterizaci eva-
luační činnosti explicitně poukazuje, že každý jednotlivec je sice „rodilým
evaluátorem“, neboť hodnocení je jako takové přirozenou součástí každo-
denního života, nikoliv však nutně „dobrým evaluátorem“. Snaha forma-
lizovat jednotlivé postupy používané při evaluaci se projevuje zapojením
některých principů vědeckého výzkumu, resp. metod a technik používa-
ných ve společenskovědním výzkumu.
Výše uvedené definice přestavují evaluaci jako formalizovaný postup,
který se vyznačuje mj. systematičností, kontrolovatelností (přezkoumatel-
ností) a vyloučením či alespoň podstatnou redukcí subjektivismu. Jiné
definice kladou důraz na cíl a účel proné evaluace. V kontextu hod-
nocení intervenčních programů tak např. definují Hallová a Hall (2004)
evaluace jako specifický typ šetření, jenž ověřuje, zdali, a v jaké míře, byly
naplněny cíle a plány stanovené v rámci konkrétní intervence. Takovýmto
důrazem na porovnání plánované a skutečdosažené hodnoty výstup-
ních hodnot I. Hallová a D. Hall redukují aplikační oblast evaluace
na problematiku související s posuzováním výsledků (outcome evaluati-
on). Nicméně je třeba uvést, že výčet aplikačních oblastí je v případě eva-
luací podstatně širší a zahrnuje mj. také evaluaci dopadů či analýzu potřeb
(Rossi, Lipsey a Freeman 2004; Stufflebeam a Sinkfield 2007, Mark, Henry
a Julnes 2000, Shadish, Cook, a Leviton 1991).
Ucelenou definici kombinující účel a způsob provedení evaluace navrhuje
Patton (2008), podle něhož je evaluace činností, která zahrnuje systematic-
ký sběr údajů charakterizujících intervenční programy, způsoby jejich
fungování a výsledky, k nimž dospívají. M. Q. Patton dále poukazuje,
Evaluační teorie a praxe odborné stati
4
že cílem evaluací je zvýšit kvalitu těchto intervenčních programů, posílit
jejich efektivitu, popsat mechanismy jejich fungování a přinést konkrétním
zainteresovaným stranám podklady, na jejichž základě je možné provádět
rozhodování o jejich dalším směřování.
Na jiném místě rovněž uvádí,
že evaluace mohou (a mají) přinášet objektivní a prakticky využitelné
údaje (Patton 1982).
Do praktické roviny se uvedené vymezování evaluací z hlediska způsobu
a účelu provedení promítá v podobě široké škály přístupů, které mohou
být při provádění evaluací využity. S ohledem ke konkrétním cílům tak
může být zvolen přístup, který se zaměří buď na co nejpřesnější kvantifi-
kaci dosaženého výsledku nebo na vnímání přínosů dané intervence kon-
krétními zainteresovanými stranami či na vysvětlení mechanismu,
jak daná intervence vyvolává změnu v chování účastníků posuzovaného
programu. Následující analýza je věnována vybraným způsobům, jak lze
přistoupit k provádění evaluací či jinými slovy jak může být nastaven
design konkrétního evaluačního systému. V tomto ohledu poukazuje
na obecně-metodologické předpoklady využití jednotlivých forem v závis-
losti na konkrétních podmínkách neopouštěje přitom teoretickou rovinu.
Přístupy k realizaci evaluací
Pro jednotlivé přístupy k provádění evaluací je charakteristické, že (1) vy-
povídají o pojetí externí validity, (2) odrážejí vztah šetření (údajů) a reality
(konkrétní hodnocené situace), (3) nastiňují základní metodologickou orien-
taci a v neposlední řadě také (4) definují ústřední zájem či hodnotu,
která určuje celkové nasměrování prováděné evaluace (Alkin, Christie
2005).
Na základě takto stanovených kritérií lze identifikovat celou řadu jednot-
livých přístupů, které se v průběhu vývoje metodologie evaluací objevily.
Z jejich dlouhého seznamu uvádíme celkem čtyři přístupy, které reprezen-
tují hlavní směry uvažování o způsobech prováděevaluací. Jsme si vě-
domi toho, že prezentovaný výčet není úplný; chybí zde mj. zplnomocňu-
jící přístup (empowerment evaluation), participativní a kolaborativní pří-
stupy a mnohé další. Nicméně primárně sledovaný účel tento výčet beze
zbytku naplňuje. Ukazuje totiž na pluralitu forem provádění evaluací,
Evaluační teorie a praxe odborné stati
5
přičemž čtyři uvedené přístupy současně odrážejí hlavní metodologické
akcenty při provádění evaluací.
1. Konfirmační evaluace (Goal-based evaluation; Ralph Tyler)
Tylerův přístup byl v daném historickém kontextu nevídaný. V tomto
období byl rozvoj evaluačních šetření svázán výlučně s oblastí školství
a vzdělávání; evaluačních šetření v ostatních oblastech, jako např. evalua-
ce intervenčních programů, se objevily v 60. letech. Podle historického
exkursu Guby a Lincolnové (1989) převládaly v meziválečném období
evaluace využívající sumarizova výsledky standardizovaných znalost-
ních, kognitivních či výkonnostních testů, jakými jsou např. SRTA (Stone
Reasoning Test in Arithmetic, jenž je používán od roku 1908) či SAB (Stan-
ford Achievement Battery, vytvořený v roce 1922). Tyto a mnohé podobné
testy byly tehdy hojně používány, neboť bezvadně plnily svůj primár
účel: individuální diagnostiku žáků. Kromě toho však výsledky uvede-
ných testů nacházely v sumarizované (agregované) podobě sekundární
využití. Na jejich základě byly porovnávány jednotlivé třídy v rámci ško-
ly, či dokonce celé školy v rámci da oblasti či státu. R. Tyler však tento
způsob využívání standardizovaných testů odmítl, a namísto toho vypra-
coval vlastní přístup k realizaci evaluací. Jeho záměrem kolem) totiž
bylo vyhodnotit nově zaváděné osmileté osnovy a obával se, že diagnos-
tické testy, primárně vytvořené pro měření schopností jednotlivých žáků,
nepřinesou potřebná data o účinnosti osnov. R. Tyler v této souvislosti
poukazoval především na rozdílný předmět analýzy, tedy schopnosti
jednotlivých žáků oproti konkrétně specifikovaným výsledkům používa-
ných i zaváděných) osnov. Při tomto srovnání by způsobilost používa-
ných diagnostických testů vypovídat o výsledcích (efektivitě) nových
osnov nebyla podle R. Tylera obhajitelná.
Tylerův způsob řešení podstatně přesahuje rámec jednoho samotného
přístupu k realizaci evaluací. Jeho hlavním odkazem je obecný evaluační
postup, který je založen na přiřazování skutečně dosahovaných a empi-
ricky ověřitelných výsled k edem definovaným cílům (tj. očekáva-
ným výstupům), přičemž obě hodnoty (cíle a výsledky) jsou následně
porovnány. Z tohoto důvodu je Tylerův přístup některými nazýván
jako objectives-oriented (Alkin 2004), jiní o tomto přístupu píší jako o goal-
based evaluation (Stufflebeam, Shinkfield 2007). Obě pojmenování
Evaluační teorie a praxe odborné stati
6
však stejně dobře vystihují základní podstatu Tylerova přístupu a lze je
používat jako synonyma.
Předem definované cíle jsou tedy v rámci tohoto přístupu základním a jedi-
ným zdrojem kritérií. Aby bylo možné s cíli v rámci konfirmačního přístupu
pracovat, je třeba, aby měly měřitelnou podobu R. Tyler v tomto ohledu
prosazoval takové cíle, ktemají odraz v chování jednotlivců1. Základ
otázka konfirmačního přístupu tedy zní: Vyskytují se ve skupině účast-
níků intervenčního programu očekávané prvky chování či nikoliv?
Tylerův přístup je založen na plném chápání komplexity evaluačního
procesu, jehož cílem je dospět k závěru deklarujícímu míru, ve které po-
suzovaný program naplňuje předem stanovené cíle. R. Tyler sám
své evaluace prováděné v polovině 30. let v souvislosti s hodnocením
nově zaváděných osmiletých osnov popsal jako posloupnost sedmi zá-
kladních kroků takto (cit. dle Alkina 2004):
1) definování cílů intervence
2) kvantifikace cílů intervence a jejich klasifikace (uspořádání cílů
do skupinek dle věcné podobnosti)
3) nalezení specifických behaviorálních vzorců pro každou skupinku cílů
intervence; jinými slovy definovat znaky (ukazatele) unikátnosti každé
skupinky cílů
4) identifikace situací, ve kterých je možné výskyt požadovaných behavi-
orálních vzorců zachytit (pozorovat); nalezení okolností, na nichž lze
míru dosažení stanovených cílů dané intervence jasně dokumentovat
5) výběr adekvátních metod získání potřebných údajů pro každou sku-
pinku cílů resp. behaviorálních vzorců; výběr či vývoj metodiky měře-
ní stupně dosažení cílů intervence
6) volba optimální metody sběru dat, provedení předvýzkumu a vlastní
sběr dat
7) srovnání získaných údajů s předem definovanými cíli; stanovení způ-
sobu využití získaných výsledků a nástin možností a omezení při jejich
interpretaci
Tylerův přístup byl novátorský ještě v jednom ohledu: do té doby použí-
vané testování neposkytovalo prakticky žádnou zpětnou vazbu, která by
1 V pedagogickém výzkumu mají takový charakter např. achievement testy.
Evaluační teorie a praxe odborné stati
7
mohla pomoci dosažené výsledky zlepšovat. Absence akceptačních kritérií
(vodítek, která by pomohla určit, jaké výsledky jsou „dobré“, a jaké niko-
liv) neumožňovala naplnit bazální princip evaluace, tedy stanovit věcný
základ a přínos 2. Kdybychom i přes tyto výhrady připustili, že prováděné
testování bylo evaluací, označili bychom ji zpětně z dnešního pohledu
jako evaluaci sumativní. Posuzované hodnoty totiž vytvářely pořadí jed-
notlivých tříd či škol a ukazovaly na úspěch a neúspěch jednotlivých sub-
jektů. Naproti tomu evaluace prováděná R. Tylerem přinášela zcela jiný
typ údajů, neboť zprostředkovávala data poskytující detailně strukturo-
vané výsledky o rozdílech mezi skutečnými a očekávanými či požadova-
nými cíli. Tím provedené evaluace de facto poskytly návod, které z výsled-
(tedy přesněji, které z behaviorálních vzorců dokumentujících určitou
třídu cílů) je vhodné v příštím období zlepšovat. R. Tyler svým pojetím
tedy umožnil, aby osmileté osnovy byly nejen porovnány oproti dosavad-
nímu kurikulu z hlediska rozvoje schopností a dovedností podrobivších se
žáků (škol), ale současně aby osmileté osnovy s intenzivní pomocí jím
prováděných evaluací mohly být dále rozvíjeny.
Tylerův odkaz je dodnes živým způsobem provádění evaluací. Jednak
tím, že inspiroval mnohé pokračovatele k dalšímu rozvíjení konfirmační-
ho přístupu, mezi všemi jmenujme např. Blooma et al. (1956) či Magera
(1962), a dále tím, že umožnil jiným, aby vůči cílenému přístupu k evalua-
cím vymezili své vlastní přístupy (viz např. M. Scriven či E. Guba,
o kterých je pojednáno ve větším detailu dále). Koneckonců současná
podoba evaluací tak, jak je požadována Federální vládou USA (a do určité
míry i Evropskou komisí) vychází do značné míry právě z Tylerova kon-
firmačního přístupu3. V obecnějších souvislostech lze hovořit o tzv. ob-
jectives-oriented tradition, která se objevuje i v jiných oborech: přestože ne-
byl doposud prokázán přímý vliv, nelze si nepovšimnout shody základ-
ních principů např. s dnes rozšířeným MBO (Management by Objectives)
v manažerských studiích.
2 Věcný základ (merit) charakterizuje samotnou podstatu předmětu evaluace a odkazuje
k jeho funkčnosti, zatímco přínos (worth) odkazuje k tomu, jak je věcný základ vnímán
konkrétními zainteresovanými stranami.
3 R. Tyler se sám stal v 60. letech vedoucím NAEP (National Assessment of Educational
Progress), což byl federální program pro sběr dat o výkonech žáků amerických škol.
Evaluační teorie a praxe odborné stati
8
Nespornou výhodou Tylerova konfirmačního přístupu je jeho relativní
jednoduchost a možnost snadného provedení, třeba i jen formou interně
prováděných evaluací, bez pomoci speciál školených evaluátorů.
Za jeho silnou stránku lze považovat rovněž fakt, že tento přístup vede
zúčastněné zainteresované strany (zejména pak manažery posuzovaných
intervenčních programů) k zamyšlení nad jejich původními záměry
a skutečně dosaženými cíli a podněcuje je k jejich zpřesnění a sdílení
s ostatními zainteresovanými stranami.
Někteří ze současných evaluátorů (Rodriguez-Campos 2005, Schwandt
1984) při hodnocení Tylerova odkazu poukazují na skutečnost, že jeho
přístup vlastně není žádnou specifickou inspirací pro provádění evaluací,
neboť jde o pouhou deskripci postrádající klíčové atributy samotné evalu-
ace. Nejen R. Tylerovi, ale obecně celému konfirmačnímu přístupu je dále
vytýkáno, že zcela odhlíží od kontextu, v němž jsou evaluace realizovány,
a že nebere v potaz nezamýšle dopady, ke kterým mohou posuzované
intervenční programy vést (Scriven 1993). Konfirmačnímu přístupu je
rovněž vytýkán relativně vysoký sklon k managerialismu4 (House 1993;
Guba, Lincoln 1989) a tendence k přílobecnému posuzování sledova-
ných intervencí. Stake (1975) konfirmačnímu přístupu vyčítá, že jako for-
mativní způsob evaluace vůbec nepočí s individuálními hodnotami
a hodnotovými systémy samotných klientů (v Tylerově případě žáků)
a nebere v rámci posuzované situace ohled na jejich svobodné rozhodová-
ní a jednání (viz např. odlišné aspirace žáků škol v městských aglomera-
cích oproti aspiracím žáků na venkově).
Při hodnocení Tylerova přístupu nebyl doposud doceněn ještě jeden í-
nos. Tyler totiž přivedl do evaluací primární data a otevřel tak prostor
pro pronikání společenskovědní metodologie (zaměřené na sběr a analýzu
primárních dat) do oblasti evaluací. Přístup testování používaný do
doby se totiž zakládal výhradna sekundární práci s jednotlivými testy
(jejich vyplňování nebylo prováděno za účelem evaluací, ale byly evaluá-
tory takto využívány).
Uvedený ilustrační příklad je uveden ve snaze o poskytnutí konkrétního
obrazu shora uvedených charakteristik. Uvedený příklad je založen
4 Tedy k přílišnému zaměření na finální výstupy odhlížejícího od mechanismů a způsobů
jejich dosažení.
Evaluační teorie a praxe odborné stati
9
na předpokládaném provedení evaluace zaměřené na posouzení efektů
rekvalifikačního kursu určeného nezaměstnaným osobám starším 50 let,
který je věnován práci s výpočetní technikou. Příklad odpovídá situaci,
kdy takovýto rekvalifikační kurs pilotně proběhl v jedné lokalitě a na zá-
kladě provedené evaluace bude rozhodnuto buď o jeho zastavení,
nebo o rozšíření kursu do dalších okresů.
Ilustrační příklad konfirmačního přístupu5:
V rámci konfirmačního přístupu je vypracován test počítačové gramotnosti,
který se po skončení kursu předloží každému z účastníků. Po dohodě s iniciátorem
a s jeho souhlasem se test zaměřuje na používání textového editoru a tabulkového
procesoru a jsou definovány konkrétní úlohy, které indikují zvládnutí obsahu
kursu. V neposlední řadě je stanoveno, že pokud 80 procent účastníků kursu tento
test zvládne (tj. dosáhne alespoň 75procentní úspěšnosti při řešení úloh zadaných
v testu), bude možné považovat kurs za vhodný k rozšíření do dalších lokalit.
Výsledky účastníků kursu v závěrečném testu jsou tak v rámci konfirmačního
přístupu interpretovány jako důkaz účinnosti ukových metod (kurs skutečně
vzdělává) a jejich přínosu (osvojení znalostí a dovedností účastníky kursu).
Na základě toho se může realizátor kursu (resp. sponzor) rozhodnout o rozšíření
kursu do jiných okresů (bude-li kurs posuzován jako efektivní), popř. o změně
obsahu kursu či o změně jeho výukových metod (bude-li kurs shledán neefektiv-
ním).
2. Explorační přístup (Goal-free evaluation; Michael Scriven)
Jak již bylo uvedeno, od dob R. Tylera byla významná část evaluazalo-
žena na porovnávání předem vytyčených cílů příslušnými zainteresova-
nými stranami se skutečně dosaženými výsledky. Tento způsob provádě-
ní evaluací, který Guba a Lincolnová (1989) nazývají „popisem“ a považují
ho za tzv. druhou generaci evaluační metodologie, je využíván v řadě
situací z rozličných důvodů dodnes a rozhodně ho nelze považovat ani
za překonaný, ani za aplikačně omezený či nevhodný. Evaluátoři se však
pochopitelně snažili navrhovat nové přístupy překonávající své ascenden-
ty v charakteristikách, jež byly předmětem největších kontroverzí a jejichž
5 Příklad je průběžný a opakovaně se k němu vracíme v každém z dále prezentovaných
přístupů. Postupně jsou tedy uvedeny čtyři variace na stejné téma. Díky tomu si čtenář
může vytvořit představu o odlišnostech, které mezi jednotlivými přístupy panují.
Evaluační teorie a praxe odborné stati
10
výsledky zůstávaly v mnohých ohledech za původním očekáváním.
V tomto ohledu je tedy explorační přístup třeba chápat jako Scrivenovu
odpověď na konfirmační přístup, jako odpověď, jež přinesla nový pohled
na způsob provádění evaluací.
Podstatou rozdílu mezi konfirmačním a exploračním přístupem je stupeň
pozornosti věnovaný skutečným výstupům, výsledkům a dopadům po-
suzovaných programů. M. Scriven reagoval na typický nedostatek kon-
firmačních evaluací, které sice dokázaly přesně odpovědět na otázku,
zdali bylo dosaženo vytyčených cílů a v jaké míře, nicméně vůbec nebraly
v potaz vyskytnuvší se nezamýšlené důsledky působení sledovaných
programů či intervencí 6. Explorační přístup k provádění evaluací tedy
staví do pozice hodnocených prvků cíle samotné, přičemž odmítá jejich
apriorní danost. Scriven (1973) zdůrazňoval, že evaluátor by dokonce cíle
posuzovaného intervenčního programu neměl znát, aby jimi nebyl ovliv-
něn: „Goals bias the evaluator“ 7. Toto je v kontextu Scrivenovy evaluační
teorie tzv. kvalitativní význam objektivity; za objektivní je v tomto ohledu
považován takový výsledek, u kterého lze prokázat, že není vychýlený 8.
Evaluátor by tedy v souladu se základním principem tohoto přístupu měl
věnovat pozornost všem efektům, k nimž daná intervence směřuje, a to
jak k efektům zamýšleným, tak také nezamýšleným. Díky tomu mají eva-
luace prováděné v souladu s principy tohoto přístupu mnoh
em lepší
předpoklady zachytit i vedlejší a neočekávané důsledky posuzovaných
interven. Konkrétní evaluační praxe ukazuje, že explorační přístup do-
sahuje velmi dobrých výsledků zejména při identifikaci výstupů a výsled-
ků, nicméně pro hodnocení dopadů se výhody jejich aplikace výrazně
snižují. Základní otázka exploračního přístupu tedy zní: „Jaké jsou veške-
ré efekty dané intervence?
M. Scriven v souvislosti s exploračním přístupem poukazuje na potřebu
vymanit se z rámce, který soustřeďuje pozornost realizátora evaluací
na jednotlivé dílčí oblasti, a doporučuje provádět evaluace takovým způ-
6 Podoba evaluačních šetření byla v USA v 60. letech ovlivněna zákonnými pravidly,
která přesně specifikovala jejich podobu. Specifikace evalua vycházela, s ohledem
k účelu využití (např. rozhodnutí o pokračování či zastavení finanční podpory konkrét-
ch škol z veřejných zdrojů), z Tylerovy metodiky.
7 M. Scriven v této souvislosti někdy píše o tzv. bias-free evaluation.
8 Kromě této kvalitativní objektivity je možné rozlišit také objektivitu kvantitativní,
která spoléhá na shodu intersubjektivit (House 1980). Kvantitativní pojetí objektivity však
M. Scriven zásadně odmítá.
Evaluační teorie a praxe odborné stati
11
sobem, při kterém by samotné hodnocenebylo nijak svázáno s původ-
ními programovými cíli. Taková představa má navíc oporu v samotné
normativní rovině evaluací; apriorní definice cílů, jejichž dosažení má
dané evaluace potvrdit či vyvtit, může totiž vést k jednostran akce
n-
taci zájmů konkrétních zainteresovaných stran (např. iniciátorů intervence
nebo manažerů intervenčních programů), což by bylo v rozporu nejen
se Standardy definovanými Joint Committee on Standards for Educational
Evaluation (cit. dle Sanders 1994), ale i s obecnými zásadami nestrannosti.
M. Scriven sám zdůrazňoval, že explorační přístup je díky eliminaci rizika
vychýleného hodnocení spravedlivějším přístupem (Scriven 1993).
Z předchozího je patrné, že pokud je evaluace realizována v souladu
s principy exploračního přístupu, měla by být minimalizována interakce
evaluátora s ostatními zainteresovanými stranami (tedy zejména s mana-
žery daného intervenčního programu a s jeho pracovníky, resp. se zadava-
teli daného evaluačního šetření). Jen tak je totiž možné zajistit (a prokázat),
že způsob provedení evaluace je skutečně nezávislý, tj. založený výlučně
na odbornosti evaluátora neovlivněného preferencemi a očekáváním ně-
které ze zainteresovaných stran.
Explorační přístup nevylučuje při své aplikaci simultánní využití přístupu
konfirmačního; z řady konkrétních případových studií je skutečně patrná
snadná možnost oba přístupy kombinovat. Výhodou takovéto kombinace
je zvýšení užitku z prováděné evaluace.
Explorační přístup čelí kritice poukazující na nedostatečně transparent
postup při stanovení indikátorů. Jak je nalézt? Jak provést operacionaliza-
ci, když nejsou zadané (resp. evaluátorovi nejsou známé) cíle posuzované
intervence?
Uvedení exploračního ístupu není ve vývoji evaluační metodologie
ničím nahodilým; rozvinutí tohoto přístupu jasně vychází z diskursu
60. a 70. let, jenž byl veden na téma účelu a poslání evaluací jako takových.
Explorační přístup je koncipován jako imanentní součást intervenčních
programů, jako průvodce zainteresovaných stran napomáhající v jejich
rozhodovací činnosti ve všech fázích rozvoje a v celé šíři implementace
posuzovaných interven. M. Scriven svým přístupem za celý evaluační
obor jasně deklaroval ambici zapojit evaluace nejen do procesu implemen-
tace intervenčních programů. Tím se pokusil marginalizovat tehdejší úzus
Evaluační teorie a praxe odborné stati
12
přípravy a provedení evaluačních šetření v pokročilých fázích imple-
mentace interven.
Ilustrační příklad exploračního přístupu:
Evaluátor, který použije explorační přístup, nezná záměry iniciátora hodnocených
kursů, a tak věnuje pozornost všem zaznamenatelným efektům, ke kterým kurs
vede. Evaluátor dojde k závěru, že kurs sice nenaučí jednotlivé účastníky formáto-
vat odstavce a vytvářet tabulky, nicméně vede ke zdokonalení obecných uživatel-
ských návyků (pravidelné zálohování, rychlejší psaní na klávesnici apod.). Sou-
časně je díky exploračnímu přístupu odhalen jeden z nezamýšlených efektů kursu,
kdy si účastníci mezi sebou vyměňují zkušenosti z průběhu pohovorů u potenciál-
ních zaměstnavatea sdílí mezi sebou aktuální nabídky volných pracovních po-
zic, což jim napomáhá k rychlejšímu získání nových pracovních míst.
Explorační přístup tak spíše než k efektivitě kursu obrací pozornost k jeho celkové
užitečnosti. Zadavatel evaluace (resp. iniciátor kursů) může na základě výsledků
takto provedeného šetření odhadnout míru efektivnosti kursu (i když významně
méně přesně než při použití konfirmačního přístupu) a také může identifikovat
konkrétní formy, jak kurs upravit pro ostatní regiony. Explorační přístup pomůže
odhalit a zvýraznit takové parametry kursu, které by i přes svůj vysoký význam
zůstaly v implicitní rovině.
3. Konstruktivistický přístup (Constructivist evaluation; Egon
Guba, Yvonna Lincolnová)
Konstruktivistický přístup (samotnými autory označovaný také jako „eva-
luace čtvrté generace“ či původně publikovaný pod názvem „naturalistic-
ký přístup“) je reakcí na obecně převládající pozitivistické chápání reality
jako objektivní danosti a možnosti jejího zkoumání a hodnocení. Čelní
představitelé konstruktivistického přístupu, E. Guba a Y. Lincolnová,
se přibližně od počátku 80. let snažili rozproudit vývoj evaluačního oboru
diskuzí o hodnotovém pluralismu, kritikou přílišné koncentrace evaluáto-
rů na výzkumnou metodologii a poukazováním na nevhodný design eva-
luací, který častokrát zúžil posuzované situace natolik, že dosažené zámě-
ry ztratily vnější validitu.
V rámci historického kontextu je třeba poukázat na skutečnost, že 80. léta
v USA znamenala oproti předchozím dvěma desetiletím zásadní redukci
Evaluační teorie a praxe odborné stati
13
počtu externě prováděných evaluací požadovaných federální vládou.
Snížení poptávky po evaluacích bylo způsobeno jednak rozpočtovými
škrty Reaganovy administrativy (bylo méně intervenčních programů,
jež by bylo třeba evaluovat), a dále také posílením role interních evaluač-
ních týmů působících v rámci jednotlivých ministerstev. Rovněž je třeba
upozornit na rostoucí význam evaluací9. Evaluátoři se tak více než dříve
obraceli k principiálním otázkám evaluací na rozdíl od praktických aspek-
jejich provádění, jež dominovaly v předchozím období.
E. Guba a Y. Lincolnová při formulaci svého přístupu vycházeli jednak
ze Stakeova responzivního přístupu10, ze kterého převzali tezi, že evalu-
ačního šetření by se měl účastnit nejen evaluátor a zadavatelé,
ale také všechny další zainteresované strany, kterých se prováděná evalu-
ace dotýká. Konstruktivisté v tomto ohledu dokonce přiznávají všem zain-
teresovaným stranám, které jsou zapojeny do prováděné evaluace, plně
angažovanou účast zahrnující jak spolurozhodování v otázkách cílů,
tak také právo ovlivňovat jednotlivé činnosti směřující k závěrům daného
evaluačního šetření. Druhým pilířem, o nějž se konstruktivistický přístup
opírá, je metodologie založená na hermeneutické dialektice. Evaluace
založené na konstruktivistickém přístupu tak nejprve sumarizují a analy-
zují mentální konstrukce jednotlivých zainteresovaných stran. V druhém
kroku jsou pak tyto mentální konstrukce podrobeny vzájemnému srovná-
vání, kdy jsou identifikovány oblasti shody mezi zainteresovanými stra-
nami a témata, v nichž se zainteresované strany liší. Následují diskuse
zainteresovaných stran facilitované evaluátorem, jejichž cílem je sblížit
mentální konstrukce zainteresovaných stran a dosáhnout shody.
E. Guba s Y. Lincolnovou tak zpochybňují epistemologické možnosti ne-
závislého a nezúčastněného poznávání (objektivní) reality a kladou je
do protikladu s transakčním subjektivismem, o nějž se opírá jimi zdůraz-
ňovaný intersubjektivní (sdílený) charakter individuálních konstrukcí.
9 E. House (1993) komentuje: „Evaluace začaly být až příliš důležitou činností na to,
aby byly ponechány jen v rukách akademiků.“
10 Responzivní přístup je dalším ze způsobů, jak mohou být evaluace koncipovány. Toto
pojetí je typické tím, že nemá pevný design, ten se utváří postupně krok za krokem až
v průběhu realizace dané evaluace vždy na základě dílčích závěrů z edchozích etap.
Evaluační teorie a praxe odborné stati
14
Na rozdíl od některých jiných přístupů, např. exploračního, je konstrukti-
vistický přístup spjat s konkrétními metodami a technikami. Rovněž jeho
paradigmatic vyhraněnost a jasné paradigmatické zakotvení z něj činí
výjimku mezi ostatními přístupy. Jako jeden z mála přístupů (pokud ne
jako jediný) odmítá pozitivistický pohled na evaluace a vyzdvihuje před-
poklad o neexistenci objektivní pravdy a objektivní hodnoty. Žádná
z mentálních konstrukcí jednotlivých zainteresovaných stran není podle
E. Guby a Y. Lincolnové o nic pravdivější a opravdovější než jiná mentální
konstrukce kteréhokoliv z dalších účastníků prováděné evaluace.
Konstruktivistický přístup klade do středu své pozornosti zainteresované
strany a věnuje značnou pozornost analýze jejich role v posuzovaném
intervenčním programu a sledování konkrétních zájmů, jimiž jsou tyto
zainteresované strany vedeny. Naproti tomu explorační (M. Scriven)
a konfirmační (R. Tyler) přístup obracejí svou pozornost k cílům sledova-
ných intervenčních programů a k metodám, jak co nejlépe ověřit jejich
dosažení. Zainteresované strany vystupují v takto pojatých evaluacích
jen jako jeden z činitelů, v němž se zrcadlí přínos (worth) posuzovaných
intervenčních programů, nikoliv však jejich věcný základ (merit).
Mnoho evaluátorů poukazuje na značnou obtížnost provedení evaluací
způsobem, který by využíval konstruktivistický přístup, přesto se však lze
s konkrétními příklady jejich praktického využití setkat. Významnou bari-
éru aplikačního rozvoje konstruktivistického přístupu představuje princi-
piální cíl takto prováděných evaluací, jímž je konvergence protichůdných
zájmů (subjektivních mentálních konstrukcí) a dosažení konsenzu. Pa-
wson a Tilley (1997) proto zařazují konstruktivistický přístup založený
na negociaci mezi nositeli jednotlivých mentálních konstrukcí do „útulné-
ho předměstského světa, v němž se odehrávají setkání mezi řediteli škol,
učiteli a rodiči žáků, při kterých marní čas diskuzemi o charakteru domá-
cích úkolů pro pátou třídu“. Rovněž další z předpokladů, hermeneutický
dialektický proces, činí z konstruktivisticky prováděných evaluací činnost,
která je v rámci obvykle požadovaných časových rámců (řádově měsíce)
prakticky neuchopitelná a neproveditelná. Konstruktivistický přístup
tak sice příliš nezměnil evaluační praxi a vžité způsoby provádění evalua-
cí, nicméně významným způsobem ovlivnil evaluační teorii. Je téměř ne-
možné najít monografii či učebnici evaluací vydanou v posledních pěta-
dvaceti letech, která by na konstruktivistický přístup neodkazovala. Je
třeba na tomto místě poukázat na skutnost, že samotný ístup se stal
Evaluační teorie a praxe odborné stati
15
inspirací pro mnohé další (např. participativní přístup) a má rovněž své
přímé pokračovatele např. Bhola (1998), Schwandt (1984) či Huebner,
Betts (1999).
V neposlední řadě je třeba vyzdvihnout přínos řady dílčích koncep
a námětů, které se v evaluační praxi rychle rozšířily bez ohledu na kon-
krétně uplatňovaný přístup. V tomto směru především idea identifikace
všech subjektů dotčených evaluací a jejich zahrnutí do procesu evaluací
coby zainteresovaných stran je dnes obecně akceptovaným doporučením
(Lay, Papadopoulos 2007). Dokonce svůj normativní rozměr,
neboť zahrnutí všech zainteresovaných stran je definováno v Program
Evaluation Standards (cit. dle Sanders 1994) jako sine qua non každého
korektně provedeného evaluačního šetření.
Konstruktivistický přístup jako celek je však mnohými evaluátory
(např. Scriven 1991) považován za „radikální přístup v současné episte-
mologii a výzkumné metodologii“, který na vlně kritiky využitelnosti
experimentů v evaluační praxi vylil s vaničkou i dítě (Pawson, Tilley
1997). Konstruktivistickému přístupu je vytýkán neopodstatněný impera-
tiv parity zainteresovaných stran v kontextu zjevně disparitní reality,
kterou navíc všechny ostatní přístupy plně akceptují a reflektují. Další
odlišnost konstruktivistického přístupu omezující jeho využitelnost
se projevuje v nemožnosti posoudit adekvátnost závěrů z hlediska zave-
dených pojmů, jakými jsou např. validita a reliabilita. E. Guba s Y. Lincol-
novou sice v tomto ohledu nabízejí alternativní konstrukty (např. zavádějí
pojem kredibility coby náhrady za vnitřní validitu či dependabilitu
jako alternativu reliability); to však neřeší problém izolace konstruktivis-
tického přístupu.
Ilustrační příklad konstruktivistického přístupu:
Při uplatnění konstruktivistického přístupu diskutuje evaluátor během společného
brainstormingu s vybranými účastníky daného kursu; nezaměstnanými,
kteří nebyli do kursu přijati; lektory; zástupci potenciálních zaměstnavatelů; í-
mými nadřízenými zaměstnanců, kteří se v minulosti kursu zúčastnili a získali
nové zaměstnání; pracovníky daného úřadu práce; zástupci iniciátora daného
intervenčního programu a s rodinnými příslušníky účastníků kursu. V průběhu
diskuzí, kte evaluátor moderuje, se pozornost zaměřuje na očekávání, s nimiž
jednotlivé zainteresované strany vstupovaly do dané situace (tím dojede ke kon-
frontaci subjektivit resp. mentálních konstrukcí). Evaluátor zjišťuje, která z těchto
Evaluační teorie a praxe odborné stati
16
očekávání se naplnila a která nikoliv, následně hledá způsoby, jak koncipovat
či vylepšit posuzovaný kurs, aby uspokojil potřeby každé ze zainteresovaných
stran. Tyto diskuze jsou opakovány do doby, než je nalezeno kompromisní uspořá-
dání kursu, které maximalizuje užitečnost pro každou ze zainteresovaných stran.
Výsledkem je tedy návrh změn v uspořádání kursu, které vede k tomu, že iniciátor
považuje kurs za užitečný, (potenciální) účastníci v něm spatřují cestu k získání
nového zaměstnání, pracovníci úřadů práce jsou přesvědčeni, že absolventy tak-
to koncipovaného kursu dokáží snáze umístit na trhu práce a zaměstnavatelé
budou preferovat absolventy kursu oproti jiným uchazečům, neboť jsou přesvěd-
čeni o tom, že tito absolventi skutečně disponují potřebnými schopnostmi a do-
vednostmi.
Zadavatel evaluace se dozví jen velmi málo o efektivnosti kursu, a tak rozhodnutí
o rozšíření do dalších regionů bude muset opřít o jiné poznatky, nicméně díky
konstruktivisticky pojaté evaluaci získá podobné informace o tom, jaký je přínos
kursu pro jednotlivé zainteresované strany. Takovéto poznatky mohou pomoci
jak při zlepšování kursu, tak také při komunikaci s jednotlivými zainteresovanými
stranami.
4. Evaluace vedená teorií (Theory-driven evaluation; Huey-Tsyh
Chen, Peter Rossi)
Přístup k provádění evaluací, který je veden teorií, lze považovat za í-
svek k diskuzi mezi evaluátory o možnostech a limitech uplatnění ran-
domizovaných experimentů. Představitelé tohoto přístupu nerozšiřují
řady radikálních kritiků, kteří odmítají jak samotné experimenty,
tak také jakýkoliv jiný design empirické studie šité podle pozitivistického
střihu. Přístup k provádění evaluací, který je veden teorií, se v tomto oh-
ledu distancuje jak od konstruktivistického přístupu E. Guby a Y. Lincol-
nové, tak také od jejich descendentů v podobě participativních evaluací
a řady dalších (zejm. od přístupu založeného na spolupráci /collaborative/
a od zplnomocňujícího /empowerment/ přístupu).
Na druhé straně však nelze teorií vedený přístup přiřadit ani k obhájcům
a šiřitelům experimentálního designu, jakými byli např. D. Campbell,
J. Stanley nebo T. Cook. Čelný představitel tohoto přístupu, H. Chen, ob-
rací pozornost evaluátorů k mechanismu fungování interven, a vytváří
tak nový rámec, v mž mohou být prováděny jak (dílčí) experimenty,
Evaluační teorie a praxe odborné stati
17
tak také jinak koncipovaná šetření. Významnou změnu oproti ostatním
popisovaným přístupům představuje způsob využití takto získaných úda-
jů. Ty jsou totiž vztahovány ke kontextu dané intervence a slouží k vysvět-
lení způsobu, jak daná intervence funguje. Zájem vysvětlení je v evalua-
cích ojedinělý. Z mnoha pramenů je patrné, že smysl, cíle a poslání evalu-
ací jsou tradičně spatřovány zejména v popisu (deskripci) a v jisté omeze-
né míře v exploraci, nicméně pokus o vysvětlení (např. způsobu fungová-
ní intervenčního programu) se v uchopitelné a systematicky pojaté podo-
objevuje až u H. Chena. Na tentoístup a jeho nosnou ideu o evalua-
cích vysvětlujících mechanismy fungování posuzovaného intervenčního
programu navázal na realistický přístup, který přinesl do evaluační teorie
klíčové prvky emergentního realismu (zejm. pak generativní pojetí kauza-
lity, roli kontextu či rozlišení mechanismu a pravidelnosti).
Chenův přístup směřuje k eliminaci interpretační nejistoty (zejména)
v případě přijetí nulové hypotézy o fungování intervence programu
v podmínkách experimentálního designu11
. Pokud totiž není shledán
statisticky významný rozdíl mezi výstupy v testovací a kontrolní skupině,
nabízí se vždy několik zásadních otázek či pochybností: Znamená výsle-
dek testu, že daný intervenční program skutečně nevyvolává očekávané
efekty? Co když je neprůkazný výsledek způsoben navrženým evaluač-
ním designem? Co když jsou použity takové nástroje měření, které jen
nejsou dostatečně citlivé, aby mohly způsobený efekt zachytit? Mohli
bychom dosáhnout jiného výsledku, tj. prokázat funkčnost dané interven-
ce, pokud bychom zvýšili počet případů/velikost testovací a kontrolní
skupiny? H. Chen proto v této souvislosti nabízí řešení, které spočívá
v doplnění poznatků získaných z evaluací založených na experimentálním
(či kvaziexperimentálním) designu o nový typ informa a znalostí o tzv.
„teorii“ působení dané intervence (Donaldson 2007; Rogers 2008).
Ústřední pojem teorie tedy v podání autora znamená pravděpodobný
a obhajitelný model očekávaného působení daného intervenčního pro-
gramu (Chen, Rossi 1983). Chenova teorie“ je představou o mechanis-
mech, kterými by daný intervenční program mohl působit, a které by
mohly vyvolávat pozorovatelné výstupy. Kondicionál v poslední větě je
11 Tedy při ověřování účinnosti intervence pomocí porovnávání výsledků dosažených
v testovací skupině (jež byla intervenci podrobena) oproti výsledkům skupiny kontrolní
(ve které nebyla intervence aplikována).
Evaluační teorie a praxe odborné stati
18
zvolen záměrně, neboť H. Chen sám nechápal svou definici teorie deskrip-
tivním způsobem, tedy jako konstatování faktického stavu, nýbrž jako
vyjádření žádoucího, lepšího či optimálního stavu (Chen 1990). Chenovu
teorii je tedy možné si představit jako soubor vzájemně provázaných hy-
potéz o vztazích mezi jednotlivými událostmi mezi prvky dané intervence.
Vlastní proces evaluačního šetřeje pak de facto verifikací tohoto souboru
hypotéz a modifikací výchozí představy na základě empiricky získávaných
údajů.
Přístup k provádění evaluací, který je veden teorií, je založen na třech
elementárních principech. Tím prvním je zaměření na změnu (action orien-
ted); zahrnuje totiž detailní popis jednotlivých mechanismů, pomocí nichž
intervenční programy mohou působit (tj. vyvolávat změnu). V tomto oh-
ledu itom nejde ani o popis chozí struktury, ani o zachycení jednotli-
vých prvků samotných intervenčních programů, ale jde o zachycení dy-
namiky intervence. Dru princip Chenova přístupu je založen na kon-
ceptualizaci samotné intervence a na detailním rozboru použité imple-
mentační strategie. V tomto ohledu se teorií vedený přístup zaměřuje
na analýzu konkrétně použitých nástrodané intervence a na zkoumání
intenzity či způsobu jejich použití. Třetím z principů tohoto přístupu je
volba kritérií, na jejichž základě jsou výsledky daného intervenčního pro-
gramu posuzovány. Zde H. Chen navazuje jak na R. Tylera, tak také
na M. Scrivena, kteří v rámci svých přístupů věnovali volbě a adekvátní-
mu stanovení indikátorů značnou pozornost. H. Chen však zvolil odlišný
způsob jejich stanovení navrhuje totiž, aby kritéria pro posouzení účin-
nosti dané intervence navrhly samotné zainteresované strany. 12
H. Chen v rámci svého přístupu definoval celkem šest oblastí 13, jimž je
eba při provádění evaluací věnovat pozornost. Jde (1) o samotnou pova-
hu intervence (treatment), jejíž poznání a analýza je nezbytným východis-
kem pro zachycení změn vyvolaných daným intervenčním programem,
(2) o implementační prostředí, které jasně odkazuje ke kontextu, v němž
se posuzovaná intervence, resp. intervenční program odehrává, a (3)
o výsledky, ke kterým daný intervenční program dospěl. Druhá trojice
12 Pokud tato výzva zní jako utopie, která nemůže vést v praxi k adekvátním závěrům,
odkazujeme na pravidla stanovení indikátorů využívaných pro monitoring a evaluaci
operačních programů Evropské unie.
13 H. Chen je nazývá domény (domains).
Evaluační teorie a praxe odborné stati
19
oblastí zahrnuje (4) dopady, jejichž detailní analýzu H. Chen považuje
za ústřední téma celé evaluace, (5) intervenující mechanismus, což je
v podsta kaulní vztah spojují povahu intervence a její výsledek (out-
come) a (6) zobecnění, v souvislosti s nímž H. Chen upozorňuje, že získané
poznatky mohou být využívány i s časovým odstupem, pro jiné populace
či v jiných kontextech.
Chenovým cílem, který anticipuje v rámci svého přístupu, je snaha o do-
sažení vyváženého poměru mezi vnitřní a vnější validitou. To je další
z mnoha prvků, jimiž se Chenův přístup odlišuje od všech ostatních. Jiné
přístupy, jak H. Chen sám poukazuje, totiž buď kladou důraz jen na jeden
z obou typů validity, nebo si problém validity vůbec nepřipouštějí (Chen
1990). H. Chen v tomto ohledu odkazuje na vyhlášené spory W. Gosseta
s R. Fischerem vedené o povaze a vhodnosti znáhodněných experimentů,
přičemž Chen jednoznačně straní Gossetovi, který namísto experimentál-
ního designu preferoval takové uspořádání, jehož postupy by se co nejvíce
podobaly reálným situacím zkoumaných subjektů (Alkin 2004).
Nespornou výhodou Chenova přístupu je, že konkrétní rozhodnutí, jež je
při realizaci evaluačního šetření třeba učinit, jsou rámována teorií. Zna-
mená to tedy, že charakter jednotlivých kauzálních vazeb, povaha sledo-
vaných znaků (indikátorů) i samotná interpretace získaných výsledků má
jasný a dokumentovaný základ, který usnadňuje implementaci dosaže-
ných výsledků (Molas-Gallard, Davies 2005).
Přístup k provádění evaluací, který je veden teorií, lze tedy využívat
zejména v takových případech, kdy není možné testovat vztahy me-
zi jednotlivými proměnnými přímo; v těchto situacích dokáže teorií vede-
přístup zvýraznit výsledky sledovaných programů a zároveň ta-
přesně specifikovat jednotlivé faktory, které k celkovému výsledku
přispívají největší měrou. Daných závěrů je při využití tohoto přístupu
dosaženo prostřednictvím popisu mechanismu působení intervenčního
programu a prostřednictvím specifikace a monitorování determinujících
činitelů.
Ilustrační příklad teorií vedeného přístupu:
Evaluátor provádějící evaluace v duchu tohoto přístupu po úvodním seznámení
s danou situací připraví „teorii“, jak daný kurs může dosahovat očekávaných
výsledků, popř. převezme (a upraví) teorii připravenou zadavatelem evaluace.
Evaluační teorie a praxe odborné stati
20
Následně připraví takový design evaluace, který umožní vytvořenou teorii ověřit.
Takový model může mít třeba podobu, jež je patrná z následujícího obrázku:
Obrázek 1: Návrh konceptuálního schématu
Zdroj: autor
V průběhu evaluace je výchozí model (dokumentující teorii změny) postupně
upravován podle získávaných poznatků tak dlouho, až vznikne finální podoba
„ověřené“ teorie. Evaluátor během provádě takovéto evaluace spolupracuje
s jednotlivými zainteresovanými stranami, získává konkrétní podkladová data
o jednotlivých prvcích své teorie a klade přitom důraz na přesné zachycení a popis
klíčových procesů (vazeb mezi jednotlivými prvky). V závěrečné zprávě pak evalu-
átor zdůrazní kritické momenty, které se spolupodílejí na úspěšnosti kursu.
Zadavatel tak získá podklad verifikující, zdali předpokládaný mechanismus půso-
bení kursu skutečně funguje či nikoliv. Teorií vedený přístup tedy neověřuje dosa-
žené cílové hodnoty (jako tomu je v přístupu konfirmačním), nehledá ani jednotli-
efekty, k nimž kurs vede (viz explorační přístup), ale prověřuje platnost před-
pokládaných vztahů mezi aktivitami a výstupy, mezi výstupy a výsledky
a mezi výsledky a dopady. Zadavatel na základě výsledků takto pojaté evaluace
zváží, zdali i v ostatních regionech panují podobné okolnosti jako v pilotní lokalitě
(výchozí úroveň počítačové gramotnosti, počet a struktura pracovních sil atd.)
a pokud ano, rozhodne o rozšíření kursu.
Souhrn
Z nastíněného přehledu jednotlivých přístupů je patrné, že každý z nich je
možné si představit jako reflektor, který osvětluje konkrétní část dané
intervence. Ze zkenos a z dostupch podkladů se ukazuje, že žádný
z existujících přístupů neposkytuje recept na všechny situace,
Evaluační teorie a praxe odborné stati
21
ve kterých evaluace jsou a mohou být prováděny. Existence několika eva-
luačních přístupů je tak odrazem mnohosti hodnocených situací; pro kaž-
dou situaci je vhodný jiný evaluační přístup. Současně to znamená,
že v dané situaci lze využít několika různých přístupů a zohlednit
tak konkrétní parametry dané aplikační situace. Tato variantnost v přístu-
pech k realizaci evaluací na jedné straně představuje jistá rizika,
neboť volba konkrétního přístupu že být v dané aplikační situaci pro-
vedena laikem, ať už na straně realizátora či na straně zadavatele bez ade-
kvátní rozvahy nad implikacemi takovéto volby. Na druhé straně platí,
že zmiňovaná mnohočetnost přístupů, jakkoliv činí oblast evaluací nepře-
hlednou, je smysluplná a v konečném důsledku užitečná, neboť přibližuje
evaluační metodologii konkrétním aplikačním situacím.
V praxi se obvykle zohledňují pragmatická kritéria pro volbu přístupu
či pro nastavení designu dané evaluace. V řadě případů je typ (přístup)
definován zadavatelem, v jiných situacích nebývá čas či prostředky k pro-
vedení evaluace vícero přístupy, v některých případech může chybět po-
vědomí o alternativních způsobech provedení evaluace či znalost kon-
krétních metodologických nástrojů nutných pro realizaci daného evaluač-
ního přístupu. Způsob provedení evaluace je dále determinován jejím
cílem, což některé přístupy v dané aplikační situaci diskvalifikuje. Přesto
však je vhodné o alternativních přístupech vždy uvažovat, neboť jejich
efektivní realizací může být významně zvýšena užitečnost (a využitelnost)
provedené evaluace.
Evaluační teorie a praxe odborné stati
22
Porovnání některých charakteristik jednotlivých teoretických
přístupů k realizaci evaluací
Konfirmační
(R. Tyler)
Explorační
(M. Scriven)
Konstruktivistický
(E. Guba,
Y. Lincolnová)
(H. Chen)
Definice Shoda mezi chováním
a cíli
Srovnán í výsledk u
s potřebami (needs)
Evaluační realita není
objekti vně daná, ale je
mentální konstrukcí
intervence je zachyti-
telný pomocí teorie
Předmět evalua-
ce Osvědčení cílů Identifikace dosaže-
ných efektů
Vnímání efektů
zainteresovanými
stranami
Vysvětlení mechanis-
mu dosaže ní efektů
Klíčová informace
Cíle a výstupy,
indikátory
Zamýšlené a nezamýš-
lené důsledky
Konstrukce reality
Teoretický
základ evaluace
Pozitivismus Nespecifick ý Fenomeno logie Vě decká metoda
Metodologický
akcent
Vnitřní validita Nespecifický Hledisko validity je
odmítáno Vnější validita
Role evaluátora Nez účastněná,
objektivní
Nezávisl á autorita;
minimální interakce
se zadavatelem
Je jednou ze zain tere-
sovaných stra n Nezúčastněn á
Role kontextu Bezvýznamná Nespec ifická
Dána interakcí
mentálníc h konstrukc í
zainteresovaných stran
Zásadní
Výhody
1. Je systematický
2. Stojí na tradič ních
vědeckýc h základech
3. Legitimizuje i jiné
než konvenční metody
sběru dat
1. Je provedite lný
i bez znalosti cílů
2. Upozorňuje na roli
vedlejších a neočeká-
vaných efektů
3. Při stanovení
indikátorů je flexibilní
1. Klade důraz
na zájmy všech
zainteresovaných stran
mechanis mus
působení intervence
Nevýhody
1. Nezahrnuje způsob
definice c ílů
2. Příliš akcentuje pre-
post des ign
3. Vede ke ko nver-
gentním efektům
(předčasné zá věry,
odhlíží od dopadů)
1. Nepos kytuje návod
na prove dení v praxi
2. Vyžaduje kompe-
tentního evaluátora
(příliš spoléhá na jeho
kvality)
3. Definice potřeb
může být zkr eslena
výzkum ným procesem
1. V praxi je obtížně
proveditelný
2. Zájmy zainteresova-
ných stran někdy
konvergova t nemohou
3. Riziko ztráty
nestran nosti evaluá to-
ra je velmi vysoké
nepozor ovatel
procesy
2. Riziko opakování
záměrů inici átora
intervence je vysoké
Zdroj: autor
Evaluační teorie a praxe odborné stati
23
Literatura
[1] Alkin M. C. (2004) Evaluation Roots. London: SAGE Publication.
[2] Alkin M. C., Christie C. A. (2005) Theorists´ Models in Action. San
Francisco: Jossey-Bass.
[3] Bloom B. S., Engelhart M. D., Furst E. J., Hill W. H., Krathwohl D. R.
(1956) Taxonomy of Educational Objectives: Handbook I. Cognitive Do-
main. New York: David McKay.
[4] Bhola H. S. (1998) “Program evaluation for program renewal:
A study of the national literacy program in Namibia”. Studies in Ed-
ucational Evaluation 4
[5] Chen H-T. (1990) Theory-Driven Evaluations. London: SAGE Publish-
ing.
[6] Chen H-T., Rossi P. H. (1983) “Evaluating with Sense: The Theory-
driven Approach”. Evaluation Review 7
[7] Donaldson S. I. (2007) Program Theory-Driven Evaluation Science.
New York: LEA.
[8] Guba E. G., Lincoln Y. S. (1989) Fourth Generation Evaluation. Lon-
don: SAGE Publishing.
[9] Hall D., Hall I. (2004) Evaluation and social research introducing
small-scale practice. New York: Palgrave McMillan.
[10] House E. R. (1980) Evaluating with Validity. London: SAGE Pub-
lishing
[11] House E. R. (1993) Professional Evaluation. Social Impact and Political
Consequences. London: SAGE Publishing.
[12] Huebner A.J., Betts S.C. (1999) “Examining Fourth Generation
Evaluation: Application to Positive Youth Development”. Evaluation
1999 5: 340-358.
[13] Lay M., Papadopoulos I. (2007) “An Exploration of Fourth Genera-
tion Evaluation in Practice”. Evaluation 2007 13: 495-504.
[14] Mager R. F. (1962) Preparing Instructional Objectives. Palo Alto:
Fearon.
[15] Mark, M. M., Henry, G. T., Julnes G. (2000) Evaluation: An Integrated
Framework for Understanding, Guiding and Improving Policies and Pro-
grams. San Francisco: Jossey-Bass
Evaluační teorie a praxe odborné stati
24
[16] Molas-Gallard J., Davies A. (2005) “Toward Theory-Led Evaluation.
The Experience of European Science, Technology, and Innovation
Policies”. American Journal of Evaluation 2: 1-18.
[17] Patton M. Q. (1982) Practical Evaluation. London: SAGE Publishing.
[18] Patton M. Q. (2008) Utilization-Focused Evaluation. London: SAGE
Publishing.
[19] Pawson R., Tilley N. (1997) Realistic Evaluation. London: SAGE Pub-
lications.
[20] Rodríguez-Campos L. (2005) Collaborative Evaluations. Florida:
Llumina Press
[21] Rogers P. J. (2008)Using Programme Theory to Evaluate Compli-
cated and Complex Aspects of Intervention”. Evaluation 2008 14: 29-
48.
[22] Rossi P. H., Lipsey M. W., Freeman H. E. (2004) Evaluation. A Sys-
tematic Approach. London: SAGE Publications.
[23] Sanders R. J. (1994) The Program Evaluation Standards 2. London:
SAGE Publishing.
[24] Schwandt T. A. (1984) An Examination of Alternative Models for Soci-
obehavioral Inquiry. Indiana: IN.
[25] Scriven M. (1973) “The Methodology of Evaluation”.
In Worthen B. R., Sanders J. R. (eds.) Educational Evaluation: Theory
and Practice. Belmont: Wadsworth.
[26] Scriven M. (1991) Evaluation Thesaurus. London: SAGE Publishing.
[27] Scriven M. (1993) Hard-Won Lessons in Program Evaluation. San Fran-
cisco: Jossey-Bass.
[28] Shadish W. R., Cook T. D., Leviton L. C. (1991) Foundations of Pro-
gram Evaluation. London: SAGE Publishing
[29] Stake R. E. (1975) Program Evaluation, Particularly Responsive Evalu-
ation. Kalamazoo: Western Michigan University Evaluation Center
[30] Stake R. E. (2004) Standards-Based & Responsive Evaluation. London:
SAGE Publishing.
[31] Stufflebeam D. L., Shinkfield A. J. (2007) Evaluation, Theory, Models
& Applications. San Francisco: Jossey-Bass.
[32] Weiss C. H. (1972) Evaluation Research. New Jersey: Prentice-Hall
... Účelnost (efektivnost) Efektivnost vypovídá o míře naplnění stanovených cílů (Remr, 2013). Vzhledem k jejich povaze nelze jednotlivé cíle jednoduše a přímočaře kvantifikovat. ...
Technical Report
Full-text available
Závěrečná evaluační zpráva obsahuje závěry průběžné a závěrečné evaluace projektu "Standardizace edukace rodičů v rozvodu v Poradně CSS Praha". Evaluace se zaměřovala na průběžné sledování projektových aktivit a na vyhodnocení inovovaného metodického postupu vytvořeného v projektu a implementovaného prostřednictvím Metodiky do služby odborného sociálního poradenství. Evaluace také posuzuje celkový efekt navrhované intervence na cílové skupiny.
... Efekty mohou být pozitivní a negativní (i takovým byla v rámci prováděné evaluace věnována pozornost).Relevance V rámci vyhodnocení kritéria relevance byly porovnávány cíle stanovené v rámci projektu s výchozími potřebami. V tomto ohledu je třeba uvést, že zdaleka ne všechna doporučení a náměty mohly být uskutečněny (selektivita).Účelnost (efektivnost) Efektivnost vypovídá o míře naplnění stanovených cílů(Remr, 2013). Vzhledem k jejich povaze nelze jednotlivé cíle jednoduše a přímočaře kvantifikovat. ...
Technical Report
Full-text available
Závěrečná evaluační zpráva informuje o průběhu řešení projektu, kdy byla průběžně sledována realizace projektových aktivit a tvorba výstupů. Závěry v této evaluační zprávě se opírají o projektovou dokumentaci, výstupy projektových aktivit, zápisy z projektových aktivit a o výsledky satisfakčního výzkumu. Projekt cílil na implementaci nového způsobu mapování potřeb a schopnosti sociálního fungování klientů (osob s PPP). V souvislosti s tím měl projekt zvýšit odborné kompetence sociálních pracovnic v oblasti evaluace a využívání nově vytvořeného systému zjišťování potřeba schopnosti sociálního fungování klientů.
Presentation
Full-text available
This presentation explores the perceptions and behaviors of personal health management among the general adult population, a critical issue in public health and preventive medicine. Our comprehensive health survey reveals a widespread belief, particularly among younger adults without chronic health problems, that personal health can be effectively managed through preventive health measures and responsible lifestyle choices. A key finding of our research is the significant impact of health consciousness - how actively individuals engage with their health and wellness - on these attitudes. Health literacy, a critical factor in patient engagement and health literacy, shows demographic variation: it is higher among women, increases with age, and is lower among those with a college education. Our study also highlights a worrying trend in access to care: a significant proportion of adults are reluctant or fearful to seek medical advice in the early stages of a health problem. This reluctance underscores a major challenge in patient care and early disease detection. To combat this, we propose the integration of telemedicine tools as a strategic solution in healthcare technology. Telemedicine, which provides remote medical consultation, is emerging as a promising avenue to bridge gaps in early medical intervention. This presentation not only provides valuable insights into current trends in healthcare management, but also positions telemedicine as a key player in improving healthcare accessibility and efficiency.
Conference Paper
Full-text available
Telehealth services represent a significant innovation in the way selected healthcare activities are delivered. Indeed, the active use of these services makes it possible to improve access to care even for vulnerable, isolated, and marginalized populations. Although the issue of telehealth services came to the fore especially during the COVID-19 pandemic, their importance remains high in the post-pandemic period. A prerequisite for the use of telehealth services is both a basic level of ability to communicate using the relevant technologies (technology readiness), as well as an acceptance of remote communication with a physician or health professionals or therapists.
Presentation
Full-text available
Ageing and urbanization represent important trends that co-determine the dynamics and direction of city development. The proportion of elderly has approximately doubled in the last fifty years and will exceed one third of the population in the next thirty years. Two-thirds of the population are expected to live in urban areas by 2050. Ageing and urbanization pose urgent challenges, as these processes carry risks of social exclusion, unequal access to resources and unequal opportunities for a healthy life. To prevent seniors from being in such a vulnerable position, it is important to ensure a supportive urban environment and to implement effective policies enabling seniors to cope with everyday situations. The results show that successful age-friendly interventions need to be adequately integrated into institutional and implementation frameworks. Moreover, the willingness to participate varies between social groups. The findings are based on quantitative research that was conducted on a representative sample of seniors 64 to 84 years old in Czechia. The data collection had the form of face-to-face interviews; the total sample involves 2018 respondents from all regions of the country.
Technical Report
Full-text available
Tato zpráva prezentuje výsledky evaluace projektu „Metoda multidisciplinární práce s dítětem ve školním prostředí s přesahem do rodiny“ (reg.č. CZ.03.2.X/0.0/0.0/17_076/0011461), který byl realizován Espediente, z.s. v období 1. 1. 2020–30. 6. 2022. Primárním cílem projektu je vytvořit a pilotně ověřit metodu sociálně pedagogické práce s rodinou v oblasti školství se zaměřením na včasnou detekci ohrožených dětí prostřednictvím on-line diagnostického nástroje vytvořeného k identifikaci dětí ohrožených rizikovým chováním ve školním prostředí v důsledku nestabilního rodinného zázemí.
Technical Report
Full-text available
Projekt Rozchodem rodina nekončí: podpora dětí ohrožených rozvodem či rozchodem rodičů v ČR byl realizován v rámci Operačního programu zaměstnanost, výzvy číslo 76 organizacemi APERIO – Společností pro zdravé rodičovství, z. s. a Ligou otevřených mužů, z. s. Cílem projektu bylo minimalizovat dopady rodičovského rozchodu/rozvodu na děti. Účelem závěrečné evaluace je zhodnotit jeho efektivnost (tj. zdali a v jaké míře byly dosaženy stanovené cíle), posoudit efekty projektu na jednotlivé cílové skupiny a vyhodnotit přínosy pro cílové skupiny. Závěrečná evaluace rovněž identifikuje předpoklady pro udržitelnost výstupů do budoucna.
Presentation
Full-text available
The paper introduces the SEIQoL (Schedule for the Evaluation of Individual Quality of Life), a tool for evaluating the quality of life from a subjective perspective. The contribution turns the attention to quality of life as an important aspect of interventions impact and their evaluation. It offers practical experiences with SEIQoL administration and provides a balanced combination of practicalities and underlying conceptual explanations. Attention is also paid to selected methodological issues such as the dynamic nature of quality of life, administrators´ bias, or usability for evaluation of human services interventions. SEIQoL provides a useful insight into the impacts of human services interventions on individual quality of life. Moreover, being open to subjective “cues”, i.e., the areas that individuals consider important for their quality of life, and following the participatory approach, SEIQoL can help to reshape the knowledge about the needs of beneficiaries.
Conference Paper
Full-text available
The main goal of the contribution is to summarize perceptions and experiences of seniors concerning their needs with regard to ageing. The paper puts aside the nation-wide measures as well as intra-family factors and focuses on the importance of local communities, the roles of neighbors and the suitability of urbanistic settings surrounding the seniors. The paper analyzes the key determinants of neighbors´ engagement in informal care, identifies the main elements of a good neighborship, and identifies what seniors need from age-friendly communities.
Article
In recent years, foundations have begun to think more holistically and to support collaboration across organizations. One form of collaboration, and the focus of the case study described in this issue, is the collective impact initiative, where a foundation convenes organizations from different sectors around a shared agenda. But how are evaluations designed in this context? This chapter introduces four theorists who, in this issue, translate their theories into practice to help us answer that question. To provide context for their individual chapters, the Evaluation Theory Tree is used to frame how the theorists were selected and introduce each of them in greater detail.
Book
Evaluation is a large and growing field with applications to a wide range of disciplines - including sociology, social work, social policy, psychology, health, nursing, education, community development, etc. This text explains the different perspectives and needs of researchers and practitioners at the local level in plain, accessible English and develops a model for small scale evaluation. It offers a practical approach to the challenges of evaluation research, well illustrated with examples, and suitable for students and practitioners alike.
Article
The abstract for this document is available on CSA Illumina.To view the Abstract, click the Abstract button above the document title.
Article
The evaluator in this chapter provides a realistic account of the actions he would take to provide external evaluation services using the program theory– driven evaluation science approach.