ArticlePDF Available

INDICADORES E A GESTÃO DE POLÍTICAS PÚBLICAS

Authors:

Abstract and Figures

The paper discusses the potentialities and limitations of the use of statistical information produced by the IBGE and the administrative registers of public agencies for the construction of indicators to be used in the diagnosis, monitoring and evaluation of social programs in Brazil. It begins by presenting the conceptual basis for understanding the social indicators, their properties and classification systems. It then outlines a framework of a system of indicators to support the process of formulation and evaluation of public programs. The paper concludes by advocating the need to structure systems of indicators based on secondary sources of data and also on primary data collected in the scope of the programs. Key words: indicators, monitoring, social policies
Content may be subject to copyright.
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 137
Paulo de Martino Jannuzzi
Indicadores para
diagnóstico, monitoramento
e avaliação de programas
sociais no Brasil*
Paulo de Martino Jannuzzi
Introdução
O interesse pela temática dos indicadores sociais e sua aplicação nas ativi-
dades ligadas ao planejamento governamental e ao ciclo de formulação e avali-
ação de políticas públicas vêm crescendo no País, nas diferentes esferas de
governo e nos diversos fóruns de discussão dessas questões. Tal fato deve-se,
em primeiro lugar, certamente, às mudanças institucionais por que a adminis-
tração pública tem passado no País, em especial com a consolidação da siste-
mática do planejamento plurianual, com o aprimoramento dos controles admi-
nistrativos dos ministérios, com a mudança da ênfase da auditoria dos Tribunais
de Contas da avaliação da conformidade legal para a avaliação do desempenho
dos programas, com a reforma gerencial da gestão pública em meados dos anos
1990 (GARCIA, 2001. COSTA; CASTANHAR, 2003). Esse interesse crescente pelo
uso de indicadores na administração pública também está relacionado ao apri-
moramento do controle social do Estado brasileiro nos últimos 20 anos. A mídia,
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
138
os sindicatos e a sociedade civil passaram
a ter maior poder de fiscalização do gasto
público e a exigir o uso mais eficiente, eficaz
e efetivo dele, demandando a reorgani-
zação das atividades de planejamento em
bases mais técnicas.
Também tem contrib uído para a
disseminação do uso dos indicadores o
acesso crescentemente facilitado às infor-
mações mais estruturadas de natureza
administrativa e estatística – que as novas
tecnologias de informação e comunicação
viabili zam. Dados cadastrais antes
esquecidos em ar mários e fichários
passam a transitar pela Internet, trans-
formando-se em informação estruturada
para análise e tomada de decisão. Dados
estatísticos antes inacessíveis em enormes
arquivos digitais passam a ser “customi-
zadosna forma de tabelas, mapas e
modelos quantitativos construídos por
usuários não especializados. Sem dúvida,
a Internet, os CD-ROMs inteligentes, os
arquivos de microdados potencializaram
muito a disseminação da informão
administrativa compilada por órgãos
públicos e a informação estatística produ-
zida pelas agências especializadas.
É com o objetivo de apresentar como
essas informações estruturadas podem ser
empregadas nas diferentes etapas do ciclo
de formulação e avaliação de prog ramas
públicos que se apresenta este texto. Para
isso, inicialmente, apresentam-se, nas duas
primeiras seções, os aspectos conceituais
básicos acerca dos indicadores sociais, as
suas propriedades e as formas de classi-
ficá-los. Depois, discute-se uma proposta
de estruturação de um sistema de indica-
dores para subsidiar o processo de for-
mulação e avaliação de políticas e progra-
mas públicos no País.
Indicadores nas políticas públi-
cas: conceito e suas propriedades
No campo aplicado das poticas
públicas, os indicadores sociais são medidas
usadas para permitir a operacionalização de
um conceito abstrato ou de uma demanda
de interesse programático. Os indicadores
apontam, indicam, aproximam, traduzem
em termos operacionais as dimensões
sociais de interesse definidas a partir de
escolhas teóricas ou políticas realizadas ante-
riormente. Prestam-se a subsidiar as ativi-
dades de planejamento público e a
formulação de políticas sociais nas diferentes
esferas de governo, possibilitam o monito-
ramento das condições de vida e bem-estar
da população por parte do poder público
e da sociedade civil e permitem o aprofun-
damento da investigação acadêmica sobre
a mudança social e sobre os determinantes
dos diferentes fenômenos sociais (MILES,
1985. NAÇÕES UNIDAS, 1988). Taxas de anal-
fabetismo, rendimento médio do trabalho,
taxas de mortalidade infantil, taxas de
desemprego, índice de Gini e proporção
de crianças matriculadas em escolas são,
nesse sentido, indicadores sociais, ao tradu-
zirem em cifras tangíveis e operacionais
várias das dimensões relevantes, específicas
e dinâmicas da realidade social.
O processo de construção de um
indicador social, ou melhor, de um sistema
de indicadores sociais, para uso no ciclo
de políticas públicas inicia-se a partir da
explicitação da demanda de interesse
programático, tais como a proposição de
um programa para ampliação do aten-
dimento à saúde, a redução do ficit
habitacional, o aprimoramento do desem-
penho escolar e a melhoria das condições
de vida de uma comunidade. A partir da
definição desse objetivo programático,
busca-se, então, delinear as dimensões, os
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 139
Paulo de Martino Jannuzzi
componentes ou as ações operacionais
vinculadas. Para o acompanhamento dessas
ações em termos da eficiência no uso dos
recursos, da eficácia no cumprimento de
metas e da efetividade dos seus desdobra-
mentos sociais mais abrangentes e perenes,
buscam-se dados administrativos (gerados
no âmbito dos programas ou em outros
cadastros oficiais) e estatísticas públicas
(produzidas pelo IBGE e outras institui-
ções), que, reorganizados na forma de
taxas, proporções, índices ou mesmo em
valor es absolutos, transformam-se em
indicadores sociais (Figura 1). Os indica-
dores guardam, pois, relação direta com
o objetivo programático original, na forma
operacionalizada pelas ações e viabilizada
pelos dados administrativos e pelas estatís-
ticas públicas disponíveis.
A escolha de indicadores sociais para
uso no processo de formulação e avaliação
de políticas públicas deve ser pautada pela
aderência deles a um conjunto de proprie-
dades desejáveis e pela lógica estruturante
da aplicação, que definirá a tipologia de
indicadores mais adequada (JA NNU ZZI,
2001). No Quadro 1, estão relacionadas
12 propriedades cuja avaliação de aderência
(+) e de não aderência ou indiferença
deveria determinar o uso, ou não, do indi-
cador para os propósitos almejados.
A relevância para a agenda político-so-
cial é a primeira e uma das propriedades
fundamentais de que devem gozar os indi-
cadores escolhidos em um sistema de
formulação e avaliação de programas
sociais específicos. Indicadores como a taxa
de mortalidade infantil, a proporção de
crianças com baixo peso ao nascer e a pro-
porção de domicílios com saneamento ade-
quado são, por exemplo, relevantes e perti-
nentes para acompanhamento de
programas no campo da saúde pública no
Brasil, na medida em que podem responder
à demanda de monitoramento da agenda
governamental das prioridades definidas na
área nas últimas décadas. Indicadores de
pobreza (no sentido de carência de
rendimentos), por outro lado, só vieram a
ser r egularmente pr oduzidos quando
programas e ações focalizados em grupos
mais vulneráveis entraram na agenda da
política social, a partir dos anos 1980.
Validade é outro critério fundamental
na escolha de indicadores, pois é desejável
que se disponha de medidas tão “próxi-
mas” quanto possível do conceito abstrato
ou da demanda política que lhes deram
origem. Em um programa de combate à
fome, por exemplo, indicadores antro-
pométricos ou do padrão de consumo
familiar de alimentos certamente gozam de
Figura 1: Construção de sistema de indicadores para ciclo de políticas públicas
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
140
maior validade que uma medida baseada
na renda disponível, como a proporção
de indigentes. Afinal, índice de massa
corpórea, baixo peso ao nascer ou quan-
tidade de alimentos efetivamente consu-
midos estão mais diretamente relacionados
à nutrição adequada e à desnutrição que à
disponibilidade de rendimentos. Por outro
lado, é operacionalmente mais complexo
e custoso levantar inf ormações para o
lculo desses indicadores de maior
validade, comprometendo o uso deles para
fins de monitoramento periódico do grau
de “fome” na comunidade (daí o uso de
indicadores de rendimento como medidas
de acompanhamento).
Confiabilidade da medida é outra
propriedade importante para legitimar o
uso do indicador. Na avaliação do nível
de violência em uma comunidade, por
exemplo, indicadores baseados nos regis-
tros de ocorrências policiais ou mesmo de
mortalidade por causas violentas tendem
a ser menos confiáveis – e menos válidos
– que aqueles passíveis de serem obtidos a
partir de pesquisas de vitimização, em que
se questionam os indivíduos acerca de
agravos sofridos em seu meio em deter-
minado período. Naturalmente, mesmo
nessas pesquisas, as pessoas podem-se
sentir constrangidas a revelar situações de
violência pessoal sofrida, por exemplo, no
contexto doméstico, no assédio sexual ou
na discriminação por raça e/ou cor.
Sempre que possível, deve-se procurar
empregar indicadores de boa cobertura
territorial ou populacional, que sejam
representativos da realidade empírica em
análise. Essa é uma das características
interessantes dos indicadores sociais produ-
zidos a partir dos censos demográficos, o
que os tornam tão importantes para o
planejamento público no País. Mas mesmo
indicadores de cobertura parcial podem
ser úteis. Os indicadores de mercado de
trabalho construídos a partir das bases de
dados administrativos do Ministério do
Trabalho, por exemplo, o retratam a
Quadro 1: Avaliação da aderência dos indicadores às propriedades desejáveis
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 141
Paulo de Martino Jannuzzi
dinâmica conjuntural do mercado de tra-
balho brasileiro, já que se referem apenas
ao mercado de trabalho formal. Ainda
assim, esses indicadores aportam conheci-
mento relevante acerca da dimica
conjuntural da economia e do emprego,
em especial em âmbito municipal.
Sensibilidade e especificidade são
propriedades que também devem ser
avaliadas quando da escolha de indicadores
para a elaboração de um sistema de moni-
toramento e avaliação de programas
públicos. Afinal, é importante dispor de
medidas sensíveis e específicas às ações
previstas nos programas, que possibilitem
avaliar rapidamente os efeitos (ou não-
efeitos) de determinada intervenção. Taxa
de evasão ou freqüência escolar, por
exemplo, são medidas sensíveis e com certa
especificidade para monitoramento de
programas de transferência de renda, na
medida em que se espera verificar, em curto
prazo, nas comunidades atendidas por tais
programas, maior engajamento das
crianças na escola, como resultado direto
de controles compulsórios previstos ou
mesmo como conseqüência indireta da
mudança de comportamento ou da
necessidade familiar.
A boa prática da pesquisa social reco-
menda que os procedimentos de cons-
trução dos indicadores sejam claros e
transparentes, que as decisões metodo-
lógicas sejam justificadas, que as escolhas
subjetivas – invariavelmente freqüentes –
sejam explicitadas de forma objetiva.
Transparência metodológica é certamente
um atributo fundamental para que o indi-
cador goze de legitimidade nos meios
técnicos e científicos, ingrediente indispen-
sável para sua legitimidade política e social.
Comunicabilidade é outra propriedade
importante, com a finalidade de garantir a
transparência das decisões técnicas tomadas
pelos administradores públicos e a com-
preensão delas por parte da população, dos
jornalistas, dos representantes comunitários
e dos demais agentes públicos. Na discus-
são de planos de governo, orçamento
participativo, projetos urbanos, os técnicos
de planejamento deveriam valer-se, tanto
quanto possível, de alguns indicadores
sociais mais facilmente compreendidos,
como a taxa de mortalidade infantil e a
renda familiar, ou que o uso sistemático
os consolidou, como o índice de preços e
a taxa de desemprego. Nessas situações, o
emprego de indicadores muito complexos
pode ser visto como abuso tecnocrático
dos formuladores de programas, primeiro
passo para o potencial fracasso na sua
implementação.
A periodicidade com que o indicador
pode ser atualizado e a factibilidade de sua
obtenção a custos módicos são outros
“Indicadores sociais
permitem a operaciona-
lização de um conceito
abstrato ou de uma
demanda de interesse
programático. Eles
apontam, indicam,
aproximam, traduzem
em termos operacionais
as dimensões sociais de
interesse definidas a partir
de escolhas teóricas ou
políticas realizadas
anteriormente
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
142
aspectos cruciais na construção e seleção
de indicadores sociais para acompanha-
mento de qualquer programa público. Para
que se possa acompanhar a mudança social,
avaliar o efeito de programas sociais
implementados, corrigir eventuais distor-
ções de implementação, é necessário que
se disponha de indicadores levantados
com certa regularidade. Essa é uma das
grandes limitações do sistema estatístico
brasileiro e, a bem da verdade, de muitos
países. Para algumas temáticas da política
social – trabalho, por exemplo –, é possível
dispor-se de boas estatísticas e indicadores
de forma periódica (mensal), para alguns
domínios territoriais (principais regiões
metropolitanas). Para outras temáticas, em
escala estadual, é possível atualizar indica-
dores em bases anuais, por meio da Pesquisa
Nacional por Amostra de Domicílios
(PNAD). Nos municípios, em geral, pela
falta de recursos, organização e compro-
misso com a manutenção periódica dos
cadastros (de contribuintes, de imóveis, de
favelas, etc.), só se dispõe de informações
mais abrangentes a cada dez anos, por
ocasião dos censos demográficos1.
Também é preciso que os indicadores
se refiram, tanto quanto possível, aos
grupos sociais de interesse ou à população-
alvo dos programas, isto é, deve ser pos-
sível construir indicadores sociais referentes
a espaços geográficos reduzidos, grupos
sociodemográficos (criaas, idosos,
homens, mulheres, brancos, negros, etc.),
ou grupos vulneráveis específicos (famílias
pobres, desempregados, analfabetos, etc.).
O Censo Demográfico 2000 reflete, nesse
sentido, o esforço governamental em
atender novas demandas informacionais
para formulação e avaliação de políticas
públicas, em especial as políticas compen-
satórias e as voltadas à discriminação
positiva. Pela primeira vez, em censos brasi-
leiros, investigou-se a freqüência à creche,
à educação infantil, questão fundamental
na agenda de discussão da política educa-
cional nos municípios brasileiros. A carac-
terização do tipo e grau de deficiência física
é outro aspecto que mereceu especial
atenção no levantamento, como resultado
da pressão de grupos organizados interes-
sados em implementar, de fato, os direitos
assegurados na Constituição. Tentou-se,
também, na fase de pré-teste do censo, apri-
morar o levantamento da ascendência
étnica da população, de forma a fornecer
subsídios mais precisos a políticas de dis-
criminação positiva, de acesso compensa-
tório a bens e serviços públicos (educação
superior, por exemplo) de grupos histori-
camente desprivilegiados (negros, por
exemplo). O acesso a programas de renda
mínima, como o Bolsa Escola, e outras
transferências governamentais também
foram objeto de maior detalhamento no
censo.
A comparabilidade do indicador ao
longo do tempo é uma característica
desejável, de modo a permitir a inferência
de tendências e a avaliar efeitos de eventuais
programas sociais implementados. O ideal
é que as cifras passadas sejam compatíveis
do ponto de vista conceitual e com confia-
bilidade similar à das medidas mais
recentes, o que nem sempre é possível.
Afinal, também é desejável que a coleta dos
dados melhore ao longo do tempo, seja
pela resolução dos problemas de cober-
tura espacial e organização da logística de
campo, como pelas mudanças conceituais
que ajudem a precisar melhor o fenômeno
social em questão.
Em uma perspectiva aplicada, dadas
as características do sistema de produção
de estatísticas públicas no Brasil, é muito
raro dispor-se de indicadores sociais que
gozem plenamente de todas essas
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 143
Paulo de Martino Jannuzzi
propriedades. Na prática, nem sempre o
indicador de maior validade é o mais
confiável; nem sempre o mais confiável é
o mais sensível; nem sempre o mais sensí-
vel é o mais específico; enfim, nem sem-
pre o indicador que reúne todas essas qua-
lidades é passível de ser obtido na escala
territorial e na periodicidade requerida. O
importante é que a escolha dos indicado-
res seja fundamentada na avaliação crítica
das propriedades anteriormente discutidas
e não simplesmente na tradição de uso
deles. Há esforço significativo de diversas
instituições de disponibilizar novos conteú-
dos e informações a partir de seus cadas-
tros, as quais podem ser usadas para a cons-
trução de novos indicadores sociais.
Taxonomia dos indicadores
para fins de aplicação nas políticas
públicas
Além da observância às propriedades,
a escolha de indicadores para uso no ciclo
de formulação e avaliação de programas
também deveria pautar-se pela natureza ou
pelo tipo dos indicadores requeridos.
vários sistemas classificatórios para
os indicadores sociais (CARLEY, 1985). A
classificação mais comum é a divisão dos
indicadores segundo a área temática da
realidade social a que se referem. Há, assim,
os indicadores de saúde (leitos por mil
habitantes, percentual de crianças nascidas
com baixo peso, por exemplo), os indica-
dores educacionais (taxa de analfabetismo,
escolaridade média da população de 15
anos ou mais, etc.), os indicadores de
mercado de trabalho (taxa de desempre-
go, rendimento médio real do trabalho,
etc.), os indicadores demográficos (espe-
rança de vida, etc.), os indicadores habita-
cionais (posse de bens duráveis, densidade
de moradores por domicílio, etc.), os
indicadores de segurança pública e justiça
(mortes por homicídios, roubos à mão
armada por cem mil habitantes, etc.), os
indicadores de infra-estrutura urbana (taxa
de cobertura da rede de abastecimento de
água, percentual de domicílios com esgota-
mento sanitário ligado à rede pública, etc.),
os indicadores de renda e desigualdade
(proporção de pobres, índice de Gini, etc.).
Outra classificação usual corresponde
à divisão dos indicadores entre objetivos e
subjetivos. Os indicadores objetivos refe-
rem-se a ocorrências concretas ou a entes
empíricos da realidade social, construídos
a partir das estatísticas públicas disponíveis,
como o percentual de domicílios com
acesso à rede de água, a taxa de desem-
prego, a taxa de evasão escolar ou o risco
de acidentes de trabalho. Os indicadores
subjetivos, por outr o lado, correspondem
a medidas construídas a partir da avaliação
dos indivíduos ou especialistas com relação
a diferentes aspectos da realidade, levan-
tados em pesquisas de opinião pública ou
grupos de discussão, como a avaliação da
qualidade de vida, o nível de confiança nas
instituições, a percepção da corrupção, a
performance dos governantes. Ainda que
se refiram a dimensões sociais semelhantes,
indicadores objetivos e subjetivos podem
apontar tendências diferentes. Famílias de
baixa renda, quando instadas a avaliar suas
condições de vida, podem emitir juízos
paradoxalmente mais positivos que uma
análise baseada em parâmetros normativos
e com indicadores objetivos de rendimen-
tos e de infra-estrutura domiciliar. Assim,
a opinião da população atendida por um
programa é certamente importante, dese-
jável e complementar em qualquer siste-
mática de monitoramento e avaliação,
trazendo subsídios para a correção e
melhoria do processo de implementação
dos programas e também indícios da
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
144
efetividade social desses programas, espe-
cialmente aqueles difíceis de serem
mensurados em uma escala quantitativa.
Uma outra lógica de classificação, inte-
ressante de se usar na análise de políticas
públicas, é a diferenciação dos indicadores
entre indicador-insumo, indicador-proces-
so, indicador-resultado e indicador-impacto
(OMS, 1996. COHEN; FRANCO, 2000). Os
indicadores-insumo correspondem às
medidas associadas à disponibilidade de
recursos humanos, financeiros ou de
equipamentos alocados para um processo
ou programa que afeta uma das dimensões
da realidade social. São tipicamente
indicadores de alocação de recursos para
políticas sociais o número de leitos hospi-
talares por mil habitantes, o número de
professores por quantidade de estudantes
ou ainda o gasto monetário per capita nas
diversas áreas de política social. Os indica-
dores-resultado são aqueles mais propria-
mente vinculados aos objetivos finais dos
programas públicos, que permitem avaliar
a eficácia do cumprimento das metas
especificadas, como, por exemplo, a taxa
de mortalidade infantil, cuja diminuição
espera-se verificar com a implementação
de um programa de saúde materno-
infantil. Os indicadores-impacto referem-
se aos efeitos e desdobramentos mais
gerais, antecipados ou não, positivos ou
não, que decorrem da implantação dos
programas, como, no exemplo anterior, a
redução da incidência de doenças na
infância ou a melhoria do desempenho
escolar futura, efeitos decorrentes de
atendimento adequado da gestante e da
criança recém-nascida em passado recente.
Os indicadores-processo ou fluxo são
indicadores intermediários, que traduzem,
em medidas quantitativas, o esforço
operacional de alocação de recursos
humanos, sicos ou financeiros (indica-
dores-insumo) para a obtenção de
melhorias efetivas de bem-estar (indicado-
res-resultado e indicadores-impacto),
como número de consultas pediátricas por
mês, merendas escolares distribuídas diaria-
mente por aluno ou ainda homens-hora
dedicados a um programa social.
A distinção entre essas dimensões
operacionais – insumo, processo, resultado,
impacto pode não ser muito clara em
algumas situações, especialmente quando
os programas são muito específicos ou no
caso contrário, quando os objetivos dos
programas são muito gerais. Mas é sempre
possível identificar indicadores mais
vinculados aos esforços de políticas e
programas e aqueles referentes aos efeitos
(ou não-efeitos) desses programas.
Na Figura 2, são apresentados alguns
indicadores de acompanhamento de um
suposto programa de transferência de renda,
cuja finalidade seja a de reduzir a parcela de
famílias em condição de indigência, isto é,
de famílias com recursos monetários insu-
ficientes para a compra de uma cesta de
produtos para a alimentação de seus mem-
bros: como indicador-insumo, o volume de
recursos do programa, com percentual do
orçamento ou em bases per capita; como
indicadores-processo, os percentuais de
famílias cadastradas pelas prefeituras e
daquelas efetivamente atendidas, que podem
fornecer elementos para a avaliação da
eficiência do programa; como indicador-
resultado, a proporção de famílias em situa-
ção de indigência, ou com rendimentos
abaixo de determinado valor, medida que
deveria refletir o grau de eficácia com que
o programa atendeu ao objetivo esperado;
como indicadores-impacto, a taxa de
evasão escolar e a desnutrição infantil, efeitos
potenciais do programa implementado que
permitem dimensionar a sua efetividade
social.
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 145
Paulo de Martino Jannuzzi
Os indicadores podem também ser
classificados como simples ou complexos,
ou, na terminologia que se tem empregado
mais recentemente, como analíticos ou
sintéticos. O que os diferencia é, como as
denominações sugerem, o compromisso
com a expressão mais analítica ou de síntese
do indicador. Taxa de evasão escolar, taxa
de mortalidade infantil, taxa de desem-
prego são medidas comumente empre-
gadas para análise de questões sociais
específicas no campo da educação , da
saúde e do mercado de trabalho. Medidas
como Índice de Preços ao Consumidor
ou Índice de Desenvolvimento Humano
(IDH), por outro lado, procuram sintetizar
várias dimensões empíricas da realidade
econômica e/ou social em uma única
medida. No primeiro caso, o índice de
preços corresponde a uma média ponde-
rada de variações relativas de preços de
diferentes tipos de produto (alimentação,
educação, transporte, etc.). No segundo
caso, o IDH corresponde a uma média de
medidas derivadas originalmente de indi-
cadores (simples ou analíticos) de escolari-
zão, alfabetização, renda média e
esperança de vida.
Há uma idéia subjacente a essa diferen-
cião entre indicadores anaticos e
sintéticos, de que estes últimos, ao contem-
plarem no seu cômputo um conjunto mais
amplo de medidas acerca da realidade social
de uma localidade, tenderiam a refletir o
comportamento “médio ou situação
“típica” dessa localidade em termos do
desenvolvimento humano, qualidade de
vida, vulnerabilidade social ou outro con-
ceito operacional que lhes deu origem.
Como mostrado no Quadro 2, tem havido
muitas propostas de indicadores sintéticos
no Brasil, com maior ou menor grau de
sofisticação metodológica, elaborados por
pesquisadores de universidades, órgãos
públicos e centros de pesquisa, motiva-
das, por um lado, pela necessidade de
atender às demandas de informação para
Insumo Processo Resultado Impacto
Gasto público em
programas de
transferência de
renda
% de famílias
cadastradas
% de famílias
atendidas
Proporção de
indige ntes
Taxa de evasão
escolar
Redução da
desnutrição
infantil
Figura 2: Indicadores de acompanhamento de programas de transferência de renda
“Na prática, nem
sempre o indicador de
maior validade é o mais
confiável; nem sempre o
mais confiável é o mais
sensível; nem sempre o
mais sensível é o mais
específico; enfim, nem
sempre o indicador que
reúne todas essas quali-
dades é passível de ser
obtido na escala
territorial e na periodici-
dade requerida”
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
146
formulação de políticas e tomada de
decisões nas esferas públicas e, por outro,
pelo sucesso do IDH e seu impacto,
nestes últimos 15 anos, na disseminação
da cultura de uso de indicadores nos
círculos políticos.
Contudo, a aplicabilidade dos indi-
cadores sintéticos como instrumentos de
avaliação da efetividade social das políticas
públicas ou como instrumentos de alocação
prioritária do gasto social está sujeita a fortes
questionamentos (RYTEN , 2000). Ao partir
da premissa de que é possível apreender o
“social” por meio da combinação de
múltiplas medições dele, não se sabe – ao
fim e ao cabo – quais as mudanças especí-
ficas ocorridas e qual a contribuição ou o
efeito dos programas públicos específicos
sobre sua transformação. Além disso,
questionamento acerca do grau de “proxi-
midade” entre a medida e o conceito origi-
nal e da usual subsunção do último pela
primeira, em que o indicador adquire o status
de conceito, como no caso da proporção
de famílias com renda abaixo de determi-
nado valor, que passou a designar a popu-
lação indigente, que passa fome, etc. (ROCHA,
2002). Há questionamentos acerca do grau
de arbitrariedade com que se definem os
pesos com os quais os indicadores devem
ser ponderados no cômputo da medida
final. ainda críticas com relação às
distorções na seleção de públicos-alvo a que
o uso desses indicadores sintéticos podem
levar, sobretudo em casos de programas
setoriais (GUIMARÃES; JANNUZZI, 2004).
Por mais consistentes que sejam essas
críticas, é preciso reconhecer que os indica-
dores sintéticos acabaram por se legitimar
em diversos aspectos. A legitimidade social
Instituição promotora
Fundação João Pinheiro/MG
Fundação CIDE/RJ
Fundação SEADE/SP
Fundação Economia e
Estatística/RS
Superintendência de Estudos
Econômicos e Sociais da Bahia
(SEI/BA)
Prefeitura Municipal de Belo
Horizonte/PUC Minas/MG
INEP/Cedeplar/NEPO
Índice proposto
IDH-M: Índice de Desenvolvimento Humano Municipal
ICV: Índice de Condições de Vida Municipal
IQM: Índice de Qualidade Municipal - verde
IQM: Índice de Qualidade Municipal - carências
IQM: Índice de Qualidade Municipal - necessidades
habitacionais
IQM: Índice de Qualidade Municipal - sustentabilidade fiscal
IPRS: Índice Paulista de Responsabilidade Social
IVJ: Índice de Vulnerabilidade Juvenil
IPVS: Índice Paulista de Vulnerabilidade Social
ISMA: Índice Social Municipal Ampliado
IDS: Índice de Desenvolvimento Social
IDE: Índice de Desenvolvimento Econômico
IQVU: Índice de Qualidade de Vida Urbana
IVS: Índice de Vulnerabilidade Social
IMDE: Indicador Municipal de Desenvolvimento
Educacional
Quadro 2: Alguns dos indicadores sintéticos propostos no Brasil
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 147
Paulo de Martino Jannuzzi
dessas propostas de indicadores tem-se
demonstrado pela visibilidade e freqüência
que os indicadores sintéticos têm conferido
às questões sociais na mídia – pelo formato
apropriado para a síntese jornalística – e à
instrumentalização política do movimento
social e das ONGs no monitoramento dos
programas sociais. O fato de que alguns
desses indicadores foram criados sob enco-
menda e mesmo com a participação
de gestores públicos e legisladores
certamente lhes confere legitimidadepolítica.
O fato de que os índices acabam aparen-
temente “funcionando” bem, apontando o
que se espera que apontassem – as iniqüi-
dades, os bolsões de pobreza, etc. –,
garante-lhes também legitimidade cnica.
Também desfrutam de legitimidade cien-
tífica, já que vários desses projetos têm
obtido financiamento de agências nacionais
e internacionais de fomento à pesquisa. Por
fim, a legitimidade institucional dessas
propostas sustenta-se no fato de terem
servido de instrumento de garantia do
espaço institucional das instituições de
estatística e planejamento em um quadro de
forte contingenciamento e de corte de ver-
bas no setor público, nos últimos 15 anos.
Além disso, como se discute mais à frente,
indicadores sintéticos podem ser úteis como
instrumentos de tomada de decisão no ciclo
de programas sociais.
Assim, além de avaliar a aderência de
cada indicador às propriedades relacionadas
anteriormente, também pode ser útil fazer
uma reflexão sobre a natureza de cada um
(Quadro 3), a fim de entender o seu papel
informativo em um sistema de indicadores
para formulação e avaliação de programas
sociais, como se dirá na seção seguinte.
Indicadores no ciclo de formula-
ção e avaliação de programas sociais
Apresentado o marco conceitual acerca
dos indicadores sociais, passa-se agora à
discussão a respeito do uso deles no ciclo
de formulação e avaliação de políticas pú-
blicas ou programas sociais (Figura 3).
Cada etapa do ciclo envolve o uso de um
conjunto de indicadores de diferentes
naturezas e propriedades, em função das
Quadro 3: Identificação da natureza dos indicadores
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
148
necessidades intrínsecas das atividades
envolvidas (Quadro 4).
Assim, na etapa de elaboração do
diagnóstico para a política ou programa
social, são necessários indicadores de boa
confiabilidade, validade e desagregabi-
lidade, cobrindo as diversas temáticas da
realidade social. Afinal, é preciso ter um
retrato o amplo e detalhado quanto
possível acerca da situação social vivenciada
pela população para orientar, posterior-
mente, as questões prioritárias a atender,
os formatos dos programas a imple-
mentar, as estratégias e ações a desenvol-
ver. Trata-se de caracterizar o marco zero,
a partir do qual se poderá avaliar se o
programa está provocando as mudanças
sociais desejáveis. Os indicadores usados
Quadro 4: Indicadores requeridos em cada etapa do ciclo de programas sociais
Figura 3: Representação clássica do ciclo de formulação e avaliação de programas sociais
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 149
Paulo de Martino Jannuzzi
nessa etapa são construídos, em geral, a
partir do censo demográfico ou de
pesquisas amostrais multitemáticas (como
as PNADs), quando os dados do censo já
estiverem distantes do momento de
elaboração do diagnóstico.
Como observado anteriormente, o
Censo 2000 constitui-se em fonte muito
rica de indicadores de diagnóstico pelo
escopo temático, pela desa gregabilidade
territorial e populacional e pela compa-
rabilidade inter-regional. Foram levantados,
na amostra do censo, mais de 70 quesitos
de informação, cobrindo características
domiciliares, infra-estrutura urbana, carac-
terísticas demográficas e educacionais dos
indivíduos, inserção da mão-de-obra, ren-
dimentos, acesso a alguns programas
públicos, etc. Os indicadores dessas dimen-
sões analíticas podem ser computados para
diversos grupos sociodemográficos (por
sexo, raça/cor, estratos de renda, etc.) e
escalas territoriais que chegam ao nível de
agregações de bairros de municípios (áreas
de ponderação, mais propriamente) e até
mesmo ao nível de setor censirio
(conjunto de cerca de 200 a 300 domicílios
na zona urbana, para os quesitos levantados
no questionário básico, aplicados em todos
os domicílios do País). Por meio de um
software de fácil manipulação – Estatcart –
pode-se extrair estatísticas e cartogramas
da quase totalidade dos municípios de
médio porte no País, em nível de setor
censitário ou áreas de ponderação, como
ilustrado na Figura 4.
Essa possibilidade de dispor de infor-
mação estatística por setor censitário (ou
área de ponderação) não parece ter sido
explorada em toda a sua potencialidade
por parte de formuladores e gestores de
programas sociais, seja no âmbito federal,
estadual ou municipal. Quando se trata de
fazer diagnósticos sociais mais detalhados
territorialmente, empregam-se, em geral,
indicadores médios computados para os
municípios, “escondendo-se” os bolsões de
iniqüidades presentes dentro de cada um dos
municípios brasileiros. Os indicadores
médios de rendimentos ou de infra-estru-
tura urbana do Município de São Paulo são,
por exemplo, bem melhores que a média
geral dos municípios brasileiros. Contudo,
se os indicadores forem computados em
nível de setores censitários, poder-se-á cons-
tatar no território paulistano a diversidade
de situações de condições de vida encon-
trada pelo território nacional, ou seja, é pos-
sível encontrar bolsões de pobreza na
capital paulistana com características de
alguns municípios do Nordeste2.
Um dos recursos que têm auxiliado
na elaboração e apresentação de diagnós-
ticos sociais é a proposição de tipologias,
agrupamentos ou arqtipos sociais,
usados para classificar unidades territoriais
segundo um conjunto específico de indica-
dores sociais e, portanto, apontando os
déficits de serviços públicos, de programas
específicos, etc. O Índice Paulista de
Resposabilidade Social é um exemplo
nesse sentido, ao classificar os municípios
paulistas em cinco grupos, de acordo com
os veis observ ados de indicadores de
saúde, escolaridade e porte econômico
municipal (SEADE, 2002).
Além dos indicadores multitemáticos
para “retratar” as condições de vida, refe-
rentes à saúde, à ha bitação, ao mercado de
trabalho, etc., também devem fazer parte
do diagnóstico os indicadores demográ-
ficos, em especial, aqueles que permitem
apresentar as tendências de crescimento
populacional passado e as projeções
demográficas futuras (que dimensionam os
públicos-alvo dos diversos programas em
ter mos de idade e sexo no futuro). As
mudanças demográficas foram bastante
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
150
intensas pelo País nos últimos 30 anos, com
impacto significativo e regionalmente dife-
renciado sobre a demanda de vagas esco-
lares, postos de trabalho, etc. (MARTINE;
CARVALHO; ÁRIAS, 1994).
Na segunda etapa do ciclo de formu-
lação e seleção de programas, requer-se um
conjunto mais reduzido de indicadores, sele-
cionados a partir dos objetivos norteadores
dos programas definidos como prioritários
pela agenda político-social vigente. Já se
conhecem, em tese, por meio do diagnós-
tico, os bolsões de pobreza, as áreas com
maior déficit de serviços urbanos, com
maior parcela de crianças fora da escola,
com maior número de responsáveis sujei-
tos ao desemprego. Nessa etapa, requer-se
definir, a partir da orientação político-go-
vernamental, a natureza dos programas, as
questões sociais prioritárias a enfrentar, os
públicos-alvo a atender.
É nessa fase que os indicadores
sintéticos já mencionados podem ter
maior aplicão, na medida em que
oferecem ao gestor uma medida-síntese
das condições de vida, da vulnerabilidade,
Chefes sem rendimento ou até 1 s.m. Chefes sem instrução ou até 1 ano de estudo
Pessoas de 7 a 14 anos analfabetas Domicílios urbanos sem acesso à rede de água
Figura 4: Cartogramas com indicadores sociais referidos em nível de setor censitário
Campinas/SP - 2000
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 151
Paulo de Martino Jannuzzi
do desenvolvimento social de municípios,
estados ou de outra unidade territorial em
que implementação de programas. O
IDH-municipal foi, por exemplo, o indi-
cador empregado pelo Programa Comu-
nidade Solidária para selecionar os muni-
cípios para suas ações, o que certamente
representou um avanço em termos de
critério técnico-político de priorização.
Contudo, a escolha desse indicador
acabou por excluir do programa todas
as cidades médias e populosas do
Sudeste, já que suas medidas sociais
médias calculadas para a totalidade do
município – eram sempre mais altas que
as dos municípios do Norte e Nordeste.
Se fosse usado um indicador calculado
para domínios submunicipais (setor
censitário, bairros, áreas de ponderação,
etc.), os municípios do Sudeste certamente
teriam bolsões que se enquadrariam
entre os públicos-alvo prioritários do
programa.
Esse exemplo deixa claro a impor-
tância do diagnóstico microespacializado
comentado anteriormente, em especial o
realizado em nível de setor censitário.
É possível, dessa forma, não garantir
maior precisão e eficiência na alocação dos
programas que devem ser focalizados,
como também acompanhar, posterior-
mente, os seus efeitos. Além disso, o uso
do setor censitário (ou área de ponderação)
garante, em alguma medida, a compati-
bilização dos quantitativos populacionais
de cada pequena área, amenizando os
efeitos potencialmente destoantes da
tomada de decisão baseada em indicadores
expressos em termos relativos. Dois muni-
cípios podem ter, por exemplo, percentual
similar de famílias indigentes, mas totais
absolutos de indigentes muito distintos.
Municípios populosos podem apresentar
cifras relativamente mais baixas de
indigentes, mas ainda assim podem reunir
totais absolutos bastante significativos. Em
qual município devem-se priorizar as ações
de programas de transferência de renda:
naquele em que a intensidade de indigên-
cia é elevada ou naquele em que o quanti-
tativo de indigentes é maior? Quando se
têm indicadores calculados para áreas com
totais populacionais mais compatíveis, os
rankings de priorização baseados em indi-
cadores relativos ou absolutos diferem
pouco3.
Idealmente, a tomada de decisão com
relação aos públicos-alvo a serem prio-
rizados deve-se pautar em um indicador
mais específico e válido para o programa
em questão, mais relacionado aos seus
objetivos, como a taxa de mortalidade
infantil em programas de saúde materno-
infantil, o déficit de peso ou altura em
programas de combate à fome ou a
proporção de domicílios com baixa renda
em programas de transferência de renda.
Se vários indicadores devem ser usados e
os critérios de elegibilidade referem-se a
variáveis existentes no censo demográfico,
é possível fazer processamentos especí-
ficos, de forma relativamente rápida, por
meio de um pacote estatístico (com os
microdados do censo em 16 CD-ROMs)
ou mesmo por meio de uma ferramenta
disponibilizada pela Internet (Banco
Multidimensional de Estatísticas) no sítio
do IBGE. Um desses indicadores
construídos pelo cruzamento de variáveis
do Censo 2000 é o trazido na última tabela
da publicação Indicadores municipais do IBGE
(2002). Trata-se de um indicador combi-
nado – construído a partir do cruzamento
simultâneo dos diversos critérios –, repre-
sentando a proporção dos domicílios
particulares per manentes que o têm
escoadouros ligados à rede geral ou fossa
séptica, não são servidos de água por rede
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
152
geral, não têm coleta regular de lixo, seus
responsáveis (chefes) têm menos de quatro
anos de estudo e rendimento médio men-
sal até dois salários mínimos. Esse indi-
cador – batizado informalmente de Indi-
cador de Déficit Social – pode ser calculado
também por áreas de ponderação do censo
e tem-se mostrado com grande poder de
discriminação e validade em representar
situações de carências de serviços públicos
básicos pelo território nacional.
Em alguns casos de programas inter-
setoriais que envolvem esforços de equipes
de diferentes áreas e o alcance de vários
objetivos, pode ser interessante tomar a
decisão acerca das áreas prioritárias de
implantação dos programas a partir da
combinação de vários critérios (indicadores).
Nesse caso, pode-se empregar a análise
multicritério,cnica estruturada para toma-
da de decisões em que interagem vários
agentes, cada um com seus critérios e juízos
de valor acerca do que é mais importante
considerar na decisão final (ENSSLIN, 2001).
A vantagem do uso dessa técnica em rela-
ção a outras, como o emprego de indica-
dores sintéticos, é que ela permite que a
decisão seja pautada com base nos critérios
(indicadores) considerados relevantes para
o programa em questão pelos agentes
decisores e que a importância dos critérios
seja definida por eles, em um processo de
interatividade com outros atores técnico-
políticos. Alguns algoritmos que implemen-
tam a técnica produzem soluções hierar-
quizadas – como um indicador sintético –
e robustas, não dependentes da escala de me-
dida ou dispersão das variáveis (Figura 5).
Na etapa de implementação e exe-
cução dos programas, o necessários
indicadores de monitoramento, que devem
primar pela sensibilidade, especificidade e,
sobretudo, pela periodicidade com que
estão disponíveis. Esse é um grande
problema, como se observou anterior-
mente, em especial se se necessita de indica-
dores em escala municipal. As informações
produzidas pelas agências estatísticas não
são, em geral, específicas para os propó-
sitos de monitoramento de programas, seja
na escala territorial desejada, seja na regula-
ridade necessária.
Contudo, procurando atender à
demanda por informações municipais mais
Figura 5: Análise multicritério para tomada de decisão com base em indicadores sociais
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 153
Paulo de Martino Jannuzzi
periódicas, o IBGE tem realizado, de
forma mais regular, a Pesquisa Nacional
de Assistência Médico-Sanitária (AMS), a
Pesquisa de Informações Básicas Munici-
pais (MUNIC) e a Pesquisa Nacional de
Saneamento Básico (PNSB). A AMS
corresponde a um censo de estabeleci-
mentos de saúde no País, identificando
volume e qualificação de pessoal, equipa-
mentos e outros recursos disponibilizados
para atendimento médico-sanitário da
população. Com isso, pode-se ter uma
idéia mais clara e precisa do nível e da
diversidade da oferta de serviços de saúde
pelo País, por meio da construção de
indicadores de esforços de políticas na área
de saúde. A MUNIC contempla, anual-
mente, o levantamento de conjunto amplo
de informações nas prefeituras dos mais
de 5 mil municípios brasileiros. Nessa
pesquisa, levantam-se dados sobre a estru-
tura administrativa, o nível de participação
e formas de controle social (existência de
conselhos municipais), a existência de
legislação e instrumentos de planejamento
municipal (como a institucionalização do
plano de governo, do plano plurianual de
investimentos, do plano diretor e da lei de
parcelamento do solo), a disponibilidade
de recursos para promoção da justiça e
segurança (existência de delegacia da
mulher, juizados de pequenas causas, etc.),
além da existência de equipamentos espe-
cíficos de comércio, serviços da indústria
cultural e de lazer, como bibliotecas
públicas, livrarias, jornais locais e ginásios
de esporte. Essa pesquisa permite, pois,
construir indicadores que permitem retratar
o grau de participação e controle popular
da ação pública e caracterizar o estágio de
desenvolvimento institucional das ativi-
dades de planejamento e gestão municipal
pelo País. A PNSB veio complementar
esse quadro infor macional sobre os
municípios brasileiros com a coleta de
dados sobre abastecimento de água,
esgotamento sanitário, limpeza urbana e
sistema de drenagem urbana. Pode-se, as-
sim, dispor de outros indicadores mais in-
formativos sobre a estrutura e qualidade
dos serviços de infra-estrutura urbana, que
não se limitam a apontar o grau de cober-
tura populacional atendida. Com os dados
levantados nessa pesquisa, é possível cons-
truir indicadores do volume de água
ofertada per capita, do tipo de tratamento
e do volume da água distribuída à popu-
lação, do volume e destino do esgoto e
lixo coletado, entre outros aspectos.
também esforços louváveis de várias
instituições públicas, além do IBGE, em
disponibilizar informações de seus cadastros
e registros de forma mais periódica, fato
que se deve o só à necessidade de
monitoramentos da ação governamental,
“Dois municípios podem
ter percentual similar de
famílias indigentes, mas
totais absolutos de indigen-
tes muito distintos. Em qual
município devem-se priori-
zar as ações de programas
de transferência de renda:
naquele em que a intensi-
dade de indigência é elevada
ou naquele em que o
quantitativo de indigentes
é maior?”
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
154
mas também às facilidades que as novas
tecnologias de informação e comunicação
têm proporcionado. Os órgãos estaduais de
estatística, os Ministérios da Saúde, da Edu-
cação, do Trabalho, do Desenvolvimento
Social, da Previdência Social, das Cidades e a
Secretaria do Tesouro Nacional disponi-
bilizam pela Internet informações bastante
específicas em escopo temático e escala
territorial a partir de seus registros e sistemas
de controle internos, que podem ser úteis para
a construção de indicadores de monitora-
mento de programas (Quadro 5).
A lógica do acompanhamento de
programas requer a estruturação de um
sistema de indicadores que, além de especí-
ficos, sensíveis e periódicos, permitam
monitorar a implementação processual do
programa na lógica insumo-processo-
resultado-impacto, isto é, são necessários
indicadores que permitam monitor ar o
dispêndio realizado por algum tipo de uni-
dade operacional prestadora de serviços ou
subprojeto; o uso operacional dos recursos
humanos, financeiros e físicos; a geração de
produtos e a percepção dos efeitos sociais
Quadro 5: Algumas das fontes oficiais para atualização periódica de indicadores
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 155
Paulo de Martino Jannuzzi
mais amplos dos programas. Assim, a
distinção entre a terceira e a quarta etapas
do ciclo de programas pode ser menos evi-
dente que nas demais, sobretudo em pro-
gramas de longa duração, isto é, monito-
ramento e avaliação de programas são
termos cunhados para designar procedi-
mentos de acompanhamento de progra-
mas, focados na análise da sua eficiência,
eficácia e efetividade (COHEN; FRANCO, 2000).
Monitoramento e avaliação são processos
analíticos organicamente articulados, suce-
dendo-se no tempo, com o propósito de
subsidiar o gestor público com informa-
ções acerca do ritmo e da forma de
implementação dos programas (indicado-
res de monitoramento) e dos resultados e
efeitos almejados (indicadores de avaliação).
Como atividade de monitoramento ou
de avaliação, é importante analisar os indi-
cadores de resultados a partir dos
indicadores de esforços e recursos alocados,
o que permite o dimensionamento da efi-
ciência dos prog ramas. O emprego da Aná-
lise Envoltória de Dados (DEA) pode
representar grande avanço metodológico
nesse sentido (LINS; MEZA, 2000). A DEA
é uma técnica derivada dos métodos de
pesquisa operacional que visa à identificação
das unidades de operação mais eficientes,
tendo em vista como os recursos (retratados
por vários indicadores de insumo) são utili-
zados para gerar os resultados finais (me-
didos por diversos indicadores-resultados),
considerando as condições estruturais de
operação dos programas. Determinados
programas implementados em regiões mais
pobres, poderão não ter resultados tão
promissores como em outras mais desen-
volvidas. Assim, é preciso avaliar a eficiên-
cia dos programas em função não apenas
em relação ao resultado obtido e à quanti-
dade de recursos alocados, mas conside-
rando as dificuldades ou potencialidades
existentes na região em que os programas
estão funcionando. O que torna essa técnica
particularmente interessante de ser aplicada
é que se podem considerar os recursos e
resultados como vetores de indicadores em
suas escalas originais e não como variáveis
representando valores monetários de custos
e benefícios.
Como ilustra a Figura 6, um progra-
ma de saúde deve ser avaliado em relação
aos diversos resultados que produz em
termos de redução das taxas de mortali-
dade e morbidade, a partir dos recursos
alocados (médicos por mil habitantes) e
ser viços de saúde prestados (consultas
atendidas), considerando as condições
estruturais de vida existentes em cada local
de sua implementação (indicadores de
renda e infra-estrutura de saneamento). Pela
técnica é possível identificar as “boas prá-
ticas” ou benchmarks reais, isto é, unidades
de implementação do programa em que
os resultados são, de fato, compatíveis com
o nível de esforço empreendido e de
recursos gastos.
Os indicadores de desembolso de
recursos e produtos colocados à dispo-
sição da população – construídos a partir
de registros próprios da sistemática de
controle e gerenciamento dos programas
podem permitir uma avaliação indireta
da eficácia dos programas no alcance das
metas estabelecidas, quando as estatísticas
públicas ou os dados administrativos de
ministérios e secretarias estaduais não forem
mais específicos e periódicos na escala
territorial desejada. Na falta de pesquisas
amostrais regulares que contemplem
teticas relativas, por exemplo, ao
consumo de produtos culturais e aos
hábitos de lazer – ainda não incorporadas
na a genda político-social nacional de forma
imperativa –, a eficácia de programas na
área, como os de fomento à leitura, terá
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
156
âmbito dele possam ser imediatamente
impactantes sobre a sociedade. Programas
de transferência de renda ou de distribuição
de leite ou cestas básicas em periferias de
grandes cidades do Sudeste proporcionam
impactos sociais comparativamente menos
intensos e rápidos que programas de inves-
timento em saneamento básico, por exem-
plo, no que diz respeito às condições de
mortalidade infantil. Contudo, ao longo do
tempo, a transferência de renda ou a
distribuição de produtos estará contri-
buindo para a melhoria da nutrição de
crianças, garantindo ganhos adicionais contra
a mortalidade infantil, assim como, mais a
dio prazo, para a melhoria do seu
desempenho escolar. Esse exemplo revela,
pois, a dificuldade de se atribuírem os
efeitos de programas específicos sobre as
mudanças estruturais das condições sociais,
dificuldade que, paradoxalmente, cresce à
medida que tais transformações – e os im-
pactos – tendem a se tornar mais evidentes.
A dificuldade é ainda maior quando se
observam problemas de descontinuidades
e de implementação nos programas
públicos.
de ser inferida a partir dos produtos
previstos na ações desencadeadas, como
o volume de livros distribuídos às escolas
e bibliotecas. Nesse caso, indicadores de
resultados mais válidos para avaliar a
eficiência do programa, como número
médio de livros lidos no último ano, por
exemplo, são apenas ocasionalmente
levantados pelo IBGE ou pela Câmara
Brasileira do Livro.
Outra demanda no ciclo de programas,
em particular na etapa de avaliação, é a iden-
tificação dos seus impactos. Para tanto,
devem-se empregar indicadores de diferen-
tes naturezas e propriedades, de forma a
conseguir garantir tanto quanto possível a
vinculação das ações do programa com as
mudanças percebidas, ou não, nas condi-
ções de vida da população, tarefa sempre
difícil de ser realizada (ROCHE, 2002). Em
primeiro lugar, a menos que a realidade
social vivenciada antes do início do
programa (marco zero) fosse muito trágica,
ou que o programa tenha recebido recursos
muito expressivos para serem gastos em
curto espaço de tempo, não se pode esperar
que os produtos e resultados gerados no
Figura 6: Aplicação da Análise Envoltória de Dados na avaliação de programas em saúde
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 157
Paulo de Martino Jannuzzi
De modo a perceber mais claramente
os impactos dos programas, deve-se buscar
medidas e indicadores mais específicos e sen-
síveis aos efeitos por eles gerados. Uma das
formas de se operacionalizar isso é avaliando
efeitos sobre grupos específicos da popu-
lação, seja em termos de renda, idade, raça,
sexo ou localização espacial. Se os programas
têm públicos-alvo preferenciais, localizados
em determinadas regiões ou estratos de renda,
deve-se não buscar indicadores de impacto
que privilegiem a sua avaliação do conjunto
da população, que pode estar, inclusive, sob
o risco de efeitos estruturais mais gerais (que
podem não afetar o público-alvo na mesma
intensidade), mas também desenvolver
estratégias metodológicas avaliativas de
natureza qualitativa, com pesquisas de opinião
ou grupos de discussão, incorporando indi-
cadores subjetivos na avaliação. Nesse senti-
do, os impactos podem ser avaliados em uma
perspectiva mais restrita ou mais ampla, con-
siderando o tamanho da população afetada,
o espaço de tempo considerado para a
referência dos indicadores e a natureza mais
objetiva ou subjetiva dos impactos percebidos
pela população.
Considerações finais
Uma das grandes dificuldades atuais
no acompanhamento de programas
públicos é dispor de informações perió-
dicas e específicas acerca do processo de
sua implementação e do alcance dos
resultados e do impacto social que tais
programas estão tendo nos segmentos
sociodemográficos ou nas comunidades
focalizadas por eles. Seja da perspectiva da
avaliação formativa, isto é, aquela com os
propósitos de acompanhar e monitorar a
implementação de programas, a fim de
verificar se os rumos traçados estão sendo
seguidos e permitir intervenções corretivas,
seja da perspectiva da avaliação somativa,
isto é, aquela mais ao final do processo de
implementação, com propósitos mais
amplos e meritórios (CANO, 2002), o gestor
de programas sociais defronta-se com a
dificuldade de obter dados válidos, espe-
cíficos e regulares para seus propósitos.
Se é fato que as informações produ-
zidas pelas agências estatísticas são, em boa
medida, pouco específicas para os propó-
sitos de monitoramento de programas, não
provendo informação na escala territorial
desejada ou na regularidade necessária, é
também verdade que elas podem-se
prestar à elaboração de diagnósticos bas-
tante detalhados em escopo e escala, como
no caso das informações provenientes dos
censos demográficos. As informações
produzidas no âmbito dos processos
administrativos dos ministérios e das
secretarias estaduais e municipais podem
também suprir boa parte da demanda de
dados para a construção de indicadores
periódicos de monitoramento, requerendo,
contudo, algum “retrabalho” de “custo-
mização” em função das necessidades de
delimitação territorial dos programas, desde
que exista um código de localização da
escola, do posto de saúde, da delegacia, etc.
De qualquer forma, as estatísticas e os
dados do IBGE e de outros órgãos públicos
dificilmente atenderão todas as necessida-
des informacionais requeridas para o
monitoramento e a avaliação de programas
públicos mais específicos. Assim, é necessá-
rio, quando da formulação desses progra-
mas, prever a organização de procedimen-
tos de coleta e tratamento de informações
específicas e confiáveis em todas as fases
do ciclo de implementação, que possam
permitir a construção dos indicadores de
monitoramento desejados.
(Ar tigo recebido em maio de 2005. Versão
definitiva em junho de 2005)
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
158
Notas
* Texto submetido à editoria da Revista do Serviço Público em que se procura compilar e
reorganizar idéias expostas em três oportunidades anteriores (Jannuzzi , 2001, 2002. Guimarães;
Jannuzzi, 2004), a partir das experiências de capacitação de técnicos de ONGs e gestores do setor
público nos cursos de extensão de “Indicadores Sociais e Políticas Públicas”, desenvolvidos no
âmbito do convênio ENCE/IBGE e Fundação FORD, e nos cursos de formação da Escola Nacio-
nal de Administração Pública ao longo de 2003 e 2004.
1 Dada a inexistência e desorganização dos cadastros nos municípios brasileiros, os censos
demográficos acabam levantando um conjunto muito amplo de informações, o que o torna ainda
mais custoso e complexo.
2 De fato, é o que o Índice Paulista de Vulnerabilidade Social – calculado por setor censitário
permite constatar (vide em: www.seade.gov.br).
3 Vale observar, contudo, que os setores censitários apresentam variabilidade significativa em
termos de quantitativos populacionais pelos municípios brasileiros.
Referências bibliográficas
CANO, I. Avaliação de pr ogramas sociais. Rio de Janeiro: FGV, 2002.
CARLEY, Michael. Indicadores sociais: teoria e prática. Rio de Janeiro: Zahar, 1985.
COSTA, F.L.; CASTANHAR, J. C. Avaliação de programas públicos: desafios conceituais e
metodológicos. Revista Brasileira de Administração Pública, Rio de Janeiro, v. 37, n.5, p.:969-
992, 2003.
COHEN, E.; FRANCO, R.Avaliação de projetos sociais. Petrópolis: Vozes, 2000.
ENSSLIN, Leonardo et al. Apoio à decisão:metodologias para estruturação de problemas e
avaliação multicritério de alternativas. Florianópolis, SC: Insular, 2001. v. 1. 296 p.
GARCIA, R.C. Subsídios para organizar avaliações da ação governamental. Planejamento e
Políticas Públicas, Brasília, v. 23, n. 7, p. 70, 2001.
GUIMARÃES, J. R. S.; JANNUZZI, P. M. IDH, indicadores sintéticos e suas aplicações em
políticas públicas: uma análise crítica. In: ENCONTRO NACIONALDE ESTUDOS POPULACIONAIS,
14. Anais... Caxambu, 2004.
IBGE. Indicador es sociais municipais. Rio de Janeiro: 2002.
JANNUZZI, P. M. Indicadores sociais no Brasil: conceitos, fonte de dados e aplicações. Cam-
pinas: Alínea, 2001.
___________ . Considerações sobre o uso, mau uso e abuso dos indicadores sociais
na formulação e avaliação de políticas públicas municipais. Revista de Administração Pública,
Rio de Janeiro, v. 36, n. 1, p. 51-72, jan./fev. 2002.
LINS, M.E; MEZA, L. A. Análise envoltória de dados e perspectivas de integração no ambiente de
apoio à decisão. Rio de Janeiro: COPPE/UFRJ, 2000.
RSP
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005 159
Paulo de Martino Jannuzzi
MARTINE, G.; CARVALHO, J. A. M.; ÁRIAS, A. R.Mudanças recentes no padrão demográfico
brasileiro e implicações para a agenda social. Brasília, IPEA, 1994. (Texto para Discussão n.
345)
MILES, I. Social indicators for human development. New York: St. Martin´s Press, 1985.
NAÇÕES UNIDAS.Handbook of social indicators. Nova York: 1988.
OMS. Catalogue of health indicators. Genebra: 1996.
ROCHA, S. Pobreza: do que se trata afinal. Rio de Janeiro: FGV, 2003.
ROCHE, C. Avaliação de impacto dos trabalhos de ONGs. São Paulo: Cortez, 2002.
RYTEN, J. Should there be a human development index? Statistique, Développement et Droits
de l´Homme Seminar, Montreaux, Setembre, 2000.
SEADE. Monitoração de prioridades de desenvolvimento com equidade social. In:
KEINERT, Tânia; KARRUZ, Ana Paula (Orgs.).Qualidade de vida: observatórios, experiências
e metodologias. São Paulo: Annablume; Fapesp, 2002.
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Revista do Serviço Público Brasília 56 (2): 137-160 Abr/Jun 2005
RSP
160
Resumo - Resumen - Abstract
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil
Paulo de Martino Jannuzz i
O objetivo do texto é discutir as potencialidades e limitações do uso das informações estatísticas
produzidas pelo IBGE e os registros administrativos de órgãos públicos para a construção de
indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil. Inicia-se
com uma apresentação sobre os aspectos conceituais básicos acerca dos indicadores sociais, suas
propriedades e formas de classificação. Depois, discute-se uma proposta de estruturação de um
sistema de indicadores para subsidiar o processo de formulação e avaliação de políticas e programas
públicos no País. Conclui-se o texto advogando-se a necessidade de estruturar sistemas de indicado-
res que se apóiem na busca de informações já existentes em fontes secundárias e na produção de
dados no âmbito dos próprios programas.
Palavras-chave: indicadores, monitoramento, políticas sociais
Los indicadores para formulación y evaluación de programas sociales en Brasil
Paulo de Martino Jannuzz i
El artículo discute las potencialidades y las limitaciones del uso de la información estadística
producida por el IBGE y los registros administrativos de las agencias públicas para la construcción de
los indicadores para la diagnosis, seguimiento y evaluación de programas sociales en Brasil. Comienza
presentando la base conceptual referente a los indicadores sociales, sus características y los sistemas de
clasificación. Después, presenta un marco del sistema de indicadores para subsidiar el proceso de
formulación y evaluación de programas públicos. El artículo concluye proponiendo la necesidad de
construir sistemas de indicadores basados en fuentes secundarias de datos y también en los datos
primarios recogidos en las etapas de los programas.
Palabras clave: indicadores, monitoreo, políticas sociales
Indicators for social policy making and evaluation in Brazil
Paulo de Martino Jannuzz i
The paper discusses the potentialities and limitations of the use of statistical information
produced by the IBGE and the administrative registers of public agencies for the construction of
indicators to be used in the diagnosis, monitoring and evaluation of social programs in Brazil. It
begins by presenting the conceptual basis for understanding the social indicators, their properties
and classification systems. It then outlines a framework of a system of indicators to support the
process of formulation and evaluation of public programs. The paper concludes by advocating the
need to structure systems of indicators based on secondary sources of data and also on primary data
collected in the scope of the programs.
Key words: indicators, monitoring, social policies
Paulo de Martino Jannuzzi
Assessor da Diretoria Executiva do SEADE, professor da ENCE/IBGE, pesquisador CNPq no
projeto de pesquisa “Informação estatística no ciclo de formulação, monitoramento e avaliação de
políticas blicas no Brasil”, com recursos do CNPq (Proc. 307101/2004-5). Contato:
pjannuzzi@ibge.gov.br
Article
Full-text available
Avaliar politicas públicas serve como um instrumento para desenvolver intervencoes eficientes e eficazes diante as necessidades apresentadas por determinados grupos sociais. O estudo teve como objetivo meta-avaliar o Relatorio de Avaliação da Execução de Programas de Governo n° 8: Programa Saúde da Familia. A metodologia se embasou nas Diretrizes Para Avaliação Para a America Latina e o Caribe para conduzir a meta-avaliação somativa. A Aplicação das diretrizes das Dimensoes Avaliação conduzida de acordo com principios eticos e juridicos e Relevância e utilidade dessas Diretrizes apontaram aspectos positivos do Relatorio de Avaliação meta-avaliado. No entanto, tres diretrizes avaliadas apresentaram a falta de informações esclarecedoras para julga-las como atendidas. Concluiu-se que a aplicação das diretrizes foi pertinente ao contexto do Relatorio. Assim, espera-se que os resultados dessa meta-avaliação contribuam para as atividades da Controladoria Geral da Uniao e sirvam para outros estudos dentro do campo da avaliação. Palavras-chave: Meta: avaliação. Avaliação de politicas públicas. Programa Saúde da Familia.
Article
Full-text available
Neste artigo objetivou-se propor uma abordagem analítico-metodológica para se compreender o processo da estratégia em governos municipais no Brasil sob dois níveis que se complementam. O primeiro nível corresponde a estudos longitudinais para a apuração em termos comparados entre governos e em distintos períodos quanto ao grau de compliance dos Planos Plurianuais (PPAs) na estruturação e na execução orçamentárias e à qualidade dos seus elementos estratégicos no que se refere a objetivos, justificativas, metas físicas e financeiras e a indicadores de políticas públicas e de gestão. Trata-se de uma proposta analítica sobre um tema cuja produção acadêmica nacional carece de sistematização, categorias analíticas ou taxonômicas. O segundo nível – estudos de caso em profundidade – direciona-se para a análise dos processos de aprendizado institucional, de conflito e cooperação entre instâncias políticas e administrativas, de transformação, adaptação ou enraizamento de práticas organizacionais de caráter estratégico e de movimentos estratégicos frequentes versus acomodação a ditames e processos rígidos pelos PPAs. Essa segunda apreciação propositiva realiza-se em análises de dimensões como: ação/nuance de governo, liderança(s) institucional(is) e memória institucional, permeabilidade organizacional aos cidadãos, ciclo político-eleitoral, mensuração de necessidades e recursos, alternativas de recursos financeiros e mecanismos de gestão tático-operacional e de projetos. A principal contribuição que se pretende é a instituição de uma agenda de pesquisa sobre gestão estratégica no setor público brasileiro em governos subnacionais, com o preenchimento de lacunas na produção acadêmica sobre PPAs e no estabelecimento de variáveis compreensivas dos contornos político-administrativos e de elementos de empoderamento da estratégia na administração pública municipal. Palavras-chave: Estratégia. Governos municipais. Plano Plurianual (PPA). Abstract This paper proposed a methodological and analytical approach to comprehend the strategic process in municipal governments in Brazil under two complementary levels of studies. The first one refers to longitudinal studies to verify, in compared perspective of different governments and political terms, in what extent “Pluriannual Plans (PPAs)” are complied to the annual budgetary construction and execution, as well as the quality of its strategic elements, such as general and specific objectives, justifications, goals, and management and policy indicators. It is an analytical proposal in an area of studies lacking in systematization, and in taxonomic and analytical categories. The second level – in depth case studies – engages into the analysis of institutional learning, conflict and cooperation between administrative and political agencies, rooting, adaptive and transformative organizational strategic practices, and frequent strategic movements versus PPA’s rigid processes accommodation. This second level of appreciation offers studies on dimensions such as: government actions/nuances, institutional leadership and institutional memory, organizational permeability to citizens, political cycles, resources and needs measurements, efforts on financing designed policies, and tactical-operational and project oriented mechanisms of management. The main intended contribution is to create a research agenda related to strategic management in the Brazilian subnational governments, filling gaps in the academic production about PPAs and establishing understandable and comprehensive variables of political-administrative outlines, and elements of municipal strategic empowerment. Keywords: Strategy. Municipal governments. Pluriannual Plan (PPA)
Technical Report
Full-text available
The rapid decline of fertility and the reduction in population growth in Brazil creates new scenarios for the country’s social development. It clearly provides a framework for the resolution of some of the major issues affecting children and youth, especially as concerns pre-school and educational programs. At the same time, such changes preview a new set of problems stemming from population ageing. Implications for the labor force are more complex but undoubtedly critical. Public policies need to be redesigned to fit these new conditions in order to take advantage of the new conditions while resolving a set of new and different challenges.
Book
Full-text available
Desde a primeira edição deste livro, em 2001, o Brasil e o mundo passaram por intensas mudanças. Novas agendas de políticas e programas sociais foram propostas, expandiram-se, consolidaram-se. Novos indicadores têm sido engendrados e demandados pelas políticas públicas. Surgiram os compromissos dos Objetivos de Desenvolvimento do Milênio (ODM), agora ampliados com a agenda dos Objetivos de Desenvolvimento Sustentável (ODS), que vêm mobilizando países, instituições estatísticas e centros de pesquisa a produzirem novos indicadores, em bases mais regulares. Tornou-se necessário, portanto, empreender uma revisão expressiva do livro e complementá-lo com tópicos adicionais que refletissem o debate mais atual na área. Foi o que se fez nesta edição: foram revisados tópicos sobre o significado e uso de indicadores sociais, introduziram-se novas referências de leitura, atualizaram-se o quadro de pesquisas e a fonte de dados, o que ampliou o escopo temático de indicadores discutidos, que agora abrange indicadores ambientais, econômicos e de pobreza multidimensional. Por fim, incorporou-se um novo capítulo sobre a complexidade do uso de indicadores nas políticas sociais. Disponível em www.atomoealinea.com.br . Introdução. Capítulo 1: Conceitos Básicos -Definição de indicador social -Sistema de indicadores sociais -Tipologias de indicadores -Propriedades desejáveis. Capítulo 2: Fontes de Dados, Pesquisas e Relatórios Sociais -Os censos demográficos -A Pesquisa Nacional por Amostra de Domicílios (PNAD) -A Pesquisa Nacional por Amostra de Domicílios Contínua (PNAD-C) -Pesquisa de Orçamento Familiar e outras pesquisas sociais -Levantamentos institucionais na área social -Os registros administrativos e cadastros públicos -Os relatórios e os sites de Indicadores Sociais. Capítulo 3: Principais Indicadores Sociais: significados e usos para política social -Indicadores demográficos e de saúde -Indicadores educacionais, de Cultura e de Ciência e Tecnologia -Indicadores de mercado de trabalho, renda e desigualdade -Indicadores de pobreza, insegurança alimentar e desenvolvimento humano -Indicadores habitacionais, de infraestrutura urbana e qualidade de vida -Indicadores político-sociais e de opinião pública -Indicadores ambientais e seus impactos socioeconômicos -Indicadores econômicos para análise da conjuntura social. Capítulo 4: Indicadores e Políticas Sociais -Indicadores na elaboração de diagnósticos socioeconômicos -Indicadores de capacidade de gestão e implementação de políticas e programas sociais -Indicadores para monitoramento e avaliação de políticas -Indicadores sintéticos: em que contribuem na avaliação de políticas e programas? -Construção de indicadores sintéticos e de indicadores multicriteriais - Indicadores de desenvolvimento do milênio e de desenvolvimento sustentável. Considerações Finais
Article
Full-text available
El artículo discute las potencialidades y las limitaciones del uso de la información estadística producida por el IBGE y los registros administrativos de las agencias públicas para la construcción de los indicadores para la diagnosis, seguimiento y evaluación de programas sociales en Brasil. Comienza presentando la base conceptual referente a los indicadores sociales, sus características y los sistemas de clasificación. Después, presenta un marco del sistema de indicadores para subsidiar el proceso de formulación y evaluación de programas públicos. El artículo concluye proponiendo la necesidad de construir sistemas de indicadores basados en fuentes secundarias de datos y también en los datos primarios recogidos en las etapas de los programas.
Article
Full-text available
Uma das áreas de pesquisa interdisciplinar nas Ciências Sociais Aplicadas que vem merecendo atenção crescente nas universidades, centros de pesquisa e agências estatísticas é o campo de estudos em Indicadores Sociais e Políticas Públicas, que se revela pela proposição de medidas-resumo – indicadores sintéticos – da realidade social vivenciada pela população brasileira. Neste trabalho, faz-se uma análise crítica dessas medidas, começando pelo Índice de Desenvolvimento Humano Municipal, estendendo-se por diversas outras propostas de indicadores propostos ao longo dos últimos dez anos. Reconhece-se a contribuição desses no que se refere a promover a discussão sobre a pobreza, a exclusão social, para a agenda política nacional, mas apontam-se os problemas de natureza conceitual e metodológica das propostas, assim como, o que é pior, o uso mal informado de indicadores sintéticos como critérios de elegibilidade de municípios para políticas sociais.
Article
Full-text available
S UMÁRIO: 1. Introdução; 2. O arcabouço teórico; 3. As metodologias usuais de avaliação; 4. Uma aplicação da metodologia de avaliação de pro-gramas sociais; 5. Conclusões. S UMMARY: 1. Introduction; 2. Theoretical framework; 3. The usual evalua-tion methodologies; 4. An application of the methodology for social pro-gram evaluation; 5. Concluding remarks. P ALAVRAS-CHAVE: programas públicos; avaliação; metodologia. K EY WORDS: public programs; evaluation; methodology. Este artigo enfatiza a necessidade de avaliar programas públicos diante do aprofundamento da crise fiscal, da escassez de recursos do setor público e da imprescindível intervenção governamental para atender à população mais necessitada. A avaliação sistemática, contínua e eficaz surge como fer-ramenta gerencial poderosa, fornecendo aos formuladores de políticas públicas e aos gestores de programas condições para aumentar a eficiência e efetividade dos recursos aplicados em programas sociais. O texto tece con-siderações sobre o emaranhado conceitual que ainda prevalece nesse campo, demonstrado pela multiplicidade de conceitos aplicáveis, por diferentes tipos de avaliação e pela variedade de critérios apontados pelos estudiosos da matéria. A aplicação dos critérios requer, por sua vez, formas específicas de operacionalização, que são conhecidas como indicadores sociais, cuja definição também não é um ponto pacífico. A avaliação é um conjunto de * Artigo recebido em set. 2002 e aceito em maio 2003. Uma primeira versão menos abrangente, com o título "Avaliação de programas sociais: limites e possibilidades", foi apresentada no 22 o Encontro Anual da Anpad, Foz do Iguaçu, de 27 a 30-9-1998. ** Professores da Ebape/FGV.
Avaliação de projetos sociais
  • E Cohen
  • R Franco
COHEN, E. e FRANCO, R. Avaliação de projetos sociais. Petrópolis: Vozes, 2000.
Considerações sobre o uso, mau uso e abuso dos indicadores sociais na formulação e avaliação de políticas públicas municipais
JANNUZZI, P.M. Considerações sobre o uso, mau uso e abuso dos indicadores sociais na formulação e avaliação de políticas públicas municipais. Revista de Administração Pública, Rio de Janeiro 36 (1):51-72. Jan/Fev. 2002.
Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil. Revista do Serviço Público
JANNUZZI, P.M. Indicadores para diagnóstico, monitoramento e avaliação de programas sociais no Brasil. Revista do Serviço Público. Brasília 56(2):137-160, abr/jun 2005.
Apoio à Decisão: Metodologias para Estruturação de Problemas e Avaliação Multicritério de Alternativas. Florianópolis: Insular
  • L Ensslin
ENSSLIN, L. et al. Apoio à Decisão: Metodologias para Estruturação de Problemas e Avaliação Multicritério de Alternativas. Florianópolis: Insular, 2001. v. 1000. 296 p.