Criar um plano para coletar evidências
Resumo
Este passo considera os tipos de evidência que são necessários, os desafios de coletar evidências e como desenvolver indicadores.
- Reflexão nos objetivos do projeto, propósito de Monitoramento e Avaliação, o caminho do projeto e nas questões de avaliação resultantes destes processos
- Consideração dos tipos de evidência e métodos de coleta, bem como implicações em recursos
- Avaliação dos prós e contras de indicadores e outros tipos de evidência
- Desenho de uma abordagem custobenefício e localmente apropriada para reunir evidências
Teoria
Tipos de evidência
Dois tipos de evidência são frequentemente mencionados no processo de Monitoramento e Avaliação são quantitativos (mensuráveis ou quantificáveis) e qualitativos (avalia qualidade). Ambos são importantes na resposta às questões de avaliação. Usando o Projeto PRPF delineado na página 58 como um exemplo, os dados quantitativos sobre o número de produtores que frequentam as seções de treinamento seria útil, mas ainda precisaria ter o suporte de dados qualitativos (por exemplo: a partir de entrevistas) para entender se, e como, os produtores efetivamente usaram este conhecimento em suas propriedades. Os indicadores fáceis de mensurar são atrativos, mas frequentemente precisam de informações qualitativas adicionais para auxiliar o entendimento da história por trás das figuras.
Orientação
Evidências quantitativas: são boas para rastrear as atividades e avaliar se a implementação de opções de adaptação está no alvo para entregar os resultados planejadas. São também úteis para estabelecer uma linha de base contra as mudanças futuras que podem ser avaliadas. Ter indicadores quantitativos comuns é útil para comparar o progresso de atividades similares em localizações diferentes. Indicadores quantitativos incluem, por exemplo:
- Adoção de opções de adaptação
- Mudança nas margens brutas para quem adota as medidas
- Medidas de poluição de água, etc.
- A severidade de riscos climáticos
Evidências qualitativas: são boas para identificar o que influencia a capacidade adaptativa ou a resiliência de pequenos cafeicultores. Indicadores qualitativos incluem, por exemplo:
- Boa vontade e capacidade de investir na melhorias dos recursos naturais
- Atitudes para atender às despesas das famílias
- Razões para a variação sazonal no acesso às fontes alternativas de geração de receita
- Abertura à inovação e adaptação de práticas de subsistência melhoradas
- Capacidade da comunidade em organizar ações coletivas
Desafios comuns
- Como o tempo e os recursos são frequentemente escassos, é bom discutir abertamente os desafios enfrentados durante o processo de coleta de dados. Desta forma, pode se esclarecer sobre as implicações de suas escolhas na projeção da avaliação (adaptado de PMERL):
- Uso de dados existentes versus obtenção de novos dados: Haverá sempre um equilíbrio entre o que você gostaria de monitorar e avaliar e o que é realmente possível, dados o tempo e recursos disponíveis. Usar dados pré-existentes e facilmente acessíveis faz sentido, especialmente quando os recursos são limitados, mas estes dados podem não ser os mais relevantes e podem simplificar demais ou até mesmo dispersar das metas gerais de criação de resiliência. Por exemplo, dados existentes podem dar-lhe uma mensuração média do conteúdo de umidade do solo ao nível de campo, mas quando se analisa os impactos de escala na planta, isso não substitui as mensurações de umidade de menores escalas onde as amostras levam em conta as mudanças no tipo de solo e a topografia do terreno.
- Identificação de indicadores localmente apropriados versus indicadores externamente determinados: A boa adaptação é localmente específica e os sistemas de Monitoramento e Avaliação precisam ser adaptados às condições locais. No entanto, envolver produtores e outros stakeholders no desenvolvimento desses indicadores pode ser uma atividade que consome tempo, o que faz com que as medidas externamente determinadas pareçam mais atrativas. Medidas externas também podem ser mais fáceis de comparar com outras áreas. Uma forma de atender a isso é interpretar indicadores derivados externamente para garantir que sejam relevantes a nível local. Por exemplo, um indicador externamente determinado pode ser o acesso a dados climáticos precisos. Isso poderia ser localmente interpretado perguntando se existem boas ligações com as estações meteorológicas e organizações de pesquisa.
- Construção de capacidade de fazer o Monitoramento e Avaliação versus usar especialistas externos: O Monitoramento e Avaliação pode ser usado como uma oportunidade de dar poder aos cafeicultores e outros stakeholders a aprender sistematicamente a partir de suas experiências. Para construir capacidade álongo prazo, os produtores precisam, não apenas participar dos processos de adaptação, mas também projetar e gerenciar pessoalmente estes processos. Isso requer maior investimento de tempo, já que este tipo de mudança não ocorre rapidamente. Pessoas de fora podem fazer o trabalho talvez mais rapidamente, mas isso criaria muito menos capacidade de adaptação no longo prazo. Seria ideal se os produtores locais pudessem ser treinados para fazer pessoalmente a avaliação, o que construiria a sua capacidade em identificar a severidade dos riscos climáticos, identificar pressupostos acerca de quais atividades criariam resiliência local, e desenvolver um plano para coletar evidências no teste desses pressupostos.
- Avaliar o sucesso das atividades planejadas versus aprender a partir de consequências não antecipadas do trabalho: A evidência necessária para o processo de Monitoramento e Avaliação é frequentemente uma mistura de dados facilmente mensuráveis relacionados ao alcance de atividades e ‘histórias de mudança’ mais qualitativas que podem revelar coisas que não foram antecipadas no início. Essas histórias de mudança são importantes, já que auxiliam a desafiar pressupostos sobre o que dá suporte às boas práticas e o que se opõe a isso.
Orientação
- Validade: As pessoas que estão usando as informações acreditam que o método é válido (por exemplo: estão aptos a avaliar o indicador desejado com precisão suficiente)?
- Confiabilidade: O método funcionará quando necessário?
- Relevância: O método produz a informação solicitada?
- Sensibilidade: É capaz de coletar variações de dados de forma suficiente?
- Custo eficiência: Está produzindo informações úteis com custo relativamente baixo?
- Tempo: É provável que se evite atrasos entre a coleta, análise e uso de informações?
Desenvolvimento e escolha de indicadores
Um indicador fornece informações específicas sobre o estado e condição de algo. No processo de Monitoramento e Avaliação, isso se relaciona ao fornecimento de informações de mudança (por exemplo, os produtores tornaram-se mais resilientes?). Indicadores são uma parte importante do entendimento dos processos de mudança e da exploração de qual medida de adaptação funciona ou não, em qual contexto e porquê.
Não há apenas um grupo de indicadores que irá funcionar para todos os processos de implementação da adaptação. Os indicadores precisam ser escolhidos em relação às atividades de adaptação que foram planejadas e o contexto no qual essas atividades foram implementadas. Desenvolver indicadores como parte de um caminho de projeto, pode-se garantir que estes se relacionem aos seus objetivos.
Assumindo que se desenvolveu um caminho de projeto no Passo 3, esta tarefa irá auxiliar na coleta de informação a fim de entender como é que o caminho funciona na prática. Se não tiver sido desenvolvido um caminho de projeto, essa tarefa ainda o ajudará na coleta de evidências necessárias para as atividades de Monitoramento e Avaliação, mas é recomendado que se dê uma olhada antes no Passo 3.
Os indicadores estão presentes tanto em processos de monitoramento quanto de avaliação, mas nem todos os indicadores serão usados para ambos. Por exemplo, pode ser caro e logisticamente impossível rastrear as atitudes de produtores por toda a implementação de opções de adaptação (como parte de monitoramento), mas pode-se desejar fazê-lo como parte de uma avaliação á médio prazo. Do mesmo modo, a avaliação pode não requerer dados mensais dos campos de demonstração de resultados, mas irá usar, ao invés disso, dados resumidos sobre como esses campos funcionaram no geral. Monitorar o progresso é um processo dependente da seleção de indicadores que sejam capazes de representar mudanças. Esses indicadores deveriam ligar-se aos seus esforços em implementar e validar opções de adaptação (por exemplo: fazer uso de dados observacionais obtidas de parcelas experimentais, ver a Tabela 19).
Tipos de indicadores
Existem dois tipos de indicadores básicos para o Monitoramento e Avaliação, e a maioria dos processos provavelmente é uma mistura dos dois:
Indicadores de resultado: demonstram que um resultado em particular foi alcançado (por exemplo: redução em perdas relacionadas a doenças entre pequenos produtores). Os indicadores de resultado são muito úteis, mas podem frequentemente ser difíceis de usar na avaliação de atividades de adaptação, já que frequentemente existem longos atrasos entre a implementação da opção de adaptação e o alcance do resultado (por exemplo, se não houver ocorrência de ferrugem em uma área, como pode-se saber se as perdas foram reduzidas como resultado do projeto?). Deste modo, é útil utilizar também indicadores de processo para mensurar o risco acerca do alcance de um resultado (por exemplo, número de produtores que agora utilizam medidas de prevenção à ferrugem do café ou número de produtores que foi treinado). Esses indicadores de processo são valiosos no entendimento da resiliência, se esta está aumentando, mesmo se ainda não foi testada por um evento relativo ao clima.
Para escolher qual evidência a coletar (ou quais indicadores a medir), deve-se analisar as questões de avaliação desenvolvidas na seção anterior e considerar qual tipo de evidência ou indicador é mais adequado, dados os recursos e capacidades disponíveis. Registrar os resultados-chave desta tarefa no modelo do plano de Monitoramento e Avaliação, na Seção 2, Passo 5.
Orientação Prática
Objetivo
Projetar um plano realista e de custo benefício para coletar evidências que auxiliarão a responder as questões de avaliação.
Resultados esperados
- Um plano para a coleta de evidência, bem como uma lista de quais métodos e ferramentas deve-se planejar usar para responder as questões de avaliação.
- Realização da Parte C do plano de avaliação.
Tempo necessário
Variável, dependendo dos métodos a usar, da profundidade da informação necessária e do número de intervenientes a envolver.
Procedimento
Começando com as questões de avaliação identificadas.
Questões a considerar
- Existe uma mistura de indicadores de resultado e processo?
- Existe uma mistura de indicadores quantitativos e qualitativos?
- Refletir sobre desafios comuns descritos no Passo 5 do livro fonte que, se é que existe algum, são causadores de preocupação? Quais são as suas implicações? Por exemplo:
- Você estará usando dados existentes ou obtendo novos dados?
- Os indicadores que você planeja utilizar localmente são apropriados ou determinados externamente?
- O processo de coleta de evidências foca na criação de capacidade local de realizar Monitoramento e Avaliação ou em especialistas externos?
- Você está interessado em avaliar o sucesso de atividades planejadas ou em aprender a partir de consequências não esperadas do trabalho – ou ambos?
I. Definição de evidências e indicadores a usar
A maior parte das questões de avaliação requerem que a combinação de diversos tipos de evidências a fim de obter uma figura o mais completa possível aobre o que aconteceu. Deve-se prestar atenção para uma das questões de avaliação e discutir as ideias de tipos de evidência que podem ser usadas para responde-la.
II. Comparação de diferentes tipos de evidências
Este exercício auxilia na comparação dos prós e contras dos diferentes tipos de evidência.
- Da discussão de ideias do grupo (na parte I), deve- se revisar as vantagens e desvantagens de cada tipo de evidência, bem como o que é surpreendente ou estranho sobre eles. Assegure-se de fazer isso de uma forma custo efetiva. Use-se o seguinte caso de PRPF como um exemplo:
Exemplo de questão de avaliação: Quão efetivas foram as atividades de manejo da ferrugem na redução da severidade de ataque?
Um exemplo de discussão de ideias para o PRPF de Chiquimula, Guatemala pode produzir os seguintes resultados:
- Observações pessoais de entrevistas com produtores
- Incidência da ferrugem uu Severidade da ferrugem
- Médias anuais de receitas de pequenos cafeicultores locais
- Um grupo focal de produtores que classifica diferentes técnicas de manejo da ferrugem
Para cada tipo de evidência, deve-se considerar as vantagens, desvantagens e aspectos interessantes. Deve- se lembrar de analisar as evidências em termos doquão úteis são para responder a questão de avaliação. Considerar quão representativas são, o quão fáceis são de se acessar ou coletar e se são precisas e atualizadas.
O PRPF exemplo de Chiquimula, Guatemala pode resultar no seguinte (ver Tabela 42):
- Depois de avaliar a evidência, pode-se comparar os pontos bons e maus de cada parte para criar um entendimento mais detalhado do que exatamente deveria ter sido coletado.
- Repita-se este processo para cada questão de avaliação.
- Lembre-se que diferentes pessoas terão diferentes perspectivas sobre o que é uma vantagem, uma desvantagem ou um aspecto interessante. Portanto, pode ser boa ideia repetir isso com diferentes grupos (mulheres, pequenos produtores, produtores com fazendas maiores ou com empresas mais diversificadas, cooperativas, etc.) se quaisquer diferenças emergirem.
III. Criar um plano realista e econômico para a coleta de evidências
- Uma vez que você tenha considerado os prós e contras de diferentes tipos de evidências, prepare um plano que delineie as evidências e indicadores que você gostaria de coletar, bem como os métodos que pretende usar para reunir essas evidências.
- Pense sobre quaisquer suposições, requisitos de recursos ou limitações desses métodos. Isso pode ser feito utilizando o seguinte modelo (Tabela 40).
Tabela 41: Exemplo de avaliação de diferentes tipos de evidência
Evidência | Vantagem | Desvantagem | Notas |
Observações pessoais a partir de entrevistas com produtores |
|
|
|
Incidência da ferrugem |
|
|
|
Severidade da ferrugem |
|
|
|
Receita média anual de pequenos produtores locais |
|
|
|
Grupo focal de produtores que classifica diferentes técnicas de manejo de ferrugem |
|
|
|
Tabela 42: Modelo de um plano para coletar evidências, tomando como exemplo o caso PRPR em Chiquimula, Guatemala
Questão de avaliação | Possível método | Pressupostos ou condições para viabilizar o método | Recursos necessários para implementar o método | Limitações do método |
O que você alcançou está de acordo com o que esperava? (as três configurações da ECP e os 75 produtores foram treinados para o controle da ferrugem?) | Completar a tabela 45 abaixo com as pessoas que implementaram o processo de adaptação |
|
| Se algumas atividades não foram implementadas, pode ser visto como uma ‘falha’ que deveria ser coberta ou não discutida ao invés de uma oportunidade de aprender. |
As atividades planejadas foram realizadas de uma forma eficiente, acessível, apropriada e a tempo? | Discussões em grupo com implementadores sobre o que se entende pelas palavras: ‘eficiente’, ‘acessível’, ‘apropriado’ e ‘a tempo’: Descrever as características de cada palavra em relação à cafeicultura e avaliar as atividades de implementação em relação a o quão ótimo foram alcançadas |
|
| A qualidade de dados depende da discussão, do nível de participação e de como o entendimento compartilhado é desenvolvido Sem facilitação cuidadosa, alguns grupos de indivíduos podem dominar e os resultados podem ser tendenciosos |
Os insumos foram suficientes para realizar as atividades planejadas? (Houve equipe de extensão suficiente para a ECP? Houveram fundos suficientemente disponíveis par estabelecer o viveiro e distribuir mudas?) | Coleta de dados quantitativos sobre insumos (por exemplo: fertilizantes, recursos humanos, irrigação, aplicação de pesticidas, etc.) Comparação de custos esperados contra custos reais de insumos Discussão sobre razões prováveis para quaisquer diferenças entre insumos previstos e reais e seus custos, bem como as implicações disto no projeto. Como as coisas podem ser feitas de forma diferente na próxima vez? |
|
| Avaliar a suficiência é tanto quanto subjetivo, pelo que deve-se tornar isso importante para discutir o que ‘suficiente’ significa em seu contexto antes de tentar responder essa questão |