Voltar
C

Criar um plano para coletar evidências

Resumo

Este passo considera os tipos de evidência que são necessários, os desafios de coletar evidências e como desenvolver indicadores.

Método
  • Reflexão nos objetivos do projeto, propósito de Monitoramento e Avaliação, o caminho do projeto e nas questões de avaliação resultantes destes processos
  • Consideração dos tipos de evidência e métodos de coleta, bem como implicações em recursos
  • Avaliação dos prós e contras de indicadores e outros tipos de evidência
Resultados Esperados
  • Desenho de uma abordagem custobenefício e localmente apropriada para reunir evidências

Teoria

Tipos de evidência

Dois tipos de evidência são frequentemente mencionados no processo de Monitoramento e Avaliação são quantitativos (mensuráveis ou quantificáveis) e qualitativos (avalia qualidade). Ambos são importantes na resposta às questões de avaliação. Usando o Projeto PRPF delineado na página 58 como um exemplo, os dados quantitativos sobre o número de produtores que frequentam as seções de treinamento seria útil, mas ainda precisaria ter o suporte de dados qualitativos (por exemplo: a partir de entrevistas) para entender se, e como, os produtores efetivamente usaram este conhecimento em suas propriedades. Os indicadores fáceis de mensurar são atrativos, mas frequentemente precisam de informações qualitativas adicionais para auxiliar o entendimento da história por trás das figuras.

Orientação

Evidências quantitativas: são boas para rastrear as atividades e avaliar se a implementação de opções de adaptação está no alvo para entregar os resultados planejadas. São também úteis para estabelecer uma linha de base contra as mudanças futuras que podem ser avaliadas. Ter indicadores quantitativos comuns é útil para comparar o progresso de atividades similares em localizações diferentes. Indicadores quantitativos incluem, por exemplo:

  • Adoção de opções de adaptação
  • Mudança nas margens brutas para quem adota as medidas
  • Medidas de poluição de água, etc.
  • A severidade de riscos climáticos

Evidências qualitativas: são boas para identificar o que influencia a capacidade adaptativa ou a resiliência de pequenos cafeicultores. Indicadores qualitativos incluem, por exemplo:

  • Boa vontade e capacidade de investir na melhorias dos recursos naturais
  • Atitudes para atender às despesas das famílias
  • Razões para a variação sazonal no acesso às fontes alternativas de geração de receita
  • Abertura à inovação e adaptação de práticas de subsistência melhoradas
  • Capacidade da comunidade em organizar ações coletivas

Desafios comuns

  • Como o tempo e os recursos são frequentemente escassos, é bom discutir abertamente os desafios enfrentados durante o processo de coleta de dados. Desta forma, pode se esclarecer sobre as implicações de suas escolhas na projeção da avaliação (adaptado de PMERL):
  • Uso de dados existentes versus obtenção de novos dados: Haverá sempre um equilíbrio entre o que você gostaria de monitorar e avaliar e o que é realmente possível, dados o tempo e recursos disponíveis. Usar dados pré-existentes e facilmente acessíveis faz sentido, especialmente quando os recursos são limitados, mas estes dados podem não ser os mais relevantes e podem simplificar demais ou até mesmo dispersar das metas gerais de criação de resiliência. Por exemplo, dados existentes podem dar-lhe uma mensuração média do conteúdo de umidade do solo ao nível de campo, mas quando se analisa os impactos de escala na planta, isso não substitui as mensurações de umidade de menores escalas onde as amostras levam em conta as mudanças no tipo de solo e a topografia do terreno.
  • Identificação de indicadores localmente apropriados versus indicadores externamente determinados: A boa adaptação é localmente específica e os sistemas de Monitoramento e Avaliação precisam ser adaptados às condições locais. No entanto, envolver produtores e outros stakeholders no desenvolvimento desses indicadores pode ser uma atividade que consome tempo, o que faz com que as medidas externamente determinadas pareçam mais atrativas. Medidas externas também podem ser mais fáceis de comparar com outras áreas. Uma forma de atender a isso é interpretar indicadores derivados externamente para garantir que sejam relevantes a nível local. Por exemplo, um indicador externamente determinado pode ser o acesso a dados climáticos precisos. Isso poderia ser localmente interpretado perguntando se existem boas ligações com as estações meteorológicas e organizações de pesquisa.
  • Construção de capacidade de fazer o Monitoramento e Avaliação versus usar especialistas externos: O Monitoramento e Avaliação pode ser usado como uma oportunidade de dar poder aos cafeicultores e outros stakeholders a aprender sistematicamente a partir de suas experiências. Para construir capacidade álongo prazo, os produtores precisam, não apenas participar dos processos de adaptação, mas também projetar e gerenciar pessoalmente estes processos. Isso requer maior investimento de tempo, já que este tipo de mudança não ocorre rapidamente. Pessoas de fora podem fazer o trabalho talvez mais rapidamente, mas isso criaria muito menos capacidade de adaptação no longo prazo. Seria ideal se os produtores locais pudessem ser treinados para fazer pessoalmente a avaliação, o que construiria a sua capacidade em identificar a severidade dos riscos climáticos, identificar pressupostos acerca de quais atividades criariam resiliência local, e desenvolver um plano para coletar evidências no teste desses pressupostos.
  • Avaliar o sucesso das atividades planejadas versus aprender a partir de consequências não antecipadas do trabalho: A evidência necessária para o processo de Monitoramento e Avaliação é frequentemente uma mistura de dados facilmente mensuráveis relacionados ao alcance de atividades e ‘histórias de mudança’ mais qualitativas que podem revelar coisas que não foram antecipadas no início. Essas histórias de mudança são importantes, já que auxiliam a desafiar pressupostos sobre o que dá suporte às boas práticas e o que se opõe a isso.

Orientação

  • Validade: As pessoas que estão usando as informações acreditam que o método é válido (por exemplo: estão aptos a avaliar o indicador desejado com precisão suficiente)?
  • Confiabilidade: O método funcionará quando necessário?
  • Relevância: O método produz a informação solicitada?
  • Sensibilidade: É capaz de coletar variações de dados de forma suficiente?
  • Custo eficiência: Está produzindo informações úteis com custo relativamente baixo?
  • Tempo: É provável que se evite atrasos entre a coleta, análise e uso de informações?

Desenvolvimento e escolha de indicadores

Um indicador fornece informações específicas sobre o estado e condição de algo. No processo de Monitoramento e Avaliação, isso se relaciona ao fornecimento de informações de mudança (por exemplo, os produtores tornaram-se mais resilientes?). Indicadores são uma parte importante do entendimento dos processos de mudança e da exploração de qual medida de adaptação funciona ou não, em qual contexto e porquê.

Não há apenas um grupo de indicadores que irá funcionar para todos os processos de implementação da adaptação. Os indicadores precisam ser escolhidos em relação às atividades de adaptação que foram planejadas e o contexto no qual essas atividades foram implementadas. Desenvolver indicadores como parte de um caminho de projeto, pode-se garantir que estes se relacionem aos seus objetivos.

Assumindo que se desenvolveu um caminho de projeto no Passo 3, esta tarefa irá auxiliar na coleta de informação a fim de entender como é que o caminho funciona na prática. Se não tiver sido desenvolvido um caminho de projeto, essa tarefa ainda o ajudará na coleta de evidências necessárias para as atividades de Monitoramento e Avaliação, mas é recomendado que se dê uma olhada antes no Passo 3.

Os indicadores estão presentes tanto em processos de monitoramento quanto de avaliação, mas nem todos os indicadores serão usados para ambos. Por exemplo, pode ser caro e logisticamente impossível rastrear as atitudes de produtores por toda a implementação de opções de adaptação (como parte de monitoramento), mas pode-se desejar fazê-lo como parte de uma avaliação á médio prazo. Do mesmo modo, a avaliação pode não requerer dados mensais dos campos de demonstração de resultados, mas irá usar, ao invés disso, dados resumidos sobre como esses campos funcionaram no geral. Monitorar o progresso é um processo dependente da seleção de indicadores que sejam capazes de representar mudanças. Esses indicadores deveriam ligar-se aos seus esforços em implementar e validar opções de adaptação (por exemplo: fazer uso de dados observacionais obtidas de parcelas experimentais, ver a Tabela 19).

Tipos de indicadores

Existem dois tipos de indicadores básicos para o Monitoramento e Avaliação, e a maioria dos processos provavelmente é uma mistura dos dois:

Indicadores de resultado: demonstram que um resultado em particular foi alcançado (por exemplo: redução em perdas relacionadas a doenças entre pequenos produtores). Os indicadores de resultado são muito úteis, mas podem frequentemente ser difíceis de usar na avaliação de atividades de adaptação, já que frequentemente existem longos atrasos entre a implementação da opção de adaptação e o alcance do resultado (por exemplo, se não houver ocorrência de ferrugem em uma área, como pode-se saber se as perdas foram reduzidas como resultado do projeto?). Deste modo, é útil utilizar também indicadores de processo para mensurar o risco acerca do alcance de um resultado (por exemplo, número de produtores que agora utilizam medidas de prevenção à ferrugem do café ou número de produtores que foi treinado). Esses indicadores de processo são valiosos no entendimento da resiliência, se esta está aumentando, mesmo se ainda não foi testada por um evento relativo ao clima.

Para escolher qual evidência a coletar (ou quais indicadores a medir), deve-se analisar as questões de avaliação desenvolvidas na seção anterior e considerar qual tipo de evidência ou indicador é mais adequado, dados os recursos e capacidades disponíveis. Registrar os resultados-chave desta tarefa no modelo do plano de Monitoramento e Avaliação, na Seção 2, Passo 5.

Orientação Prática

Objetivo

Projetar um plano realista e de custo benefício para coletar evidências que auxiliarão a responder as questões de avaliação.

Resultados esperados

  • Um plano para a coleta de evidência, bem como uma lista de quais métodos e ferramentas deve-se planejar usar para responder as questões de avaliação.
  • Realização da Parte C do plano de avaliação.

Tempo necessário

Variável, dependendo dos métodos a usar, da profundidade da informação necessária e do número de intervenientes a envolver.

Procedimento

Começando com as questões de avaliação identificadas.

Questões a considerar

  • Existe uma mistura de indicadores de resultado e processo?
  • Existe uma mistura de indicadores quantitativos e qualitativos?
  • Refletir sobre desafios comuns descritos no Passo 5 do livro fonte que, se é que existe algum, são causadores de preocupação? Quais são as suas implicações? Por exemplo:
    • Você estará usando dados existentes ou obtendo novos dados?
    • Os indicadores que você planeja utilizar localmente são apropriados ou determinados externamente?
    • O processo de coleta de evidências foca na criação de capacidade local de realizar Monitoramento e Avaliação ou em especialistas externos?
    • Você está interessado em avaliar o sucesso de atividades planejadas ou em aprender a partir de consequências não esperadas do trabalho – ou ambos?

I. Definição de evidências e indicadores a usar

A maior parte das questões de avaliação requerem que a combinação de diversos tipos de evidências a fim de obter uma figura o mais completa possível aobre o que aconteceu. Deve-se prestar atenção para uma das questões de avaliação e discutir as ideias de tipos de evidência que podem ser usadas para responde-la.

II. Comparação de diferentes tipos de evidências

Este exercício auxilia na comparação dos prós e contras dos diferentes tipos de evidência.

  • Da discussão de ideias do grupo (na parte I), deve- se revisar as vantagens e desvantagens de cada tipo de evidência, bem como o que é surpreendente ou estranho sobre eles. Assegure-se de fazer isso de uma forma custo efetiva. Use-se o seguinte caso de PRPF como um exemplo:

Exemplo de questão de avaliação: Quão efetivas foram as atividades de manejo da ferrugem na redução da severidade de ataque?

Um exemplo de discussão de ideias para o PRPF de Chiquimula, Guatemala pode produzir os seguintes resultados:

  • Observações pessoais de entrevistas com produtores
  • Incidência da ferrugem uu Severidade da ferrugem
  • Médias anuais de receitas de pequenos cafeicultores locais
  • Um grupo focal de produtores que classifica diferentes técnicas de manejo da ferrugem

Para cada tipo de evidência, deve-se considerar as vantagens, desvantagens e aspectos interessantes. Deve- se lembrar de analisar as evidências em termos doquão úteis são para responder a questão de avaliação. Considerar quão representativas são, o quão fáceis são de se acessar ou coletar e se são precisas e atualizadas.

O PRPF exemplo de Chiquimula, Guatemala pode resultar no seguinte (ver Tabela 42):

  • Depois de avaliar a evidência, pode-se comparar os pontos bons e maus de cada parte para criar um entendimento mais detalhado do que exatamente deveria ter sido coletado.
  • Repita-se este processo para cada questão de avaliação.
  • Lembre-se que diferentes pessoas terão diferentes perspectivas sobre o que é uma vantagem, uma desvantagem ou um aspecto interessante. Portanto, pode ser boa ideia repetir isso com diferentes grupos (mulheres, pequenos produtores, produtores com fazendas maiores ou com empresas mais diversificadas, cooperativas, etc.) se quaisquer diferenças emergirem.

III. Criar um plano realista e econômico para a coleta de evidências

  • Uma vez que você tenha considerado os prós e contras de diferentes tipos de evidências, prepare um plano que delineie as evidências e indicadores que você gostaria de coletar, bem como os métodos que pretende usar para reunir essas evidências.
  • Pense sobre quaisquer suposições, requisitos de recursos ou limitações desses métodos. Isso pode ser feito utilizando o seguinte modelo (Tabela 40).
Tabela 41: Exemplo de avaliação de diferentes tipos de evidência

Evidência

Vantagem

Desvantagem

Notas

Observações pessoais a partir de entrevistas com produtores

  • Permitem que se obtenha histórias por trás da visão geral estatística
  • Pode resultar numa ampla série de experiências
  • Entrevistar leva tempo para a sua realização e registo de dados
  • Com tempo limitado pode-se não ter a chance de falar com uma ampla gama de produtores, o que pode resultar numa amostra tendenciosa, por exemplo, apenas produtores que vivem próximos à estrada ou que fazem parte de uma cooperativa
  • Essas observações acrescentam ‘cor’ ao entendimento de como os produtores experimentam essas atividades
  • Essas observações comunicam bem com outros produtores

Incidência da ferrugem

  • Informação essencial que pode responder essa questão de avaliação
  • Fácil de coletar
  • Ajuda a avaliar se este foi um ano bom ou mau no geral para a ferrugem (e desta forma avalia a função das atividades de manejo de ferrugem do projeto)
  • A disponibilidade desses dados é desigual na região, o que faz com que seja difícil comparar produtores que já foram treinados sobre técnicas de manejo da ferrugem e os que não foram treinados
  • Apesar da utilidade desses dados, porque são tão desiguais e difíceis de se obter?
  • Parece que alguns produtores sub relatam incidentes de ocorrência da ferrugem. Porque?

Severidade da ferrugem

  • Informações essenciais podem responder a esta questão de avaliação
  • Constitui preocupação central dos produtores o que significa que eles devem estar motivados para efetuar a avaliação
  • Pode haver interpretações diferentes sobre a ‘severidade’ entre produtores
  • Não se pode atribuir necessariamente uma redução em severidade com a compreensão das práticas de manejo de ferrugem
  • Quem decide qual é a escala de severidade?
  • É importante ter uma escala comum? Se sim, como se padroniza?

Receita média anual de pequenos produtores locais

  • Esses dados são coletados todo ano e estão facilmente disponíveis
  • Permite a realização de uma avaliação do nível geral da saúde dos produtores na região
  • Os dados estão disponíveis em escala regional e não permitem obter diferenças locais
  • Os dados não se distinguem entre café e outras culturas
  • Existem variações significativas em dados de receitas entre receita de família na mesma área. Esta é uma anomalia metodológica ou há outra explicação?

Grupo focal de produtores que classifica diferentes técnicas de manejo de ferrugem

  • Traz muita informação extra que não foi obtida a partir de entrevistas com produtores e não era conhecida por extensionistas
  • Incita discussões realmente interessantes entre produtores e permite que eles compartilhem experiências
  • Este exercício pode mostrar fortes diferenças de opinião e, como algumas vozes frequentemente dominam a discussão, isso requer boa facilitação para obter-se um equilíbrio de visões
  • Não houve registo de ocorrência da ferrugem sério recentemente, o que significa que os produtores não tiveram chance de realizar muitas atividades de manejo da ferrugem
Tabela 42: Modelo de um plano para coletar evidências, tomando como exemplo o caso PRPR em Chiquimula, Guatemala

Questão de avaliação

Possível método

Pressupostos ou condições para viabilizar o método

Recursos necessários para implementar o método

Limitações do método

O que você alcançou está de acordo com o que esperava?

(as três configurações da ECP e os 75 produtores foram treinados para o controle da ferrugem?)

Completar a tabela 45 abaixo com as pessoas que implementaram o processo de adaptação

  • A informação está disponível
  • As pessoas estão abertas a expressar o que foi alcançado, mesmo se isso foi menos do que o planejado
  • Tempo dos diversos intervenientes

Se algumas atividades não foram implementadas, pode ser visto como uma ‘falha’ que deveria ser coberta ou não discutida ao invés de uma oportunidade de aprender.

As atividades planejadas foram realizadas de uma forma eficiente, acessível, apropriada e a tempo?

Discussões em grupo com implementadores sobre o que se entende pelas palavras: ‘eficiente’, ‘acessível’, ‘apropriado’ e ‘a tempo’:

Descrever as características de cada palavra em relação à cafeicultura e avaliar as atividades de implementação em relação a o quão ótimo foram alcançadas

  • As pessoas estão disponíveis e têm tempo para o efeito
  • As características podem ser concordantes
  • Tempo dos diversos intervenientes
  • Facilitação para manter o grupo focado e ajudar todos a se sentir aptos a participar

A qualidade de dados depende da discussão, do nível de participação e de como o entendimento compartilhado é desenvolvido

Sem facilitação cuidadosa, alguns grupos de indivíduos podem dominar e os resultados podem ser tendenciosos

Os insumos foram suficientes para realizar as atividades planejadas?

(Houve equipe de extensão suficiente para a ECP? Houveram fundos suficientemente disponíveis par estabelecer o viveiro e distribuir mudas?)

Coleta de dados quantitativos sobre insumos (por exemplo: fertilizantes, recursos humanos, irrigação, aplicação de pesticidas, etc.)

Comparação de custos esperados contra custos reais de insumos

Discussão sobre razões prováveis para quaisquer diferenças entre insumos previstos e reais e seus custos, bem como as implicações disto no projeto.

Como as coisas podem ser feitas de forma diferente na próxima vez?

  • Os dados estão disponíveis e atualizados
  • Tempo dos diversos intervenientes
  • Acesso a dados

Avaliar a suficiência é tanto quanto subjetivo, pelo que deve-se tornar isso importante para discutir o que ‘suficiente’ significa em seu contexto antes de tentar responder essa questão