Diseñar un plan para recopilar evidencias
Resumen
En esta etapa se consideran los tipos de evidencia que se necesita, los retos de la recopilación de la evidencia y cómo desarrollar los indicadores.
- Reflexión sobre los objetivos del proyecto, el propósito del M&E, la hoja de ruta del proyecto y las preguntas de evaluación que se obtienen de estos procesos
- Consideración de los tipos de evidencia y métodos de recolección, así como los recursos que implican
- Evaluación de los pros y los contras de los indicadores y otros elementos de evidencia
- Diseño de un modelo para la recopilación de evidencia que sea costo-efectivo y adecuado para la localidad
Teoría
Tipos de evidencia
Los dos tipos de evidencia que a menudo se mencionan en el M&E son: cuantitativos (medibles o cuantificables) y cualitativos (que evalúan la calidad). Ambos son importantes al momento de responder las preguntas de evaluación. Usando como ejemplo el proyecto PRPR descrito en la página 58, los datos cuantitativos sobre el número de productores que asisten a las sesiones de capacitación serían útiles, pero tendrían que estar respaldados por los datos cualitativos (p.ej., de entrevistas) para entender si, y cómo, los productores efectivamente aplicaron este conocimiento en sus fincas. Los indicadores que son fáciles de medir son tentadores, pero a menudo necesitan información cualitativa adicional para ayudar en la comprensión del proceso detrás de las cifras.
Orientación
La evidencia cuantitativa es buena para darle seguimiento a las actividades y evaluar si la implementación de las opciones de adaptación está dentro del plazo para alcanzar los resultados previstos. También es útil para establecer una línea base contra la cual se pueda evaluar los cambios futuros. Es útil tener indicadores cuantitativos comunes para comparar el avance de actividades similares en diferentes lugares. Los indicadores cuantitativos incluyen, p.ej.:
- Adopción de opciones de adaptación
- Cambio en márgenes brutos para adoptantes
- Medidas preventivas para la contaminación del agua, etc.
- Gravedad de las amenazas climáticas
La evidencia cualitativa es buena para la identificación de lo que influye en la capacidad de adaptación o resiliencia de los pequeños productores de café. Los indicadores cualitativos incluyen, p.ej. :
- Voluntad y capacidad para invertir en mejoras a los recursos naturales
- Actitudes hacia el gasto familiar
- Razones para la variación estacional en el acceso a fuentes alternativas de generación de ingresos
- Apertura a la innovación y adopción de mejores prácticas de los medios de vida
- Capacidad de la comunidad para organizar acciones colectivas
Retos comunes
Debido a que el tiempo y los recursos son a menudo escasos, es bueno discutir abiertamente los retos que se presentan al recolectar los datos. De esta manera, usted puede tener claras las implicaciones de sus opciones en el diseño de la evaluación (adaptado de MERAP):
- Uso de datos existentes versus obtención de nuevos datos: Siempre tendrá que haber un equilibrio entre lo que le gustaría monitorear y evaluar y lo que es realmente posible, en función del tiempo y los recursos disponibles. Tiene sentido utilizar los datos que ya existen y son de fácil acceso, sobre todo cuando los recursos son limitados, aunque estos datos eventualmente no sean los más relevantes y simplifiquen en exceso o incluso nos distraigan del objetivo general de aumentar la resiliencia. Por ejemplo, los datos existentes pueden darle una medida promedio del contenido de humedad del suelo a nivel de campo, pero cuando se observan los impactos a escala de las plantas, éstos no sustituyen la medición de la humedad a menor escala donde el muestreo tiene en cuenta los cambios en el tipo de suelo y la topografía.
- Identificación de indicadores localmente apropiados en contraste con indicadores determinados externamente: Una buena adaptación a nivel local es específica y los sistemas de M&E se deben adaptar a las condiciones locales. Sin embargo, la participación de los productores y otros stakeholders en el desarrollo de estos indicadores puede llevar mucho tiempo, lo que hace que los indicadores determinados externamente parezcan más atractivas. Las mediciones bajo parámetros definidos externamente también pueden ser más fáciles de comparar con otras áreas. Una forma de abordar esto es interpretar los indicadores determinados externamente para asegurar que son relevantes en el ámbito local. Por ejemplo, un indicador determinado externamente podría ser el acceso a datos climáticos precisos. Esto podría interpretarse a nivel local, preguntando si hay buenos enlaces con estaciones meteorológicas y organizaciones de investigación.
- Desarrollar capacidades locales para llevar a cabo el M&E versus uso de expertos externos: el M&E puede ser una oportunidad para empoderar a los productores de café y a otros stakeholders con el objeto que aprendan sistemáticamente de sus experiencias. Para crear las capacidades a largo plazo, los productores deben no sólo participar en los procesos de adaptación, sino también diseñar y gestionarlos. Esto requiere una mayor inversión de tiempo, ya que este tipo de cambio no ocurre rápidamente. Es posible que externos puedan hacer el trabajo más rápido, pero de lejos implicaría generar menos capacidades de adaptación en el largo plazo. Lo ideal sería capacitar a los productores a nivel local en cómo realizar la evaluación. Esto generaría capacidad local instalada para identificar la gravedad de los riesgos climáticos, los supuestos sobre qué actividades podrían construir la resiliencia local y desarrollar un plan para reunir evidencia para comprobar estos supuestos.
- La evaluación del éxito de las actividades planificadas versus el aprendizaje de las consecuencias no previstas del trabajo: la evidencia necesaria para el M&E es, a menudo, una mezcla de datos fácilmente medibles relativos a la realización de las actividades y las “historias de cambio” más cualitativas que revelan cosas que no se previeron al principio. Estas historias de cambio son importantes, ya que ayudan a poner a prueba los supuestos sobre lo que sustente las buenas prácticas y lo que se interpone en el camino.
Orientación
- Validez: ¿consideran las personas que están usando la información, que el método es válido (p.ej., son capaces de evaluar el indicador deseado con suficiente precisión)?
- Fiabilidad: ¿funcionará el método cuando sea necesario?
- Relevancia: ¿arroja el método la información requerida?
- Sensibilidad: ¿es suficientemente capaz de captar las variaciones de datos?
- Costo-efectividad: ¿está produciendo información útil a un costo relativamente bajo?
- Tiempo: ¿es probable evitar demoras entre la recopilación, el análisis y el uso de la información?
Desarrollo y selección de indicadores
Un indicador proporciona información específica sobre el estado o condición de algo. En el caso del M&E a menudo se trata de proveer información sobre el cambio (p.ej., ¿se han vuelto más resilientes los productores?). Los indicadores son una parte importante de la exploración de los procesos de cambio y de la exploración sobre qué medidas de adaptación funcionan o no funcionan, en qué contexto y por qué.
No existe un sólo conjunto de indicadores que sea aplicable a todos los procesos de implementación de opciones de adaptación. Los indicadores se deben elegir en relación con las actividades de adaptación que estaban previstas y el contexto en que se llevaron a cabo. Mediante el desarrollo de indicadores como parte de la hoja de ruta del proyecto, se asegurará que estén relacionados con sus objetivos.
Suponiendo que usted desarrolló la hoja de ruta del proyecto en la Etapa 3, esta tarea le ayudará a recopilar la información con el fin de entender cómo es que funciona la ruta en la práctica. Si no ha desarrollado una hoja de ruta del proyecto, esta tarea aún le ayudará a reunir las evidencias que necesita para sus actividades de M&E, pero se recomienda consultar primero la Etapa 3.
Los indicadores están presentes tanto en los procesos de monitoreo como en los de evaluación, pero no todos los indicadores se utilizarán para ambos procesos. Por ejemplo, puede ser costoso y logísticamente imposible hacerle seguimiento a los cambios de actitudes de los productores durante la implementación de las opciones de adaptación (como parte de su monitoreo), pero puede que desee hacerlo como parte de una evaluación de medio término. Del mismo modo, puede ser que su evaluación no requiera datos mensuales de las parcelas demostrativas, pero sí los datos consolidados del desempeño general de las mismas. El monitoreo del avance depende de la selección de indicadores que sean capaces de representar los cambios. Estos indicadores deben vincularse a sus esfuerzos de implementar y validar las opciones de adaptación (p.ej., hacer uso de los datos de observación de las parcelas de ensayo, véase Tabla 19).
Tipos de indicadores
Existen dos tipos básicos de indicadores para el M&E, aunque es probable que la mayoría de los procesos usen una combinación de ambos:
los indicadores de resultado demuestran que un resultado específico se ha logrado (p.ej., reducción de las pérdidas económicas relacionadas con enfermedades entre los pequeños productores). Los indicadores de resultados son muy útiles, pero a menudo pueden ser difíciles de utilizar en la evaluación de las actividades de adaptación, ya que con frecuencia existe mucho tiempo entre la implementación de la opción de adaptación y el resultado que se logra (p.ej., si no hay un brote de roya en una zona, ¿cómo podemos saber si las pérdidas se reducen como resultado del proyecto?). Por tanto, es útil usar también indicadores de procesos para medir el avance hacia el logro de un resultado (p.ej., el número de productores que actualmente utilizan medidas de prevención de la roya del café o el número de productores que se han capacitado). Estos indicadores de procesos son valiosos para entender si la resiliencia está aumentando, aún si no se ha puesto a prueba la resiliencia debido a un evento climático.
Para elegir qué evidencia recopilar o qué indicadores medir, consulte las preguntas de evaluación que usted desarrolló en la sección anterior. Considere para cada una el tipo de evidencia o indicador más adecuado, teniendo en cuenta los recursos y las capacidades disponibles. Registre los productos clave de esta tarea en la plantilla del plan de M&E, Sección 2, Etapa 5.
Guía Práctica
Objetivo
Diseñar un plan realista y de un costo razonable, para recopilar la evidencia que ayudará a responder las preguntas de evaluación.
Resultados esperados
- Un plan para recopilar evidencias, así como una lista de métodos y herramientas a utilizar para responder las preguntas de su evaluación.
- Finalización de la parte C de su plan de evaluación.
Tiempo necesario
Variable en función de los métodos que usted elija, el nivel de detalle de la información que necesita y cuántas personas participan.
Procedimiento
Inicie con las preguntas de evaluación identificadas.
Preguntas que se deben tener en cuenta
Comenzando con las preguntas de evaluación identificadas.
- ¿Hay una mezcla de indicadores de resultados y procesos?
- ¿Hay una mezcla de indicadores cualitativos y cuantitativos?
- Reflexione sobre los retos comunes que se describen en la Etapa 5 de esta Guía. ¿Hay algunos que susciten cierta preocupación? ¿Cuáles son las implicaciones de esto? P.ej.:
- ¿Va a utilizar datos existentes u obtendrá nuevos datos?
- ¿Los indicadores que planea usar son adecuados al contexto local o fueron definidos externamente?
- ¿El proceso de recopilación de evidencia se enfoca en la construcción de la capacidad local para llevar a cabo el M&E o se apoya en expertos externos?
- ¿Está interesado en evaluar el éxito de las actividades planificadas o los aprendizajes obtenidos desde los efectos no previstos del trabajo, o ambos?
I. Definir qué evidencia e indicadores utilizar
La mayoría de las preguntas de evaluación requieren que se combinen diferentes tipos de evidencia con el fin de obtener una imagen tan completa como sea posible de lo que ha sucedido. Tome una de las preguntas de evaluación y piense en tipos de evidencia que podrían utilizarse para responder a ella.
II. Comparar diversos tipos de evidencia
Este ejercicio ayuda a comparar los pros y los contras de los diferentes tipos de evidencia.
- De la lluvia de ideas del grupo de la parte I), revise las ventajas y desventajas de cada tipo de evidencia, así como lo que es sorprendente o extraño acerca de ellas. Asegúrese de hacer esto de una manera que sea costo-eficiente. Utilice el siguiente caso de PRPR como ejemplo:
Ejemplo de una pregunta de evaluación: ¿Qué tan efectivas fueron las actividades de manejo de la roya para reducir la gravedad del brote?
Una lluvia de ideas para el ejemplo del PRPR de Chiquimula, Guatemala, podría resultar en lo siguiente:
- Observaciones personales de entrevistas a los productores
- Un porcentaje de incidencia de la roya
- La gravedad de los brotes de la roya
- Los datos del promedio de los ingresos anuales de los pequeños caficultores de la zona
- Una clasificación de las diferentes técnicas de manejo de la roya de un grupo focal de productores
Para cada tipo de evidencia, considere las ventajas, desventajas y los aspectos importantes de cada uno. Recuerde que debe considerar la evidencia en términos de lo útil que es para responder la pregunta de la evaluación. Considere qué tan representativa es, la facitibilidad para acceder o recopilarla, si es correcta y está actualizada.
El ejemplo del PRPR de Chiquimula, Guatemala, podría resultar en lo siguiente (véase Tabla 42):
- Cuando haya evaluado la evidencia, puede comparar los aspectos positivos y negativos de cada segmento para lograr una comprensión más detallada de qué es exactamente lo que debería recopilar.
- Repita este proceso para cada pregunta de evaluación.
- Recuerde que las personas tendrán diferentes puntos de vista sobre lo que es una ventaja, una desventaja o un aspecto interesante. Por lo tanto, puede ser una buena idea repetir esto con diferentes grupos (mujeres, pequeños productores, productores con fincas más grandes o empresas más diversas, cooperativas, etc.) para verificar si emerge cualquier diferencia.
III. Crear un plan realista y costo-eficiente para la recopilación de evidencia
- Una vez que haya considerado los pros y los contras de los diferentes tipos de evidencia, prepare un plan que describa las evidencias y los indicadores que debería recopilar, así como los métodos que va a utilizar para recopilar esta evidencia.
- Piense en cualquier supuesto, necesidades de recursos o limitaciones de estos métodos. Esto se puede hacer utilizando la siguiente plantilla (véase Tabla 40).
Tabla 41: Ejemplo de evaluación de diferentes tipos de evidencia
Evidencia | Ventaja | Desventaja | Notas |
Observaciones personales de las entrevistas a los productores |
|
|
|
Porcentaje de incidencia de roya |
|
|
|
Gravedad de los brotes de roya |
|
|
|
Datos sobre los ingresos anuales promedio de los pequeños productores de la zona |
|
|
|
Clasificación de distintas técnicas de manejo de la roya de los grupos focales de productores |
|
|
|
Tabla 42: Ejemplo de plan para la recolección de pruebas del caso PRPR en Chiquimula, Guatemala
Pregunta de evaluación | Método probable | Supuestos o condiciones para que este método sea viable | Recursos necesarios para implementar este método | Limitaciones de este método |
¿Coincide lo que logró con lo que esperaba lograr? (¿Se establecieron tres ECA y se capacitó a 75 productores para mostrar el ataque de la roya) | Completar la tabla 45 que aparece a continuación con las personas que implementaron el proceso de adaptación |
|
| Si no se han implementado algunas actividades, esto puede considerarse como un “fracaso” que debería ocultarse o no discutirse, en vez de verse como una oportunidad para aprender |
¿Se llevaron a cabo las actividades previstas de una manera eficiente, accesible, adecuada y oportuna? | Discusión en grupo con los implementadores de lo que se entiende por: “eficiente”, “accesible”, “adecuada” y “oportuna”. Describir las características de cada palabra en relación con la producción de café y evaluar las actividades de implementación en cuanto a qué tan bien se han logrado |
|
| La calidad de los datos depende de la discusión, el nivel de participación y de cómo se desarrolla una comprensión compartida Sin una buena facilitación, algunos grupos o personas pueden imponer y los productos pueden resultar sesgados |
¿Fueron suficientes los insumos para la realización de las actividades previstas? (¿Había suficiente personal de extensión agrícola para las ECA? ¿Había suficientes fondos disponibles para establecer el vivero y para distribuir las plántulas?) | Recopilación de datos cuantitativos sobre los insumos (p.ej., los fertilizantes, los recursos humanos, la irrigación, fumigación con pesticidas, etc.) Comparación de los costos previstos con los costos reales de los insumos Discusión sobre posibles razones de las diferencias entre los insumos previstos y reales y sus costos, así como sus implicaciones en el proyecto. ¿Cómo podrían hacerse las cosas de manera diferente la próxima vez? |
|
| La evaluación de la suficiencia es bastante subjetiva, por lo que es importante discutir lo que significa “suficiente” en su contexto antes de tratar de responder esta pregunta |