Charo Repáraz |creparaz@unav.es

Servicio de Innovación Educativa La construcción de pruebas objetivas Charo Repáraz |creparaz@unav.es Carlota Pérez Sancho |cpsancho@unav.es

Introducción LA MEDIDA DEL RENDIMIENTO ACADÉMICO • Medir (v. contínuas)  contar (v. discontínuas) • Distancia entre la medida y lo medido (> cuanto más abstracto sea lo medido) • Teoría Clásica de los Test (TCT): X (puntuación) = V (puntuación verdadera) +e (error) En consecuencia: • El mismo rasgo puede dar distintas medidas • Contar con el error de nuestra medida • Prudencia, es una orientación… Introducción| La medida del rendimiento académico

¿Cómo construir un buen test?: Paso 1 1. CONOCER LOS CONTENIDOS A EVALUAR Conocer bien la estructura de los contenidos (especificar los distintos apartados del programa de la asignatura) nos permitirá: No olvidar ningún aspecto importante. Prescindir de lo anecdótico. Ponderar cada apartado en función de su relevancia intrínseca y relativa. Llegar a un aprueba equilibrada y coherente Ofrecer puntuaciones o diagnósticos diferenciados Estimar la duración de la prueba Construcción del test | Paso 1: Contenidos a evaluar

¿Cómo construir un buen test?: Paso 2 2. DETERMINAR LOS OBJETIVOS La diferencia principal entre… El método más empleado para… Las principales características… El mejor ejemplo del principio… CONOCIMIENTO Recuerdo de material aprendido anteriormente Taxonomí a Bloom COMPRENSIÓN Percepción del significado del material ¿Cuál es el significado de la fórmula….? ¿Cuál es la teoría que esta implícita en …? Después de analizar los datos que se presentan…. ¿Qué definición es aplicable para….? ¿Cuál es el procedimiento experimental más adecuado para …? ¿Qué aplicación ejemplifica el principio de la….? APLICACIÓN Utilización de la información en situaciones concretas ANÁLISIS Fraccionamiento del material en sus elementos constitutivos En el texto presentado ¿qué parte es la conclusión? ¿Qué elementos de la siguiente comunicación… pueden considerarse factuales? ¿Cuál es el error lógico del siguiente argumento? SÍNTESIS Reunión de los elementos en un todo ¿Qué conclusión se puede extraer de…? ¿Cuál es la hipótesis de…? EVALUACIÓN Formulación de juicios sobre el valor de una cosa para un determinado propósito, utilizando ciertos criterios. ¿Qué procedimiento es el más fiable para… ¿Cuál es el error lógico del siguiente argumento? Construcción del test | Paso 2: Determinar los objetivos

¿Cómo construir un buen test?: Paso 3 3. RELACIONAR CONTENIDOS Y OBJETIVOS Tabla de especificaciones Qué objetivos deben cubrir los distintos contenidos y viceversa. No serán incluidos en el instrumento aquellos contenidos referidos a los objetivos para los que no se haya marcado X. Construcción del test | Paso 3: Relacionar contenidos y objetivos

¿Cómo construir un buen test?: Paso 4 4. SELECCIONAR EL CONTENIDO DEL TEST Imposibilidad de incluir todos los elementos MUESTRA El número de elementos debe ser al menos aquel que permita incluir a todos los grandes bloques de contenidos y objetivos. Ejemplo: Si tenemos 3 grandes apartados de contenidos y trabajamos con 5 objetivos, debería haber, al menos, 3x5= 15 elementos. SUFICIENCIA • VALIDEZ DE CONTENIDO. No todos los objetivos ni los contenidos son igualmente relevantes: • Atribuir a los grandes bloques un mayor numero de elementos (dando a todos igual valoración). • Valorar más los elementos referidos a tales objetivos y contenidos. REPRESENTATIVIDAD Construcción del test | Paso 4: Seleccionar el contenido del test

¿Cómo construir un buen test?: Paso 4 Pero… ¿Cuántos ítems debe tener un test? Prueba diagnóstica 20-30 Prueba sumativa > 50 Cálculo: Minuto por ítem no exceder de 90 ítems (hora y media de duración) Construcción del test | Paso 4: Seleccionar el contenido del test

¿Cómo construir un buen test?: Paso 5 5. REDACTAR LOS ITEMS El conocimiento científico es: 1) Un conocimiento fruto del pensar espontáneo 2) Una forma de conocimiento práctico 3) El único capaz de resolver nuestros problemas 4) Un conocimiento demostrado EL USB fue creado en 1996: a) verdadero b) falso • RESPUESTA ÚNICA Máximo 5 alternativas • RESPUESTA MÚLTIPLE De las siguientes afirmaciones, ¿cuáles son correctas respecto a la literatura medieval portuguesa? I. Un poema que narre el sufrimiento de una campesina, abandonada por el hidalgo que amaba por causa de otra mujer, es una “cantiga de amor”. II. Un poema que narre la desdicha de un hidalgo empobrecido que ama a una dama inaccesible es una “cantiga de amigo”. III. “Cantiga de amor” y “cantiga de amigo” son “poesías trovadorescas”. IV. “Cantiga de amor” y “cantiga de amigo” eran cantadas con acompañamiento musical. A) I, II, III y IV. B) I, II y III. C) I, II y IV. D) I y II. E) III y IV. Construcción del test | Paso 5: Redactar los ítems | tipos de ítems

¿Cómo construir un buen test?: Paso 5 • AFIRMACIÓN INCOMPLETA • LAGUNA El número de átomos de oxígeno que existen en 0,10 moles de nitrato de bario es: a) 0,6 b) 6,0 c) 3,6 x 1022 d) 6,0 x 1022 e) 3,6 x 1023 El “gorjeo” es propio del bebe de …. meses: a) uno b) dos c) tres d) cuatro Anotar en los paréntesis de la columna A (países), los números de los elementos de la columna B (capitales) que correspondan: Columna A Columna B ( ) Japón (1) Pekín ( ) India (2) Tel Aviv ( ) China (3) Katmandú ( ) Nepal (4) Nueva Delhi ( ) Israel (5) Tokio (6) Jerusalem • ASOCIACIÓN, EMPAREJAMIENTO O CORRESPONDENCIA • SUSTITUCIÓN Elige la frase que presenta la forma correcta de redacción a) Esté dicho: sólo sé que no se nada. b) Este dicho: sólo se que no se nada. c) Éste dicho: solo sé que no sé nada. d) Este dicho: sólo sé que no sé nada. e) Éste dicho: solo se que no se nada. Construcción del test | Paso 5: Redactar los ítems | tipos de ítems

¿Cómo construir un buen test?: Paso 5 • IDENTIFICACIÓN O LOCALIZACIÓN Identifica en ésta célula el núcleo ( ), el citoplasma ( ) y la membrana ( ). 1 2 3 • INTERPRETACIÓN El gráfico siguiente muestra la duración, en días, del desarrollo embrionario del lepidóptero Ephestia kühniella en función de la temperatura. De su examen concluimos que: 1) el desarrollo más rápido se produce cerca de los 30ºC 2) cuanto más alta es la temperatura, más rápido es el desarrollo 3) el desarrollo sigue una curva logarítmica 4) el animal sólo se encuentra en lugares tropicales 5) a temperaturas inferiores a 10ºC el huevo se muere. Construcción del test | Paso 5: Redactar los ítems | tipos de ítems

¿Cómo construir un buen test?: Paso 5 5. REDACTAR LOS ITEMS • Cuestiones generales a tener en cuenta • Ofrecer en lo que se denomina el pie del elemento toda la información necesaria pero de forma breve y concisa. • Claridad en la formulación. Vocabulario correcto. • Brevedad del enunciado. • Corrección gramatical, ortográfica y sintáctica de los enunciados. • Redactar de forma afirmativa, evitando las dobles negaciones. Ejemplo: La media no es una medida de variabilidad. SI-NO • Todas las alternativas deben ser plausibles. • Evitar situar la respuesta correcta en una posición preferente. • Evitar asociaciones entre el tronco del elemento y la respuesta correcta • Contar con un banco de preguntas lo suficientemente amplio para no repetir de un curso a otro. Construcción del test | Paso 5: Redactar los ítems | cuestiones generales

¿Cómo construir un buen test?: Paso 5 5. REDACTAR LOS ITEMS • La independencia de los ítems • Difícil asegurarla: cualquier palabra en un ítem puede servir de pista o ayuda para resolver otro u otros. • Procurar no incluir elementos en cadena, la forma de responder, o no, a uno de ellos permita contestar, o no, a varios que le siguen. • EJEMPLO: 1. El “gorjeo” es propio del bebe de …. meses: a) uno b) dos c) tres d) cuatro 2. ¿Cuál de las siguientes afirmaciones es propia de la misma edad? a) Sólo me despierto y lloro si tengo hambre o estoy incómodo b) Boca abajo estoy tranquilo y me sostengo apoyado sobre las manos. c) Si me pones un objeto en la mano seré capaz de sostenerlo y me lo llevaré a la boca. d) Soy capaz de sostenerme un ratito sentado pero necesito apoyarme delante con las manos para no caerme. Construcción del test | Paso 5: Redactar los ítems | la independencia de los ítems

¿Cómo construir un buen test?: Paso 6 6. ORDENAR LOS ITEMS • Por tipos de elementos • Para presentar al principio de cada bloque instrucciones necesarias para resolverlo. • Facilitar la corrección ya que cada tipo de elemento puede tener reglas específicas. • Por orden de dificultad • Situar los elementos más fáciles al principio da ánimos para seguir adelante. • Lógica o cronológica • Seguir el orden que la estructura de la materia exige puede facilitar las contestaciones. • Al azar • Presenta más dificultades que ventajas. Construcción del test | Paso 6: Ordenar los ítems

¿Cómo construir un buen test?: Paso 7 7. VALORAR LOS ÍTEMS • La tendencia natural puede ser atribuir un punto a la respuesta correcta y cero para la incorrecta. • Pero la posibilidad de respuestas correctas por azar lleva a la necesidad de valorar los elementos de forma diferente para disuadir de contestarlos cuando se sabe que esa contestación es puramente al azar. • A través de las siguientes fórmulas Pruebas verdadero-falso Resultado (R) =Aciertos (A) – Errores (E) Pruebas elección múltiple Donde na es el numero de respuestas que se ofrecen. Construcción del test | Paso 7: Valorar los ítems

¿Cómo construir un buen test?: Paso 8 8. VALORAR LA PRUEBA • En ocasiones conviene que junto a la puntuación global obtengamos puntuaciones diferenciadas al menos en dos niveles: • Según los diferentes tipos de objetivos evaluados • Se trata de apreciar si hay objetivos claramente superados y otros deficientes, si el nivel es uniforme en sentido positivo o negativo. • Según las diversas unidades importantes de contenido • Un alumno puede obtener un valor global suficiente pero con determinadas unidades con puntuación elevada y otras muy bajas. Construcción del test | Paso 8: Valorar la prueba

¿Cómo construir un buen test?: Paso 9 9. ELEGIR LA MODALIDAD DE EVALUACIÓN • Evaluación referida a la norma • Comparación de la realización del alumno con la realización del grupo, muestra o población a la que pertenece. • Por ejemplo: MIR • Evaluación referida al criterio • Comparación entre la realización del alumno y la realización objetiva previamente establecida. Comparación con un criterio objetivo. • Por ejemplo: TOEFL Construcción del test | Paso 9: Elegir la modalidad de evaluación

Características de un test 1. FIABILIDAD • Mide el error (la distancia entre la medida y lo medido). • A menor error, mayor fiabilidad. • Indica hasta qué punto las diferencias entre puntuaciones de dos alumnos son atribuibles a diferencias reales entre ellos o a errores de medida del test. • Ejemplo: una fiabilidad rxx= 0.85 significa que el 85% varianza verdadera y 15% varianza error • No se deben admitir tests con fiabilidad menor de 0.80 • CONDICIÓN NECESARIA PERO NO SUFICIENTE 2. VALIDEZ • Qué medimos? ¿Medimos lo que queremos medir? • Ninguna prueba es válida y fiable para todos los sujetos y ocasiones LA MAQUINA DE CORRECCIÓN DE CIENCIAS NO CALCULA Características de un test | Fiabilidad y validez

Características de un test 3. ANÁLISIS DE ÍTEMS Estima la contribución de cada ítem a la fiabilidad y validez del test 1.- Índice de dificultad / facilidad: cociente entre quienes aciertan el ítem y quienes lo intentan. • Muy difíciles: ID<0.25 (10%) • Difíciles: ID >0.25 y <0.45 (20%) • Normales: ID >0.44 y <0.55 (40%) • Fáciles: ID >0.54 y <0.75 (20%) • Muy fáciles: ID >0.74 (10%) • 2.- Índice de discriminación: indica la capacidad del ítem para distinguir entre los sujetos de mayor conocimiento y los de menor. Cálculo: la diferencia entre el % del grupo superior que acierta el ítem y el % del grupo inferior que también lo acierta • D> 0.39 Excelente Conservar • D entre 0.30 y 0.39 Buena Mejorar • D entre 0.20 - 0.29 Regular Revisar • D entre 0.00 - 0.20 Pobre Descartar • D< -0.01 Pésima Descartar definitivamente IDmax= 1 Idmin= 0 Dmax= 1 Dmin= -1 Características de un test | Análisis de ítems

Características de un test 4. ANÁLISIS DE LOS DISTRACTORES Nos informa del nº de alumnos del grupo superior (27%) y del grupo inferior (27%) que han seleccionado cada alternativa de respuesta. Cuántos aciertan y cuántos se distraen. • ¿Qué significa que un distractor sea elegido por un gran nº de alumno del grupo superior?: • ítem mal redactado o confuso • problema generalizado de comprensión • ¿Qué pasa si algún distractor no es elegido por ningún alumno del grupo inferior? (mínimo un 10%): • disminuye la fiabilidad y la validez del test pues aumenta el acierto por azar • no cumple su función Características de un test | Análisis de distractores

Características de un test Informe de resultados de los alumnos

Características de un test Informe ordenado por número de ítem

Índice de dificultad / facilidad --- Índice discriminación Regular INDICE FACILIDAD Muy difíciles: ID<0.25 (10%) Difíciles: ID >0.25 y <0.45 (20%) Normales: ID >0.44 y <0.55 (40%) Fáciles: ID >0.54 y <0.75 (20%) Muy fáciles: ID >0.74 (10%) muy fácil INDICE DISCRIMINACIÓN D> 0.39 Excelente Conservar D entre 0.30 y 0.39 Buena Mejorar D entre 0.20 - 0.29 Regular Revisar D entre 0.00 - 0.20 Pobre Descartar D< -0.01 Pésima Descartar definitivamente Excelente normal Muy difícil Pobre

Análisis de los distractores • ¿Qué pasa si algún distractor no es elegido por ningún alumno del grupo inferior? (mínimo un 10%): • < la fiabilidad y la validez pues > el acierto por azar (0.25, 0.33, 0.50) • no cumple su función muy fácil • ¿Qué significa que un distractor sea elegido por un gran nº de alumno del grupo superior? • ítem mal redactado o confuso • problema en la enseñanza

Compilado por: Pérez Linda • Obtenido de: www.universitasnavarrensis.net/innovacioneducativa/formacion/test/test.ppt

Charo Repáraz |creparaz@unav.es