Технология разработки педагогических тестов

Костина Анна Анатольевна

Методические рекомендации по технологии разработки педагогических тестов для оценки уровня обученности студентов СПО. Методические рекомендации составлены на основе книги заведующего кафедрой качества образования Федерального института развития образования, к.п.н., профессора В.Ю. Переверзева «Технология разработки тестовых заданий: справочное руководство»

Скачать:

ВложениеРазмер
Microsoft Office document icon ponyatie_pedagogicheskogo_test1.doc667 КБ

Предварительный просмотр:

Самарский государственный колледж сервисных технологий и дизайна

                                        Методический Совет

Технология разработки педагогических тестов                                          

(методические рекомендации для педагогов СГКСТД)

Самара 2012

Костина А.А. Методические рекомендации по технологии разработки педагогических тестов для оценки уровня обученности студентов СПО.

Самара, ГБОУ СПО СГК СТД, 2012, 45

Методические рекомендации составлены на основе книги заведующего кафедрой качества образования Федерального института развития образования, к.п.н., профессора

 В.Ю. Переверзева «Технология разработки тестовых заданий: справочное руководство»

Рецензент:

       Рекомендовано к изданию Методическим советом Самарского государственного  колледжа сервисных технологий и дизайна.

© Самарский государственный колледж сервисных технологий и дизайна


Содержание

1. Педагогические тесты………………………………………

4

1.1. Понятие педагогического теста…………………….

4

1.2. Этапы разработки педагогического теста……………

6

2. Тестовые задания……………………………………………

12

2.1. Понятие  тестового задания…………………………

12

2.2. Классификация тестовых заданий…………………

12

2.3. Критерии качества и эффективности тестовых заданий

13

2.4. Понятие валидности педагогического теста………

13

2.5. Принципы отбора содержания тестовых заданий……

14

2.6. Использование таксономии Блума и ее модификаций для разработки тестовых заданий……………

16

2.7. Создание спецификации содержания теста………

18

3. Технология создания тестов различных форм…………..

19

3.1. Технология создания заданий с выбором ответа (закрытой формы)……………………………………………

19

3.1.1. Достоинства и недостатки заданий с выбором ответа

19

3.1.2. Основные правила правописания и оформления тестовых задания с выбором варианта ответов………………..

19

3.1.3. Правила составления дополнительных инструкций к заданию………………………………………………………….

21

3.1.4. Правила составления вариантов ответов……………

22

3.1.5. Правила создания правдоподобных и эффективных дистракторов……………………………………………………

23

3.1.6. Оценка времени на выполнение задания………………

23

3.1.7. Рекомендации для создания заданий с выбором ответа……………………………………………………………...

24

3.2. Модификация заданий с выбором ответа………………….

31

3.2.1. Задания типа «верно-неверно», «да-нет»……………

31

3.2.2. Блоки заданий с множеством выбором расширенного формата…………………………………………..

32

3.3. Задания открытой формы……………………………………

33

3.4. Задания на установление соответствия…………………….

34

3.5. Задания на установление правильной последовательности

36

Приложение. Словарь специальных терминов по тестовой теории и технологии разработки тестовых заданий…………..

37

1. Педагогические тесты

1.1. Понятие педагогического теста

 Наиболее распространенное в отечественной тестологии определение педагогического теста принадлежит B.C. Аванесову: «Педагогический тест - это система заданий возрастающей трудности специфической формы, позволяющая качественно оценить структуру и эффективно измерить уровень знаний, умений и навыков учащихся». Необходимо сделать некоторые пояснения, к вышеприведенному определению. По форме тест представляет собой систему заданий. Тестовые задания обычно бывают краткими, так чтобы на выполнение каждого не тратилось бы много времени. Это является одним из факторов эффективности применения тестов в педагогическом контроле. Нельзя не согласиться с B.C. Аванесовым, что не всякое задание включается в тест. Оно должно быть строго определенным по форме, содержанию и специальным параметрам - показателям качества, оцениваемым в ходе экспертного и статистического анализа. Свойства заданий обуславливают качество всего теста. Хорошие, валидные, эффективные задания определяют основные качественные характеристики всего педагогического теста. Поэтому и говорят, что педагогический тест представляет собой не просто набор, а систему заданий.

Педагогический тест рассматривается именно как система, как упорядоченное множество из тестовых заданий. Задания - это те элементы, «кирпичики», из которых составляется педагогический тест. Заметим, что данное достаточно емкое и точное определение можно дополнить утверждением, сводящимся к тому, что педагогический тест отличается от других методов контроля функциональной независимостью от субъекта процесса обучения - преподавателя. Другими словами, сама процедура тестирования не обязательно требует присутствие преподавателя в группе испытуемых и может проводиться в автоматизированном (компьютерном) формате.

Таким образом, суммируя вышесказанное, можно предложить следующее определение: «Педагогический тест - это система заданий специфической формы, позволяющая объективно и функционально независимо от преподавателя измерить уровень образовательных достижений обучаемых, совокупность их представлений, знаний, умений и навыков на той или иной области содержания».[1]

Педагогические тесты в системе среднего и высшего профессионального образования подразделяются на вступительные (входные), текущие, тематические, а также на тесты промежуточной (рубежной) и итоговой аттестации.

 Педагогические тесты по своему содержанию различаются на гомогенные и гетерогенные.

Гомогенный педагогический тест основывается на содержании какой-либо одной дисциплины. При его разработке авторы должны четко отслеживать, чтобы каждое задание не выходило по своему содержанию за рамки данной дисциплины. Гомогенный тест может быть как нормативно-ориентированным, так и критериально-ориентированным, в зависимости от цели его создания. Такой тип педагогического теста наиболее распространен в учебном процессе.

Гетерогенный педагогический тест основывается на содержании нескольких дисциплин. Гетерогенный педагогический тест является по своему существу междисциплинарным. В большинстве случаев каждое задание гетерогенного теста включает в себя элементы содержания нескольких дисциплин. При его разработке авторы должны представлять себе цели его создания и быть компетентными во многих дисциплинах.

Педагогические тесты классифицируются по методологии интерпретации результатов тестирования на нормативно-ориентированные и критериально-ориентированные.

Нормативно-ориентированный педагогический тест (по-английски norm-referenced test) позволяет сравнивать учебные достижения (уровень подготовки, уровень профессиональных знаний и умений) отдельных испытуемых друг с другом. Нормативно-ориентированные педагогические гесты используются для получения надежных и нормально распределенных баллов для сравнения испытуемых.  

Критериально-ориентированный педагогический тест (по-английски criterion-referenced test) позволяет оценивать, в какой степени испытуемые овладели необходимым учебным материалом. Критериально-ориентированные педагогические тесты применяются для интерпретации результатов тестирования в соответствии уровнем обученности испытуемых на определенной области содержания.

Выделяют два основных вида критериально-ориентированных тестов, отличающихся друг от друга по ряду характеристик: domain-referenced test, предназначенный для оценки доли от полного объема учебного материала, которую усвоил испытуемый, и mastery tests, то есть "тесты на мастерство" или "квалификационные тесты", применяемые для определения в группе испытуемых квалифицированных и неквалифицированных (masters and nonmasters) в какой-то области. Установившейся терминологии для этих видов тестов на русском языке пока не существует.

Существенное значение приобретает использование критериально-ориентированных тестов для текущей, промежуточной и итоговой аттестации студентов.

По формату предъявления педагогические тесты различаются на бланковые, когда испытуемому предоставляется распечатка теста на бумаге, и на компьютерные, когда студент должен отвечать на задания работая на компьютере.

Педагогические тесты можно различать по масштабу применения на классные (авторские), академические (для учебного контроля в образовательном учреждении), отраслевые (для профессиональной аттестации кадров), национальные и международные.

1.2. Этапы разработки педагогического теста

Этап 1. Определите области содержания, измеряемых интелектуальных умений и основных целей тестирования. Анализ содержания учебной дисциплины и отбор содержания для теста Первоначально организаторам и разработчикам теста следует ответить на основные и самые важные вопросы. Для измерения чего предназначен тест, то есть, какова область содержания, основные измеряемые интеллектуальные умения и цели тестирования? Кто будет тестироваться, то есть, какая специфическая выборка экзаменующихся будет участвовать в тестировании? Кто будет пользователем результатов тестирования и для каких целей им нужна измерительная информация, то есть, кто реально заинтересован в получении результатов по данному тестированию и какую информацию нужно предоставить пользователям?

Тщательное определение всех данных аспектов, целей тестирования, для которых будет разрабатываться тест, совершенно необходимы даже тогда, когда область содержания точно определена. Гораздо более тщательную детализацию подробностей в целях тестирования необходимо провести в итоговых тестах по контролю за академической подготовленностью студентов, где могут быть существовать значительные теоретические расхождения среди экспертов-составителей заданий по самим основам содержания.

Окончательная, четкая детализация и формализация того, для чего тест предназначен, и что именно будет измерять тестирование, необходима и для оценки валидности самого теста.

Этап 2. Определение практических ограничений и выбор подходов к процессу разработки. Создание спецификации теста и спецификаций тестовых заданий.

Основное практическое ограничение, стоящее перед организаторами и разработчиками теста, - это материальные и временные ресурсы, которые находятся в их распоряжении. В случае массового педагогического тестирования необходимо проверить большое количество экзаменующихся по значительному количеству дисциплин, но время разработки теста, время тестирования и время интерпретации всегда ограничено. Ограничены также ресурсы и затраты на составление тестов.

Если на предыдущем этапе были адекватно определены все детали, то создание спецификации теста не должно вызывать больших трудностей. Полная спецификация педагогического теста определяет область содержания (по темам, разделам и пр.), формулирует интеллектуальные умения и количество тестовых заданий для каждого элемента спецификации. Спецификация теста может составляться как в линейной, так и в матричной (в виде таблицы) формах. Можно предложить следующую схему выполнения этого этапа:

1. Определение специфической области содержания и использованные источники информации. Типичные источники информации о содержании - это образовательный стандарт, программы по предмету, основные учебники и научно-методические пособия и другие учебные материалы. Другие источники информации - это мнение специалистов по содержанию дисциплин, профессорско-преподавательского состава, ученых-педагогов, методистов. Задача организаторов и составителей теста, это собрать воедино всю полученную информацию и составить точный и определенный образец спецификации теста.

2. Необходимо определить количество частей (секций) в тесте, предварительное количество тестовых заданий в каждой части и время тестирования. Предусмотреть в пробном тестировании специальные исследования для определения точного времени тестирования и точного количество тестовых заданий - длины теста. Естественно, когда новые тестовые задания, или их новые типы применяются в тесте, желательно проведение пробного тестирования для исследования того, как экзаменующиеся отвечают на эти задания и за какое время. В зависимости от опыта авторов тестовых заданий, каждый тип тестовых заданий, который используется в пробном гесте, должен быть составлен в количестве в три раза большем, чем необходимо для окончательного теста, и желательно, чтобы все эти тестовые (часто их называют претестовые задания) были включены в пробное тестирование или в пробный банк тестовых заданий.

  1. Для бланкового формата предъявления необходимо определить количество вариантов теста для тиражирования и их технические характеристики - бумагу, количество страниц и т.д.
  2. Определить количество сопроводительных к тесту документов, таких как ответные листы, инструкции для проведения тестирования, справочники и таблицы для пользователей теста и технические отчеты, административные отчеты о результатах тестирования и т.д.
  3. Необходимо определить типы тестовых заданий и спецификациюкаждого типа тестового задания.
  4. Установить предварительные технические характеристики и другиекритерии теста.  Например, распределение значения уровней трудности заданий, критериальные баллы  (или стандарты оценивания) для критериально -ориентированных тестов и др.
  5. Необходимо определить количество параллельных вариантов для пробного и реального тестирования и процедуру отбора тестовых заданий их банка.
  6. Определить процедуру стандартизации (если она предусмотрена) и определение норм и шкал, используемых для данного теста. Установить процедуру шкалирования и нормирования.
  7. Определить основные модели статистических исследований по надежности и валидности теста, и других параметров теста и тестовых заданий.

Этап 3. Составление тестовых заданий.

Составление эффективных, валидных (часто употребляют термин конгруэнтных) тестовых заданий - это вторая по важности процедура после составления адекватной спецификации самой области содержания и целей тестирования. Даже тщательно отредактированные тестовые задания могут оказаться неудовлетворительными, и естественно, что качество банка тестовых заданий может установить ограничение и на качество окончательных вариантов теста. Экспертный анализ тестовых заданий не может быть единственным средством определения дефектов в самих заданиях. Необходимо проведение эмпирических статистических исследований на основе пробного тестирования и, если это необходимо, составление новых тестовых заданий.

Этап 4. Анализ заданий экспертами для оценки конгруэнтности заданий области содержания и целям тестирования. Подготовка материалов для пробного тестирования.

После составления множества тестовых заданий разработчикам необходимо провести экспертную проверку их качества. Каждому эксперту предлагается оценить степень конгруэнтности каждого задания области содержания и целям тестирования. От этого этапа напрямую зависит одна из важнейших характеристик теста - содержательная валидность.

После выбора подходящих заданий из банка разработчики составляют тест (или несколько его параллельных вариантов) для пробного тестирования.

Этап 5. Проведение пробного (апробированного) тестирования и анализ его результатов.

Одна из основных проблем при проведении пробного тестирования - это отсутствие мотивации у экзаменующихся (при условии, что они знают о том, что данное тестирование является пробным). Необходимо приложить определенные усилия, чтобы адекватная мотивация студентов в пробном тестировании была достигнута. Если этого не будет сделано, то информация, полученная в процессе пробного тестирования, не будет точной, адекватной. Одним из альтернативных решений этой проблемы является включение пробных (претестовых) заданий в уже существующий тест.

Параллельные варианты пробного теста должны быть достаточно большими, то есть содержать достаточное количество заданий, чтобы обепечить приемлемую надежность данных тестирования и представлять ионный диапазон возможностей теста в измерении данного содержания. Выборка студентов должна быть статистически гетерогенной и адекватно представлять все группы студентов по полу, возрасту, регионам и т.д. Анализ тестовых заданий чрезвычайно существенен, для того, чтобы найти скрытые дефекты в тестовых заданиях, удостовериться в их эффективности. Эффективные, хорошо работающие тестовые задания, скорее всего могут составлять половину или даже менее половины от всего банка претестовых заданий, используемых в пробном тестировании. Персонал, который проводит пробное тестирование (обычно это преподаватели или учебно-вспомогательный персонал), должен записать время тестирования, сколько студентов закончило до окончания времени тестирования и прокомментировать условия проведения тестирования. Как показывает опыт, во время тестирования персонал может заметить значительные недоработки во всем тесте или определенную проблему с каким-либо тестовым заданием.

Этап 6. Выбор критериального балла (критериев или стандартов оценивания) экспертными и (или) эмпирическими методами.

Для итогового критериально-ориентированного теста выбор стандарта оценивания "удовлетворительно" - "неудовлетворительно", или стандартов оценивания в традиционной шкале "неудовлетворительно- удовлетворительно - хорошо - отлично" является чрезвычайно важным этапом разработки теста. В конечном итоге правильно выбранный стандарт оценивания определяет критериальную валидность теста. Для экспертного выбора стандарта можно использовать модифицированный метод Агноффа (который неоднократно применял автор), согласно которому каждому эксперту предлагается количественно оценить вероятность выполнения каждого тестового задания минимально подготовленным студентом. Суммируя эти вероятности можно получить приблизительное значения стандарта оценивания "удовлетворительно" - "неудовлетворительно". Эмпирический выбор стандарта оценивания рекомендуется проводить методом "контрастных групп"[2].

2. Тестовые задания

2.1. Понятие  тестового задания

Тестовое задание - минимальная содержательно законченная единица педагогического измерения, имеющая основу, в которой формулирована проблема (задача), и предписанный порядок для ответа. Цель тестового задания - получить ответ от испытуемого, на основе которого может быть сделан вывод о его знаниях, интеллектуальных умениях, способностях, представлениях, навыках на определенной области содержания.

2.2. Классификация тестовых заданий

В трудах зарубежных и отечественных тестологов выделены основные формы тестовых заданий для педагогических тестов, а именно:

  1. Задание с выбором ответа (у некоторых авторов - задание закрытой формы, в англо-американской литературе установился термин «multiplechoice item - задания с множественным выбором») - форма тестового задания, при которой испытуемый должен выбрать правильный ответ из нескольких предлагаемых вариантов.
  2. Задание открытой формы (в англо-американской литературе существуют термины «free-response item , open-response item , limited-responseitem» и др.) - форма тестового задания, при которой испытуемый должен предоставить правильный ответ, например, дополнить основной текст таким элементом, чтобы получилось истинное высказывание.
  3. Задание на установление соответствия (англ. - matching item) - форма задания, в котором испытуемому предлагается установить соответствие между элементами двух списков (двух множеств).
  4. Задание на установление правильной последовательности (англ. -sequences) - форма задания, в котором испытуемому требуется установить правильную последовательность элементов, действий, операций и т.д.

Критерии качества тестовых заданий

Цели и задачи педагогического теста как аттестационной процедуры диктуют автору тестовых заданий ряд направляющих принципов.

Наиболее важный критерий конструирования эффективных тестовых заданий заключается в следующем: должна быть высокая степень соответствия между конкретным заданием и ключевой целью всего педагогического теста. Проще говоря, главный вопрос формулируется так: «Как хорошо данное тестовое задание соответствует предназначенной цели всего теста?»

2.3. Критерии качества и эффективности тестовых заданий

  • Тестовые задания должны быть конгруэнтны (должны соответствовать) ключевой цели тестирования. Ключевая цель тестирования должна быть ясно и четко определена и сформулирована.
  • Автор должен минимизировать вклад, который тестовые задания могут внести в общую ошибку педагогического измерения.
  • Форма тестовых заданий должна соответствовать целям тестирования.
  • Должны быть выполнены технологические условия создания тестовых заданий: -одномерность шкалирования; - локальная независимость; -дифференцирующая способность.
  • Тестовые задания должны отвечать общему стилю и стандартам редактирования.

2.4. Понятие валидности педагогического теста

Валидность педагогического теста - важнейший критерий его качества. Педагогический тест называется валидным (от англ. validity - значимость, обоснованность, пригодность, аргументированность, действительность, вескость, мотивированность, доказанность достоверность, истинность; справедливость, адекватность, обоснованность, общезначимость, правильность, применимость), если доказана   адекватная оценка степени соответствия структуры системы тестирования ее конечным целям, т.е. тест измеряет то, для чего он предназначен.

Содержательная валидность (content validity) -  применяется по отношению ко всем педагогическим тестам. Если пользователь теста может доказать, что тест адекватно отражает все основные аспекты исследуемой области содержания, то можно утверждать, что он обладает содержательной валидностью.

Критериальная валидность - степень соответствия между результатами тестирования и внешним, не относящимся к тесту критерием.

2.5. Принципы отбора содержания тестовых заданий

Рассмотрим  основополагающие принципы отбора содержания тестовых заданий для педагогических тестов.

Принцип конгруэнтности заключается в соответствии содержания педагогического теста (в особенности критериально-ориентированного) содержанию учебной дисциплины. Однако, содержание теста всегда значительно уже объема содержания дисциплины из-за невозможности включения всех разделов измеряемой области содержания. С другой стороны, чем вышее содержание теста, тем выше его содержательная валидность, тем больше обоснованность и значимость результатов тестирования и тем больше уверенность пользователей теста в качественной оценке знаний испытуемых. Необходима также уверенность в том, что задания теста охватывают все важные аспекты области содержания и в правильной пропорции.

Принцип значимости отражает необходимость включения в тесты только тех знаний, которые являются наиболее важными, значимыми, базовыми, которые выражают сущность, содержание, законы и закономерности рассматриваемых явлений.

Принцип научной достоверности заключается в том, что в тесты включается такое содержание учебной дисциплины, которое является истинным, научно обоснованным, достоверным. Все спорные точки зрения, вполне нормальные в науке, следует исключить из тестовых заданий для педагогических измерений.

Принцип соответствия содержания теста уровню современного состояния научного знания вытекает из естественной необходимости готовить специалистов и проверять их знания и умения на современном материале. Однако, трудность реализации этого принципа заключается в некоторой временной задержке связи содержания теста с уровнем развития науки и с содержанием учебной дисциплины. Преодолеть эту трудность можно только постоянным совершенствованием теста и постоянным расширением банка новых тестовых заданий.

Принцип репрезентативности заключается в наиболее точном отражении необходимого знания в тестовых заданиях. Репрезентативность не означает обязательного включения в тест всех значимых элементов содержания. Ведь многие из них явно связаны между собой в общей структуре знаний, включены один в другой полностью или частично. Кроме того, много элементов в структуре знаний иерархически соподчинены.

Принцип вариативности содержания. Содержание теста не может оставаться неизменным и независимым от развития науки, научно - технического прогресса, от нового содержания учебной дисциплины и от новых учебников. По мере изменения содержания учебной дисциплины должно варьироваться и содержание теста.

Принцип возрастающей трудности тестовых заданий означает, что каждый учебный элемент в процессе контроля обладает некоторой усредненной для студентов мерой трудности, на которую и ориентируются преподаватели. Практически все учебники и пособия построены по принципу возрастающей трудности. В таких учебных дисциплинах, как логика, математика, иностранные языки, статистика, философия, и др., значение последующих элементов курса жестко привязано к знанию предыдущих учебных элементов. Поэтому изучать такие дисциплины можно только с само го начала, и без пробелов. Трудному содержанию обычно соответствуют и трудные задания. Студент, правильно отвечающий на трудные задания, с большой вероятностью отвечает правильно и на легкие задания.

Принцип  системности,  комплексности и сбалансированности теста  указывает на подбор такого содержания тестовых заданий, который отвечал бы требованиям системности знаний. Помимо подбора заданий с системным содержанием, важно иметь задания, связанные между собой общей структурой знаний, а также задания, комплексно отображающие основные, если не все, темы учебной дисциплины. Кроме того, нужно сбалансировано отобразить в тесте основной теоретический материал - понятия, законы и закономерности, гипотезы, факты, структурные компоненты теории с методами научной и практической деятельности, с умениями эффективно решать типовые профессиональные задачи.

Принцип взаимосвязи содержания и формы. Педагогический тест можно охарактеризовать как результат взаимовлияния содержания заданий с наиболее подходящей формой. Уже на стадии замысла содержание задания начинает обретать свою форму. Однако, не всякое содержание поддается представлению в форме тестового задания. Доказательства, обширные вычисления, многословные описания весьма сложно (а порой невозможно) выразить в тестовой форме.

Кроме того, содержание теста должно отвечать логическим и семантическим требованиям и нормам.

2.6. Использование таксономии Блума и ее модификаций

для разработки тестовых заданий

Таксономия Блума, вероятно, - наиболее широко используемая схема индентификации уровней познавательных   процессов (в литературе употребляется также термин «когнитивные процессы») при создании педагогических тестов. В различных модифицированных версиях она применяется во многих широко распространенных  массовых педагогических тестах. В (отечественной практике педагогического тестирования в том или ином виде таксономия Блума также используется разработчиками тестов, однако, иногда они сами этого не осознают. Оригинальная работа Блума по описанию и классификации умственных процессов получила широкое признание и с успехом применяется в педагогических измерениях во всем мире.[3]

Таксономия (или систематизация и классификация) целей обучения Блума позволяет сформулировать список из нескольких познавательных категорий, типично измеряемых в педагогических тестах. Эти категории внесены в иерархический список в Таблице. Они включают: Знание, Понимание, Применение, Анализ, Синтез и Оценку. Если все эти категории (или часть из них) - целевые результаты обучения, то тесты для измерения этих категорий должны включать оценку этих категорий.

Таблица 2.6.1

Уровни познавательных процессов (когнитивных уровней) по Блуму и примеры их использования для педагогических измерений

Познавательный уровень (категория)

Познавательный процесс (интеллектуальное умение)

Ключевые слова (глаголы,
вопросы) для использования в основе тестовых заданий

Знание

Узнавание   фактов,   терминов, условий, понятий определений, принципов

Определите,       перечислите, идентифицируйте,   назовите. кто? когда? где? какой (что)?

Понимание

Объяснение,     интерпретация знакомого учебного материала

Объясните,        предскажите интерпретируйте,   выведите, суммируйте,     преобразуйте, переведите,   дайте    пример, вычислите, перескажите

Применение

Использование   понятий или   принципов,   чтобы решить проблему (задачу)  в знакомых  и  конкретных ситуациях

Примените, решите, покажите,   используйте,   измените, продемонстрируйте,    вычислите

Анализ

Деструктурирование системы    на ее составляющие части для выявление отношений и   иерархии, организация связи между частями

Дифференцируйте, сравните

отличите, свяжите с, почему?

Синтез

Создание чего-то нового или оригинального из составляющих частей (элементов)

Спроектируйте, сконструируйте, разрвбтайте, сформулируйте, вообразите, создайте, измените так, чтобы…, напишите эссе (короткое сочинение)

Оценка

Формирование      суждения, основанного на предустановленном    наборе критериев

Спроектируйте, сконструируйте, разработайте, сформулируйте, вообразите, создайте, измените так, чтобы... Что было бы лучше?

2.7. Создание спецификации содержания теста

Тесты должны фактически базироваться на целях обучения вместо того, чтобы просто повторять образцы содержания обучения. Адекватность педагогического измерения происходит с помощью тестовых заданий, ясно отражающих сформулированную учебную цель. Этот аспект остается главным при определении содержания тестовых заданий.

Спецификации тестовых заданий обычно предназначаются в качестве внутреннего рабочего документа для разработчиков теста. Они не предназначены для экзаменующихся или для пользователей теста. Спецификации тестовых заданий предназначены, прежде всего, для авторов заданий, Чтобы их работа была сосредоточена в том направлении, который отражает намерения разработчика теста. (Таблица 2.7.1)

Таблица 2.7.1

Матричная спецификация для банка  тестовых заданий

Раздел содержания

Категории целей тестирования

знание

понимание

применение

анализ

синтез

оценка

Общее количество %

1.

2.

3.

4.

Общее количество заданий %

100

3. Технология создания тестов различных форм

3.1. Технология создания заданий с выбором ответа (закрытой формы)

3.1.1. Достоинства и недостатки заданий с выбором ответа

Достоинства заданий с выбором ответа:

  1. Универсальность в измерении всех уровней познавательных процессов (интеллектуальных умений).
  2. Позволяют осуществить широкий выбор содержания и целей измерения (высокая валидность измерения).
  1. Обеспечивают очень надежные результаты тестирования.
  2. Возможность частичной автоматизации подсчета результатов тестирования в бланковом формате и полной автоматизации при компьютерном формате предъявления

Недостатки заданий с выбором ответа:

  1. Технология разработки требует высокой квалификации автора и отнимает иного времени.
  2. Вероятность случайного угадывания правильного ответа.

3.1.2. Основные правила правописания и оформления

тестовых задания с выбором варианта ответов

1.Основу задания следует выделять одинаковым способом для всех заданий в данном тесте (например, полужирным шрифтом). Испытуемые должны запомнить стандарт оформления заданий и легко его воспринимать в процессе тестирования.

2. Если основа задания – законченное предложение, то в ее конце ставится точка, а если основа имеет вопросительную форму, то, соответственна   и конце ставится вопросительный знак.

3. Каждый вариант ответа идентифицируется (кодируется) одинаково для всего теста. Для бланкового формата тестирования кодировка применяется либо цифровая- 1), 2), 3), ..., либо буквенная - А), Б), В), ... и сопровождается   круглой скобкой (точка нежелательна). Хороший способ кодирования латинскими буквами, например, А), В), С), D). Для компьютерного формата видимая кодировка может и не использоваться.

4. При использовании законченного предложения или   вопроса  в основе задания, все варианты ответа должны начинаться с заглавной буквы.

5. Если основа задания незаконченное предложение или требующее внутреннего завершения (с пропусками), то все ответы начинаются со строчных букв.

6. Варианты ответов не должны заканчиваться точкой или каким-либо другим знаком препинания.

7. Негативные формулировки в основе задания следует особенным образом выделять, например, подчеркиванием, курсивом и т.п.( «не является...», «не отвечает...»).

Пример 1. Основа задания – законченное предложение или вопрос.

Укажите собирательное имя числительное.

А) Втроем

В) Тройка

С) Трое

D) Три

Какой вид изменчивости является материалом для естественного отбора?

  1. Наследственная
  2. Групповая
  3. Модификационная
  4. Комбинативная

Пример 2. Основа задания – незаконченное предложение.

Из энтодермы образуются

А) легкие

Б) волосы, перья, чешуя

В) мышцы

Г) кости

Пример 3. Основа задания требует внутреннего заполнения (задания с пропусками частей предложения)

The examination was___________than we expected.

  1. easier
  2. easy
  3. easiest
  4. easer

Пример 4. Задания на исключения

По существующему законодательству в РФ могут быть приватизированы все предприятия , кроме:

  1. предприятия торговли
  2. предприятия сферы бытовых услуг
  3. объектов незавершенного строительства
  4. предприятий связи

Что из перечисленного не является текущим активом?

А) Патенты

Б) Инвентарь

В) Заранее оплаченное страхование

Г) Рыночные ценные бумаги

3.1.3. Правила составления дополнительных инструкций к заданию

  • Дополнительные инструкции к заданию необходимы только тогда, когда задание сопровождается дополнительным текстом или графическим материалом;
  • Дополнительные инструкции к заданию должны быть написаны ясно и настолько кратко, насколько возможно;
  • Дополнительные инструкции к заданию размещаются выше текста или графики и должны привлечь внимание экзаменующегося к конкретному заданию. Чтобы облегчить поток информации для экзаменующихся, порядок должен быть следующий: дополнительная инструкция сначала, затем текст или графический материал, и, наконец, основа задания и альтернативы ответа;
  • Дополнительные инструкции к заданию должны отличаться по написанию от остальных частей задания (например, курсивом, полужирным шрифтом и др.)

Обратите внимание, что дополнительные инструкции пишутся только к тем заданиям, которые имеют сопроводительный текст или графику. Для |сех других заданий такие инструкции излишни. Хотя ненужные инструкции могут и не навредить экзаменующимся, но они ничего не добавляют, а только загромождают текст.

Перечислим типовые дополнительные инструкции к заданию.

  • Прочитайте абзац, представленный ниже, и ответьте на вопрос в задании 12
  • Прочитайте отрывок, представленный ниже, и ответьте на задания 4-6
  • Прочитайте предложение, представленное ниже, и ответьте на задание 7
  • Используйте карту, представленную ниже, чтобы ответить на задание 10,11,12
  • Используйте представленную ниже диаграмму, чтобы ответить на вопрос 21
  • Используйте представленную ниже таблицу для ответа на следующее задание
  • Используйте представленный ниже график и ответьте на задание 13,14
  • Используйте иллюстрацию, представленную ниже, чтобы ответить на задание 24.

3.1.4. Правила составления вариантов ответов

  1. Использовать параллельные грамматические конструкции.

Если возможно, следует начинать каждый ответ с одного и того же слова, или применять одну и ту же части речи.

Формулируя все ответы на базе одной и той же части речи, автор задания  будет уверен, что все варианты грамматически сочетаются с основой.

  1. Избегать слишком или неоправданно длинных ответов

Слишком длинные ответы имеют тенденцию запутывать, сбивать с толку испытуемых.

  1. Ответ на задание должен быть полностью, «абсолютно правильным» или «лучшим».

Разработчики педагогических тестов вынуждены   основывать многие из заданий на суждениях, которые не являются абсолютно верными, тем не менее, весьма вероятны. При этом испытуемых  инструктируют искать абсолютную правильность в ответах, а делать лучший выбор.

3.1.5. Правила создания правдоподобных и эффективных дистракторов

  • Все дистракторы (неверные варианты ответов) должны быть такими, чтобы каждый из них мог бы привлечь внимание тех испытуемых, которые недостаточно подготовлены к тестированию.
  • Дистракторы должны быть как бы "похожими" на правильный ответ. В идеале, при анализе эффективности заданий каждый дистрактор должен в равной мере использоваться всеми испытуемыми, не выполнившими данное задание правильно, Очевидно, если дистракторы являются неэффективными (то есть их выбирают малое количество испытуемых из выборки), само задание будет слишком легким.
  • Правильный ответ и дистракторы одного задания в тесте не должны подсказывать испытуемым ответы на другие. Поэтому не следует использовать дистракторы из одного задания в перечне вариантов ответов других заданий в тесте.

3.1.6. Оценка времени на выполнение задания

Знание приблизительного времени, которое требуется для выполнения задания - полезная информация для авторов. Это знание может помочь авторам определить количество заданий во всем тесте. Обычно принимаемый принцип среди разработчиков педагогических тестов такой: студентам требуется одной минуты для выполнения одного типичного задания закрытой формы. Таким образом, разработчики могут приблизительно планировать, что, в среднем, тест с 60- тью заданиями займет, по крайней мере, один час. Причем эти 60 минут не включают время, необходимое для размещения студентов в аудитории, раздаче тестовых материалов, проведения инструктажа, сбора материалов после тестирования и др.

Очевидно, что правило "одна минута на задание " не относится ко многим трудным заданиям, особенно если они имеют большие отрывки пояснительного текста или требуют сложных вычислений или изучения подробных графических материалов. Наоборот, очень простые задания, требующие только узнавания фактов или нетрудных вычислении, потребуют меньше чем одну минуту на выполнение.

Существует два метода оценки реального времени для выполнения задания или всего теста.

Первый метод заключается в том, что набор заданий или весь тест предлагается выполнить профессионалу – преподавателю данной дисциплины. В этом случае следует зафиксировать время, потраченное им на выполнение всего набора заданий, и умножить его на два.

На практике так и происходит, среднее время на выполнение набора задании
для испытуемого в два раза больше, чем для профессионала.

Второй метод связан с группой испытуемых, выполняющих пробный тест или набор заданий. Необходимо определить время, когда 20% испытуемых заканчивают выполнение набора заданий. Именно этот промежуток времени и является оптимальным для данного набора заданий.

3.1.7. Рекомендации для создания заданий с выбором ответа

Общие рекомендации

  1. Задания должны быть нацелены на измерения важных, значимых целей обучения и (или) целей аттестации.
  2. Следует концентрироваться на составлении таких заданий, которые
    измеряют способность испытуемых постигать, применять, анализировать и оценивать, а не только вспоминать фактический учебный материал.
  3. Задание должно быть составлено так, чтобы испытуемый, который
    выбрал правильный ответ и устранил неправильные ответы, продемонстрировал бы полезное, значимое достижение.
  4. Испытуемый не должен иметь возможность ответить на задание правильно, используя только простую логику и здравый смысл, и не обладая соответствующим знанием или умением.
  5. В тексте задания нежелательно употребление слов, которые могли
    стать ключом к правильному ответу, такие как: "всегда", "может", "ни один", "никогда", "все", "иногда", "обычно", "типичный" и др.
  6. В тексте заданий следует избегать неоднозначных или ничего не значащих выражений.
  7. Следуйте за стандартными правилами пунктуации и грамматики.
  8. Если в задании использованы рисунки, таблицы, чертежи, то он должны быть правильно составлены и легко читаться (пониматься) испытуемыми.
  9. С самого начала определитесь сами, какой тип задания вы составляете - задание «с абсолютно правильным ответом» или задание «с выбором лучшего ответа».
  10. Удостоверьтесь, что либо в основной, либо в дополнительной инструкции для испытуемых есть информация о типе задания, т.е. либо это задание «с абсолютно правильным ответом», либо задание «с выбором лучшего ответа».   Испытуемые должны   четко понимать, какой тип задания им предстоит выполнить.
  11. Повторяющиеся слова и словосочетания следует включать в
    основу задания, а не в варианты ответа. Это позволит формировать более лаконичные, а значит и более эффективные задания.
  12.  Придерживайтесь в задании такого стиля и такого уровня трудности текста, который соответствует уровню развития проверяемой группы испытуемых. Не используйте  слова и выражения, которые испытуемых не будет понимать.
  13.  Избегайте в тексте задания использовать дословные цитаты из учебников или других учебных материалов. Формулировка задания не должна следовать за знакомой фразеологией учебника настолько близко, чтобы вербальная  память испытуемого без понимания сущности проблемы смогла бы обеспечить адекватное основание для правильного ответа.
  14. Если текст задания базируются на чьем-либо мнении или авторитетном источнике, обязательно   сообщите чье мнение, или какой авторитетный источник были использованы.
  15.  Во всем тесте задания должны быть независимы друг от друга. Ответ на одно задание не должен зависеть от ответа на другое задание. Избегайте использование в одном варианте теста заданий, которые помогают экзаменующимся отвечать на другие задания в тесте.
  16. Проверьте все задания с вашими коллегами, чтобы устранить двусмысленность, технические и другие ошибки в тексте задания.
  17. По возможности, избегайте  составлять задания, которые проверяют больше чем одну идею, проблему, концепцию.
  18. По возможности, избегайте составлять задания, ответы на которые могут измениться в пределах короткого периода времени.
  19. Формулируете задания так, чтобы была однозначность, только одна интерпретация их значения.
  20. Чтобы функционировать должным образом, задание с выбором ответа должно быть выражено в тщательно отредактированных словах и предложениях.
  21. Авторы задания могут сделать некоторые задания легче, формулируя основу более общими определениями, а варианты ответа делая более различными, разнообразными и   разнотипными. И наоборот, можно сделать задания труднее,   если основа   задания будет более определенной (конкретной, точной), а ответы более подобными, похожими, сходными.
  22. Трудность задания не должна базироваться на включении в него
    неясного, запутанного содержания.
  23. Удостоверьтесь, что все варианты ответов грамматически совместимы с основой.
  24. Следует избегать выявления у испытуемых их личного мнения, необходимо задавать вопросы, основанные на достоверных фактах, понятиях и пр.
  25. Следует избегать «азбучных» вопросов.
  26. Не следует формулировать «вопросы-уловки», ответы на которые зависят от некоторого неясного или малоизвестного факта.
  27. По возможности, не следует делать основу или ответы неоправданно длинными.
  28. Следует избегать вербальных ассоциаций между основой и правильным  ответом. Одно и то же слово (или словосочетание, или однокоренное слово) не должно находится в основе и правильном ответе. Однако, вербальные ассоциации основы и неправильного ответа возможны.

Рекомендации для формирования основы задания

  1. Задания с выбором ответа должны базироваться на истинных, существенных идеях, которые могут быть выражены как суждения, имеющие ясную цель.
  2. Основа задания должна поставить (сформулировать) или ясно подразумевать определенный вопрос (проблему, задачу).
  3. Основа задания должна полностью сформировать, изложить проблему (задачу), а также все связанные с ней оценки и характеристики. Чтобы удостовериться, что основа представляет конкретную проблему, рекомендуется включать глагол в утверждение основы.
  4. Основа задания «с абсолютно правильным ответом» должна быть ясной и недвусмысленной. Необходимо избегать использование неточных выражений типа «сопровождается», «полезно для», «важно для» и слов являющихся подсказкой – «может» или «возможно». Неопределенные причастия типа «обычно» или «часто» не должны применяться.
  5. Основа задания должна изложить сущность вопроса или проблемы настолько лаконично и выразительно, настолько это возможно.

Однако, при этом нельзя жертвовать ясностью или опускать существенные детали.

6. Используйте отрицательные формулировки в основе   задания экономично (не более 5-10 % от общего числа заданий в тесте). Обязательно привлеките внимание испытуемых к отрицательному слову,   выделяя его подчеркиванием или др. способом.

  1. Нельзя использовать двойное отрицание, т.е. одновременно использовать отрицательные формулировки и в основе, и в вариантах ответа.
  2. В основу задания нужно включить как можно больше информации, относящейся к проблеме. Повторяющиеся слова, группы слов или фразы следует включать в основной текст (в основу) задания, а не в ответы. Из вариантов ответов необходимо удалить повторяющиеся слова или выражения в основной текст задания.
  3. Необходимо избегать задания, которые содержат не относящиеся к измеряемому свойству трудности, такие как малоупотребляемую лексику или сложные по структуре предложения.

Рекомендации для составления вариантов ответа

1. Все ответы должны быть подобными (аналогичными, похожими, «параллельными»). Это касается их внешнего вида, грамматической структуры, а также общей расположенности по классификационной принадлежности, т.е. все ответы должны быть подобраны по одному основанию, типу, концепции.

  1. Истинные утверждения, которые не обеспечивают правильный ответ на вопрос в основе задания, часто формируют хороший, эффективный дистрактор.
  2. Варианты ответов в заданиях   «с абсолютно правильным ответом» должны быть либо абсолютно верными, либо абсолютно неверными. Исключайте использование неопределенных
    фраз и слов, типа «обычно», «часто», «возможно».
  3. В вариантах ответа на задания желательна краткость, но это не должно быть достигнуто за счет потери значимости и (или) смысла.
  4. Ответы   типа "все вышеперечисленные" и "ни один из вышеперечисленных" являются приемлемыми только тогда, когда   употребляется «абсолютно правильный ответ».
  5. Ответы на основу задания должны быть сформулированы достаточно просто, чтобы были понятны существенные различия между ними.
  6. Дистракторы в задании должны быть определенно менее правильны, чем ответ, но правдоподобно привлекательны для не информированного, неподготовленного испытуемого.
  7. Сделайте каждый дистрактор похожим на правду, правдоподобным, внушающим доверие, вполне убедительным и привлекательным для экзаменующихся, которые не достаточно подготовлены к тестированию.
  8. Правильный ответ должен быть ясен, краток, правилен и свободен от подсказок (как внутри текста задания, так и вне его).
  9.         Если существует некоторая логическая последовательность, в которой варианты ответов могут быть выстроены (например, в порядке величины, в хронологической последовательности), то, по возможности, используйте эту последовательность при расстановке вариантов в задании.
  10.  Если варианты ответов могут быть размещены в некоторой естественном или логическом порядке, то избегайте делать первые и последние варианты всегда неправильными.
  11.  Беспорядочно распределите правильный ответ среди положений (позиций)   дистракторов в каждом   задании теста.
  12.  Ответы должны  быть одинаковы  по длине (хотя бы приблизительно).
  13.  Не следует формулировать правильный ответ заметно длиннее или
    короче, чем дистракторы.
  14.  Не следует составлять правильный ответ более подробно, детализировано, чем   дистракторы. Правильный ответ должен соответствовать тому же уровню детализации, что и дистракторы.
  15.  Не следует обобщать правильный ответ так, чтобы он имел более
    широкое применение, чем неправильные варианты.
     
  16.  По возможности, не следует использовать в правильных ответах знакомую или стереотипную фразеологию, а в дистракторах   малознакомую лексику.
  17.  Составляйте все варианты ответа грамматически совместимыми с основой.
  18.  В дистракторах не следует   использовать слова или технические термины, которые экзаменующийся не может или не должен знать.
  19.  В дистракторах не следует   использовать эмоциональные слова и выражения.
  20.  По возможности, составляйте все варианты ответов параллельными
    по форме и грамматической структуре.
  21.  В заданиях типа «с выбором ответа» не следует использовать варианты ответов типа «все вышеперечисленные» и «ни один из вышеперечисленных».
  22.  В одном задании делайте все варианты ответа независимыми друг от друга. Не следует в одних вариантах ответа делать какие-либо ссылки на  другие варианты ответа.
  23.  Не должен существовать какой-либо материал в других тестовых
    зданиях,
     который может оказаться ключом к правильному ответу на данное задание. Нельзя в одних заданиях делать какие-либо ссылки на другие задания.
  24.  В одном тесте (или в одном варианте теста) нельзя применять задания, ответы на которые являются ключом к ответам на последующие задания.
  25.  Используйте такие же значительные, правильные, здравые, логичные слова и выражения в дистракторах, как и в правильном ответе.
  26.  Не следует повторять ключевое(-ые) слово(-а)   основы задания в правильном ответе.
  27.  По возможности, перечисляйте варианты ответа на отдельных строках, один ниже другого.

3.2. Модификация заданий с выбором ответа

3.2.1. Задания типа «верно-неверно», «да-нет»

Задания типа «верно-неверно», «да-нет» (в некоторых источниках они называются «исинно-ложные» задания или альтернативные задания).

Достоинства заданий типа «верно-неверно», «да-нет»:

  1. Они относительно просты в составлении и не занимают у испытуемых много времени на ответ, испытуемые могут ответить на 100 заданий данной формы за то же самое время, которое потребуется на выполнение 50-60 заданий с четырьмя вариантами ответа.
  2. Они обеспечивают самую широкую выборку содержания в единицу времени.

Недостатки заданий типа «верно-неверно», «да-нет»:

  1. Проблема угадывания - их главная слабость. Студенты имеют 50% шанс на правильный ответ на эти задания без любого знания содержания.
  2. Задания часто неоднозначны из-за трудности составления утверждений, которые являются недвусмысленно истинными или ложными.

3.2.2. Блоки заданий с множеством выбором расширенного формата

Тестовые задания с множественным выбором расширенного формата организованы в связанные одной тематикой блоки. Используют единый расширенный список вариантов ответа для всех тестовых заданий в данном блоке. Данная модификация формы заданий применяется для итоговой аттестации студентов и профессиональной аттестации кадров. Структура блока заданий с множественным выбором расширенно формата включает в себя 5 обязательных компонентов: 1) инструкция; 2) тема; 3) список вариантов ответа; 4) вводный вопрос или вводное утверждение; 5) условия серии (по меньшей мере из двух) тестовых заданий. При необходимости авторы могут добавлять графические материалы и (или) пояснительные тексты.

Варианты ответа должны быть короткими (обычно одно слово или очень короткая фраза), а профессиональные ситуации   в основе заданий могут быть достаточно подробными. Следует избегать использования запутанных или неоправданно сложных профессиональных ситуаций.

Данная форма заданий предполагает определение точного количества ответов, которые надо выбрать. Указание числа вариантов ответа, подлежащих выбору, трансформирует задачу   испытуемого от выбора «абсолютно правильных» ответов к выбору «наилучших» ответов.

Примерная технология составления блоков заданий с множественным выбором расширенного формата

  1. Определите тему для блоков вопросов. Темой может быть основная профессиональная проблема, метод решения профессиональной проблемы, класс объектов и т.д.
  2. Напишите вводный вопрос или утверждение для блока (например, «Для каждого из следующих… процессов; явлений....; типа...; выберите наиболее вероятный объект, метод...,  который....»). Вводный вопрос указывает на связь между условиями заданий и вариантами ответа, проясняя проблему, поставленную перед  испытуемыми. Это необходимый компонент для блока тестовых заданий с множественным выбором расширенного формата.
  3. Подготовьте перечень вариантов ответа. Перечень должен быть представлен отдельными словами или очень короткими фразами. Перечислите варианты ответа либо    в алфавитном порядке, либо в другом каком-либо логическом порядке. Желательно не употреблять глаголы в вариантах ответа.
  4. Напишите условия тестовых заданий. Задания в блоке должны быть подобны по структуре. Для их создание наиболее приемлемо использовать профессиональные ситуации. В каждом задании следует указать число правильных ответов.
  5. Проведите экспертизу условий тестовых заданий. Удостоверьтесь, что  указанные ответы являются действительно "наилучшими" ответами на каждое задание из блока. Следует также проверить, чтобы для каждого задания имелись в наличии, по меньшей мере, столько же правдоподобных дистракторов, сколько и планируемых правильных ответов. В качестве последней проверки, рекомендуется попросить вашего коллегу просмотреть тестовые задания (не указывая правильные ответы). Если у него возникают трудности при определении правильных ответов, измените условие тестового задания или варианты ответов таким образом, чтобы устранить возникшую проблему.

3.3. Задания открытой формы

В заданиях закрытой формы не используются готовые варианты ответов. В них испытуемому нужно дополнить недостающее слово (группу слои, формулу, число, знак, записываемый на магнитофон аудио-сигнал при тестировании на "говорение" и др.), которое свидетельствует о его знании.

На практике существуют четыре основные модификации заданий открытой формы: задания с коротким ответом, задания на завершение утверждения, задания на заполнение пробела, задания на завершение (или на конструирование) графического объекта (диаграммы, графика, схемы). В каждом случае испытуемый должен самостоятельно сформулировать, вычислить или сконструировать правильный ответ.

Типовые правила составления заданий в открытой форме

  1. Слово или группа слов, являющихся ответом, должны быть краткими и недвусмысленными. 
  2.  Когда ответ должен выражаться в численной форме, необходимо указать вид (тип) и размерность употребляемых единиц измерения.
  3.  В бланковом тесте пропуски для ответов должны быть одинаковой длины. Подсчет результатов тестирования можно облегчить, если пропуски для ответов расположить в колонке справа от основного текста задания.
  4.  Добавляемый элемент должен соответствовать ключевой (значимой) информации, которую следует запомнить в данном учебном материале.
  5.  При составлении задания не рекомендуется использовать утверждения, определения из учебников или учебных пособий.
  6.  Добавляемое слово или группа слов ставится, по возможности, в конце текста задания.

3.4. Задания на установление соответствия

Задания на установление соответствия (или просто задания на соответствие) – это такая форма тестовых заданий, в которых испытуемому предлагается  установить  логическое согласование  между  элементами  двух множеств. По структуре задание на соответствие состоит из инструкции, дополнительной инструкции, пояснительного текста и двух колонок с набором элементов. Одна колонка - это список исходных условий (проблем, вопросов, стимулов), для которых испытуемые должны найти соответствующий ответ во второй колонке, называемой списком ответов.

Традиционно, колонка исходных условий помещается слева и нумеруется цифрами, а колонка ответов - справа и обозначается буквами.

Типовые правила разработки заданий на установление соответствия

  1. Перед заданием на соответствие или перед серией заданий (субтест) необходимо поместить инструкцию для испытуемых, в которой точно указывают, на каком основании должен быть сделан соответствующий выбор.
  2. В инструкции перед текстом задания, должно быть установлено, может ли ответ использоваться только однажды (однократный выбор) или несколько раз (многократный выбор).
  3. Инструкция к заданиям не должка требовать больше чем одного ответа на исходное условие.
  4. Во всем тесте задания на установление соответствия должны быть объединены в отдельный субтест. Оптимальное количество заданий данной формы в одном тесте - от трех до пяти. Максимальное количество – до десяти заданий.
  5. В каждый список включайте только гомогенные (одинаковые в
    классификационном отношении) элементы. В случае, если в список элементов будут включены гетерогенные
     элементы, то это может служить подсказкой испытуемым.
  6. Каждая пара «исходное условие - ответ» должна быть тщательно проанализирована на отсутствие подсказок типа вербальной ассоциации, явной грамматической связи и др.
  7. Желательно составлять список ответов (список справа) либо  из от
    дельных слов или очень коротких фраз.
  8. Для каждого отдельного задания используйте только один тип соответствующей пары «исходное условие - ответ» (например, термины, понятия => подходящие определения).
  9. Каждый ответ должен быть правдоподобным для каждого исходного условия.
  10. В заданиях с однократным выбором используйте большее количество ответов, чем исходных условий. Это не позволит испытуемому догадаться о правильном ответе путем угадывания или   способом последовательного исключения.
  11. В заданиях с многократным выбором количество ответов может
    быть меньше, ровно или больше, чем число исходных условий.
  12. Формировать ответы  следует в логическом порядке, например по
    алфавиту, по возрастанию, по датам и т.п. Этот порядок позволит экзаменующимся   быстрее найти правильные ответы, таким образом, сокращая время на выполнение задания.
  13. Оптимально, одно задание на соответствие с однократным выбором ответов должно содержать   не более шести исходных условий, а с многократным выбором - не более двенадцати.
  14. При форматировании бланкового теста задание на соответствие
    следует размещать на одной странице.
  15. При применении метода «частичного балла» оценки выполнения задания на соответствие следует установить, как он будет функционировать. Например, задание с пятью исходными условиями может иметь 20%-ый «частичный балл» за каждое правильное выбранное соответствие (или один балл за каждое правильное выбранное соответствие, а за все задания  максимум 5 баллов)

  1. Задания на установление правильной последовательности

Задания данной формы позволяют проконтролировать знания испытуемых в тех видах  профессиональной или учебной деятельности, где обходимо разрабатывать эффективные повторяющиеся алгоритмы, выбирать повторяющиеся закономерные элементы на данной области содержания.

Типовая   схема   задания   на   установление   правильной   последовательности может быть представлена в виде:

  1. Инструкция: Установите правильную последовательность.
  2. Основа (основной текст).
  3. Пронумерованный список элементов.

Задача студента перечислить номера элементов списка в порядке очередности при правильном алгоритме деятельности (правильной очередности событий и т.п.).

В практике педагогического тестирования эта форма тестовых заданий подразделяется на два типа:

а) с готовыми вариантами последовательности;

б) на самостоятельное установление последовательности.

Приложение

Словарь специальных терминов по тестовой теории

и технологии разработки тестовых заданий

Анализ заданий – процедура для оценки качества заданий в педагогическом тесте, включающая в себя анализ технологичности формы, соответствия содержанию и статистических характеристик задания.

Апробация теста - предварительное педагогическое тестирование   на представительной     выборке   учащихся   для определения соответствия педагогического теста его целям и заданным характеристикам.

Ассоциации в тестовом задании - подсказка в содержании тестового задания, позволяющая тестируемому угадать правильный ответ. Ассоциации в тестовом задании являются свидетельством некорректности этого задания.

Балл за выполнение задания - условная единица, используемая для оценки результатов выполнения задания; количественный показатель выраженности измеряемого свойства у данного испытуемого, получаемый при помощи данного задания.

Банк тестовых заданий - совокупность систематизированных тестовых зданий, прошедших апробацию и имеющих известные характеристики. К характеристикам относятся как качественные характеристики, отражающие содержание тестового задания (учебный предмет, раздел, тема, контролируемые умения и т.д.), так и количественные (уровень трудности тестовых заданий, дифференцирующая способность и другие).

Бланк ответов - стандартный бланк для записи ответов за тестовые задания. В определенные позиции бланка ответов, тестируемый отмечает или записывает номера выбранных ответов, сами ответы или то, что требует инструкция по проведению педагогического тестирования.

Бланковое (педагогическое) тестирование - педагогическое тестирование, при котором носителем содержания педагогического теста служит бланк определенного образца, дополненный соответствующим бланком ответов.

Валидизация теста - процедура повышения валидности теста.

Валидность - комплексная характеристика качества педагогического теста, отражающая обоснованность, значимость (пригодность) его результатов, отражающая способность теста служить той цели, для которой он создан.

Варианты (педагогического) теста - набор близких по содержанию тестов, созданных по единой спецификации и имеющих одинаковую структуру. Статистические характеристики педагогических   тестов, входящих в набор вариантов, могут отличаться.

Воспроизводимость - свойство педагогического теста к повторению основных статистических характеристик при последующих измерениях.

Время (педагогического) тестирования - интервал времени, отводимый на выполнение теста.

Выбор стандарта оценивания - процедура оптимального установления критериального балла или критерия оценивания (процента правильных ответов) для критериально-ориентированных тестов.

Выборка испытуемых - случайным или специальным образом формируемое из генеральной совокупности множество испытуемых.

Выставление баллов за выполнение задания - методика перевода результата выполнения заданий в численное значение.

Генеральная совокупность тестовых заданий - гипотетическое множество тестовых заданий, связанных общей целью и теоретически   полностью отражающих определенную область содержания.

Гетерогенный тест - педагогический тест, позволяющий оценить уровень подготовленности тестируемого по нескольким смежным учебным дисциплинам.

Гомогенный тест - педагогический тест, позволяющий оценить уровень подготовленности тестируемого по одной конкретной учебной дисциплине.

Дистрактор - вариант ответа на тестовое задание закрытой формы, похожий на правильный, но не являющийся таковым.

Дифференцирующая способность (дискримитативность, дифференцирующая сила) тестового задания - способность отдельных заданий теста дифференцировать испытуемых относительно степени их подготовки, т.е. максимального и минимального результата теста.

Дихотомическая схема подсчета баллов за выполнение задания -методика подсчета баллов, при которой выставляется «1» за правильное выполнения и «О» за неправильно выполнение задания.

Дихотомическое тестовое задание - тестовое задание, выполнение которого оценивается только альтернативно. Оценка «выполнено верно» обычно символизируется единицей, оценка «выполнено неверно» - нулем.

Длина теста - число тестовых заданий, включенных в педагогический тест.

Инструкция к тестовому заданию - свод правил тестируемому, устанавливающий способы регистрации выполнения тестового задания. В инструкции к тестовому заданию в частности указывается способ записи правильного ответа, что, каким образом и где надо отметить, вписать, указание записи или оформления решения математической задачи и т.д. Инструкция может быть единой для нескольких тестовых заданий, если эти задания однотипны по действиям.

Инструкция о проведении (педагогического) тестирования - свод правил, устанавливающий порядок и способ проведения педагогического тестирования. Инструкция разрабатывается с учетом цели педагогического теста, условий тестирования, применяемых при тестировании технических средств и выбранных способов обработки результатов.

Испытуемый (тестируемый, экзаменующийся)   - лицо, проходящее педагогическое тестирование.

Истинный балл - гипотетический балл , который получил бы испытуемый, если бы он выполнил все задания из банка заданий для данного теста, на определенной для данного педагогического теста шкале, соответствующий истинному уровню подготовленности конкретного тестируемого в момент измерения. При определении истинного балла тестируемого ошибки педагогического измерения условно предполагаются равными нулю.

Классическая тестовая теория - совокупность теоретических положений и математических моделей педагогического измерения, основанных на классической математической статистике.

Ключ (эталон ответа) тестового задания -     правильный ответ на тестовое задание.

Компьютерно-адаптивные тесты - тесты, задания в которых предъявляются специальной компьютерной программой в зависимости от индивидуальных ответов данного испытуемого. Трудность и количество предъявляемых тестируемому заданий регулируется в зависимости от его ответа на предыдущее задание или на несколько предыдущих заданий. Количество тестовых заданий заранее не фиксируется, а процесс тестирования заканчивается по достижении заданной точности оценки уровня подготовленности тестируемого.

Компьютерное (педагогическое) тестирование - педагогическое тестирование с помощью компьютера, проводимое по специальной программе, обеспечивающей заданный порядок представления тестовых заданий и обработки результатов тестирования.

Коррекция на угадывание- методика подсчета тестовых баллов, в которых учитывается возможность случайного угадывания ответов.

Коэффициент надежности теста- количественное значение надежности педагогического теста, изменяющееся от нуля до единицы. Для определения коэффициента надежности теста проводится, как правило, специальная апробация теста.

Коэффициенты валидности - показатели качества теста.

Критериальная валидность - характеристика качества теста, отражающая обоснованность, значимость его результатов по сравнению с некоторой внешней переменной, характеризующей объект измерения. Подразделяется на текущую и прогностическую валидность.

Критериально ориентированный тест - педагогический тест, предназначенный для оценки уровня подготовленности каждого тестируемого относительно требований учебной программы или ее части. Критический уровень объема знаний, умений и навыков - критерий, с которым сравнивается результат каждого тестируемого, устанавливается до начала тестирования.

Критериальный балл - граничное значение тестового балла, с помощью которого заданная выборка тестируемых разделяется на выполнивших данный педагогический тест удовлетворительно и неудовлетворительно.

Матрица результатов тестирования (матрица ответов) - основная статистическая таблица, связывающая результаты ответов выборки испытуемых на все задания теста. Массив данных, содержащий в том или   ином   виде   информацию   об   ответах   на каждое задание теста каждого тестируемого. Номер строки такой матрицы соответствует номеру тестируемого, а номер столбца – номеру задания. В ячейках такой матрицы содержится в том или ином виде информация о выполнении задания.

Метод «частичного балла» - выставление тестовых баллов с учетом вознаграждения за частичное знание, методика перевода результата выполнения заданий в численное значение с учетом влияния эффекта частичного знания ответа на данное задание.

Метод доведения ответа до правильного - один из методов подсчета тестовых баллов при компьютеризованном тестировании, когда испытуемый должен отвечать на каждое задание до тех пор, пока не выберет правильный ответ.

Надежность теста - характеристика качества теста, отражающая точность оценки уровня подготовленности с помощью данного педагогического теста, степень постоянства результатов тестирования, а также устойчивость к действию посторонних случайных факторов.

Недихотомическая схема подсчета баллов за выпонение задания - метод подсчета тестовых баллов, когда результат выполнения каждого задания оценивается политомическим способом (несколькими числовыми значениями).

Нормативно ориентированный тест - педагогический тест, предназначенный для определения уровня подготовленности тестируемых путем сравнения их результатов друг с другом и/или с тестовой нормой. Тестовая норма определяется предварительно по результатам апробации теста на представительной выборке или после проведения самого тестирования, если представительную выборку установить невозможно.

Оценка надежности - статистическая процедура нахождения коэффициента надежности теста.

Оценка содержательной валидности - эксперно-статистическая процедура оценки качества теста.

Параллельные варианты (педагогического) теста - варианты педагогического теста, имеющие одинаковые статистические характеристики.

Параллельные тестовые задания - тестовые задания одинаковой трудности и дифференцирующей способности, относящиеся к одному и тому же разделу содержания.

Педагогический тест - это система заданий специфической формы, позволяющая эффективно измерить уровень знаний, умений и навыков учащихся.

Педагогическое тестирование совокупность организационных и методических мероприятий, объединенных общей целью с педагогическим тестом и предназначенных для подготовки и проведения формализованных процедур предъявления теста, обработки и представления результатов

его выполнения.

Педагогическое измерение - способ упорядочения информации об учебных достижениях, при котором система чисел и отношений между ними ставятся в соответствие ряду измеряемых факторов.

План (педагогического) теста - документ, в котором каждое тестовое задание соотносится с определенным элементом содержания учебной дисциплины и конкретным видом знаний или умений, подлежащих контролю с помощью этого задания.

Политомическое тестовое задание - тестовое задание, выполнение которого допускает несколько категорий вариантов ответа, каждая из которых оценивается по-разному. Одна из категорий ответа может, например, объединять ответы неполные (частично верные) или результаты одного или нескольких этапов решения задачи.

Пользователь (педагогического) теста - юридическое или физическое лицо, использующее педагогический тест и/или результаты педагогического тестирования в необходимых ему целях.

Постоянство (согласованность) принятия решений (по результатам   теста) - показатель   надежности  критериально-ориентированного тестирования.

Разработка заданий - процедура составления тестовых заданий по определенной спецификации.

Содержательная валидность - один из основных видов валидности, отражающей степень репрезентативности содержания тестовых заданий по отношению к области содержания теста. Характеристика педагогического теста, выражающая полноту охвата тестовыми заданиями той области знания, в которой этот тест оценивает учебные достижения.

Спецификация (педагогического) теста - документ, в котором содержится информация о целях, задачах, плане и структуре педагогического теста, области содержания и об измеряемых умениях.

Спецификация задания - подробное описание особенностей и технологии разработки тестового задания.

Структура (педагогического) теста - совокупность сведений о числе и форме тестовых заданий по каждому виду знаний или умений, позволяющих объективно судить об уровне подготовленности тестируемого. Для теста, в состав которого включаются тестовые задания, взятые из банка тестовых заданий, в структуре педагогического теста указывается также уровень трудности каждого из этих задания и их дифференцирующая сила.

Субтест - часть педагогического теста, состоящая из определенного подмножества тестовых заданий, допускающая независимую обработку результатов тестирования с целью решения специфических частных задач.   Педагогический тест может содержать несколько субтестов.

Тест (учебных) достижений - педагогический тест, предназначенный для определения степени усвоения определенной области знаний или умений.

Тестовое задание на установление соответствия - задание, при выполнении которого необходимо установить соответствие между элементами двух и более множеств.

Тестовое задание - минимальная содержательно законченная единица педагогического теста, имеющая основу, в которой сформулирована проблема (задача), и предписанный порядок для ответа. Цель тестового задания - получить ответ от испытуемого, на основе которого может быть сделан вывод о его знаниях, интеллектуальных умениях, способностях, представлениях, навыках на определенной области содержания.

Тестовое задание дополнения - задание открытой формы, в котором требуется вставить пропущенное слово или символ, закончить   утверждение,   дописать предложение и т.д.

Тестовое задание множественного выбора - это такая форма зданий, где испытуемым предписывается сделать выбор нескольких правильных или «лучших» ответов из предложенного списка.

Тестовое задание на установление правильной последовательности - задание, выполнение которого состоит в установлении правильной последовательности фактов, событий, действий, операций и т.д..

Тестовое задание на установление соответствия - форма задания, в котором испытуемому предлагается установить соответствие между элементами двух списков (двух множеств).

Тестовое задание открытой формы – задание без указания возможных вариантов ответа. При его выполнении тестируемый самостоятельно формулирует правильный ответ.

Тестовое задание с выбором ответа (закрытой формы) - форма тестового задания, при которой испытуемый должен выбрать правильный ответ из нескольких, предложенных вариантов, причем один из них правильный, а остальные (называемые дистракторами) — неправильные.

Тестовое задание с кратким ответом - задание открытой формы, в котором тестируемый должен самостоятельно сформулировать и записать правильный ответ в виде одного-двух слов, символов или чисел.

Тестовое задание типа «верно-неверно» (альтернативная форма задания, «истинно-ложное» задание)- тестовое задание закрытой формы, в котором требуется выявить истинность или ложность некоторого утверждения. В тестовых заданиях альтернативных ответов дается только два варианта ответа - «да-нет» или «верно-неверно».

Тестовые баллы - количественный показатель выраженности измеряемого свойства у данного испытуемого, получаемый при помощи данного теста.

Трудность (уровень трудности) задания - основная статистическая характеристика тестового задания, определяемая в классической тестовой теории долей испытуемых из выборки, ответивших на него правильно.

Фасетные тестовые задания- задания, которые могут быть получены друг из друга путем замены одного (или нескольких) слов (символов, чисел), что превращает их в другие задания аналогичные по содержанию и близкие по трудности. Фасетные тестовые задания используются при разработке параллельных вариантов тестов.

Форма (тестового) задания - общая схема составления тестового задания, его дизайн и структура. Форма задания, содержит инструкцию к заданию, содержание задания в виде текста и (или) невербальных материалов и систему оценки выполнения задания.   Текст задания в тестовой форме должен соответствовать набору специфических требований, выполнение выполнение которых обеспечивает однозначное понимание вопроса (задачи) и исключает возможность появления ошибочных ответов по формальным признакам. Система оценки должна обеспечивать однозначную оценку выполнения задания.

Шкала - упорядоченная числовая система для фиксации совокупности свойств изучаемого объекта или явления.

 


[1] Переверзев В.Ю. Критериально-ориентированное педагогическое тестирование. Учебное пособие.- М.:Логос, 2003.

[2] Переверзев В.Ю. Справочное руководство по разработке критериально-ориентированного педагогического теста (электронное издание). -М.:   Е-Медиа, 2004.

[3] Bloom В. S. et al. Taxonomy of Educational Objectives: The Classification of Educational GoalsI: Cognitive Domain. N. Y.: David Mckay Co., 1956