Технология проектирования компьютерных тестов предметной области

Проектирование модульной модели знаний

Метод нисходящего проектирования модели знаний состоит в следующем: вначале строится генеральное содержание предметной области с разбивкой на укрупненные модули (разделы). Затем проводится детализация модулей на элементарные подмодули, которые, в свою очередь, наполняются педагогическим содержанием.

Каждый модуль предполагает входящую информацию, состоящую из набора необходимых понятий из других модулей и предметных областей, а на выходе создает совокупность новых понятий, знаний, описанных в данном модуле, рис. 1.

Рисунок 1.

Модуль может содержать подмодули. Элементарный подмодуль - неделимый элемент знания - может быть представлен в виде базы данных, базы знаний, информационной модели. Понятия и отношения между ними представляют семантический граф (рис. 2).

Рисунок 2.

Пример элемента модуля знаний по теме «Исследование графиков функций», рис. 3.

Рисунок 3.

Модульное представление знаний помогает:

• организовывать четкую систему контроля с помощью компьютерного тестирования, поскольку допускает промежуточный контроль (тестирование) каждого модуля, итоговый контроль по всем модулям и их взаимосвязям;

• осуществлять наполнение каждого модуля педагогическим содержанием;

• выявлять и учитывать семантические связи модулей и их отношения с другими предметными областями [9].

Основные понятия компьютерного тестирования

Тестирование - процесс оценки соответствия личностной модели знаний ученика экспертной модели знаний. Главная цель тестирования - обнаружение несоответствия этих моделей (а не измерение уровня знаний), оценка уровня их несоответствия. Тестирование проводится с помощью специальных тестов, состоящих из заданного набора тестовых заданий.

Тестовое задание - это четкое и ясное задание по предметной области, требующее однозначного ответа или выполнения определенного алгоритма действий.

Тест - набор взаимосвязанных тестовых заданий, позволяющих оценить соответствие знаний ученика экспертной модели знаний предметной области.

Тестовое пространство - множество тестовых заданий по всем модулям экспертной модели знаний.

Класс эквивалентности - множество тестовых заданий, таких, что выполнение учеником одного из них гарантирует выполнение других.

Полный тест - подмножество тестового пространства, обеспечивающее объективную оценку соответствия между личностной моделью и экспертной моделью знаний.

Эффективный тест - оптимальный по объему полный тест.

Эффективный компьютерный тест оценивает уровень соответствия или несоответствия личностной модели знаний ученика и экспертной модели.

Множество тестовых заданий (тестовое пространство), согласно принципу исчерпывающего тестирования, может быть бесконечным. Однако в каждом реальном случае существует конечное подмножество тестовых заданий, использование которых позволяет с большой вероятностной точностью оценить соответствие знаний ученика заданным критериям по экспертной модели знаний (полный тест).

Из полного теста можно выделить эффективный тест (оптимальный по объему набор тестовых заданий, гарантирующий оценку личностной модели ученика заданным критериям). Выбор эффективного теста зависит от удачного разбиения тестового пространства на классы эквивалентности, пограничные условия, создание тестов на покрытие путей и логических связей между понятиями и модулями.

В дальнейшем необходим тестовый эксперимент на группе учащихся, который позволит провести корректировку и доводку теста до вида эксплуатации.

Способы составления тестовых заданий

(по степени сложности)

1) формирование вопросов к понятиям, составляющим узлы семантического графа (рис. 2), разработка упражнений, требующих для их выполнения знания свойств выбранного понятия;

2) разработка тестовых заданий, определяющих отношения между понятиями;

3) конструирование заданий, выявляющих связь понятий между отдельными модулями.

Этапы построения компьютерных тестов:

1) формализация экспертной целевой модели знаний;

2) проектирование тестового пространства;

3) формирование и наполнение тестовых заданий;

4) формирование полного компьютерного теста;

5) тестовый эксперимент;

6) выбор эффективного теста;

7) анализ, корректировка и доводка теста до вида эксплуатации [9].

Тема 10

СБОР И СТАТИСТИЧЕСКАЯ ОБРАБОТКА

РЕЗУЛЬТАТОВ ТЕСТИРОВАНИЯ

Статистическая обработка полученных данных тестирования (результатов испытуемых) позволяет определить количественные характеристики тестовых заданий и всего теста, что даёт возможность использовать тест как научно обоснованный, объективный инструмент педагогических измерений. Статистическая обработка результатов тестирования проводится с помощью программного обеспечения.

Матрица тестовых результатов

Для удобства обработки тестовых данных результаты заносятся в матрицу тестовых результатов. Ниже приведён пример такой матрицы (один балл за правильный ответ, ноль баллов - за неправильный ответ или пропуск задания) [5].

Таблица 5

Матрица тестовых результатов

№ испытуемого i	№ задания j	Индивидуальный балл X_i






Число правильных ответов Y_j

Для наглядности и удобства дальнейшего использования необходимо упорядочить матрицу тестовых результатов. Для этого строки таблицы располагают таким образом, чтобы индивидуальные баллы располагались в порядке возрастания. Затем столбцы матрицы располагают в порядке убывания.

Таблица 6

Упорядоченная матрица тестовых результатов

№ испытуемогоi	№ задания j	Индивидуальный балл X_i






Число правильных ответов Y_j

Трудность тестовых заданий

По результатам апробационного тестирования определяются характеристики тестовых заданий - трудность и дискриминативность.

Трудность задания – соотношение количества испытуемых, справившихся с данным заданием, и общего количества испытуемых. Трудность задания вычисляется по формуле:

где p_j - доля правильных ответов на j-ое задание; Y_j - количество испытуемых, выполнивших j - ое задание верно, N - число испытуемых в группе, j - номер задания.

Чем выше показатель трудности, тем задание легче, чем меньше показатель трудности задания, тем задание сложнее.

Показатель трудности важен для определения характеристики тестового задания и помогает проранжировать задания, входящие в тест по степени сложности. Благодаря этому можно определить место задания в тесте.

3. Дискриминативность тестового задания

Дискриминативность (дифференцирующая способность, различающая способность) задания - это способность задания дифференцировать испытуемых по уровню достижений, на сильных и слабых. Задание, которое одинаково выполняется и слабыми, и сильными, имеет низкую дискриминативность. Задание с высокой дискриминативностью выполняют только сильные учащиеся.

Индекс дискриминативности определяется как разность долей правильных ответов сильной и слабой групп по формуле:

(r _дис)_j = (p₁)_j - (p₀)_j,

где r - индекс дискриминативности, p₁ - доля правильных ответов в сильной подгруппе (27 % от всего количества), p₀ - доля правильных ответов в слабой группе (27 %).

Значение индекса дискриминативности находится в интервале [- 1; 1]. Если индекс дискриминативности выше 0, 3, это свидетельствует о том, что задание обладает хорошим дифференцирующим эффектом. Если r = 0, то это значит, что и слабые, и сильные испытуемые выполняют задание одинаково. Отрицательный показатель дискриминативности появляется в том случае, когда слабые учащиеся выполняют задание правильно, а сильные - неправильно, что свидетельствует о некачественном (невалидном) задании. Тестовые задания с показателями r_дис? 0 и r_дис< 0 необходимо удалять.

Высокая дискриминативность, которая свидетельствует о сильном дифференцирующем эффекте тестового задания, характерна для заданий со средним показателем трудности (0, 5).

Дистракторный анализ

Одно из важнейших требований, которое предъявляется к заданиям закрытой формы, - это правдоподобность дистракторов (неправильных ответов). Дистракторный анализ (оценка качества дистрактора) предполагает подсчет долей испытуемых, выбравших каждый дистрактор. В идеальном варианте каждый дистрактор должен выбираться в равной доле от всех неправильных ответов. Ниже представлены таблица 7, с качественными и таблица 8, с некачественными дистракторами.

Таблица 7

⇐ Предыдущая 1 2 3 4 567 8 9 10 Следующая ⇒