Модель оценки эффективности обучения Д. Киркпатрика

Без оценки эффективности процесса обучения невозможно выстроить систему обучения и развития, которая обеспечивает необходимые бизнес-результаты. Потенциал наиболее распространенной модели оценки — Д. Киркпатрика пока, к сожалению, не полностью используется практиками. А с особенностями ее последней версии большинство наших HR-менеджеров вовсе не знакомо.

В 1954 году Дональд Киркпатрик (Donald Kirkpatrick) защитил кандидатскую диссертацию в Университете штата Висконсин (США) по теме «Оценка эффективности управления программами». Он предложил краткую формулу для описания цикла обучения: реакция — обучение — поведение — результаты. Разделение процесса обучения на этапы помогло объяснить, как обеспечить применение новых навыков на рабочем месте, без чего нельзя достичь желаемых результатов. Кроме того, практики получили инструменты для оценки эффективности каждого из этапов обучения. В 1959 году Д. Киркпатрик написал цикл статей для ASTD Journal*, в которых четко сформулировал критерии для всех четырех уровней оценки (таблица).

Четыре уровня оценки обучения Д. Киркпатрика

Уровни

Что оценивается

Ключевые вопросы

Уровень 1:
«Реакция»
Как участники реагируют на обучающее событие • Понравился ли участникам процесс обучения?
• Что они планируют делать с новыми знаниями и навыками?

Уровень 2:
«Обучение»
Насколько участники усвоили знания, навыки и сформировали необходимые отношения по завершении обучающего мероприятия • Какие навыки, знания, установки изменились после обучения?
• Насколько значительны эти изменения?

Уровень 3:
«Поведение»
Как участники применяют на рабочем месте то, что они узнали во время обучения Изменили ли участники свое поведение на рабочем месте после обучения?

Уровень 4:
«Результаты»
В какой степени по итогам обучения достигнуты намеченные результаты Оказывают ли изменения в поведении участников положительное влияние на организацию?

Первые статьи Киркпатрика стимулировали дальнейшие исследования в области оценки эффективности обучения (в основном на уровнях 1 и 2). В 1970-е годы четыре уровня Киркпатрика уже широко использовались многими организациями во всем мире, со временем они были оформлены в целостную модель оценки (Four Levels^TM Evaluation Model) и приняты в качестве стандарта для оценки профессионального обучения. На протяжении 1980-х было разработано множество различных оценочных методов и инструментов, но внимание практиков по-прежнему концентрировалось на уровнях 1 и 2.

Только в 2005 году Дональд Киркпатрик предложил инструментарий для оценки уровня 3 (поведение), который описал в книге «От обучения к поведению» (Transferring Learning to Behavior) — в соавторстве с сыном Джимом (Dr. James D. Kirkpatrick). Обеспечение эффективного применения результатов обучения в реальной деятельности (перенос знаний и навыков) и сегодня продолжает оставаться одной из самых важных задач для многих обучающих организаций.

Изменения последних лет:

Количество и качество исследований в сфере обучения и развития человеческих ресурсов постоянно растет. Для практиков предлагается все больше подходов, методов и инструментов.

Настоящую революцию произвело применение в области обучения и развития понятий когнитивной психологии и концепции организационного развития.

Область обучения и развития становится междисциплинарной. Широкое использование современных технологий радикально изменяет наши представления не только о формах и видах, но и о сути, и даже о целях обучения.

Функция обучения признана неотъемлемой (и важнейшей) частью организационной системы.

В 2006 году, в третьем издании книги «Оценка тренинговых программ» (Evaluating Training Programs), Киркпатрик значительно расширил сферу применения модели, базирующейся на четырех уровнях. Теперь основной акцент в ней делается на уровне 4 (результаты), поэтому модель может использоваться для оценки эффективности как программ обучения, так и процесса управления изменениями, и кроме того — для демонстрации ценности для бизнеса функции обучения в целом. Что важно, был пересмотрен алгоритм работы с моделью: сейчас предлагается начинать оценку «сверху» — с уровня 4, после чего последовательно продвигаться «вниз» — к менее сложным уровням (рис. 1). По мнению автора, это позволит сосредоточить усилия специалистов по обучению на достижении запланированных бизнес-результатов и поддержке необходимого поведения.

Нажмите на изображение для увеличения

Рис. 1. Измененная модель Киркпатрка: «Конец — это начало»

В 2007 году Дональд и Джим Киркпатрики развили свои идеи в работе «Применение четырех уровней» (Implementing the Four Levels), в которой предложили практикам принципиально новый подход: формирование «цепочки доказательств» (chain of evidence) для руководителей. Этот алгоритм позволяет специалистам по обучению собрать убедительные свидетельства, помогающие показать топ-менеджерам, какая ценность создается для бизнеса.

Алгоритм «цепочка доказательств»:

концентрирует внимание руководителей на уровнях 3 и 4, где речь идет о влиянии обучения на достижение запланированных результатов и создании ценности для бизнеса;
помогает использовать модель четырех уровней для измерения полученного результата, причем — на всех этапах, начиная с момента возникновения инициативы по обучению.

В этом его принципиальное отличие от традиционного подхода, в большей степени оценивающего эффективность процесса обучения (поскольку он сфокусирован на уровнях 1 и 2, внимание менеджеров в основном сосредоточено на затратах на обучение).

По мнению разработчиков новой концепции, для того чтобы гарантировать результаты, необходимо еще до начала обучения определить:

ожидаемые результаты;
ключевые показатели;
методы измерения и оценки.

И это еще не все изменения! Авторы добавили в модель еще один — пятый уровень оценки (уровень 5: «Рентабельность инвестиций»). Оценка эффективности обучения на этом уровне позволяет получить ответ на ключевой для бизнеса вопрос: «А стоило ли тратить деньги на обучение»?

Сильные стороны модели Киркпатрика (с точки зрения экспертов):

легкость понимания — для всех людей, не только для специалистов в области обучения;

хорошая проработка;

широкое использование (в промышленности, в вузах и др.);

основа для разработки других моделей оценки (например, уровни Кауфмана и Келлера, модель ROI Филипса и др.).

Ограничения модели:

слишком упрощенный подход;

не доказана причинно-следственная связь между различными уровнями;

уровни 1 и 2 могут смешиваться (совмещаться), тогда вероятны ошибочные выводы;

многие организации реализуют программы обучения, соответствующие лишь уровням 1 и 2, игнорируя необходимость формирования поведенческих моделей, которые нужны для переноса навыков и знаний в рабочие ситуации;

уровни оценки не выходят за рамки обучения (не включают меры по повышению производительности).

Модель Киркпатрика успешно работает уже более 50 лет. Но существенные изменения в методах управления и организации бизнеса потребовали переосмысления роли функции обучения в организации. В то же время, как отмечают Киркпатрики, многие специалисты по обучению до сих пор не готовы принять на себя ответственность за все, что выходит за рамки подготовки и реализации учебных программ (особенно за результаты, которые прошедшие обучение люди демонстрируют на рабочих местах).

Продолжая творчески развивать свой подход, Джим Киркпатрик — теперь уже в соавторстве с женой Венди (Wendy Kayser Kirkpatrick) написал книгу Training on Trial: How Workplace Learning Must Reinvent Itself to Remain Relevant. Фактически это «руководство по изменениям» для корпоративных тренеров и специалистов тренинговых компаний. Эксперты настоятельно рекомендуют практикам в условиях кризиса:

переосмыслить свою роль;
активно расширять сферы своей компетентности за счет приобретения опыта работы в бизнес-подразделениях;
усиливать свое влияние за пределами учебных аудиторий — предлагать решения, которые приносят ощутимые (измеримые) бизнес-результаты.

Но пока изменения «в головах» внутренних и внешних тренеров происходят очень медленно: многие из них все еще пытаются доказать свою незаменимость, используя показатели «уровень посещаемости» и «данные об оценках» (уровень 1), а также «результаты тестирования» (уровень 2). При этом бенчмаркинговые исследования убедительно демонстрируют: тот, кто начинает с уровня 1, очень редко доходит до самых высоких уровней оценки.

Авторы убеждены: подобное упорство специалистов по обучению наглядно иллюстрирует живучесть мифа о том, что само по себе участие в обучающем мероприятии автоматически способствует улучшению бизнес-результатов (уровень 4). Но сегодня стейкхолдеры расценивают подобную «наивность» как свидетельство неадекватности, что буквально провоцирует их задаться вопросами: «Сколько стоит это удовольствие? Какую пользу приносит?».

Джим и Венди Киркпатрики считают, что ситуация с репутацией функции обучения в глазах менеджеров очень серьезна. Чтобы исправить положение, специалистам по обучению уже недостаточно «просто» разрабатывать новые программы и методы обучения — сегодня они должны изменить принципы своей работы, научиться создавать реальные ценности для бизнеса и убедительно демонстрировать важность этих ценностей.

Авторы предлагают новый принцип, который поможет в корне пересмотреть подход к планированию и разработке обучающих программ: «Конец — это начало!» В качестве исходного пункта они советуют тренерам обсудить с руководителями:

1) ожидания бизнес-лидеров;
2) их понимание успеха (как желаемый результат «будет выглядеть»);
3) какие наблюдаемые и измеримые показатели успеха будут использоваться для оценки результата (уровень 4).

Итогом работы на этом этапе должны стать наборы HR-метрик, на основе которых рассчитывается новый показатель: возврат на ожидания — return on expectations, ROE (по аналогии с ROI — возврат на инвестиции). Затем специалисты по обучению должны обсудить с руководителями среднего звена, какое именно поведение критически важно для того, чтобы добиться намеченных результатов (уровень 3). Только после этого они могут приступить к проектированию учебных мероприятий (уровни 1 и 2), которые обеспечат формирование критически важных сценариев поведения сотрудника, необходимых для повышения его эффективности на рабочем месте.

Лишь на этой основе можно обеспечить:

эффективное применение новых навыков и закрепление изменений в поведении на рабочем месте (уровень 3);
достижение бизнес-целей (уровень 4);
реализацию задач в области управления талантами (уровень 4).

Таким образом, метрики уровня 4 становятся краеугольным камнем в определении объема ответственности всех заинтересованных сторон. В свою очередь, четкое разграничение сфер ответственности является базовым условием для успешной реализации модели бизнес-партнерства.

Новые фундаментальные принципы Д. Киркпатрика:

«Конец — это начало».

«ROE^SM — основной показатель ценности для бизнеса».

«Бизнес-партнерство необходимо для реализации позитивных ROE».

«Прежде чем продемонстрировать ценности, их следует создать».

«Ценность для бизнеса демонстрирует убедительная «цепочка доказательств» (Chain of Evidence^SM)».

Еще одно усовершенствование Д. Киркпатрика — разработка новой «Модели достижения целей». Особое место в ней занимают «драйверы» (или «усилители»). Драйверами выступают все процессы и системы (рис. 2), которые:

усиливают действия (поведение);
контролируют процедуры (мониторинг);
вознаграждают демонстрацию критически важного поведения на рабочем месте.

Рис. 2. Драйверы («усилители») — поощряют или препятствуют закреплению новых поведенческих моделей

Эффективное выполнение рабочих задач обеспечивает совместное воздействие процесса оценки поведения (уровень 3) и драйверов. Без этой поддержки успешно применяется на практике всего около 15% новых знаний, навыков и установок, что снижает ценность обучения для бизнеса.

Новая «Модель достижения целей» Киркпатрика также позволяет специалистам выйти за рамки собственно обучения. Она помогает людям разрабатывать планы достижения целей, предусматривающие конкретные мероприятия/ действия (и измерение эффективности на всех четырех уровнях). Поэтапное планирование, ясное представление о конечных целях/ результатах, тщательный мониторинг выполнения мероприятий плана и объективная оценка каждого этапа процесса повышают вероятность достижения успеха.

Кроме того, модель Киркпатрика предоставляет консультантам в области обучения и провайдерам консалтинговых услуг методологию и инструментарий для того, чтобы они могли убедительно продемонстрировать своим клиентам, какие результаты получатся при реализации предлагаемых программ обучения и развития.

Новые разработки семьи Киркпатриков дают эйчарам эффективные инструменты, позволяющие им действительно стать бизнес-партнерами, наглядно продемонстрировать силу бизнес-партнерства тренеров, линейных руководителей и топ-менеджеров. (Опросник Д. Киркпатрика «Бизнес-партнерство» см. в приложении).

Приложение

Опросник «Бизнес-партнерство» (Kirkpatrick^SM)

Инструкция: Объективно оцените по каждому предложенному пункту работу подразделения (специалиста), отвечающего за обучение.

Шкала оценки:

низкий — редко соответствует;

средний — иногда соответствует;

высокий — соответствует всегда (или почти всегда).

Утверждение Оценка (уровень)

Низкий Средний Высокий

1 Наша функция обучения часто получает обоснованные просьбы о помощи от линейных бизнес-лидеров, связанные с задачами, потребностями или возможностями для развития бизнеса

2 У нас есть процессы, которые позволяют определить — связаны ли запросы со стороны бизнеса с необходимостью в профессиональной подготовке (или с другими проблемами)

3 Наши процессы разработки обучающих программ хорошо согласованы с потребностями бизнеса

4 Собирая информацию для оценки потребностей в обучении от внутренних клиентов (бизнес-стейкхолдеров), для ключевых инициатив, мы выясняем «как будет выглядеть успех»

5 Мы привлекаем экспертов в предметных областях к разработке и развитию программ

6 До начала программ профессиональной подготовки линейные менеджеры обсуждают с участниками обучения ожидания и перспективы использования результатов по возвращению на работу

7 Мы привлекаем бизнес-лидеров к определению ключевых направлений обучения и обучающих программ

8 Мы определяем и развиваем специфические для каждого вида работ компетенции

9 Мы согласуем компетенции с реальными требованиями к поведению на рабочем месте

10 Мы эффективно оцениваем Уровень 1: «Реакция»

11 Мы эффективно оцениваем Уровень 2: «Обучение»

12 Мы эффективно оцениваем Уровень 3: «Поведение»

13 Мы эффективно оцениваем Уровень 4: «Результаты»

14 Мы проводим оценку эффективности результатов обучения, чтобы продемонстрировать его ценность для бизнеса

15 Менеджеры обеспечивают своим подчиненным обратную связь и коучинг, чтобы максимизировать результаты обучения

16 Мы выявляем и контролируем ключевые факторы, которые способствуют или препятствуют закреплению результатов обучения в поведении

17 Мы разработали эффективные пособия для участников обучения и их руководителей, чтобы закрепить то, чему они научились на рабочем месте

18 Мы эффективно используем новые технологии для того чтобы усовершенствовать обучение и оценку

19 Мы эффективно демонстрируем бизнес-лидерам ценность, которую добавляет обучение и его влияние на бизнес-результаты

20 Я считаю, что в целом в нашей организации сформирована «культура обучения»

X₁ X₂ X₃

Умножьте сумму баллов в каждой колонке на соответствующий множитель (X¹ — низкие, X₂ — средние, X₃ — высокие)

Суммируйте все оценки Σ =

Интерпретация результатов

Чтобы оценить, насколько хорошо отвечающее за обучение подразделение (специалист) соответствует интересам бизнеса, используйте шкалу:

60–50 — отлично;

49–42 — очень хорошо;

41–34 — хорошо;

33–26 — средне;

2–20 — плохо.

Среди специалистов в области обучения и менеджеров широко распространен упрощенный взгляд на обучение.

Этот подход породил ряд мифов, устойчиво циркулирующих среди менеджеров:

Миф 1: «Каждый, кто когда-нибудь чему-нибудь учился, является экспертом в области обучения».

На самом деле:

Обучающее мероприятие/тренинг — это поведенческое и когнитивное событие, которое может быть структурировано и исследовано эмпирически.

Существует специальная научная дисциплина, достижения которой должны использоваться для оптимизации плана обучающих программ.

Разработаны методы и процедуры, правильное и последовательное применение которых способствует повышению эффективности обучения.

Миф 2: «Эксперты могут определить потребности в обучении».

На самом деле:

Личного опыта экспертов не всегда достаточно; чтобы понять истинные потребности в обучении, необходимо собрать данные из многих источников.

Эксперты в определенной предметной области не обязательно понимают суть и особенности процесса обучения.

Привлекать экспертов в предметных областях очень важно, однако они должны работать в партнерстве со специалистами по обучению.

Миф 3: «Реакция на обучение = обучение».

На самом деле:

Если слушателям весело, это не означает, что они чему-то научатся.

«Инструментальность» обучения слабо связана с его эффективностью, но оказывает влияние на мотивацию обучаемых.

Простые методы измерения результатов обучения недостаточны для оценки качества подготовки.

Миф 4: «Обучение непосредственно (само по себе) ведет к изменению поведения».

На самом деле:

Перенос навыков на рабочее место — очень сложный процесс, на который влияет множество факторов, например: поддержка руководителя и коллег, культура обучения в компании, возможности для применения новых знаний/навыков на практике и т. п.

Даже если слушатели демонстрируют хорошие результаты обучения после завершения учебной программы, это не означает, что они смогут успешно применить новые знания и навыки на своем рабочем месте.

Зачем оценивать обучение?

В статье «Методы оценки тренинговых программ» (Techniques for Evaluating Training Programs) Дон Киркпатрик писал: «Я бы рекомендовал директорам по обучению проявлять инициативу в оценке учебных программ — до того, как придет день расплаты». Что удивительно, так это дата написания статьи в ASTD Journal — ноябрь 1959 года! За прошедшие полвека тезис о том, что процесс обучения, затраты на него и результаты должны оцениваться, казалось бы, стал банальностью. Но, несмотря на это, поэтапная оценка обучения, к сожалению, так и не изменила «модус вивенди» корпоративных тренеров.

Среди основных целей оценки автор указывает следующие:

усовершенствование учебных программ;
повышение эффективности подготовки сотрудников;
демонстрация ценности функции обучения для топ-менеджеров.

Традиционно усилия специалистов по обучению были сфокусированы на наиболее очевидных результатах: эмоциональной реакции участников после завершения тренинговой программы. К сожалению, многие из сложившихся практик не соответствуют требованиям и нуждаются в усовершенствовании.

Чтобы проанализировать мнение участников о программе обучения (Уровень 1: «Реакция»), тренеры разработали множество инструментов. Их называют по-разному: «анкеты комментариев», «анкеты реакции», «листы улыбок» или «листы счастья» и т. п. Какой же должна быть форма, которая позволит получить максимум информации и в то же время потребует минимум ресурсов? Предлагаем несколько советов.

Составьте перечень вопросов для участников (мы рекомендуем 8–15), на которые хотите получить ответы.

Разработайте специальную форму для оценки мнений участников тренинга. Чаще всего в таких случаях используется «пятибалльная шкала» или хорошо всем известная «шкала Ликерта»:

Балл

Пятибалльная шкала

Шкала Ликерта

5 отлично полностью согласен

4 очень хорошо согласен

3 хорошо затрудняюсь ответить

2 удовлетворительно не согласен

1 плохо абсолютно не согласен

Можно начинать с отрицательных или положительных отзывов — это не принципиально.

Оставьте место для комментариев.

В конце анкеты предусмотрите место для предложений участников по улучшению курса. (Например, задайте вопрос: «Какие изменения улучшили бы программу?»)

Анкеты должны быть анонимными. (Конечно, знать автора бывает важно в том случае, если в анкете встретится интересное предложение по улучшению курса, но в целом гарантия анонимности позволяет получить более искренние отзывы.)

Убедитесь в том, что для оценки выбраны подходящие вопросы.

Постарайтесь получить ответы от всех участников курса. Если оценивается электронный курс обучения, разошлите участникам удобную форму для обратной связи (обязательно подчеркните значимость ответов каждого из участников программы). Если оценивается очная учебная программа, предусмотрите в конце занятий специальное время для заполнения участниками анкеты.

Почему обязательно следует разрабатывать специальную форму?

Во-первых, речь идет о клиентах (не имеет значения, внутренних или внешних), поэтому важно, чтобы они остались довольны программой. Некоторые коллеги, руководители или будущие участники учебных программ, наверное, спросят у тех, кто уже прошел обучение: «Что вы думаете об этом курсе?» Трудно представить себе. Какой урон будет нанесен функции обучения, если люди будут давать негативные отзывы о приобретенном опыте: «Только зря потерял время!», «Ничего, что пригодилось бы в работе» или «Откажитесь от этого, если сможете»…

Во-вторых, скорее всего, негативно окрашенные слухи дойдут до кого-то из топ-менеджеров. Последствия этого могут стать трагическими для отдела обучения: скорее всего, руководитель не станет утруждать себя анализом общего мнения о курсе, а сделает вывод о его неэффективности (со всеми вытекающими последствиями). Поэтому поинтересоваться мнением участников важно в первую очередь для самих тренеров!

Фрагмент из книги «Четыре ступеньки к успешному тренингу», Дональд Л. Кирпатрик и Джеймс Д. Кирпатрик, М. — Эйч Ар Медиа, 2008.

С усложнением условий ведения бизнеса (рост конкуренции, увеличение роли человеческого фактора, финансовый кризис и т. д.) предприятия все больше стремятся к сокращению расходов и финансированию мероприятий, которые дают прогнозируемые результаты и наивысшую отдачу. В конечном итоге:

Топ-менеджеры требуют оценить эффективность обучения на более высоких уровнях — Уровень 3: «Поведение» и Уровень 4: «Результаты».
Многие компании отказываются от учебных программ, ценность которых не может быть обоснована с финансовой точки зрения (и, к сожалению, «до улучшения ситуации» увольняют специалистов по обучению персонала).

Это говорит о том, что сегодня в серьезной опасности оказались уже не отдельные тренеры/ тренинговые компании — во многих случаях под сомнение ставится необходимость самой функции обучения! Разрабатывая «стратегию спасения», Киркпатрики предлагают тренерам срочно изменять свое представление о мире бизнеса и осваивать в организации новые роли. Важнейшие условия изменения:

выявлять потребности бизнеса;
достигать практических (!), не просто выдающихся (!), но превосходящих ожидания (!) результатов;
оценивать (в цифрах) свой вклад в достижение успеха и развитие компании и убедительно демонстрировать его всем ключевым заинтересованным сторонам.

Самое главное для тренеров — научиться действовать в «проектной рамке», как это принято в других функциях: предоставлять экономическое обоснование для получения средств (инвестиций) на проекты, заблаговременно планировать и бюджетировать их реализацию.
__________
* ASTD Journal — журнал Американской ассоциации обучения и развития (American Society for Training & Development, ASTD)

Статья предоставлена нашему порталу
редакцией журнала «Менеджер по персоналу»