Позитивные изменения, Том 3 №1, 2023. Positive changes. Volume 3, Issue 1 (2023)

«Клуб PROОЦЕНКУ – это постоянно действующая онлайновая дискуссионная площадка для всех, кто интересуется оценкой. Лозунг клуба: «Интересная беседа в хорошей компании». Задача клуба – поддерживать сообщество практиков, занимающихся внедрением оценки в деятельность социально-ориентированных организаций. Для участия в заседаниях не требуется ничего кроме желания. Образование, уровень подготовки в сфере оценки, опыт практической деятельности не имеют значения»[26].

ПРИНЦИПЫ САМООЦЕНИВАНИЯ ПРОГРАММ И ПРОЕКТОВ В НКО

АСОПП разработала и опубликовала ряд важных для развития профессии специалиста по оценке материалов. В их числе «Принципы оценки программ и политик» (АСОПП, 2017).

Принципы профессиональной деятельности рождаются из практики и определяют, как следует себя вести представителям профессии в ситуациях сложного выбора. Принципы нельзя придумать до того, как будет накоплен реальный опыт: это естественный эволюционный процесс. Когда профессия достигает определенного уровня зрелости и формируется профессиональное сообщество (ассоциация), это сообщество приходит к согласию относительно принципов. Поэтому принципы оценки программ и политик, принятые АСОПП, важны не только как руководство к действию, но и как свидетельство становления профессии специалиста по оценке в России.

Эти «принципы разработаны с учетом того, что в оценке – в общем случае – могут принимать участие три стороны:

• Заказчик – представитель организации, которая инициирует оценку, ставит задачу на ее проведение и будет основным пользователем ее результатов.

• Специалист по оценке – человек, который привлекается заказчиком для ее проведения.

• Участники оценки – люди, которые в ходе оценки предоставляют информацию, и зачастую являются сотрудниками или руководителями программ, являющихся объектом оценки (АСОПП, 2017).

Рисунок 1. Самооценивание: три в одном

АСОПП предлагает руководствоваться при проведении оценки следующими принципами:

1. Ориентация на практическое использование результатов.

2. Компетентность исполнителей.

3. Корректность методологии.

4. Открытость.

5. Безопасность.

6. Адаптивность.

«Общий случай», для которого разработаны принципы АСОПП, представляет собой внешнюю оценку (см. Рис. 1).

Самооценивание программы (проекта) – это систематический сбор информации о деятельности в рамках программы (проекта), ее характеристиках и результатах, который проводится командой программы (проекта) для того, чтобы вынести суждение о программе (проекте), повысить эффективность программы (проекта) и/или разработать планы на будущее. Отличие этого определения от общего обозначения оценки, приведенного в начале статьи, выделено курсивом: здесь все делает сама команда проекта. Люди, реализующие проект, сами ставят задачу на проведение оценки, сами планируют проведение оценки, сами собирают данные (будучи при этом еще и важными источниками информации), сами анализируют эти данные, формулируют результаты оценки и используют их. Получается, что при самооценивании команда проекта является и заказчиком, и исполнителем, и участником оценки (см. Рис. 1).

Применимы ли принципы оценки АСОПП в ситуации самооценивания?

В 2022 году в рамках заседаний клуба PROОЦЕНКУ[27] мы провели серию обсуждений этого вопроса. В них приняли участие, в общей сложности, более 40 человек, представляющих в основном некоммерческие организации из многих регионов России.

Итоги этих обсуждений можно сформулировать так:

1. Принципы оценки, предложенные АСОПП, применимы для самооценивания НКО.

2. Краткие формулировки этих принципов также применимы для ситуации самооценивания.

3. Рекомендации по использованию принципов в практике самооценивания требуют существенной корректировки и упрощения.

Мы разработали и обсудили рекомендации для ситуации самооценивания. Так появились «Принципы самооценивания программ и проектов в НКО» (Альянс PROОЦЕНКУ, 2023). Текст этих принципов с рекомендациями по их применению приводится ниже. Полагаю, он может быть полезен любым НКО вне зависимости от их специализации.

Принцип 1. Ориентация на практическое использование результатов.

Весь процесс самооценивания должен быть ориентирован на получение полезной для вас информации.

Рекомендации:

• Надо максимально конкретно для самих себя определить, зачем вы затеваете самооценивание. Хорошо продумайте и обсудите постановку задачи на проведение самооценивания. Сформулируйте вопросы, на которые вам нужно получить ответы, а также обсудите, кто и каким образом эти ответы будет использовать.

• Если непонятно, кто и как станет использовать ответы на какие-то из предлагаемых вопросов, исключите эти вопросы из задания.

• Включайте в задание только такие вопросы, ответы на которые вам неизвестны или, по крайней мере, для вас неочевидны.

• Проверьте, нельзя ли получить ответы на интересующие вас вопросы более простым способом, чем проведение самооценивания.

• Постарайтесь свести число вопросов задания к минимуму. Оставьте только самые важные для вас.

• По завершении самооценивания проведите совещание по обсуждению его результатов и планированию действий по использованию этих результатов (со сроками и ответственными).

• Подумайте о том, могут ли какие-то из результатов вашего самооценивания пригодиться кому-то еще кроме вас.

Принцип 2. Компетентность исполнителей.

Сотрудники НКО, проводящие самооценивание, должны обладать необходимыми и достаточными для этого знаниями и умениями.

Рекомендации:

• Самооценивание проводится по определенным правилам. Вам не обязательно становиться экспертами в сфере оценки, но знать основы необходимо. Для этого можно почитать специальную литературу или направить кого-то из сотрудников на курсы повышения квалификации.

• Имейте в виду, что всегда есть возможность консультаций со специалистами в тех сферах, где собственных знаний и умений вам не хватает. Например, можно обратиться в местный университет либо в профессиональное объединение специалистов по оценке.

• Рассматривайте самооценивание как возможность обучения через практику. Обсуждайте приобретаемый опыт и извлекайте из него уроки.

Принцип 3. Корректность методологии.

Выбор общего подхода к самооцениванию и методов его проведения должны быть хорошо обоснованы с учетом имеющихся ограничений. Использование различных методов должно осуществляться с соблюдением соответствующих процедур и стандартов.

Рекомендации:

• При планировании самооценивания учитывайте ограничения, касающиеся имеющихся ресурсов и времени. Принимайте во внимание, что в сфере оценки вы знаете и умеете не всё.

• Важно иметь представление о сильных сторонах и ограничениях различных подходов к проведению оценки проектов и программ.

• При выборе методов и инструментов самооценивания следует исходить из того, что лучше сделать просто и правильно, чем сложно и неправильно.

• Если у вас возникают сомнения в возможности либо правильности использования того или иного инструмента, необходимо проконсультироваться со специалистом либо отказаться от использования этого инструмента.

• Помните, что известность и распространенность методик не гарантируют, что они подойдут для самооценивания конкретного проекта в заданных условиях.

• От ошибок никто не гарантирован. Важно извлекать из них уроки и не повторять.

Принцип 4. Открытость.

Самооценивание осуществляется открыто: все стороны, участвующие в нём, должны быть информированы о целях, методологии и планируемом использовании его результатов.

Рекомендации:

• Позаботьтесь о том, чтобы все участники процесса самооценивания имели достаточную информацию о нём и соглашались предоставлять данные добровольно (соблюдение принципа «информированного согласия»).

• Результаты самооценивания предназначены только для вас. Для всех остальных они могут быть либо открыты частично (по вашему решению), либо полностью закрыты.

• Нужно учитывать вероятность вашей предвзятости по отношению к собственному проекту и утраты свежести восприятия проекта («замыливание» взгляда): эти вопросы должны открыто обсуждаться участниками самооценивания.

• Поскольку вы проводите самооценивание для себя, а не для кого-то другого, вы заинтересованы в том, чтобы увидеть свой проект таким, какой он есть. В такой ситуации приукрашивание попросту не имеет смысла. Поэтому не следует рассматривать ситуацию самооценивания как потенциальный конфликт интересов и беспокоиться по этому поводу.

Принцип 5. Безопасность.

Самооценивание должно проводиться с уважением достоинства всех его участников независимо от их роли, социального статуса и индивидуальных особенностей. При проведении самооценивания следует учитывать возможные негативные последствия, которые оно может иметь как для отдельных людей, так и для организаций. Риск возможных негативных последствий должен быть сведен к минимуму, а участники самооценивания должны быть о них проинформированы.

Рекомендации:

• Обсудите, может ли получиться так, что самооценивание навредит кому-то. Если такая возможность существует, пусть даже теоретически, все участники должны об этом знать.

• Обсудите, как можно свести риск негативных последствий самооценивания к минимуму. Сделайте все возможное, чтобы избежать таких последствий.

• Следует проводить самооценивание, когда сотрудники НКО находятся в ресурсном состоянии, то есть имеют достаточно эмоциональных, физических, душевных сил и энергии для этого. Участие в проведении самооценивания является дополнительной нагрузкой для сотрудников, и это необходимо принимать во внимание при планировании их работы во избежание выгорания.

• Самооценивание – часть деятельности вашей организации, поэтому при его проведении необходимо строго соблюдать этические нормы, относящиеся к сфере деятельности вашей НКО.

Принцип 6. Адаптивность.

Необходимо предусматривать возможность адаптации методологии самооценивания к каждому конкретному случаю, а также к изменяющимся условиям.

Рекомендации:

• Есть много разных подходов к проведению оценки проектов и программ. Нужно подобрать оптимальный именно для вашего проекта в заданных условиях. Даже то, что хорошо подошло для оценки ваших проектов в прошлом, совсем не обязательно подойдёт для оценки текущего проекта.

• В процессе работы проявляйте гибкость и – по необходимости – корректируйте план, методы и инструменты проведения самооценивания с учетом изменяющихся условий или вновь возникающих факторов.

• На всякий случай проверьте себя: не является ли решение проявить «гибкость» оправданием для недобросовестного проведения самооценивания, и не может ли оно привести к негативным последствиям?

ПРИНЦИПЫ САМООЦЕНИВАНИЯ И РАЗВИТИЕ ПОТЕНЦИАЛА В СФЕРЕ ОЦЕНКИ

Самооценивание предполагает развитие собственного потенциала в сфере оценки. В связи с этим НКО может быть полезно иметь в виду следующую «формулу» (Kuzmin, 2009):

Согласно этой «формуле», если вы умеете проводить оценку, но не делаете этого, потенциал равен нулю. Аналогичным образом, если вы проводите оценку, но не умеете этого делать, потенциал тоже равен нулю.

Другими словами, развитие потенциала в сфере оценки предполагает сбалансированное решение двух взаимосвязанных задач: надо и учиться, и применять полученные знания и навыки на практике. Принципы самооценивания учитывают и то, и другое.

REFERENCES

1. Baron, M. E. (2011). Designing internal evaluation for a small organization with limited resources. Internal evaluation in the 21st century. New Directions for Evaluation, 132, 87–99.

2. Gargani, J. (2012). The future of evaluation: 10 predictions. Retrieved from: https://evalblog.com/2012/01/30/the-future-of-evaluation-10-predictions/

3. House, E. R. (1986). Internal Evaluation.

Evaluation Practice, 7(1), 63–64. Retrieved from: https://journals.sagepub.com/doi/ abs/10.1177/109821408600700105.

4. Kuzmin, A. (2009). Use of evaluation training in evaluation capacity building. In M. Segone (Ed.), From policies to results: Developing capacities for country monitoring and evaluation systems. New York: UNICEF.

5. Kuzmin, A., Karimov, A., Borovykh, A., Abdykadyrova, A., Efendiev, D., Greshnova, E…. Balakirev, V. (2007). Program Evaluation Development in the Newly Independent States. Journal of MultiDisciplinary Evaluation, 4(7), 84–91. Retrieved from: https://journals.sfu.ca/jmde/index.php/jmde_1/article/view/14/29.

6. Love, A. J. (1983). The organizational context and the development of internal evaluation. New Directions for Program Evaluation, 20, 5–22.

7. Love, A. J. (1991). Internal Evaluation: Building Organizations from Within: SAGE Publications.

8. McClintock, C. (1983). Internal Evaluation: The New Challenge. American Journal of Evaluation, 4, 61–62.

9. Patton, M. Q. (2008). Utilization-focused evaluation (4th ed.). Thousand Oaks: Sage Publications.

10. Rogers, A., McCoy, A., & Kelly, L. M. (2019). Evaluation Literacy: Perspectives of Internal Evaluators in Non-Government Organizations Canadian Journal of Program Evaluation / La Revue canadienne d’évaluation de programme, 34(1), 1–20. Retrieved from: https://journalhosting.ucalgary.ca/index.php/cjpe/article/view/42190.

11. Volkov, B. B. (2011). Internal evaluation a quarter-century later: A conversation with Arnold J. Love. New Directions for Evaluation (132), 5–12.

12. Volkov, B. B., & Baron, M. E. (2011). Issues in internal evaluation: Implications for practice, training, and research. In B. B. Volkov & M. E. Baron (Eds.), Internal evaluation in the 21st century. New Directions for Evaluation. (Vol. 132, pp. 101–111).

13. Альянс PROОЦЕНКУ. (2023). Принципы самооценивания программ и проектов в НКО. Режим доступа: https://www.processconsulting.ru/attach_files/menu_21_12_22_19.pdf. PROOCENKU Alliance (2023). Principles of self-evaluation of NGO programs and projects. Retrieved from: https://www.processconsulting.ru/attach_files/menu_21_12_22_19.pdf.

14. АСОПП. (2017). Принципы оценки программ и политик. (05.02.2023). Режим доступа: https://eval.ru/attach_files/file_menu_78.pdf. ASPPE. (2017). Principles of program and policy evaluation. (05.02.2023). Retrieved from: https://eval.ru/attach_files/file_menu_78.pdf.

15. Кузьмин, А. И. (2016). Будущее оценки. Режим доступа: https://evaluationconsulting.blogspot.com/2016/06/blog-post_14.html. Kuzmin, A. I. (2016). The Future of Evaluation. Retrieved from: https://evaluationconsulting.blogspot.com/2016/06/blog-post_14.html.

16. Кузьмин, А. И. (2020). История развития мониторинга и оценки в Сети СЦПОИ. Начало. Режим доступа: https://evaluationconsulting.blogspot.com/2020/04/blog-post.html. Kuzmin, A. I. (2020). History of the development of monitoring and evaluation in the SCISC Network. Beginning. Retrieved from: https://evaluationconsulting.blogspot.com/2020/04/blog-post.html.

“Do it yourself:” How NGOs Evaluate Projects Using Their Own Resources

Alexey Kuzmin

DOI 10.55140/2782–5817–2023–3–1–34–43

Many experts believe that self-evaluation is one of the key trends in the development of evaluation in general. Self-evaluation is similar to external evaluation, but it has its peculiarities. The authors of this article discuss the importance of evaluation principles, and provide recommendations for NGO self-evaluation situations.

Alexey Kuzmin

PhD, Director General, Process Consulting Company, Council Member, International Evaluation Academy

THE STORY OF ONE PREDICTION

In 2012, American evaluator John Gargani, who later became president of the American Evaluation Association, posted 10 predictions in his blog about the future of program and project evaluation. The first point was worded as follows: “Most evaluations will be internal.” (Gargani, 2012).

What is it about?

To begin with, program (project) evaluation is “the systematic collection of information about the activities, characteristics, and outcomes of programs to make judgments about the program, improve program effectiveness, and/ or inform decisions about future programming.” (Patton, 2008).

Suppose an organization is implementing a project. The project can be evaluated by specialists external to the organization. This is external evaluation. Alternatively, the project can be evaluated by the specialists within the organization itself. This case is referred to as internal evaluation. Sometimes self-evaluation is singled out from internal evaluation, when the project is evaluated by the very same people who implement it.

Active development of the evaluation of socially oriented projects and programs in the United States started in the 1960s. The requirement to conduct an evaluation was part of the “top-down” approach, utilized first in the educational institutions, and then in other areas. This was an innovation at the time, and the evaluation was solely the domain of external consultants with the appropriate competencies.

It soon became clear that organizations should develop their own evaluation capabilities. The relevant practical experience was accumulated over the course of 10 to 15 years. The development of internal evaluation practices was one of the central topics at the 1982 American Evaluation Association conference (McClintock, 1983).

Arnold Love, Canada (A. J. Love, 1983), noted that internal evaluation serves two basic functions: first, it provides relevant and timely information for management decision-making; and second, the internal evaluation process in itself has a positive effect on both decision-making and the organizational performance. Love suggested that “over the next few years we can expect the internal evaluation function to continue growing and changing” (A. J. Love, 1983). By the way, this prediction was published 30 years before the one made by John Gargani.

Around the same time, Ernest House (1986) observed that the practice of public organizations in the United States was shifting from external evaluations, conducted primarily by universities and private companies, to internal evaluations conducted by specially created units. At the same time, most of the publications available at the time referred specifically to external evaluation. That is why the publication of A. J. Love’s book, “Internal Evaluation: Building Organizations from Within” (A. J. Love, 1991) became a remarkable event. The author of this book remains one of the most quoted authors to this day, when it comes to internal evaluation.

Table 1. Benefits and limitations of external and internal evaluation

20 years later, the “New Directions in Evaluation” series[28] publishes a collection of works titled “Internal Evaluation in the 21st Century.” Isn’t it somewhat old for a new direction?

In an interview with the book’s editor (Volkov, 2011), Arnold Love recalls that in the 1990s up to 60 percent of all evaluations in the United States were conducted internally. At the same time, internal evaluation was developing differently from country to country. In Canada, for example, the federal government decided back in late 1970s that evaluations of government programs should be primarily internal, while the Japan Evaluation Society reported in 2006 that 99 % of evaluations in their country were internal.

Even though internal evaluation is being actively implemented all over the world, the number of studies and publications on this topic in the second decade of the 21st century is still very limited (Volkov & Baron, 2011). However, the issues of developing internal evaluation in smaller organizations with limited resources are increasingly coming into spotlight (Baron, 2011; Rogers, McCoy, & Kelly, 2019).

Practice shows that internal evaluation can coexist happily with external evaluation, and most experts now agree that these are not mutually exclusive, but complementary approaches (see Table 1).

Now back to John Gargani’s prediction (Gargani, 2012). He suggested that internal evaluation in the U. S. would largely replace external evaluation within 10 years. Thus, most program and project evaluations in the United States would be internal by 2022. Apparently, this has not happened yet, but we can definitely state that internal evaluation is developing in both government and non-government organizations in the United States, Canada, Japan, and many other countries. Russia is no exception.

INTERNAL EVALUATION IN RUSSIA

Without going too much into historical detail, we should note that in Russia everything started with external evaluation, which was “imported” to us in the early 1990s along with the international assistance programs by numerous foreign organizations (Kuzmin et al., 2007). Gradually, local evaluators started appearing as well. At the same time, evaluation developed in two directions: the market for external evaluation services was being established alongside the development of internal evaluation function.

The Russian NGOs needed to develop their own evaluation capacity for at least two reasons: 1) donor organizations’ requirements, and 2) the need to build management control systems due to increasingly complex and expanding NGO activities (Kuzmin, 2020). However, the majority of Russian NGOs failed to pay attention to developing evaluation competencies for quite some time.

The situation has only started in recent years:

• there has been a marked increase in the demand for training for NGO managers and staff in the field of evaluation;

• NGOs have learned to collect and process data much more efficiently;

• a number of NGOs have acquired successful internal evaluation experience;

• donor organizations increasingly require NGOs to submit analytical reports;

• at the annual conferences of the Association of Specialists in Program and Policy Evaluation (ASPPE)[29], there has been a noticeable increase in the number of presentations on experiences in developing internal evaluation and its importance for high-quality organization management.

Six years ago, as I was observing these processes and comparing them to what was happening abroad, I suggested that by 2026 Russia would see “an increase in the evaluation capacity of various organizations, the development of internal evaluation and self-evaluation” (Kuzmin, 2016). Looks like this prediction is coming true. Another proof of this is the creation of the PROOCENKU Alliance[30] in 2021 and the opening of an online discussion club of the same name, focused mainly on the development of internal evaluation and self-evaluation:

“The PROOCENKU Club is an ongoing online discussion platform for anyone interested in evaluation. The Club’s slogan goes as follows: “An interesting conversation in a good company.” The Club’s mission is to support a community of practitioners dedicated to integrating evaluation into the work of socially oriented organizations. Nothing is required to participate in the meetings, other than the desire. Education, level of training in evaluation, and practical experience are not important.”[31]

PRINCIPLES OF SELF-EVALUATION OF NGO PROGRAMS AND PROJECTS

ASPPE has developed and published a number of important works on the professional development of professional evaluators. These include the Principles of Program and Policy Evaluation (ASPPE, 2017).

Professional principles are born out of practice and determine how members of the profession should behave in situations of difficult choices. Principles cannot be invented before real experience has been accumulated: it is a natural evolutionary process. When a profession reaches a certain level of maturity and a professional community (association) has been established, that community comes together to agree on the principles. Therefore, the principles of program and policy evaluation adopted by ASPPE are important not only as guidelines for action, but also as evidence of the emerging evaluation profession in Russia.