Этика науки

Этика науки. Сборник обзоров и рефератов

© ФГБУН «Институт научной информации по общественным наукам РАН», 2022

Предисловие

В сборнике представлены рефераты и обзоры, посвященные актуальным этическим проблемам науки. В первом разделе рассматриваются теоретические предпосылки переоценки исследовательской этики в социальных и гуманитарных науках, нормы и ценности этоса современной науки, а также моральные проблемы научной коммуникации. Этика научной коммуникации – новая область исследований, изучающих и разрабатывающих этические принципы и нормы научной коммуникации. Значение научной коммуникации хорошо показала пандемия COVID-19, когда общественность ощутила большую потребность в получении ясной и точной научной информации, и не только для понимания общей картины происходящего, но и для решения своих личных вопросов, связанных с пандемией. Вместе с тем выросли требования к качеству и достоверности информации, предоставляемой учеными и журналистами.

Второй раздел посвящен проблемам добросовестного проведения исследований, этическим нормам публикационной этики и образованию в исследовательской этике. Внимание к образовательным программам и курсам имеет особое значение с учетом растущего усложнения научных исследований, в которых принимают участие ученые из разных дисциплин, областей знаний и академических культур. Проблему нарушения норм добросовестного проведения исследований лишь частично решают различные усилия по выявлению отдельных случаев. Развитие программ по исследовательской этике – еще один способ обеспечения добросовестности в науке, которому должны содействовать университеты. При этом важен обмен опытом с другими образовательными учреждениями.

Материалы третьего раздела посвящены таким актуальным проблемам биоэтики, как редактирование генома эмбрионов человека, когнитивное улучшение и биобанкинг. Полемика, посвященная этико-правовому сопровождению биобанков, идет уже в течение 20 лет. Среди дискуссионных вопросов особое значение имеет вопрос о форме добровольного информированного согласия, которое является основным требованием в биомедицинских исследованиях. В исследованиях, проводимых с использованием образцов доноров из биобанков, возникает проблема необходимости бесконечного количества запросов на использование образцов и данных в конкретных проектах. Между тем, принимая во внимание гетерогенность и продолжительность исследований, которые ведут биобанки, получать информированное согласие доноров биобанков на каждый отдельный проект крайне затруднительно. Одно из предлагаемых решений заключается в том, что биобанки могут соблюдать стандарты информированного согласия, но при этом, используя расширенное информированное согласие, не обращаться к донорам образцов каждый раз по поводу каждого нового исследования.

В четвертом разделе представлены материалы, посвященные этическим аспектам развития технологий искусственного интеллекта (ИИ). Один из аспектов этой проблематики – развитие идей «искусственного интеллекта на благо общества» (AI4SG). Речь идет о проектировании и создании систем ИИ с целью предотвращения, смягчения или решения проблем, отрицательно влияющих на жизнь человека и / или благополучие природного мира, а также обеспечении социально предпочтительных и / или экологически безопасных разработок. При этом важно, чтобы проекты AI4SG не просто продвигали полезные цели и решали общественные проблемы, но и делали это социально предпочтительными способами.

Еще одна актуальная проблема, затрагиваемая в реферате этого раздела, связана с этическим регулированием цифровых технологий во время и после пандемии COVID-19. В период пандемии цифровые технологии не только создавали риски, но и обеспечивали условия для выживания общества, формировали условия для функционирования общества и поддержания его социальной и экономической деятельности. В буквальном смысле цифровые технологии сделали возможными исследования, посвященные разработке вакцин и способствовали мониторингу, обнаружению и сдерживанию распространения вируса SARS-CoV-2. Вместе с тем широкое внедрение систем цифрового слежения вызвало волну дискуссий об этических, правовых и социальных последствиях их использования. В конечном счете они способствовали тому, что правительственные организации стали использовать методы и протоколы, минимизирующие сбор данных и снижающие вероятность массового отслеживания и нарушений конфиденциальности.

Вопросы, которые актуализировались в период пандемии коронавируса, далеко не оригинальны. Они связаны с центральной проблемой академических дискуссий по этике цифровых технологий. Позиция, которую поддерживают большинство исследователей, заключается в том, что политика управления цифровыми технологиями может быть успешной только в том случае, если она будет строиться на этических принципах. Этическое руководство необходимо для минимизации рисков, эффективного использования цифровых технологий и обеспечения эффективности и гуманности цифровых преобразований в обществе.

Е. Г. Гребенщикова

Этос современной науки

Али-заде А. А. Исследовательская этика в общественных и гуманитарных науках: смена парадигм (Аналитический обзор)

Аннотация. Рассматривается переход в общественных и гуманитарных науках от старой к новой парадигме исследовательской этики. Дается развернутое структурное представление о философии и теории новой исследовательской этики. Анализируются прикладные исследования, выполненные по методологии этического подхода к изучаемому предмету.

Ключевые слова: исследовательская этика; наука и технология; Эллюль; Поланьи; личностное / неявное знание; обвинительная этика; пассивная и активная ответственность; новая исследовательская этика; этический надзор; биомедицинская парадигма исследовательской этики; «странные» респонденты; феноменологическое исследование; «исследовательское безмолвие».

Ali-zade A. A. Research ethics in the social sciences and humanities: A paradigm shift (Analytical review)

Abstract. The transition in the social sciences and humanities from the old paradigm of research ethics to a new paradigm is considered. A detailed structural idea of the philosophy and theory of the new research ethics is given. Applied research carried out according to the methodology of the ethical approach to the subject under study is analyzed.

Keywords: research ethics; science and technology; Ellul; Polanyi; personal / implicit knowledge; accusatory ethics; passive and active responsibility; new research ethics; ethical oversight; biomedical research ethics paradigm; «strange» respondents; phenomenological research; «research silence».

Необходимость этического измерения науки не подлежит сомнению просто потому, что науку производит человек – в родовом смысле ценностное, моральное существо. Однако проблема заключается в том, что наука – это профессиональная деятельность, которая требует от своих деятелей профессиональной отдачи, предусматривающей объективность, беспристрастность, доказательность. Эти профессиональные требования означают, что субъект научного производства обязан следовать установкам строгого объективистского научного мышления, выводящего за скобки ценностные и моральные соображения, и целенаправленно, методически добиваться научных истин. Поэтому в традиционной, определяемой естественными науками парадигме научного и технологического развития научные исследования и технологические разработки (ИР) лишены этической ответственности, которая может быть предъявлена уже к готовым продуктам ИР, если окажется, что их использование идет обществу не во благо, а во зло. Классический пример запоздалой этической реакции на ИР – создание ядерного оружия. Во время работы над ним не было и мысли о чудовищных последствиях его применения, но реализация этого проекта показала всю бессмысленность замысла произвести ядерную технологию военного назначения.

Военные технологии проектируются для операций, направленных на уничтожение противника, и озабоченность выживанием людей в этом случае выглядит абсурдной. Чтобы обвинить профессионалов войны в аморализме, нужно обвинить в аморализме войну, т. е. политиков, чьим обычным инструментом война и является. Собственно, в подобном аморализме можно обвинить и профессионалов технологии в целом, которые всегда решают узкие, несистемные задачи, – иначе никаких технологий не было бы. Поэтому алгоритм технологического развития, в том числе развития военных технологий, таков, что системный подход к технологиям может иметь место лишь в отношении уже состоявшейся технологической практики, испытательной или реальной. Технология должна показать себя, чтобы «испугать» общество и вызвать системный анализ своих эффектов.

Радиационные эффекты ядерного оружия не прогнозировались во время изготовления бомб «Малыш» (little boy) и «Толстячок» (fat boy), сброшенных 6 и 9 августа 1945 г. на Хиросиму и Нагасаки. После взрыва «толстячка» множество людей, переживших взрыв, жаловались на возникшие позднее (спустя месяц) устойчивые симптомы вроде странной тошноты. Врачи прямо заявляли о своем бессилии перед «болезнью X», даже не пытаясь лечить пациентов – лечить именно по диагнозу прямого попадания пациентов под радиационные удары. Между тем до Хиросимы уже существовали определенные указания на опасность контакта с плутонием (начинка «Толстячка»), но когда акция свершилась, полученные людьми радиационные удары не были осознаны как причина «болезни X». И лишь спустя некоторое время исследования выявили подробную картину медицинских эффектов применения ядерного оружия. Только тогда стало ясно, что применение подобного оружия бессмысленно; что заниматься этой технологией было заведомой ошибкой; что эта технология должна быть под безоговорочным запретом как не относящаяся к роду даже военных технологий, поскольку, поражая все живое и среду обитания живого на молекулярном (генетическом) уровне, она не локализует свой поражающий эффект ни во времени, ни в пространстве.

Однако «ядерный джинн» был выпущен. Тот факт, что он был приспособлен к социальной роли «фактора сдерживания» для безответственных на международной арене режимов, – лучшее, что официальные лица могли придумать в утешение своего бессилия перед бессмысленностью существования ядерного оружия как реального и неустранимого фактора социальных провокаций. В данном случае запоздалые исследования эффектов технологического монстра уже не могли скорректировать ситуацию, вернуть ее на стадию неизвестности злополучной технологии. Такова традиция технологического развития: оно замкнуто на себя, слепо к своему влиянию на общество и природу, не обеспечено исследованиями своих возможных гуманитарных и экологических последствий. Можно сказать, что сложившаяся технологическая традиция – это узкоутилитарная традиция, создающая обществу проблемы [1]. Разумеется, ядерное оружие – исключительный случай технологии, который едва ли может стать уроком для технологического развития в целом. Как таковое технологическое развитие не воспринимается в апокалиптическом духе, де-факто не являясь апокалипсисом. Действительно, в «мирных» технологиях очень трудно распознать «дьявола», который содержится именно в логике «цель оправдывает средства». Выход видится в переходе на новую методологию технологического развития, тем более нужную в современном (глобальном) мире повышенной системности. Необходимо ввести технологическое развитие в рамки обязательной научной экспертизы на стадии разработки технологий, экспертизы, которая предусматривала бы системный анализ разрабатываемых технологий – всех их возможных последствий для человека, общества и природы. Технологическое развитие должно служить не каким-то группам людей и их эгоистическим целям, но человечеству как глобальной системе самосохранения.

Хорошо известна критика технологического (научного) развития с этических позиций (вреда для человечества) со стороны таких авторитетных исследователей технологического феномена, как Ж. Эллюль, М. Хайдеггер, К. Ясперс, Л. Мамфорд, Ю. Хабермас и др. Например, Ж. Эллюль, посвятивший несколько десятилетий детальному изучению технологии, критикует ее не как таковую, но именно с позиций этики – как социальный феномен. Согласно Эллюлю, в технократическом эффекте технологического развития виновата не столько технология, сколько человек, творящий технологическую культуру, но не умеющий идеально распорядиться ею, поскольку реальный человек неидеален. Неидеальному человеку остается только мечтать о такой технологии, которая создавала бы идеальное общество, где есть демократия, развитие и нет властного произвола и стагнации. Однако это лишь мечты. Тем не менее они хорошо объясняют, почему в обществе существует бескомпромиссно восторженное отношение к технологическому феномену [8]. Восторженные адепты технологии мечтают о том, какой должна быть (но какой никогда не станет) технологическая культура. Эллюль же описывает технологическую культуру, какова она есть в реальном обществе, обреченная навсегда остаться несовершенной, поскольку люди никогда не станут идеальными.

С точки зрения науки, которая не занимается футурологией, технологический пессимизм, именно по этическим соображениям, связанным с человеком, гораздо более весом, нежели технологический оптимизм. Эллюль – этик, конструктивист в отношении технологического феномена, он чужд понимания технологической идеологии как технократической идеологии, как технологического детерминизма. Конструктивисты (этики) смотрят на технологию без пиетета – как на рукотворный, подвластный человеку продукт. Именно поэтому конструктивисты и критикуют технологию: они видят ее заведомую «человеческую слабость», призывают трезво оценивать ее, не обольщаться ею, не допускать технократической идеологии. Прежде чем превозносить технологию и свято верить в технологический детерминизм, нужно посмотреть на человека и убедиться в том, что он неидеален, а значит, находится в опасности подчиниться технократической идее. «На первый взгляд, среди известных философов технологии как будто бы технологические пессимисты составляют подавляющее большинство. Однако внимательное прочтение технологических исследований – того же Ж. Эллюля – показывает, что в действительности эти исследования мало похожи на философию, но, скорее, представляют весьма ценную теорию общества, разрабатывающую фундаментальное социологическое понятие „технология“» [9, p. 201].

Сегодня в исследовательском сообществе нередко высказывается идея о том, что следует отказаться от традиционного понимания ответственности в отношении ИР (когда ищут «виновных» при негативных «аутсайдерских» оценках уже готовых продуктов науки и технологии), что нужна новая этика, непрерывно действующая на всех стадиях ИР и не связанная с поиском «виновных». Действительно, возникновение в начале 1970-х годов этики технологических разработок вытекает из ряда скандальных технологических прецедентов, которые и вызвали этический ответ, возлагавший персональную ответственность за технологические неудачи или бедственные последствия технологического развития. Однако подобный подход стал вызывать нараставшую и достигшую в 1990-е годы апогея критику по логичному соображению, что технологические разработки – это коллективная деятельность, а ответственность всегда носит персональный характер и ее невозможно установить для коллектива. И получается, что любая коллективная деятельность представляет реальный случай коллективной безответственности, не поддающийся моральной оценке в принципе. Можно было бы возложить ответственность на коллектив в целом, но в таком случае возникает несправедливая ситуация, когда одни люди должны отвечать за поведение других людей [6]. Вместе с тем неоспоримо, что коллективное дело в сфере технологий имеет объективное моральное измерение, поскольку, как и всякое дело, может принести людям и благо, и вред. Следовательно, нужна просто иная этика ИР, отличная от традиционной «обвинительной» этики, навязанной аутсайдерами ИР, стремящимися возложить вину на инсайдеров персонально или на коллектив в целом.

Новая этика – это не назначение аутсайдерами коллективных либо персональных «виновных», а принятие инсайдерами на себя ответственности в течение всего времени работы над научным или технологическим проектом. Такая этика противопоставляет понятию «пассивная ответственность» (когда ответственность на кого-то кем-то возлагается) понятие «активная ответственность» (когда кто-то сам принимает на себя ответственность). В области «активной ответственности» исчезает проблема коллективной ответственности / безответственности, или, во всяком случае, эта проблема не столь явно дает о себе знать, как в области «пассивной ответственности». «Активная ответственность» инсайдеров ИР означает, что они уже на начальном этапе – в фазе научного или технологического замысла берут в расчет его возможные вредные последствия и думают об их предотвращении, тем самым наделяя замысел социальным и моральным измерениями, рассматривая его с точки зрения его приемлемости. Конечно, в подобном менеджменте ИР остаются риски, связанные с неудачами, но главным остается то, что такой менеджмент должен осуществляться во всех фазах ИР – от замысла до полученных результатов и конечного продукта [4].

Новая этика ИР (в парадигме «активной ответственности») должна выстраиваться в рамках социологии научных / технологических проектов: каждый проект должен рассматриваться не сам по себе, а в качестве социального и, следовательно, имеющего моральное измерение феномена. Только так может возникнуть эффект «активной (инсайдерской) ответственности», поскольку проекты с самого начала будут неотделимы от социологической (моральной) рефлексии их инсайдеров. Собственно, идея социологии (этики) ИР, выбирающая в отношении научного / технологического развития институциональную этику вместо этики персональной, находится в русле современного «эмпирического поворота» прикладной этики [13].

Менеджмент технологии существовал и в XIX в., но тогда, как и в начале XX в., он производился не инсайдерами, а «посредниками» (agencies), т. е. был аутсайдерским, установленным для реагирования на возможные нежелательные последствия технологического развития. В результате влияние на технологические разработки было ограниченным. Особенно после Второй мировой войны научное развитие практически перестало подчиняться научно-технической политике, а та лишь некритически «визировала» это фактически автономное развитие. В конце 1960-х годов пришло понимание, что технологическое развитие, хотя и нацеленное на позитивный вклад в общество, часто имеет в качестве побочного эффекта неумышленные негативные последствия. Тогда и были сделаны первые попытки управления ИР, в частности в подходе «оценка технологии» (ОТ), призванном заранее обнаруживать у технологии негативное «социальное поведение». Данная методология стала ранней попыткой включения менеджмента технологии непосредственно в процесс технологической разработки, ухода от «посреднического» (аутсайдерского) менеджмента. Между тем у этого подхода обнаружилась проблема, которая заключалась «в сложности, а нередко и невозможности контролировать ход технологической разработки, поскольку на ранних стадиях разработки технологии, когда технологию можно контролировать, существует дефицит знаний о ее негативных социальных последствиях, что снижает возможности контроля. А к тому времени, когда эти последствия становятся очевидными, контроль оказывается дорогостоящим и запоздалым» [5, p. 19].

Решить эту проблему попытались методологии ОТ второго поколения – конструктивный и интерактивный подходы, способные оказывать влияние на решения в отношении технологического замысла. Для этого предусматривалось включение в процесс принятия решений по технологическому замыслу всех возможных заинтересованных лиц – от разработчиков и исполнителей технологического проекта до его потребителей. Но и второе поколение подходов к ОТ оставалось в целом «внешним» по отношению к технологическому развитию, поскольку не включало ученых в реальном времени производства ими своей работы [19]. Поэтому понадобилось третье поколение методологий ОТ, которые и решили задачу контроля непосредственно всей фазы ИР, оценивая ход осуществления научных / технологических проектов в режиме реального времени. Эти методологии инициируют скорее инновационный процесс, чем просто управление «чужим» процессом. Они встраивают знания непосредственно в процесс разработок научных и технологических проектов и, прямо участвуя в конструировании этого процесса, оказывают на него гораздо большее влияние, чем методологии второго и тем более первого поколения. Данные подходы нацелены на формирование самой траектории технологического развития – на повышение качества и эффективности решений в отношении социальных последствий этого развития [15]. То есть социальный (этический) контроль над осуществлением научных / технологических проектов должен быть понят как исследовательская практика, внутренняя для ИР. Это и есть путь к большей социальной ответственности научного / технологического развития.

Идея ввести этику непосредственно в ИР получила воплощение в США и Нидерландах. В США Национальным научным фондом на подобный симбиоз в рамках только одного исследовательского проекта (в Центре социальных исследований нанотехнологии) было выделено около 6 млн долл., а Нидерландская организация по науке (Netherlands Organization for Scientific Research) инициировала четыре проекта в области этики исследований, осуществляемых в ходе ИР. Выполнение таких проектов и есть апробирование новой этики ИР, не «внешней», но «внутренней», непосредственно встроенной в осуществление ИР-проектов и помогающей проектантам включать знания, которые в ином случае остались бы невостребованными, а проекты выполненными с ущербом для их потребителей.

Новая исследовательская этика определенно обеспечивает эффективное и профессиональное распределение ответственности в ИР, при котором ИР выполняются с минимумом издержек по внутренним и внешним (социальным) обязательствам. Новая этика ИР могла бы рассматриваться как «адвокат общества» в смысле защиты общественных интересов от угроз и рисков для людей и среды через инициирование дискуссий в отношении этих угроз и рисков и управления ими. Такое этическое сопровождение призвано именно к управлению, но не ограничению ИР. В этом состоит новая роль исследовательской этики: она выступает инсайдером (интегрированным участником) осуществления ИР, когда стороны не посягают на профессиональные территории друг друга, тем самым повышая совместную эффективность [3].

Значительный вклад в формирование философской основы новой исследовательской этики внес видный философ науки, технологии и общества М. Полани (1891–1976). Философией он занялся уже в зрелом возрасте, когда ему было за 50 лет. До этого у него была выдающаяся карьера в физической химии, настолько успешная, что в этой области он даже номинировался на Нобелевскую премию. М. Полани – философ и теоретик новой исследовательской этики, поскольку он рассматривал этику органической частью научного познания, разрабатывая понятие «личностное (неявное) знание» [14]. Именно через понятие личностного (неявного) знания он зафиксировал неустранимый в научных исследованиях человеческий, социальный, этический мотив.

М. Полани представлял научно-познавательный процесс как существенно личностный, когда познающий всегда находится в контексте своих личных суждений и оценок, контексте во многом неявном из-за невозможности полной своей формализации. Отсюда возникает идея, что так называемое «объективное» знание не может быть иным, как только интерсубъективным, т. е. объективным постольку, поскольку оно общепринято. Эта идея обосновывает существование разных языков знания. Например, язык знания в художественной культуре и язык знания в естественных науках разный, и получается, что профессионалы обеих этих областей смогут прийти к взаимопониманию, лишь изучив «языки» друг друга, как изучают иностранные языки. Само наличие академических дисциплин доказывает, что в познании нет монизма – объективизма в смысле независимости познания ни от каких личностных контекстов. В своей эпистемологии Полани выступает как радикальный плюралист, полагающий, что «когнитивные разрывы существуют не только между академическими дисциплинами, но и внутри каждой из них, т. е. на уровне познающего индивида. Поэтому проблема объективности знания находится в самом человеческом сознании, которому не дано преодолеть личностный контекст рождения и обоснования своих когнитивных продуктов» [14, p. 156–157]. И именно дисциплинарным членением, разграничением себя на обособленные дисциплины наука старается предстать в качестве объективного знания, подчиненного не зависящим ни от каких личностных контекстов объекту и процедурам исследования. Однако решение проблемы объективности знания заключается не в умножении научных дисциплин, а в развитии междисциплинарных исследований, т. е. взаимопонимания исследователей на основе единого когнитивного языка.