Искусственный интеллект от А до Б

Поскольку проблемы, связанные с социальными экспериментами, могут существенно отличаться от проблем биомедицинских и поведенческих исследований, Комиссия в настоящее время специально отказывается принимать какие-либо политические решения в отношении таких исследований. Скорее, Комиссия считает, что эта проблема должна быть решена одним из ее органов-преемников.

Уважение к незрелым и недееспособным может потребовать их защиты по мере взросления или во время их недееспособности.

Некоторые лица нуждаются в широкой защите, вплоть до того, что их не допускают к деятельности, которая может причинить им вред; Другие лица не нуждаются в особой защите, кроме того, чтобы они осуществляли свою деятельность свободно и осознавали возможные негативные последствия. Степень предоставляемой защиты должна зависеть от риска причинения вреда и вероятности получения пользы. Суждение о том, что какому-либо индивиду не хватает автономии, должно периодически пересматриваться и будет меняться в разных ситуациях.

В большинстве случаев исследований с участием людей уважение к личности требует, чтобы субъекты участвовали в исследовании добровольно и обладали адекватной информацией. Однако в некоторых ситуациях применение этого принципа не является очевидным. Поучительным примером является привлечение заключенных в качестве объектов исследования. С одной стороны, представляется, что принцип уважения к личности требует, чтобы заключенные не были лишены возможности добровольно участвовать в научных исследованиях. С другой стороны, в условиях содержания в тюрьме они могут подвергаться тонкому принуждению или необоснованному влиянию для участия в исследовательской деятельности, к которой в противном случае они бы не вызвались. Уважение к личности в этом случае диктует необходимость защиты заключенных. Позволить заключенным «добровольно» или «защищать» их – это дилемма. Уважение к личности в большинстве сложных случаев часто является вопросом уравновешивания конкурирующих требований, вызванных самим принципом уважения.

К людям относятся этичным образом, не только уважая их решения и защищая их от вреда, но и прилагая усилия для обеспечения их благополучия. Такое обращение подпадает под принцип благодеяния. Термин «благодеяние» часто понимается как охватывающий акты доброты или благотворительности, выходящие за рамки строгого обязательства. В этом документе благодеяние понимается в более сильном смысле, как обязательство. В качестве взаимодополняющих выражений благодетельных действий в этом смысле были сформулированы два общих правила: (1) не причиняйте вреда и (2) максимизируйте возможные выгоды и минимизируйте возможный вред.

Максима Гиппократа «не навреди» долгое время стала основополагающим принципом медицинской этики. Клод Бернар расширил эту область до области исследований, сказав, что нельзя причинять вред одному человеку, независимо от того, какую пользу могут получить другие. Однако даже для того, чтобы избежать вреда, необходимо узнать, что является вредным, и в процессе получения этой информации люди могут подвергаться риску причинения вреда. Кроме того, клятва Гиппократа требует, чтобы врачи приносили пользу своим пациентам «в соответствии с их здравым смыслом». Чтобы узнать, что на самом деле принесет пользу, может потребоваться подвергнуть людей риску. Проблема, связанная с этими императивами, заключается в том, чтобы решить, когда оправдано стремление к определенным выгодам, несмотря на связанные с этим риски, а когда от выгод следует отказаться из-за рисков.

Обязательства благодеяния затрагивают как отдельных исследователей, так и общество в целом, поскольку они распространяются как на отдельные исследовательские проекты, так и на всю исследовательскую деятельность. В случае конкретных проектов исследователи и сотрудники их учреждений обязаны заранее предусмотреть максимизацию выгод и снижение риска, которые могут возникнуть в результате исследовательского исследования. В случае научных исследований в целом, члены общества в целом обязаны осознавать долгосрочные выгоды и риски, которые могут возникнуть в результате улучшения знаний и разработки новых медицинских, психотерапевтических и социальных процедур.

Принцип благодеятельности часто играет четко определенную обосновывающую роль во многих областях исследований с участием человека. В качестве примера можно привести исследования с участием детей. Эффективные способы лечения детских болезней и содействия здоровому развитию – это преимущества, которые служат оправданием исследований с участием детей, даже если отдельные объекты исследований не являются прямыми бенефициарами. Исследования также позволяют избежать вреда, который может быть причинен в результате применения ранее принятых рутинных практик, которые при ближайшем рассмотрении оказываются опасными. Но роль принципа благодеяния не всегда столь однозначна. Остается сложной этической проблемой, например, в отношении исследований, которые представляют собой более чем минимальный риск без непосредственной перспективы прямой пользы для детей. Некоторые утверждают, что такие исследования недопустимы, в то время как другие указывают, что этот предел исключит многие исследования, обещающие большую пользу детям в будущем. И здесь, как и во всех трудных случаях, различные требования, подпадающие под действие принципа благодеяния, могут вступать в противоречие и вынуждать к трудному выбору.

Кто должен получать пользу от исследований и нести их бремя? Это вопрос справедливости в смысле «честности при распределении» или «того, что заслужено». Несправедливость имеет место, когда человеку отказывают в какой-либо льготе, на которую он имеет право, без уважительной причины или когда какое-либо бремя возлагается необоснованно. Другой способ понимания принципа справедливости заключается в том, что к равным следует относиться одинаково. Однако это утверждение требует пояснения. Кто равный, а кто неравный? Какие соображения оправдывают отход от равного распределения? Почти все комментаторы допускают, что различия, основанные на опыте, возрасте, недостатках, компетентности, заслугах и должности, иногда являются критериями, оправдывающими дифференцированное обращение для определенных целей. Поэтому необходимо объяснить, в каких отношениях к людям следует относиться одинаково. Существует несколько широко распространенных формулировок о том, как именно распределять бремя и выгоды. В каждой формулировке упоминается некое релевантное свойство, на основе которого следует распределять бремя и выгоды. Эти формулировки таковы: (1) каждому человеку равная доля, (2) каждому человеку в соответствии с индивидуальными потребностями, (3) каждому человеку в соответствии с индивидуальными усилиями, (4) каждому человеку в соответствии с вкладом в общество и (5) каждому человеку в соответствии с заслугами.

Вопросы справедливости долгое время ассоциировались с такими социальными практиками, как наказание, налогообложение и политическое представительство. До недавнего времени эти вопросы, как правило, не были связаны с научными исследованиями. Тем не менее, они предвосхищаются даже в самых ранних размышлениях об этике исследований с участием человека. Например, в XIX и начале XX веков бремя работы в качестве объектов исследований ложилось в основном на бедных пациентов палат, в то время как преимущества улучшенного медицинского обслуживания распространялись в основном на частных пациентов. Впоследствии эксплуатация невольных заключенных в качестве объектов исследования в нацистских концентрационных лагерях была осуждена как особенно вопиющая несправедливость. В 1940-х годах в исследовании сифилиса в Таскиги участвовали обездоленные чернокожие сельские мужчины для изучения нелеченого течения болезни, которая ни в коем случае не ограничивается этой группой населения. Эти испытуемые были лишены явно эффективного лечения, чтобы не прерывать проект, спустя долгое время после того, как такое лечение стало общедоступным.

На этом историческом фоне можно увидеть, как концепции справедливости связаны с исследованиями с участием людей. Например, выбор объектов исследования должен быть тщательно изучен для того, чтобы определить, не отбираются ли некоторые классы (например, пациенты социальных учреждений, определенные расовые и этнические меньшинства или лица, помещенные в учреждения) просто из-за их легкодоступности, скомпрометированного положения или манипулируемости, а не по причинам, непосредственно связанным с изучаемой проблемой. Наконец, во всех случаях, когда исследования, поддерживаемые государственными фондами, приводят к разработке терапевтических устройств и процедур, справедливость требует, чтобы они не приносили преимуществ только тем, кто может себе это позволить, и чтобы такие исследования не вовлекали в себя необоснованно людей из групп, которые вряд ли войдут в число бенефициаров последующих применений исследований.

Применение общих принципов к проведению исследований приводит к рассмотрению следующих требований: информированное согласие, оценка риска/пользы и выбор объектов исследования.

1. Информированное согласие: Уважение к личности требует, чтобы субъектам, в той степени, в которой они способны, была предоставлена возможность выбирать, что с ними должно или не должно происходить. Такая возможность предоставляется при соблюдении адекватных стандартов информированного согласия.

В то время как важность информированного согласия не подвергается сомнению, споры преобладают над природой и возможностью информированного согласия. Тем не менее, широко распространено мнение о том, что процесс получения согласия можно анализировать как состоящий из трех элементов: информации, понимания и добровольности.

Информация: Большинство исследовательских кодексов устанавливают конкретные пункты для раскрытия, предназначенные для обеспечения того, чтобы субъекты получали достаточную информацию. Эти пункты обычно включают в себя: процедуру исследования, его цели, риски и ожидаемую пользу, альтернативные процедуры (где речь идет о терапии) и заявление, предлагающее испытуемому возможность задавать вопросы и в любое время отказаться от участия в исследовании. Были предложены дополнительные пункты, в том числе порядок отбора тем, ответственное за проведение исследования и т.д.

Однако простое перечисление пунктов не дает ответа на вопрос о том, каким должен быть стандарт для определения того, сколько и какого рода информации следует предоставлять. Один из стандартов, на который часто ссылаются в медицинской практике, а именно информация, обычно предоставляемая практикующими врачами в данной местности или в данной местности, является неадекватным, поскольку исследования проводятся именно тогда, когда нет общего понимания. Другой стандарт, в настоящее время популярный в законодательстве о врачебных ошибках, требует, чтобы практикующий врач раскрывал информацию, которую разумные люди хотели бы знать, чтобы принять решение о своем лечении. Этого также недостаточно, поскольку испытуемый, будучи, по сути, добровольцем, может захотеть знать значительно больше о рисках, на которые они идут необоснованно, чем пациенты, которые отдают себя в руки врача для получения необходимой помощи. Возможно, что следует предложить стандарт «разумного добровольца»: объем и характер информации должны быть такими, чтобы люди, зная, что процедура не является необходимой для их ухода и, возможно, полностью понята, могли решить, хотят ли они участвовать в распространении знаний. Даже в тех случаях, когда предполагается некоторая прямая выгода для них, испытуемые должны четко понимать диапазон риска и добровольный характер участия.

Особая проблема согласия возникает в тех случаях, когда информирование субъектов о каком-либо аспекте, имеющем отношение к делу, может ухудшить достоверность исследования. Во многих случаях достаточно сообщить испытуемым, что их приглашают к участию в исследовании, некоторые особенности которого не будут раскрыты до тех пор, пока исследование не будет завершено. Во всех случаях исследований, связанных с неполным раскрытием информации, такое исследование оправдано только в том случае, если ясно, что (1) неполное раскрытие информации действительно необходимо для достижения целей исследования, (2) нет нераскрытых рисков для субъектов, которые превышают минимальные, и (3) существует адекватный план подведения итогов для субъектов, когда это уместно, и для распространения среди них результатов исследований. Информация о рисках никогда не должна утаиваться с целью добиться сотрудничества со стороны испытуемых, а на прямые вопросы об исследовании всегда должны даваться правдивые ответы. Следует проявлять осторожность при проведении различия между случаями, в которых разглашение может уничтожить или сделать недействительным исследование, и случаями, в которых разглашение просто доставило бы неудобства исследователю.

Способ и контекст, в котором передается информация, так же важны, как и сама информация. Например, представление информации в неорганизованном и быстром виде, предоставление слишком мало времени для обдумывания или ограничение возможностей для вопросов – все это может отрицательно сказаться на способности субъекта сделать осознанный выбор.

Поскольку способность субъекта понимать является функцией интеллекта, рациональности, зрелости и языка, необходимо адаптировать представление информации к способностям субъекта. Следователи несут ответственность за то, чтобы убедиться в том, что субъект усвоил информацию. Несмотря на то, что всегда существует обязательство удостовериться в том, что информация о риске для субъектов является полной и адекватно понятой, когда риски становятся более серьезными, это обязательство возрастает. Иногда может быть целесообразно провести несколько устных или письменных тестов на понимание.

Особые меры могут потребоваться в тех случаях, когда понимание сильно ограничено, например, из-за незрелости или умственной отсталости. Каждый класс субъектов, которые можно считать недееспособными (например, младенцы и маленькие дети, пациенты с умственными недостатками, неизлечимо больные и находящиеся в коме), должен рассматриваться в своих собственных терминах. Однако даже для этих людей уважение требует предоставления им возможности выбирать, в той степени, в которой они могут, участвовать или не участвовать в исследованиях. Возражения этих субъектов против участия должны быть учтены, если только исследование не влечет за собой предоставление им терапии, недоступной в других местах. Уважение к личности также требует получения разрешения других сторон для защиты подданных от причинения вреда. Таким образом, такие лица уважаются как путем признания их собственных желаний, так и путем использования третьих лиц для защиты их от вреда.

Третьими сторонами должны быть выбраны те, кто с наибольшей вероятностью поймет ситуацию некомпетентного субъекта и будет действовать в его интересах. Лицу, уполномоченному действовать от имени субъекта, должна быть предоставлена возможность наблюдать за ходом исследования, чтобы иметь возможность отстранить субъекта от исследования, если такое действие отвечает наилучшим интересам субъекта.

Добровольность: Согласие на участие в исследовании является действительным согласием только в том случае, если оно было дано добровольно. Этот элемент информированного согласия требует условий, свободных от принуждения и неправомерного влияния. Принуждение происходит, когда одно лицо намеренно представляет открытую угрозу причинения вреда другому с целью добиться согласия. Неправомерное влияние, напротив, происходит через предложение чрезмерного, необоснованного, неуместного или ненадлежащего вознаграждения или другую инициативу с целью добиться согласия. Кроме того, побуждения, которые обычно приемлемы, могут стать неуместным влиянием, если субъект особенно уязвим.

Неоправданное давление обычно происходит, когда лица, занимающие руководящие должности или обладающие влиянием, особенно когда речь идет о возможных санкциях, настаивают на том, что субъект должен действовать. Тем не менее, существует континуум таких влияющих факторов, и невозможно точно сказать, где заканчивается оправданное убеждение и начинается неправомерное влияние. Однако неправомерное влияние может включать в себя такие действия, как манипулирование выбором человека с помощью контролирующего влияния близкого родственника и угроза отказа от медицинских услуг, на которые в противном случае человек имел бы право.

Оценка рисков и выгод требует тщательного сбора соответствующих данных, включая, в некоторых случаях, альтернативные способы получения выгод, искомых в исследовании. Таким образом, оценка представляет собой как возможность, так и ответственность за сбор систематической и всесторонней информации о предлагаемом исследовании. Для исследователя это средство проверить, правильно ли спланировано предлагаемое исследование. Для комитета по рассмотрению это метод определения того, оправданы ли риски, которые будут предъявлены субъектам. Для потенциальных субъектов оценка поможет определить, участвовать или нет.

Требование о том, чтобы исследования были обоснованы на основе благоприятной оценки риска/пользы, тесно связано с принципом благодеяния точно так же, как моральное требование о получении информированного согласия вытекает в первую очередь из принципа уважения к личности. Термин «риск» относится к возможности причинения вреда. Однако, когда используются такие выражения, как «небольшой риск» или «высокий риск», они обычно относятся (часто двусмысленно) как к вероятности (вероятности) причинения вреда, так и к серьезности (величине) предполагаемого вреда.

Термин «польза» используется в контексте исследования для обозначения чего-то положительного, связанного со здоровьем или благосостоянием. В отличие от «риска», «выгоды» – это не тот термин, который выражает вероятности. Риск правильно противопоставляется вероятности пользы, а польза правильно противопоставляется вреду, а не риску причинения вреда. Соответственно, так называемая оценка риска/пользы связана с вероятностями и величинами возможного вреда и ожидаемой пользы. Необходимо учитывать множество видов возможного вреда и пользы. Существуют, например, риски психологического вреда, физического вреда, юридического вреда, социального вреда и экономического вреда и соответствующих выгод. В то время как наиболее вероятными видами вреда для субъектов исследования являются психологические или физические боли или травмы, не следует упускать из виду и другие возможные виды.

Риски и преимущества исследования могут влиять на отдельных субъектов, семьи отдельных субъектов и общество в целом (или на особые группы субъектов в обществе). Предыдущие кодексы и федеральные правила требовали, чтобы риски для субъектов были перевешены суммой как ожидаемой пользы для субъекта, если таковая имеется, так и ожидаемой пользы для общества в виде знаний, которые будут получены в результате исследования. При уравновешивании этих различных элементов риски и преимущества, влияющие на непосредственный объект исследования, обычно имеют особый вес. С другой стороны, интересы, отличные от интересов субъекта, могут в некоторых случаях быть достаточными сами по себе, чтобы оправдать риски, связанные с исследованием, при условии, что права субъектов были защищены. Таким образом, благодеяние требует, чтобы мы защищались от риска причинения вреда субъектам, а также чтобы мы были обеспокоены потерей существенных преимуществ, которые могли бы быть получены от исследований.

Обычно говорят, что выгоды и риски должны быть «сбалансированы» и показываться «в благоприятном соотношении». Метафорический характер этих терминов обращает внимание на сложность вынесения точных суждений. Лишь в редких случаях количественные методы будут доступны для тщательного изучения протоколов исследований. Тем не менее, по мере возможности следует следовать идее систематического, непроизвольного анализа рисков и выгод. Этот идеал требует, чтобы те, кто принимает решения об обоснованности исследования, тщательно собирали и оценивали информацию обо всех аспектах исследования, а также систематически рассматривали альтернативы. Эта процедура делает оценку исследований более строгой и точной, в то же время делая общение между членами наблюдательного совета и исследователями менее подверженным неверному толкованию, дезинформации и противоречивым суждениям. Таким образом, в первую очередь должно быть определено обоснованность предпосылок исследования; тогда характер, вероятность и величина риска должны быть разграничены с максимально возможной ясностью. Метод определения рисков должен быть явным, особенно в тех случаях, когда нет альтернативы использованию таких расплывчатых категорий, как малый или незначительный риск. Также следует определить, являются ли обоснованными оценки исследователя вероятности вреда или пользы, если судить об этом на основании известных фактов или других доступных исследований.

Наконец, оценка оправданности исследования должна отражать, по крайней мере, следующие соображения: (i) Жестокое или бесчеловечное обращение с людьми никогда не является морально оправданным. (ii) Риски должны быть снижены до уровня, необходимого для достижения цели исследования. Следует определить, действительно ли вообще необходимо использовать людей. Риск, возможно, никогда не может быть полностью устранен, но его часто можно снизить, уделяя пристальное внимание альтернативным процедурам. (iii) Когда исследование сопряжено со значительным риском серьезного ухудшения здоровья, комитеты по обзору должны быть чрезвычайно настойчивы в обосновании риска (обычно обращая внимание на вероятность пользы для объекта исследования или, в некоторых редких случаях, на явную добровольность участия). (iv) В тех случаях, когда уязвимые группы населения привлекаются к исследованиям, должна быть продемонстрирована целесообразность их вовлечения. На такие суждения влияет ряд переменных, в том числе характер и степень риска, состояние конкретной вовлеченной популяции, а также характер и уровень ожидаемых выгод. (v) Соответствующие риски и выгоды должны быть тщательно изложены в документах и процедурах, используемых в процессе информированного согласия.

Подобно тому, как принцип уважения к личности находит выражение в требованиях к согласию и принцип благодетельства при оценке риска/выгоды, принцип справедливости порождает моральные требования о том, чтобы при выборе объектов исследования были справедливые процедуры и результаты.

Справедливость имеет отношение к выбору предметов исследования на двух уровнях: социальном и индивидуальном. Индивидуальная справедливость при выборе объектов требует от исследователей проявления справедливости: таким образом, они не должны предлагать потенциально полезные исследования только некоторым пациентам, которые в их пользу, или выбирать только «нежелательных» лиц для рискованных исследований. Социальная справедливость требует, чтобы проводилось различие между классами субъектов, которые должны и не должны участвовать в каком-либо конкретном виде исследований, основываясь на способности членов этого класса нести бремя и на уместности возложения дополнительного бремени на уже обремененных людей. Таким образом, с точки зрения социальной справедливости можно считать тот факт, что при выборе классов субъектов существует определенный порядок предпочтения (например, взрослые перед детьми) и что некоторые классы потенциальных субъектов (например, психически больные или заключенные) могут быть привлечены в качестве объектов исследования, если это вообще возможно, только при определенных условиях.

Несправедливость может проявиться в выборе тем, даже если отдельные объекты справедливо выбраны исследователями и справедливо рассматриваются в ходе исследования. Таким образом, несправедливость возникает из социальных, расовых, сексуальных и культурных предрассудков, институционализированных в обществе. Таким образом, даже если отдельные исследователи справедливо относятся к объектам своих исследований и даже если IRB заботятся о том, чтобы объекты выбирались справедливо в рамках конкретного учреждения, тем не менее могут проявиться несправедливые социальные модели в общем распределении бремени и выгод от исследований. Несмотря на то, что отдельные учреждения или исследователи могут быть не в состоянии решить проблему, которая широко распространена в их социальной среде, они могут учитывать распределительную справедливость при выборе объектов исследования.

Некоторые группы населения, особенно те, которые находятся в специализированных учреждениях, уже во многом обременены своими немощами и окружающей средой. Когда предлагается исследование, которое сопряжено с рисками и не включает терапевтический компонент, другие, менее обремененные классы лиц должны быть призваны в первую очередь принять эти риски исследования, за исключением случаев, когда исследование непосредственно связано с конкретными условиями рассматриваемого класса. Кроме того, даже несмотря на то, что государственные средства на исследования часто могут течь в тех же направлениях, что и государственные средства на здравоохранение, представляется несправедливым, что группы населения, зависящие от общественного здравоохранения, составляют пул предпочтительных объектов исследований, в то время как более благополучные группы населения, вероятно, будут получателями выгод.