Завещание подлежит толкованию: ГК РФ Статья 1132. Толкование завещания / КонсультантПлюс

Содержание

Обоснование субъективного подхода и допустимости внешних доказательств при толковании завещаний

Введение

Каким бы внимательным и аккуратным ни был завещатель, выражая свои намерения на бумаге, любое завещание подлежит толкованию. Только после этого этапа можно приступать к распределению наследства в соответствии с выявленным намерением. Здесь важно не ошибиться, поскольку широкая дискреция интерпретатора в толковании может повлечь замену воли наследодателя волей интерпретатора. И наоборот, его недостаточное усердие в поиске предполагаемой воли наследодателя может привести к тому, что права на имущество из наследственной массы безвозмездно получат те, кого совершенно не имел в виду наследодатель и, возможно, был даже против получения ими части наследства.

Толкование волеизъявлений не часто попадает в поле зрения исследователей. Обратившись к литературе по толкованию односторонних волеизъявлений, а тем более завещаний, трудно найти сколько-нибудь подробное освещение вопроса. Возможно, это можно объяснить общей недостаточностью интереса отечественной юриспруденции послереволюционного периода к наследственному праву — передавать по наследству попросту было нечего.

В зарубежной литературе толкованию завещания в широком смысле (включая его восполнение и исправление в нем ошибок) отводятся главы учебников по наследственному праву. Отечественная литература ограничивается, как правило, лишь указанием на схожесть с толкованием договора и единичными незатейливыми примерами применения правил о толковании. Такое положение дел не может быть приемлемым в свете предстоящего усложнения планирования передачи имущества после смерти.

Положения о толковании завещаний были впервые закреплены в ныне действующей третьей части ГК РФ и, как полагают многие комментаторы, являются отражением ст. 431 ГК РФ, посвященной толкованию договоров. Они же, основываясь на неполной зеркальности положений о толковании договора и толковании завещания, отмечают, что при толковании последнего недопустим учет иных, кроме его текста, доказательств. Недопустимость внешних доказательств является следствием стойкого убеждения в том, что к завещаниям безальтернативно применяется метод буквального толкования.

Статья предлагает критически взглянуть на упомянутые подходы и открывает дискуссию относительно возможных путей развития института толкования завещаний, основываясь в первую очередь на действующем тексте Гражданского кодекса.

В первой части работы изложен общий взгляд на толкование завещания и проведено его соотношение с восполнением и исправлением. Также приведены особенности завещания, непосредственно влияющие на применимые к нему методы толкования. В основной части кратко описываются общие методы толкования волеизъявлений и подвергается критике существующий подход, отдающий приоритет буквальному толкованию завещаний. Одновременно раскрывается практическая реализация субъективного подхода при толковании завещаний на основе действующих норм ГК РФ. Поскольку идея прочтения завещания глазами наследодателя (проявление субъективного подхода) невозможна

Толкование завещания принимается

Гражданский кодекс Российской Федерации:

Статья 1132 ГК РФ. Толкование завещания

При толковании завещания нотариусом, исполнителем завещания или судом принимается во внимание буквальный смысл содержащихся в нем слов и выражений.

В случае неясности буквального смысла какого-либо положения завещания он устанавливается путем сопоставления этого положения с другими положениями и смыслом завещания в целом. При этом должно быть обеспечено наиболее полное осуществление предполагаемой воли завещателя.

документа: Гражданский кодекс РФ часть 3 в действующей редакции

Комментарии к статье 1132 ГК РФ, судебная практика применения

В пп. 11.8 — 11.9 раздела 11 «Методических рекомендаций по оформлению наследственных прав» утвержденных решением Федеральной нотариальной палаты от 25.03.2019, протокол N 03/19 содержатся следующие разъяснения:

Толкование завещания наследодателя нотариусом

Нотариус осуществляет толкование завещания наследодателя в соответствии с требованиями ст. 1132 ГК РФ. При толковании завещания принимается во внимание буквальный смысл содержащихся в нем слов и выражений.

В случае неясности буквального смысла какого-либо положения завещания он устанавливается путем сопоставления этого положения с другими положениями и смыслом завещания в целом. При этом должно быть обеспечено наиболее полное осуществление предполагаемой воли завещателя.

При уяснении буквального значения (смысла) содержащихся в завещании слов и выражений устанавливается их общепринятое значение. При толковании правовых терминов применяется их значение, данное законодателем в соответствующих правовых актах. Закон не предоставляет нотариусу права использовать для выяснения истинной воли завещателя другие, кроме завещания, документы, например: письма завещателя, его дневники и т.п. Если последующее завещание не содержит прямых указаний об отмене прежнего завещания или отдельных содержащихся в нем распоряжений, нотариус путем сопоставления положений предыдущего и последующего завещаний определяет, в какой части предыдущее завещание противоречит последующему. Если наследники не согласны с толкованием завещания нотариусом, признание их права на наследство по такому завещанию осуществляется в судебном порядке.

Последствия наличия в завещании распоряжений завещателя, противоречащих закону

Если в завещании имеются распоряжения завещателя, противоречащие действующему закону либо ограничивающие наследников или отказополучателей в правоспособности, то они толкуются нотариусом как не написанные, но это не влияет на признание других, не противоречащих закону распоряжений завещателя, содержащихся в данном завещании.

В главе IV. «Порядок удостоверения завещаний» Методических рекомендаций по удостоверению завещаний, принятию нотариусом закрытого завещания, вскрытию и оглашению закрытого завещания», утвержденных Решением Правления ФНП от 01-02.07.2004 года содержатся следующие разъяснения:

Выяснение нотариусом воли завещателя

В соответствии со ст. 54 Основ нотариус обязан выяснить волю завещателя, направленную на определение судьбы имущества завещателя на день его смерти.

Воля завещателя может быть выяснена в ходе личной беседы нотариуса и завещателя о действительном и свободном намерении завещателя составить завещание в отношении определенных лиц и определенного имущества.
Нотариус принимает меры, позволяющие завещателю изложить волю свободно, без влияния третьих лиц на ее формирование.

Изложение текста завещания

Для обеспечения наиболее полного осуществления воли завещателя (ст. 1132 ГК РФ) текст завещания должен точно воспроизводить волю завещателя, а положения завещания — излагаться ясно и однозначно, исключая возможность различного толкования завещания.

Двойные формулировки, неточности и ошибки являются частыми «сопровождающими» любых документов правового характера и причинами споров между сторонами. А если речь идет о завещании – кто и каким образом исправит ошибки, допущенные при его составлении? Или достаточно будет осуществить толкование его содержания судом на основании положений ст. 1256 Гражданского кодекса Украины? Каждый случай индивидуален и требует особого подхода для разрешения спора. В материале, предлагаемом для рассмотрения, содержание исковых требований определило весь ход дела (см. постановление Верховного Суда от 05.12.2018 г., производство № 61-20484св18).

Истец пытался осуществить оформление права собственности на имущество на основании завещания. О чем подал заявление в нотариальную контору, но получил отказ. В своих объяснениях нотариус ссылался на расхождение данных в правоустанавливающих документах умершего родственника и в его завещании. Во-первых, в одном из этих документов наследуемое здание носит название «дом», а в другом документе – «домовладение»; во-вторых, имеет место неточность и в нумерации здания. В связи с данными обстоятельствами истец оказался в ситуации невозможности унаследовать имущество по завещанию и вынужден был подать иск в суд.

Так, ссылаясь на упомянутые обстоятельства, истец просил суд осуществить толкование завещания в части состава и характеристики наследственного имущества таким образом, чтобы отождествить объекты права собственности по завещанию и правоустанавливающим документам умершего родственника. И именно с этого момента для истца начинается долгая дорога к тому, как за ним, возможно, будет установлено право собственности на указанное имущество.

Суд первой инстанции отказал в удовлетворении заявленных требований, ссылаясь на то, что в самом завещании отсутствуют какие-либо противоречия и неточности и что оно записано со слов завещателя.

Суд разъяснил, что при толковании завещания не допускается внесение изменений в его содержание, а следовательно правовые основания для удовлетворения заявленных требований отсутствуют.

Суд апелляционной инстанции поддержал данное решение, соглашаясь с его полным правовым обоснованием. Понятное дело, истец не остановился в своей борьбе за собственные права и направил кассационную жалобу в Верховный Суд, в которой просил отменить решения предыдущих судов.

При осуществлении проверки судебных решений в пределах исковых требований Верховный Суд разъяснил следующее:

1) толкование содержания завещания является лишь инструментом выяснения воли завещателя после его смерти;

При толковании содержания завещания суд не может изменять и искажать волю завещателя.

2) толкование содержания сделок имеет место в случаях нечеткого выявления воли сторонами и при условии установления их действительного намерения, общих для всех сторон значений слов и понятий;

3) решение о толковании сделки может быть вынесено только при рассмотрении юридического спора между ними (ссылаясь на п. 3 постановления Пленума Верховного Суда Украины от 06.11.2009 г. № 9).

Верховный Суд согласился с заключениями судов первой и апелляционной инстанций о том, что заявленные истцом неточности и ошибки в данном случае не могут быть устранены путем толкования содержания завещания в соответствии с требованиями действующего законодательства. Поскольку истцом другие требования не заявлялись, то Суд принял решение об оставлении кассационной жалобы без удовлетворения, а решений предыдущих судов – без изменений.

Как усматривается из содержания постановления ВС, для истца верным было бы подать иск не о толковании содержания завещания, а о признании права на имущество в порядке наследования. Ведь, согласно заключениям ВС, при толковании содержания завещания суд не устраняет ошибок и неточностей, а выясняет волю завещателя. Вероятно, в данном случае истец будет вынужден заново пройти судебную процедуру защиты своих прав, но с измененным содержанием исковых требований.

Толкование завещания

Толкование завещания представляет собой, если несколько перефразировать мысль В. А. Белова, процесс выяснения воли лица, выраженной им в завещании. Правовая задача и цель толкования завещания заключаются в реальном обеспечении осуществления посмертной воли наследодателя. Толкование завещания позволяет наиболее точно выполнить завещательные распоряжения и тем самым гарантировать права наследников по завещанию и по закону, других лиц, чьи права основаны на завещательном отказе или завещательном возложении, или на праве общей собственности на объекты завещательных распоряжений и пр. В литературе высказано мнение, что сама надобность в толковании завещания «проистекает из возможного несоответствия или противоречия между намерениями и словами, в которых они выражены… Посредством толкования завещания устраняются неясности и противоречия в содержании завещания, препятствующие его исполнению». К. Б. Ярошенко пишет по этому поводу, что «как бы ни был формализован порядок совершения завещания, не исключены случаи, когда воля завещателя изложена в нем недостаточно четко, в результате чего создается неопределенность или двусмысленность в содержании завещания… В этих случаях с целью определения действительной воли завещателя допускается толкование завещания».

Как видно из приведенных высказываний, по мнению цитированных авторов, толкование завещания может иметь место или даже допускается (!) только тогда, когда субъекту толкования неясно содержание последней воли умершего. Спрашивается: а что же собой представляет тот умственный процесс, протекающий в сознании толкователя, результатом которого является вывод о том, что распоряжения завещателя абсолютно ясны? Думается, что отрицать тот очевидный факт, что процесс этот и является толкованием завещания, нет нужды. Подчеркнем в связи с этим еще раз, что толкование завещания — это уяснение воли завещателя, осуществляемое указанными в законе субъектами всякий раз, когда открывается наследство по завещанию и встает вопрос о возможности исполнения соответствующих распоряжений об имуществе, а не только в случае неясности текста документа, учиненного наследодателем. Как верно отмечает В. А. Белов, «ясность» и «неясность» применительно к юридической герменевтике — понятия крайне субъективные, неопределенные и оценочные. Само собой, что необходимость толкования завещаний особенно остра в случаях, если оставлено два и более завещания и требуется устранить обнаруженные в них противоречия, исходя из того, какие из завещательных распоряжений отменены или изменены, какие — сохранили значение действующих, либо в случаях, если предъявлены требования о признании недействительным завещания в связи с допущенными нарушениями порядка его составления или удостоверения, либо в случае, если представленный в качестве завещания документ вызывает сомнения как соответствующий свойствам завещания, и др.

Субъектами толкования завещания в законе (ст. 1132 ГК РФ) названы нотариус, исполнитель завещания и суд. Нотариус или иное удостоверяющее завещание лицо осуществляет толкование уже на той стадии, когда представленный для удостоверения документ является проектом завещания. В соответствии со ст. 54 Основ законодательства о нотариате нотариус обязан разъяснить смысл и значение представленного проекта сделки, в частности завещания, и проверить, соответствует ли его содержание действительному намерению субъекта сделки и не противоречит ли оно требованиям закона. Если смысл отдельных распоряжений завещания не вполне ясен или противоречит другим распоряжениям, нотариус обязан рекомендовать завещателю устранить недостатки текста завещания, разъясняя правила наследования и предупреждая о последствиях совершаемых в нотариальном порядке действий, что вытекает из обязанностей нотариуса, предусмотренных ст. 16 Основ законодательства о нотариате. Если по результатам толкования проекта завещания нотариус приходит к выводу об отсутствии формальных и содержательных его пороков, текстуальных неточностей и пр., то данный вывод получает объективацию в удостоверении завещания. Несогласие завещателя с толкованием проекта завещания нотариусом и отказ в удостоверении завещания дают право завещателю обжаловать действия нотариуса в суде или обратиться к другому нотариусу.

На стадии исполнения завещания и выдачи свидетельства о праве на наследство нотариус в соответствии со ст. 73 Основ законодательства о нотариате знакомится с текстом завещания для решения вопросов о характере распоряжений, составе завещанного наследственного имущества, круге наследников по завещанию, круге лиц, имеющих право на обязательную долю в наследстве, и др. — осуществляет толкование завещания в собственном смысле слова. Указанный процесс находит свое объективное выражение в документально оформленных действиях нотариуса: выданном свидетельстве о праве на наследство по завещанию и по закону, письменном мотивированном отказе нотариуса от совершения нотариальных действий. Естественно, что такой отказ может быть также обжалован в суде.

Применительно к судебному толкованию завещания необходимо заметить следующее. Как указывает Т. Д. Чепига, толкование завещания судом осуществляется в процессе рассмотрения исковых требований или иных заявлений, связанных с наследственными правоотношениями. Толкование завещания необходимо для юридической чистоты основания, порождающего права определенных лиц на наследство либо устраняющего определенных лиц от наследства. Поэтому толкование завещания, являющееся условием признания права наследования либо отказа в праве на наследство, может осуществляться судом только в исковом производстве по делу о признании права на наследство. Следовательно, нельзя возбудить отдельное производство по делу о толковании завещания, обособленное от производства по иску о праве на наследство по закону или по завещанию.

Указанный автор, анализируя один судебный казус, полагает, что следовало бы признать ошибочным решение районного суда об установлении юридического факта принадлежности определенному лицу завещания, в котором было неправильно указано полное имя наследника по завещанию, которым заявитель считает себя. Суд, давая толкование завещания, принял во внимание, что допущено лишь несовпадение имени наследника в завещании и в его официальных личных документах при правильном указании фамилии и отчества наследника, что наследник по завещанию являлся известным единственным родственником наследодателя, между которыми поддерживались постоянные личные связи. Само толкование завещания, данное судом, не может вызвать возражений. Однако дело следовало рассматривать в порядке искового производства и выносить решение по иску лица, считающего себя наследником по завещанию, о признании за ним права на наследство. Завещание — это и юридический факт, и документ. Однако завещание не может принадлежать указанным в нем наследникам, но порождает их права на наследство, признание которых при необходимости может стать предметом исковых требований. Источником умозаключений при толковании завещания является исключительно само завещание, составленное из слов и выражений, образующих его текст. Никакие другие документы, как то: переписка, дневники, сохранившиеся наброски и варианты проекта завещания, заявления в государственные органы (например, о регистрации по месту жительства «будущего наследника»), никакие свидетельские показания относительно намерений завещателя, их характера, личных связей и обстоятельств жизни завещателя, его взаимоотношений с наследниками и другие не могут служить дополнительной информацией для выводов о смысле завещания. Нельзя согласиться с тем, что «какие-либо пробелы, неясности, неточности» завещания «подлежат восполнению или устранению путем толкования завещания и учету других, имеющих существенное значение для установления предполагаемой воли завещателя обстоятельств». Такой подход оправдывает свободную подмену воли завещателя волей толкователя завещания, что не соответствует назначению завещания и позиции закона.

Для установления воли завещателя необходимо прежде всего выяснить буквальное значение слов и выражений, содержащихся в тестаментарном документе (ст. 1132 ГК РФ). Это и понятно — субъект толкования завещания имеет дело не с чем иным, как с текстом — набором словосочетаний, выраженных на том или ином языке. Следовательно, «исходным материалом» при толковании завещания являются те лексические значения, которые обычно имеют данные слова и словосочетания в этом языке. Это приобретает особое значение в связи с совершением закрытых завещаний, в которых завещатель мог использовать слова и выражения, относящиеся к словарному фонду местного диалекта. По мысли законодателя, буквальный смысл завещания и составляет ту цель, которую должен преследовать толкователь — при неясности значения того или иного положения завещания он должен обратиться к иным его положениям, установить смысл завещания в целом, чтобы уяснить именно буквальный смысл неясного тезиса тестаментарного текста. Именно такая — абсолютно верная — мысль заложена в упомянутой выше статье ГК РФ. Уяснение смысла завещания в целом выступает основой и итогом понимания отдельных элементов текста — слов, терминов, выражений, логических связей между ними, что позволяет найти единство и согласованность всех распоряжений и условий, составляющих содержание завещания, и придает целостность толкованию завещания. Иными словами, необходимо выяснить не то, что, вероятно, хотел сказать завещатель, а то, что он сказал. Особенности толкования завещания связаны с пониманием индивидуальности завещателя и завещания, своеобразия обстоятельств и условий, в которых сформировалась воля завещателя, поэтому ни типичные по содержанию распоряжения, ни известные обыкновения, ни разумно понимаемые намерения завещателя не могут служить путеводителем при толковании завещаний. В связи с этим в литературе правильно указывается на недопустимость расширительного или ограничительного толкования завещаний. Однако законодатель, конструируя правила ст. 1132 ГК РФ о толковании завещания, впал (смеем надеяться, не по умыслу) в противоречие с самим собой, указав, что цель, достигаемая посредством толкования, состоит в обеспечении наиболее полного осуществления предполагаемой (!!!) воли завещателя. Подчеркнем еще раз, что завещание толкуется для выяснения (а в дальнейшем — и осуществления) подлинных, истинных, реальных намерений лица, завещание учинившего.

Как составить завещание?

Наследование осуществляется по завещанию, наследственному договору и закону. При этом распорядиться имуществом на случай смерти можно путем совершения завещания или заключения наследственного договора.

Завещание является односторонней сделкой, которая создает права и обязанности после открытия наследства (ч. 1 ст. 1111, п. п. 1, 5 ст. 1118 ГК РФ).

В целях составления завещания рекомендуем придерживаться следующего алгоритма.

Шаг 1. Составьте завещание

Завещание может быть совершено гражданином как единолично, так и совместно с супругом, с которым в момент совершения завещания гражданин состоит в браке (совместное завещание супругов).

В момент совершения завещания гражданин должен обладать полной дееспособностью (ст. 21, п. п. 2, 4 ст. 1118 ГК РФ).

Содержание завещания определяется свободной волей завещателя (супругов — в случае составления ими совместного завещания) (п. 4 ст. 1118, п. 1 ст. 1119 ГК РФ).

Завещатель (супруги) вправе по своему усмотрению в том числе (п. 1 ст. 123.20-1, абз. 2 п. 1 ст. 1116, п. 4 ст. 1118, ст. ст. 1119 —1121, п. 1 ст. 1134, ст. ст. 1135, 1139 ГК РФ):

· завещать имущество (в том числе то имущество, которое будет приобретено в будущем) любым лицам, как входящим, так и не входящим в круг наследников по закону, определив их доли любым образом;

· предусмотреть в завещании создание на основе имущества завещателя наследственного фонда, предназначенного для управления этим имуществом;

· назначить исполнителя завещания и определить его полномочия;

· включить в завещание иные распоряжения, в том числе о возложении на наследников имущественных обязанностей.

При этом в совместном завещании супруги вправе, в том числе завещать общее имущество и имущество каждого из них (п. 4 ст. 1118 ГК РФ).

На завещании (кроме закрытого) должны быть указаны место и дата его удостоверения (п. 4 ст. 1124 ГК РФ).

Завещание излагается в свободной форме, четким и понятным языком, позволяющим однозначно понять волю завещателя. При его толковании нотариусом, исполнителем завещания или судом принимается во внимание буквальный смысл содержащихся в нем слов и выражений (ст. 1132 ГК РФ).

Завещание должно быть составлено письменно. Оно может быть выполнено при помощи технических средств (обычно текст набирается на компьютере и распечатывается). В отдельных случаях завещание должно быть собственноручно написано завещателем, например, завещание, совершенное в чрезвычайных обстоятельствах, и закрытое завещание (п. 1 ст. 1124, п. 1 ст. 1125, п. 2 ст. 1126, п. 1 ст. 1129 ГК РФ).

В случае если завещатель либо супруги намерены создать наследственный фонд, завещание должно включать (п. 4 ст. 50.1, п. 4 ст. 123.20-1, п. 5 ст. 1124 ГК РФ):

· решение об учреждении наследственного фонда, содержащее сведения о порядке, размере, способах и сроках образования имущества наследственного фонда, лицах, назначаемых в состав органов данного фонда, или о порядке определения таких лиц;

· устав фонда;

· условия управления фондом, в том числе сведения о выгодоприобретателях наследственного фонда и порядке передачи им имущества фонда.

Шаг 2. Подпишите завещание

Завещание подлежит подписанию завещателем, а совместное завещание — супругами. Подпись должна быть собственноручной (факсимиле и другие «заменители» подписи не допускаются). Если в связи с болезнью и другими обстоятельствами завещатель не может сам подписать завещание, его подписывает так называемый рукоприкладчик, подпись которого удостоверяет нотариус (п. 3 ст. 1125 ГК РФ).

Шаг 3. Удостоверьте завещание нотариально

По общему правилу завещание должно быть нотариально удостоверено. Для этого можно обратиться к любому нотариусу независимо от того, работает ли он в государственной нотариальной конторе или занимается частной нотариальной практикой, а также независимо от места жительства завещателя. Удостоверить завещание можно непосредственно в нотариальной конторе либо дома или в больнице, где находится завещатель. Удостоверяя завещание, нотариус проверяет законность его содержания, за исключением случая, когда составляется закрытое завещание (п. 1 ст. 1124, п. 1 ст. 1126 ГК РФ).

При этом завещание, условия которого предусматривают создание наследственного фонда, а также совместное завещание супругов не могут быть закрытыми и совершенными в чрезвычайных обстоятельствах (п. 5 ст. 1126, п. 4 ст. 1129 ГК РФ).

Завещание может быть совершено только лично, то есть не через представителя. При удостоверении завещания присутствие завещателя (супругов) обязательно (п. 3 ст. 1118 ГК РФ).

Кроме того, при удостоверении завещания могут, а в особых случаях должны присутствовать свидетели. При этом такими свидетелями не могут быть, в частности, нотариус; неграмотные; лицо, в пользу которого составлено завещание или сделан завещательный отказ, супруг указанного лица, его дети и родители; супруг при совершении совместного завещания супругов (п. 2 ст. 1124, п. 4 ст. 1125, п. 3 ст. 1126, п. 2 ст. 1127, п. 1 ст. 1129 ГК РФ).

Совместное завещание супругов должно быть передано нотариусу обоими супругами. В случае написания завещания одним из супругов оно должно быть полностью прочитано другим супругом в присутствии нотариуса.

Также при удостоверении совместного завещания супругов нотариус обязан осуществлять видеофиксацию процедуры совершения завещания, если у супругов отсутствуют возражения (п. п. 1, 2, 5.1 ст. 1125 ГК РФ).

За нотариальное удостоверение завещания уплачивается государственная пошлина (или нотариальный тариф — при обращении к частному нотариусу) (ч. 1, 2 ст. 22 Основ законодательства РФ о нотариате).

Шаг 3.1. Оформите завещание без участия нотариуса

В некоторых случаях обращение к нотариусу для завещателя затруднительно или невозможно. Закон предлагает два выхода из этой ситуации (ст. ст. 1124 — 1129 ГК РФ):

1) если гражданин находится в чрезвычайных обстоятельствах, угрожающих смертью, он может составить завещание в простой письменной форме в присутствии двух свидетелей, соответствующих установленным требованиям. Однако в течение месяца после прекращения таких обстоятельств завещание должно быть совершено в нотариальной либо приравненной к ней форме, иначе оно утратит силу;

2) завещание может быть удостоверено указанными в законе должностными лицами и приравнивается в этих случаях к нотариально удостоверенным завещаниям.

Отметим, что совместное завещание супругов не может быть удостоверено в указанном порядке (п. 5 ст. 1127, п. 4 ст. 1129 ГК РФ).

Завещания, приравненные к нотариально удостоверенным:

Где находится гражданин

Кто вправе удостоверить его завещание

На территории поселения, где отсутствует нотариус

Должностные лица органов местного самоуправления поселения (ст. 37 Основ законодательства РФ о нотариате; п. 7 ст. 1125 ГК РФ)

На территории иностранного государства

Должностные лица консульских учреждений (ст. 38 Основ законодательства РФ о нотариате; п. 7 ст. 1125 ГК РФ)

На излечении в медицинской организации на стационарных условиях или в доме для престарелых и инвалидов

Главный врач, его заместитель по медицинской части или дежурный врач медицинской организации, начальник госпиталя, директор или главврач дома для престарелых и инвалидов (пп. 1 п. 1 ст. 1127 ГК РФ)

Во время плавания на судне, плавающем под Государственным флагом РФ

Капитан судна (пп. 2 п. 1 ст. 1127 ГК РФ)

В разведочной, арктической или другой подобной экспедиции

Начальник экспедиции (пп. 3 п. 1 ст. 1127 ГК РФ)

В пункте дислокации воинских частей, где нет нотариусов

Командир воинской части (пп. 4 п. 1 ст. 1127 ГК РФ)

В местах лишения свободы

Начальник мест лишения свободы (пп. 5 п. 1 ст. 1127 ГК РФ)

Кроме того, завещательное распоряжение гражданина относительно его денег в банке может удостоверить сотрудник этого банка, имеющий право исполнять распоряжения клиента в отношении средств на его счете (п. 2 ст. 1128 ГК РФ).

Самые общие вопросы частного права… — Журнал «Цивилистика»

Светофор, корова, детский поезд…немного о нестандартных ИПО 🤔

К нестандартным источникам повышенной опасности (ИПО) предъявляется повышенное внимание. Интересен и важен вопрос о действующем регулировании данного вопроса. Говоря об ИПО, законодатель в ст. 1079 ГК перечисляет объекты, использование которых связано с повышенной опасностью. Однако этот перечень открытый, поэтому непонятно, что же может подпадать под категории «т.п.» и «д.р.»?

Немного о судебной практике:

📌 Светофор в практике судов может рассматриваться как ИПО. Одна из позиций – все то, что находится на дороге, – ИПО. Однако это не лучшее обоснование – доведя его до абсурда, можно сказать, что и пешеходы тогда тоже ИПО.

Другая – поломанный светофор может являться ИПО – поскольку он регулирует ситуации, которые потенциально могут привести к серьезным последствиям, в вышедшем из строя состоянии он может представлять значительную угрозу.

Суды кассационных инстанций не считают светофор в качестве ИПО. И это верно, поскольку отнесение таких специфичных предметов к ИПО может размыть критерий, с помощью которого и происходит формирование данного понятия.

🚆 Также в качестве ИПО могут рассматриваться железнодорожные переезды. В одном из кейсов имело место столкновение поезда и автомобиля на железнодорожном переезде. Суд согласился с тем, что ж/д переезд – место опасное, но не признал его ИПО. Это и другие дела свидетельствуют о том, что само место не может рассматриваться в качестве ИПО. Позиция – крайне важная!

🐰 🦌 Подходы относительно животных разнятся (ведь животное животному рознь)

Практика, опираясь на критерий контроля, исходит из того, что в случае если домашнее животное причинило вред, он подлежит возмещению владельцем. Но также есть и кейсы, в которых обращается внимание на опасные свойства объектов – можно выделить случаи, когда маленьких и безобидных животных не признают в качестве ИПО. И наоборот, бойцовские породы собак признаются ИПО априори, в силу своих особенностей, а именно агрессивности и т.д.

Обозначенную выше позицию поддерживает и Верховный Суд РФ – внимательно изучив признаки домашней коровы, покинувшей хлев и столкнувшейся с транспортным средством, отказал в признании ее источником повышенной опасности.

Можно ли признать речную лодку ИПО — скажем, надувную шлюпку?

👉 Эти и другие вопросы подробно были освещены в рамках нашего семинара: «Причинение вреда источником повышенной опасности».

Приобретение записи доступно по ссылке:
https://civilist.club/event/20210715

🎥 О примерах ИПО, судебной практике и позициях доктрины – вы можете узнать уже сейчас, посмотрев новый ролик на нашем YouTube-канале:
https://youtu.be/VMfS0o0OJkE

Исполнение завещания — порядок, толкование, в РФ

Определение исполнения завещания состоит в реализации действий юридической и фактической направленности. Причем действия могут реализовываться, даже если они не указаны в завещании, но требуются для полноценного выполнения воли умершего.

В юридической среде данное понятие рассматривается с материальной и формальной стороны.

Формальная сторона заключается в исполнении законодательных действий юридического лица, которые необходимы для:

  • определения всех наследников;
  • проведения с ними наследственных процедур;
  • оформления необходимых документов и других действий.

Материальная сторона реализации составленного завещания – это деятельность некоторых граждан, участие которых обязательно для проведения процедуры.

Законодательство

Все условия и порядок исполнения завещания подробно описаны в статье 1133 Гражданского кодекса Российской Федерации.

Исполнение завещания

С момента смерти владельца собственности, в силу вступает порядок реализации составленного завещания. Обычно ответственность по исполнению возлагается на граждан, чьи имена прописаны в наследственном документе.

Но в отдельных случаях, наследодатель может назначить душеприказчика, то есть лицо, ответственное за исполнение завещания.

Факт реализации составленного документа заключается в том, что наследник или душеприказчик должны предпринять все юридические законные действия для полноценного вступления в наследство.

К таким действиям относится охрана, передача его потенциальным кандидатам в наследство, изъятие из чужого владения.

Со стороны юридического специалиста исполнение завещания предполагает проведение всех законодательных процедур для выдачи претендентам на наследуемую собственность свидетельства о получении наследства.

Здесь можно скачать образец завещания.

Субъекты

Согласно статье 1133 ГК России субъектами на реализацию наследственных процедур назначаются:

  • лица, указанные в завещании;
  • лицо, назначенное исполнителем завещания, то есть душеприказчик.

Толкование

Завещатель может возложить реализацию исполнения завещания на отдельное лицо, если:

  • существует высокий риск споров и конфликтных ситуаций между получателями наследства;
  • наследники не достигли совершеннолетия;
  • наследники находятся в недееспособном состоянии;
  • наследуемое имущество предполагает наличие определенных навыков для его использования;
  • имеются серьезные заболевания у получателей наследства;
  • нужно защититься от оспаривания наследства при исполнении воли наследодателя.

Как проходит процесс?

Список обязанностей исполнителя прописан в статье 1135 Гражданского кодекса России.

Если в завещании не указано другое, то исполнителю следует предпринять следующие меры для реализации процедуры вступления в наследство:

  • гарантировать наследникам или наследнику полноценное вступление в полагающееся им наследство и обеспечить их долей имущества согласно воле наследодателя;
  • самостоятельно или с помощью юридического специалиста выполнить меры по защите и охране наследуемого имущества;
  • если наследодателю полагаются какие-либо денежные выплаты, то их необходимо передать наследникам, если данный факт указан в документе о наследстве;
  • при наличии завещательного возложения, следует добиться его исполнения, либо требовать от получателей наследства реализации завещательного отказа или реализации завещательного возложения.

Отмена и изменение

Относительно завещания действует свобода его составления, поэтому наследодатель может в любой момент отказаться или изменить условия получения наследства (на основании статьи 1130 ГК РФ).

При этом он не обязан указывать причины, которые побудили его изменить документ о наследстве.

Это может быть связано с тем, что он:

  • больше не является владельцем имущества, прописанного в наследстве;
  • изменил положительное отношение к получателям наследуемого имущества.

Здесь можно посмотреть образец заявления об изменении условий завещания.

Составитель завещания может, как полностью исключать наследников из завещания, так и добавлять новых, изменять доли наследования.

Процедура отмены и изменения должна проводиться только в присутствии юридического специалиста и каждый раз подлежит оплате.

Принятие наследства

С первого дня смерти составителя наследства завещание считается открытым. Наследникам необходимо подать заявление в нотариальный орган в течение 6 календарных месяцев со дня смерти наследодателя.

Это время отводится для того, чтобы все потенциальные наследники смогли узнать о возможном наследовании и заявить свои кандидатуры.

Получателям наследства нужно:

  • составить заявление;
  • приложить к нему список необходимых документов, обязательно заверив документ у нотариуса.

После составления наследственного дела должно пройти еще 6 месяцев, после чего наследник или наследники вновь приходят в нотариальную контору для получения свидетельства.

Данное свидетельство является законодательным правом на получение наследуемого имущества.

Принятие наследства может проходить согласно составленному завещанию и по закону.

Преимущественным считается составленное завещание, а при его отсутствии в действие вступает порядок очередности, который определяется в зависимости от близости родства с составителем документа о наследстве.

Отказ

В установленный срок до 6 месяцев со дня смерти владельца наследуемой собственности получатели наследства могут совершить отказ от имущества в соответствии со статьей 1157 ГК РФ.

По желанию, наследник может прописать, что выполняет отказ в пользу (статья 1158 ГК РФ):

  • других лиц, которые указаны в документе или являются наследниками по закону;
  • государства;
  • любой другой организации, ведущей общественную и кооперативную деятельность.

Также наследник может не указывать причины, которые побудили его совершить отказ и указывать в чью пользу выполняется процедура отказа.

Однако если наследник уже подал в нотариальный орган заявление о желании вступить в наследство или получил готовое свидетельство для вступления, то его отказ не может быть реализован по законодательным причинам.

Образец заявления о принятии наследства представлен здесь.

Чтобы выполнить отказ согласно установленным правилам законодательства, получателю наследства необходимо подать заявление в юридическую контору в пункте открытия наследства.

Отказ от наследства совершается с помощью составления заявления в нотариальный орган по месту открытия наследственного дела.

В наследственной практике встречаются случаи, когда получатель наследства, который должен был стать наследником по составленному завещанию или по закону, умер, но успел вступить в наследство.

Тогда право вступить в полагающуюся ему по наследству долю могут принять его наследники в порядке очередности или по имеющемуся завещанию.

Если наследник отказывается от собственной доли имущества по закону, или не может получить наследство по законодательным причинам, то его наследственная доля распределяется в равных частях между другими кандидатами на получение наследства.

На видео о вступлении в наследство

3. Толкование и исполнение завещания

Для правильного исполнения завещания нотариусом, исполнителем или судом оно должно быть правильно истолковано. При толковании завещания нотариусом, исполнителем завещания или судом принимается во внимание буквальный смысл содержащихся в нем слов и выражений. В случае неясности буквального смысла какого-либо положения завещания он устанавливается путем сопоставления этого положения с другими положениями и смыслом завещания в целом. При этом должно быть обеспечено наиболее полное осуществление предполагаемой воли завещателя (ст. 1132 ГК РФ).

Исполнение завещания осуществляется наследниками по завещанию, за исключением случаев, когда его исполнение полностью или в определенной части осуществляется исполнителем завещания (ст. 1133 ГК РФ). Завещатель может поручить исполнение завещания указанному им в завещании гражданину — душеприказчику (исполнителю завещания) независимо от того, является ли этот гражданин наследником (ст. 1134 ГК РФ).

Согласие гражданина быть исполнителем завещания выражается этим гражданином в его собственноручной надписи на самом завещании, или в заявлении, приложенном к завещанию, или в заявлении, поданном нотариусу в течение месяца со дня открытия наследства. Гражданин признается также давшим согласие быть исполнителем завещания, если он в течение месяца со дня открытия наследства фактически приступил к исполнению завещания.

После открытия наследства суд может освободить исполнителя завещания от его обязанностей как по просьбе самого исполнителя завещания, так и по просьбе наследников при наличии обстоятельств, препятствующих исполнению гражданином этих обязанностей.

Полномочия исполнителя завещания основываются на завещании, которым он назначен исполнителем, и удостоверяются свидетельством, выдаваемым нотариусом. Если в завещании не предусмотрено иное, исполнитель завещания должен принять необходимые для исполнения завещания меры, в том числе:

1) обеспечить переход к наследникам причитающегося им наследственного имущества в соответствии с выраженной в завещании волей наследодателя и законом;

2) принять самостоятельно или через нотариуса меры по охране наследства и управлению им в интересах наследников;

3) получить причитающиеся наследодателю денежные средства и иное имущество для передачи их наследникам, если это имущество не подлежит передаче другим лицам;

4) исполнить завещательное возложение либо требовать от наследников исполнения завещательного отказа или завещательного возложения.

Исполнитель завещания вправе от своего имени вести дела, связанные с исполнением завещания, в том числе в суде, других государственных органах и государственных учреждениях (ст. 1135 ГК РФ).

Исполнитель завещания имеет право на возмещение за счет наследства необходимых расходов, связанных с исполнением завещания, а также на получение сверх расходов вознаграждения за счет наследства, если это предусмотрено завещанием (ст. 1136 ГК РФ).

4. Завещательный отказ и завещательное возложение

В счет завещанного имущества завещатель вправе возложить на определённое лицо/лиц-наследников, исполнение определённых обязательств. Это называется завещательным отказом (легатом), а лицо, на которого возложены обязанности – отказополучателем (легаторием). Отказополучатель в таком случае становится кредитором наследника, принявшего наследство. В завещании должен быть установлен завещательный отказ. Содержание завещания может исчерпываться завещательным отказом (ст. 1137 ГК РФ).

Например, наследника, к которому переходит жилой дом, квартира или иное жилое помещение, завещатель может обязать предоставить другому лицу на период жизни этого лица или на иной срок право пользования этим помещением или его определенной частью.

Право на получение завещательного отказа действует в течение трех лет со дня открытия наследства и не переходит к другим лицам. Однако отказополучателю в завещании может быть подназначен другой отказополучатель на случай, если назначенный в завещании отказополучатель умрет до открытия наследства или одновременно с наследодателем, либо откажется от принятия завещательного отказа или не воспользуется своим правом на получение завещательного отказа, либо лишится права на получение завещательного отказа.

Наследник, на которого завещателем возложен завещательный отказ, должен исполнить его в пределах стоимости перешедшего к нему наследства за вычетом приходящихся на него долгов завещателя. Если наследник, на которого возложен завещательный отказ, имеет право на обязательную долю в наследстве, его обязанность исполнить отказ ограничивается стоимостью перешедшего к нему наследства, которая превышает размер его обязательной доли. Если завещательный отказ возложен на нескольких наследников, такой отказ обременяет право каждого из них на наследство соразмерно его доле в наследстве постольку, поскольку завещанием не предусмотрено иное. Если отказополучатель умер до открытия наследства или одновременно с завещателем, либо отказался от получения завещательного отказа или не воспользовался своим правом на получение завещательного отказа в течение трех лет со дня открытия наследства, либо лишился права на получение завещательного отказа, наследник, обязанный исполнить завещательный отказ, освобождается от этой обязанности, за исключением случая, когда отказополучателю подназначен другой отказополучатель (ст. 1138 ГК РФ).

Завещатель может в завещании возложить на одного или нескольких наследников по завещанию или по закону обязанность совершить какое-либо действие имущественного или неимущественного характера, направленное на осуществление общеполезной цели (завещательное возложение). Такая же обязанность может быть возложена на исполнителя завещания при условии выделения в завещании части наследственного имущества для исполнения завещательного возложения. К завещательному возложению, предметом которого являются действия имущественного характера, соответственно применяются правила статьи 1138 ГК РФ. Заинтересованные лица, исполнитель завещания и любой из наследников вправе требовать исполнения завещательного возложения в судебном порядке, если завещанием не предусмотрено иное (ст. 1139 ГК РФ).

Если вследствие обстоятельств доля наследства, причитавшаяся наследнику, на которого была возложена обязанность исполнить завещательный отказ или завещательное возложение, переходит к другим наследникам, последние постольку, поскольку из завещания или закона не следует иное, обязаны исполнить такой отказ или такое возложение (ст. 1140 ГК РФ).

31.08.2011 Наследство со сроком давности. Верховный суд объяснил, когда можно и нельзя пересматривать старое завещание («Российская газета»)

Верховный суд затронул очень болезненную проблему, с которой сталкиваются многие тысячи граждан.

Наследственные дела — из числа самых сложных и «долгоиграющих». Они тянутся годами, сталкивая друг с другом вчерашних родственников. Один из серьезных камней преткновения в наследственных тяжбах — пропуск срока для принятия наследства.

Как известно, по закону наследство можно получить, выждав шесть месяцев. Эти полгода даются для того, чтобы на горизонте появились все возможные наследники.

Если таковых в течение шести месяцев не обнаружится, то нотариус оформит оставленное добро на первого претендента, который к нему пришел.

Но очень часто более достойные наследники появляются именно после того, как месяцы для принятия наследства прошли и все уже оформлено. Одни пропустили срок, потому что от них наследство скрыли. Другие лечились или уезжали, третьи называли не менее весомые аргументы. У опоздавших одна дорога — в суд с просьбой пересмотреть сроки. Чаще всего при этом произносятся слова «по вновь открывшимся обстоятельствам». Верховный суд, пересматривая одно из таких наследственных дел, объяснил попавшим в схожую ситуацию, как правильно применять законы при пропущенных сроках принятия наследства.

В Краснодарском крае в районный суд пришел молодой человек с иском против родной тетки. Он просил восстановить сроки для принятия им наследства. А оно оказалось не маленьким — дом и земельный участок. Юноша рассказал суду, в общем, банальную житейскую историю. Он жил в этом доме с бабушкой и дедушкой. Отец его умер в начале 90-х. Когда в 2007 году умер дед, о наследстве он не заикался — была жива бабушка. Пожилая женщина пережила мужа всего на год. Но вот когда умерла и бабушка, то родная тетя просто вышвырнула племянника, забрав все документы. Спустя два месяца от нотариуса молодой человек узнал, что тетя благополучно вступила в наследство, а он хотя и был наследником первой очереди, положенные шесть месяцев пропустил. Районный суд полностью согласился с парнем и встал на сторону племянника. Это решение суд Динского района Краснодарского края принял в 2008 году. Эта дата нужна для того, чтобы не запутаться в последующей массе судов.

На следующий год в том же районном суде рассмотрели заявление тетки, которая просила предыдущее решение районного суда о молодом наследнике отменить по вновь открывшимся обстоятельствам. Доводы и обстоятельства обиженной родственницы были следующие — внук, который на момент смерти деда был несовершеннолетним, жил в матерью в другом городе, а не в спорном доме. И еще, пишет тетка, у мальчика был законный представитель — его мать, которая по закону имела право предъявить от имени сына права на наследство, но она этого не сделала.

Совершеннолетним парень стал тогда, когда шел шестимесячный срок принятия наследства. Сам же он попросил о своей доле через год. Но женщине районный суд отказал. Позже, в краевом суде она победила — решение районного отменили и признали тетю правой по так называемым «вновь открывшимся обстоятельствам». Пришлось и районному суду вслед за этим вердиктом пересматривать наследственное дело уже в третий раз. И теперь даже в районе тетка победила племянника. Молодой человек, устав от судебной чехарды, дошел до Верховного суда. Там он смог окончательно одержать победу.

Как же Верховный суд разобрался в этих многочисленных, зачастую взаимоисключающих решениях?

Когда тетке районный суд отказал в пересмотре дела по вновь открывшимся обстоятельствам, он сказал, что законом четко прописан перечень этих самых обстоятельств, из-за которых можно пересматривать дела, решения по которым уже вступили в законную силу. И список этих обстоятельств «не подлежит расширительному толкованию». Но по закону, точнее по Гражданскому процессуальному кодексу (392-я статья), справки тетки о месте жительства несовершеннолетнего племянника, которые она принесла в суд, не являются вновь открывшимися обстоятельствами. Тут вот какая хитрость — вновь открывшиеся обстоятельства — это существенные для дела обстоятельства, которые не были или не могли быть известны заявителю и суду в момент, когда суд принимал свое решение. А доводы тетки, если их свести к общему знаменателю — просто несогласие с судебным вердиктом от 2008 года, когда парень стал наследником. Проще говоря, женщина требовала переоценить уже имеющиеся в деле доказательства. Это утверждение означает, что первый раз, рассматривая еще в 2008 году дело, районный суд все сделал правильно, и у краевой кассационной инстанции просто не было законных оснований отменять решение первой инстанции. Верховный суд сказал, что это серьезные нарушения, которые существенно повлияли на исход дела. В результате Верховный суд отменил массу последующих решений районного и краевого судов и оставил в силе самый первый вердикт, когда племянник стал наследником.

Адрес публикации в Интернете:

http://www.rg.ru/2011/08/31/zaveshanie.html

Определение

в кембриджском словаре английского языка

Для них нереально показать нам что-то такое, что интерпретируемое . Управление журналами — это служба, которая принимает большие объемы данных от компаний и преобразует их в интерпретируемую форму .

Еще примеры Меньше примеров

Части изображения, которые соответствуют низкоэнергетическим состояниям или локальным минимумам, имеют удивительно интерпретируемую структуру , и эти термодинамические характеристики могут помочь мозгу видеть.Однако сможет ли это дать интерпретируемых результатов, зависит от вашего исследовательского вопроса. Средний годовой доход домохозяйства для интерпретируемых респондентов составил 38 352 доллара США. интерпретируемых респондентов составляли 47,7% мужчин (84 из 176). Наиболее интерпретируемое решение , по нашему мнению, обозначает три основных способа, которыми консенсусные конференции различаются.Это измерение не является интерпретируемым без учета первого измерения. Наконец, хотя баллы легче интерпретировать , они по-прежнему не зависят от разработки политики и институционального контекста.Станут ли ее жизнь и ее дом пустыми означающими — фрагментами литературного прошлого , которые могут интерпретировать лишь немногие избранные? Эффекты этнической принадлежности могли быть связаны с различиями в поколении иммигрантов или не могли быть интерпретированы в дальнейшем .Кроме того, суммарные баллы , интерпретируемые , и оценка параметров не будет зависеть от выборки, взятой из целевой совокупности.Другими словами, паттерны, видимые в данных, не могут быть интерпретированы целиком с точки зрения изменений, которые система вносит в себя.Однако на пороге и выше есть расхождение в несколько порядков, которое трудно интерпретировать .Также представлены границы 95% центрального апостериорного интервала достоверности (аналогично 95% доверительному интервалу, но интерпретируется как как прямые вероятностные утверждения).

Эти примеры взяты из корпусов и из источников в Интернете. Любые мнения в примерах не отражают мнение редакторов Cambridge Dictionary, Cambridge University Press или его лицензиаров.

определение интерпретируемого The Free Dictionary

Возможно, сомнение относительно того, какими людьми могут быть товарищи этого бесцеремонного незнакомца, вместе с чем-то в его словах, интерпретируемым как вызов, заставило каждого человека из полдюжины наших «джентльменов-авантюристов» подняться в сидячую позу и лечь. его рука на оружии — действие, означающее в то время и в том месте политику ожидания.Изображение показывает хорошие интерпретируемые данные с точностью до 1 секунды или 1800 м и указывает последовательность угля в окне CBM, интерпретируемую с интервалом 400 мс или 700 м. Называя эту программу объяснимым AI (а не интерпретируемым, понятным или прозрачным AI, для пример) отражает цель DARPA по созданию более понятных человеку систем искусственного интеллекта за счет использования эффективных объяснений. Сложно преобразовать пиксели, формирующие изображения, в интерпретируемые функции, но с развитием алгоритмов компьютерного зрения мы теперь пытаемся раскрыть еще одну измерение состояния, как оно проявляется в Интернете «, — сказал Шарат Гунтуку, доктор философии, научный сотрудник Центра цифрового здравоохранения Пенсильвании и ведущий автор исследования.Результаты для дозы 10 мг не поддаются интерпретации из-за небольшого размера выборки пациентов, которым назначена эта доза. В некоторых случаях даже менее легко интерпретируемые аминокислотные замены могут быть проанализированы в сравнении с известными или предсказанными компьютером белковыми структурами с разумной вероятностью обнаружения значительно разрушительных изменения (размещение пролина в середине этой критической а-спирали, вероятно, нехорошо)! Discover будет использовать платформу Zest Automated Machine Learning для улучшения кредитного андеррайтинга за счет использования интерпретируемых подходов машинного обучения для принятия более точных решений о кредитовании .Вебстер — старое слово для обозначения ткача, которое можно интерпретировать как: 1) человек-ткач; 2) паук; 3) серфер, веб-серфер, веб-мастер; 4) Алфавитная сеть Ноя Вебстера. Это помогает сохранить высокий энергетический спектр чистым и более легким для интерпретации. В данном случае проблема заключается в небольшом количестве функций, которые могут искажать наше представление об их активности, хотя могут быть получены хорошо интерпретируемые классификационные модели. отметили, что архитектурные и клеточные паттерны, генерируемые IVM, могут интерпретироваться патологами для постановки дифференциального диагноза и определения участков для биопсии, что улучшает диагностические возможности.

2.1 Важность интерпретируемости | Интерпретируемое машинное обучение

Важность интерпретируемости

Если модель машинного обучения работает хорошо, , почему мы просто не доверяем модели и игнорируем , почему приняла определенное решение? «Проблема в том, что одна метрика, такая как точность классификации, является неполным описанием большинства реальных задач». (Доши-Велес и Ким, 2017)

Давайте углубимся в причины, по которым интерпретируемость так важна.Когда дело доходит до прогнозного моделирования, вы должны пойти на компромисс: вы просто хотите знать , что прогнозируется ? Например, вероятность того, что покупатель откажется от него, или насколько эффективным будет какое-либо лекарство для пациента. Или вы хотите знать , почему было сделано предсказание, и, возможно, заплатить за интерпретируемость падением предсказательной способности? В некоторых случаях вас не волнует, почему было принято решение, достаточно знать, что прогнозируемая производительность на тестовом наборе данных была хорошей.Но в других случаях знание «почему» может помочь вам узнать больше о проблеме, данных и причине, по которой модель может выйти из строя. Некоторые модели могут не требовать объяснений, потому что они используются в среде с низким уровнем риска, а это означает, что ошибка не будет иметь серьезных последствий (например, система рекомендаций для фильмов) или метод уже был тщательно изучен и оценен (например, оптическое распознавание символов). Потребность в интерпретируемости возникает из-за неполноты формализации проблемы (Doshi-Velez and Kim 2017), что означает, что для определенных проблем или задач недостаточно получить прогноз (, что ).Модель также должна объяснять, как она пришла к предсказанию (, почему ), потому что правильное предсказание только частично решает вашу исходную проблему. Следующие причины стимулируют спрос на интерпретируемость и объяснения (Doshi-Velez and Kim, 2017 и Miller, 2017).

Человеческое любопытство и обучение : У людей есть ментальная модель окружающей их среды, которая обновляется, когда происходит что-то неожиданное. Это обновление выполняется путем поиска объяснения неожиданного события.Например, человек неожиданно заболел и спрашивает: «Почему мне так плохо?». Он узнает, что заболевает каждый раз, когда ест эти красные ягоды. Он обновляет свою ментальную модель и решает, что ягоды вызвали болезнь, и поэтому их следует избегать. Когда в исследованиях используются непрозрачные модели машинного обучения, научные результаты остаются полностью скрытыми, если модель дает только прогнозы без объяснений. Чтобы облегчить обучение и удовлетворить любопытство относительно того, почему определенные предсказания или поведения создаются машинами, интерпретируемость и объяснения имеют решающее значение.Конечно, людям не нужны объяснения всему происходящему. Для большинства людей нормально, что они не понимают, как работает компьютер. Неожиданные события вызывают любопытство. Например: Почему мой компьютер неожиданно выключается?

Тесно связано с обучением человеческое желание найти смысл в мире . Мы хотим гармонизировать противоречия или несоответствия между элементами наших структур знаний. «Почему моя собака укусила меня, хотя никогда раньше этого не делала?» — может спросить человек.Существует противоречие между знанием прошлого поведения собаки и новым неприятным переживанием укуса. Объяснение ветеринара примиряет противоречие владельца собаки: «Собака была в стрессе и укусила». Чем больше решение машины влияет на жизнь человека, тем важнее для машины объяснять свое поведение. Если модель машинного обучения отклоняет заявку на кредит, это может быть совершенно неожиданным для соискателей. Они могут примирить это несоответствие между ожиданиями и реальностью только с помощью какого-то объяснения.Объяснения на самом деле не должны полностью объяснять ситуацию, но должны указывать на основную причину. Другой пример — алгоритмическая рекомендация продукта. Лично я всегда думаю о том, почему определенные продукты или фильмы были рекомендованы мне алгоритмически. Часто это совершенно ясно: реклама следует за мной в Интернете, потому что я недавно купил стиральную машину, и я знаю, что в ближайшие дни за мной последуют объявления о стиральных машинах. Да, есть смысл предложить перчатки, если у меня в корзине уже есть зимняя шапка.Алгоритм рекомендует этот фильм, потому что пользователям, которым понравились другие фильмы, понравился и рекомендованный фильм. Интернет-компании все чаще добавляют пояснения к своим рекомендациям. Хорошим примером являются товарные рекомендации, основанные на часто покупаемых комбинациях товаров:

РИСУНОК 2.1: Рекомендуемые товары, которые часто покупаются вместе.

Во многих научных дисциплинах происходит переход от качественных методов к количественным (например,г. социология, психология), а также в сторону машинного обучения (биология, геномика). Цель науки — получить знания, но многие проблемы решаются с помощью больших наборов данных и моделей машинного обучения «черный ящик». Сама модель становится источником знаний вместо данных. Интерпретируемость позволяет извлечь эти дополнительные знания, зафиксированные в модели.

Модели машинного обучения берут на себя реальные задачи, требующие мер безопасности и тестирования.Представьте себе, что беспилотный автомобиль автоматически обнаруживает велосипедистов на основе системы глубокого обучения. Вы должны быть на 100% уверены, что абстракция, которую изучила система, не содержит ошибок, потому что переезжать велосипедистов — это плохо. Объяснение может показать, что наиболее важной усвоенной функцией является распознавание двух колес велосипеда, и это объяснение поможет вам подумать о крайних случаях, таких как велосипеды с боковыми сумками, которые частично закрывают колеса.

По умолчанию модели машинного обучения учитывают предвзятость данных обучения.Это может превратить ваши модели машинного обучения в расистов, которые дискриминируют недопредставленные группы. Интерпретируемость — это полезный инструмент отладки для , обнаруживающего смещение в моделях машинного обучения. Может случиться так, что модель машинного обучения, которую вы обучили автоматическому одобрению или отклонению заявок на получение кредита, дискриминирует меньшинство, которое исторически было лишено прав. Ваша основная цель — давать ссуды только тем людям, которые со временем их вернут. Неполнота формулировки проблемы в данном случае заключается в том, что вы не только хотите минимизировать невыплаты по кредитам, но и обязаны не проводить дискриминацию по определенным демографическим признакам.Это дополнительное ограничение, которое является частью вашей формулировки проблемы (предоставление кредитов с низким уровнем риска и в соответствии с требованиями), которое не покрывается функцией потерь, для которой была оптимизирована модель машинного обучения.

Процесс интеграции машин и алгоритмов в нашу повседневную жизнь требует интерпретируемости для повышения общественного признания . Люди приписывают объектам убеждения, желания, намерения и т. Д. В известном эксперименте Хайдер и Зиммель (1944) показали участникам видеозаписи форм, в которых круг открывал «дверь» для входа в «комнату» (которая была просто прямоугольником).Участники описали действия фигур так, как они описывали бы действия человека-агента, приписывая им намерения и даже эмоции и личностные черты. Роботы — хороший пример, например мой пылесос, который я назвал «Дож». Если Дож застрял, я думаю: «Дож хочет продолжить уборку, но просит меня о помощи, потому что он застрял». Позже, когда Дож заканчивает уборку и обыскивает домашнюю базу, чтобы подзарядиться, я думаю: «Дож хочет подзарядиться и намеревается найти домашнюю базу.«Я также приписываю черты личности:« Дож немного тупой, но симпатичный ». Это мои мысли, особенно когда я узнаю, что Дож свалил растение, прилежно пылесосив дом. Машина или алгоритм, который объясняет его прогнозы найдут большее признание. См. также главу об объяснениях, в которой утверждается, что объяснения — это социальный процесс.

Объяснения используются для управления социальными взаимодействиями . Создавая общее значение чего-либо, объясняющий влияет на действия, эмоции и убеждения получателя объяснения.Чтобы машина могла взаимодействовать с нами, ей, возможно, необходимо формировать наши эмоции и убеждения. Машины должны нас «уговаривать», чтобы они могли достичь своей намеченной цели. Я бы не принял своего робота-пылесоса полностью, если бы он в какой-то степени не объяснял его поведение. Пылесос создает общее значение, например, «несчастный случай» (например, застрял на ковре в ванной … снова), объясняя, что он застрял, вместо того, чтобы просто остановиться, чтобы работать без комментариев. Интересно, что может быть несоответствие между целью объясняющей машины (создать доверие) и целью получателя (понять предсказание или поведение).Возможно, полное объяснение того, почему Дож застрял, может заключаться в том, что аккумулятор был очень низким, что одно из колес не работает должным образом и что есть ошибка, из-за которой робот снова и снова перемещается в одно и то же место, даже если там было препятствие. Эти (и еще несколько) причины заставили робота застрять, но они только объяснили, что что-то мешает, и этого было достаточно для меня, чтобы доверять его поведению и понять общий смысл этой аварии. Кстати, Дож снова застрял в ванной.Мы должны убирать ковры каждый раз, прежде чем позволить Doge пылесосить.

РИСУНОК 2.2: Наш пылесос Doge застрял. В качестве объяснения аварии Дож сказал нам, что она должна быть на ровной поверхности.

Модели машинного обучения можно отлаживать и проверять только , если их можно интерпретировать. Даже в средах с низким уровнем риска, таких как рекомендации фильмов, способность интерпретировать ценна на этапе исследований и разработок, а также после развертывания.Позже, когда модель используется в продукте, все может пойти не так. Интерпретация ошибочного прогноза помогает понять причину ошибки. Он дает указания, как исправить систему. Рассмотрим пример классификатора хаски и волка, который ошибочно классифицирует некоторых хаски как волков. Используя интерпретируемые методы машинного обучения, вы обнаружите, что ошибочная классификация была вызвана снегом на изображении. Классификатор научился использовать снег как функцию для классификации изображений как «волков», что может иметь смысл с точки зрения отделения волков от хаски в обучающем наборе данных, но не в реальном мире.

Если вы можете быть уверены, что модель машинного обучения может объяснить решения, вы также можете более легко проверить следующие черты (Доши-Велес и Ким, 2017):

  • Справедливость: Обеспечение того, чтобы прогнозы были беспристрастными и не содержали явной или явной дискриминации в отношении недопредставленных групп. Интерпретируемая модель может рассказать вам, почему было решено, что определенному лицу не следует брать ссуду, и человеку становится легче судить, основано ли это решение на изученных демографических данных (например,г. расовая) предвзятость.
  • Конфиденциальность: Обеспечение защиты конфиденциальной информации в данных.
  • Надежность или устойчивость: обеспечение того, чтобы небольшие изменения входных данных не приводили к большим изменениям в прогнозе.
  • Причинно-следственная связь: убедитесь, что выявлены только причинно-следственные связи.
  • Доверие: людям легче доверять системе, которая объясняет свои решения, по сравнению с черным ящиком.

Когда нам не нужна интерпретируемость.

Следующие сценарии иллюстрируют, когда нам не нужна или даже не нужна интерпретируемость моделей машинного обучения.

Интерпретируемость не требуется, если модель не оказывает значительного влияния . Представьте, что некто по имени Майк работает над дополнительным проектом по машинному обучению, чтобы предсказать, куда его друзья поедут на следующие каникулы, на основе данных Facebook. Майк просто любит удивлять своих друзей обоснованными предположениями, куда они поедут на каникулы. Нет никакой реальной проблемы, если модель неверна (в худшем случае, это просто немного смущает Майка), и нет никакой проблемы, если Майк не может объяснить результат своей модели.В этом случае совершенно нормально не иметь интерпретируемости. Ситуация изменилась бы, если бы Майк начал строить бизнес на основе этих прогнозов места отдыха. Если модель неверна, бизнес может потерять деньги, или модель может работать хуже для некоторых людей из-за усвоенных расовых предубеждений. Как только модель оказывает значительное влияние, будь то финансовое или социальное, интерпретируемость становится актуальной.

Интерпретируемость не требуется, если проблема хорошо изучена .Некоторые приложения были достаточно хорошо изучены, так что имеется достаточный практический опыт работы с моделью, и проблемы с моделью были решены с течением времени. Хорошим примером является модель машинного обучения для оптического распознавания символов, которая обрабатывает изображения из конвертов и извлекает адреса. Эти системы имеют многолетний опыт, и очевидно, что они работают. Кроме того, мы не очень заинтересованы в получении дополнительных сведений о поставленной задаче.

Интерпретируемость может позволить людям или программам манипулировать системой .Проблемы с пользователями, которые обманывают систему, возникают из-за несоответствия целей создателя и пользователя модели. Кредитный скоринг является такой системой, потому что банки хотят гарантировать, что ссуды будут выдаваться только тем заявителям, которые могут их вернуть, а соискатели стремятся получить ссуду, даже если банк не желает ее предоставлять. Это несоответствие между целями стимулирует соискателей играть в систему, чтобы увеличить свои шансы на получение ссуды. Если кандидат знает, что наличие более двух кредитных карт отрицательно влияет на его балл, он просто возвращает свою третью кредитную карту, чтобы улучшить свой балл, и оформляет новую карту после утверждения ссуды.Хотя его оценка улучшилась, реальная вероятность погашения кредита осталась неизменной. В систему можно играть только в том случае, если входные данные являются прокси для причинно-следственной особенности, но на самом деле не приводят к результату. По возможности следует избегать использования прокси-функций, поскольку они делают модели пригодными для игры. Например, Google разработал систему под названием Google Flu Trends для прогнозирования вспышек гриппа. Система коррелировала поисковые запросы в Google со вспышками гриппа — и работала плохо. Изменилось распределение поисковых запросов, и Google Flu Trends пропустила много вспышек гриппа.Поиски в Google не вызывают грипп. Когда люди ищут такие симптомы, как «лихорадка», это просто корреляция с реальными вспышками гриппа. В идеале модели должны использовать только причинно-следственные связи, потому что в них нельзя играть.

Интерпретируемое и объяснимое машинное обучение | Конор О’Салливан

Следуя этому примеру, предположим, что нам нужна модель, которая предсказывает максимальный размер ссуды, предоставляемой лицу (Y), с учетом возраста и дохода человека. Мы используем линейную регрессию и получаем следующее уравнение:

Y = 100 * возраст + 10 * доход + 200

Мы видим, что с каждым годом возраста человека прогнозируемая максимальная сумма кредита увеличивается на 100 долларов.Точно так же размер ссуды увеличивается по мере увеличения дохода. Для человека (26 лет, доход 3000 долларов) максимальный размер кредита прогнозируется на уровне 32800 долларов.

Итак, как и в случае с деревом решений, мы можем посмотреть на параметры этой модели и точно понять, почему она делает такие прогнозы. Это потому, что эти модели довольно просты. Дерево решений имеет только несколько узлов, а модель линейной регрессии имеет только 3 параметра. По мере того, как модели становятся более сложными, мы больше не можем понимать их таким образом.

Вы можете рассматривать модель машинного обучения как функцию. Характеристики модели являются входными данными, а прогнозы — выходными. Объяснимая модель — это функция, которая слишком сложна для понимания человеком. Другое название для этого — модель черного ящика. Нам нужен дополнительный метод / техника, чтобы иметь возможность заглянуть в черный ящик и понять, как работает модель.

Примером такой модели может быть случайный лес. Проще говоря, случайный лес состоит из множества деревьев решений, где прогнозы всех отдельных деревьев учитываются при создании окончательного прогноза.Чтобы понять, как работает случайный лес, нам нужно одновременно понять, как работают все отдельные деревья. Даже с небольшим количеством деревьев это было бы невозможно.

Архитектура AlexNet (Источник: Сатья Маллик и Сунита Наяк)

Все становится еще сложнее, когда мы начинаем рассматривать такие алгоритмы, как нейронные сети. Для сравнения: AlexNet, сверточная нейронная сеть, используемая для распознавания изображений, имеет 62 378 344 параметра. Для сравнения, наша простая регрессионная модель выше имеет только 3 параметра.Человек просто не может понять, как работает такая модель, как AlexNet, просто глядя на веса параметров.

Методы, используемые для понимания объяснимых моделей

Нам нужны дополнительные методы, чтобы понять, как алгоритмы, подобные рассмотренным выше, делают прогнозы. Сюда могут входить такие методы, как оценка важности функции. Эти методы пытаются определить, насколько хорошо каждая из отдельных функций может предсказать целевую переменную. Чем выше оценка, тем важнее функция для модели или, другими словами, тем больше функция влияет на прогноз модели.

Источник: flaticon

Существует также целый ряд методов, которые пытаются разложить индивидуальные прогнозы. Таким образом, в отличие от важности функции, которая рассматривает прогнозы в целом, эти методы объясняют, как каждая функция способствовала одному конкретному прогнозу. Сюда входят такие методы, как LIME и SHAP, которые не зависят от модели. Это означает, что их можно использовать для объяснения прогнозов любой модели машинного обучения. Они также включают методы, созданные для конкретных моделей, такие как DeepLIFT, который используется для объяснения прогнозов нейронных сетей.

С осторожностью следует делать какие-либо выводы с использованием этих методов. Это связано с тем, что эти методы могут дать только приблизительное представление о том, как модель на самом деле делает прогнозы. Для подтверждения любых выводов можно использовать несколько методов в комбинации или их можно проверить с помощью визуализации данных. Знание предметной области также может быть важным инструментом. Любые результаты, противоречащие предыдущему опыту / знаниям, следует проанализировать более подробно.

До этого момента мы обсуждали модели как интерпретируемые или объяснимые, но, возможно, нет смысла применять этот двоичный флаг.Это связано с тем, что интерпретируемость модели находится в спектре, где одни модели более интерпретируемы, чем другие. Другими словами, интерпретируемость — это степень, в которой модель может быть понята человеческими терминами. Одна модель более интерпретируема, чем другая, если человеку легче понять, как она делает прогнозы, чем другая модель.

На рисунке 2 мы можем видеть, что подразумевается под спектром интерпретируемости. Сверточная нейронная сеть менее интерпретируема, чем случайный лес, который менее интерпретируем, чем дерево решений.Большинство моделей обычно можно классифицировать как интерпретируемые или объяснимые, где объяснимые модели будут располагаться справа, а интерпретируемые модели — слева от спектра. Однако есть серая зона, где вы можете обнаружить, что люди не согласятся с классификацией.

Машинное обучение Объясняемость и интерпретируемость: две концепции, которые могут помочь восстановить доверие к ИИ

Ричард Галл, Packt

Не требуется специалист по данным, чтобы понять, что алгоритмам машинного и глубокого обучения, встроенным в системы автоматизации и искусственного интеллекта, не хватает прозрачности.Также не потребуется много детективной работы, чтобы увидеть, что многие из этих систем содержат отпечаток неосознанных предубеждений инженеров, которые помогали их разрабатывать.

Возможно, в разгар того, что The Economist назвал techlash , это отсутствие прозрачности только (по иронии судьбы) стало более заметным. Хотя многие из инцидентов, которые способствовали развитию techlash, в той же мере являются проблемами, вызванными сочетанием корпоративных интересов и тревожным отсутствием управления и подотчетности, нельзя избежать того факта, что практика науки о данных и машинного обучения естественным образом находит их путь зацепил некоторые из крупнейших деловых и политических историй года.

Именно в этом контексте концепции объяснимости и интерпретируемости приобрели новую актуальность. Вполне вероятно, что в 2019 году они станут еще более важными, поскольку дискуссии об этике искусственного интеллекта продолжаются.

Но что такое объяснимость и интерпретируемость? И что они на самом деле значат для тех из нас, кто занимается интеллектуальным анализом данных, наукой в ​​2019 году?

Разница между объяснимостью и интерпретируемостью машинного обучения

В контексте машинного обучения и искусственного интеллекта объяснимость и интерпретируемость часто используются как взаимозаменяемые.Хотя они очень тесно связаны, стоит выявить различия, хотя бы для того, чтобы увидеть, насколько сложными могут стать вещи, если вы начнете глубже копаться в системах машинного обучения.

Интерпретируемость — это степень, в которой в системе можно наблюдать причину и следствие. Или, говоря другими словами, это степень, в которой вы можете предсказать того, что произойдет, с учетом изменения входных или алгоритмических параметров. Он может взглянуть на алгоритм и пойти ага, я вижу, что здесь происходит.

Объяснимость, тем временем, — это степень, в которой внутренняя механика машинного или глубокого обучения может быть объяснена человеческими терминами. Легко упустить тонкую разницу в интерпретируемости, но рассмотрите ее так: интерпретируемость — это способность различать механику, не обязательно зная почему. Объяснимость — это способность буквально объяснить происходящее.

Подумайте об этом так: представьте, что вы проводите научный эксперимент в школе.Эксперимент можно интерпретировать постольку, поскольку вы можете видеть, что делаете, но по-настоящему его можно объяснить только после того, как вы погрузитесь в химию, стоящую за тем, что вы видите, происходящего.

Это может показаться немного грубым, но, тем не менее, это хорошая отправная точка для размышлений о том, как эти две концепции соотносятся друг с другом.

Почему объяснимость и интерпретируемость важны в искусственном интеллекте и машинном обучении?

Если Techlash 2018 и научил нас чему-либо, так это тому, что, хотя технологии, безусловно, могут быть использованы в сомнительных целях, существует множество способов, которыми они могут привести к плохим — дискриминационным — результатам без намерения причинить вред.

Поскольку такие области, как здравоохранение, стремятся к развертыванию систем искусственного интеллекта и глубокого обучения, где вопросы подотчетности и прозрачности особенно важны, если мы не сможем должным образом обеспечить улучшенную интерпретируемость и, в конечном итоге, объяснимость в наших алгоритмах, мы будем серьезно ограничивать потенциальное влияние искусственного интеллекта. Что было бы обидно.

Но помимо юридических и профессиональных соображений, которые необходимо учитывать, есть также аргумент, что улучшение интерпретируемости и объяснимости важно даже в более прозаических бизнес-сценариях.Понимание того, как на самом деле работает алгоритм, может помочь лучше согласовать деятельность специалистов по обработке данных и аналитиков с ключевыми вопросами и потребностями их организации.

Методы и методы улучшения интерпретируемости машинного обучения

Хотя вопросы прозрачности и этики могут показаться абстрактными для специалистов по данным на местах, на самом деле существует ряд практических вещей, которые можно сделать для улучшения интерпретируемости и объяснимости алгоритма.

Алгоритмическое обобщение

Первый — улучшить обобщение. Звучит просто, но не все так просто. Когда вы думаете, что большая часть инженеров машинного обучения применяет алгоритмы очень специфическим образом для достижения определенного желаемого результата, сама модель может казаться второстепенным элементом — это просто средство для достижения цели. Однако, изменив это отношение к рассмотрению общего состояния алгоритма и данных, на которых он работает, вы можете начать закладывать прочную основу для улучшения интерпретируемости.

Обратите внимание на важность функции

Это должно быть очевидно, но это легко упустить. Внимательный взгляд на то, как были установлены различные функции вашего алгоритма, — это практический способ на самом деле заняться разнообразным кругом вопросов, от согласования бизнеса до этики. Дебаты и обсуждение того, как следует устанавливать каждую функцию, могут занять немного времени, но наличие этого молчаливого осознания того, что различные функции были установлены определенным образом, тем не менее, является важным шагом на пути к интерпретируемости и объяснимости.

LIME: местные интерпретируемые независимые от модели объяснения

Хотя описанные выше методы предлагают практические шаги, которые могут предпринять специалисты по данным, LIME — это реальный метод, разработанный исследователями для большей прозрачности того, что происходит внутри алгоритма. Исследователи объясняют, что LIME может объяснить «прогнозы любого классификатора интерпретируемым и достоверным образом, изучая интерпретируемую модель локально вокруг прогноза».

На практике это означает, что модель LIME приближает модель к модели, проверяя ее, чтобы увидеть, что происходит при изменении определенных аспектов модели.По сути, речь идет о попытке воссоздать результат из того же ввода путем экспериментирования.

DeepLIFT (важные функции глубокого обучения)

DeepLIFT — полезная модель в особенно сложной области глубокого обучения. Он работает через форму обратного распространения: он берет результат, а затем пытается разделить его, «считывая» различные нейроны, которые участвовали в разработке этого исходного результата.

По сути, это способ вернуться к выбору функций внутри алгоритма (как следует из названия).

Распространение релевантности по уровням

Послойное распространение релевантности аналогично DeepLIFT в том, что оно работает в обратном направлении от вывода, идентифицируя наиболее релевантные нейроны в нейронной сети до тех пор, пока вы не вернетесь ко входу (например, к изображению). Если вы хотите узнать больше о математике, лежащей в основе этой концепции, этот пост Дэна Шиблера — отличное место для начала.

Повышение сложности для решения проблемы сложности: может ли это повысить прозрачность?

Основная проблема как с объяснимостью, так и с интерпретируемостью заключается в том, что вы добавляете дополнительный этап в процесс разработки.В самом деле, вы, вероятно, добавляете несколько шагов. С одной стороны, это выглядит так, как будто вы пытаетесь справиться со сложностью с еще большей сложностью.

И в определенной степени это правда. На практике это означает, что, если мы действительно серьезно относимся к интерпретируемости и объяснимости, должны произойти более широкие культурные изменения в том, как выполняются наука о данных и инженерия, и как люди верят, что это должно происходить. .

Это, пожалуй, действительно сложная часть.

Bio : Ричард Галл — менеджер по продуктам редакционного контента в Packt. Посредством качественного обмена сообщениями, ориентированного на потребности сообществ и клиентов, которым помогает Packt, Ричард работает над увеличением как прямых, так и входящих доходов, а также расширением охвата и актуальности бренда Packt в современном технологическом ландшафте.

Ресурсы:

Связанный:

Интерпретируемость имеет решающее значение для доверия искусственному интеллекту и машинному обучению

Илкнур Кайнар Кабул, SAS .

По мере того, как машинное обучение занимает свое место во многих последних достижениях науки и технологий, важность интерпретируемости моделей машинного обучения возрастает.

Нас окружают приложения, основанные на машинном обучении, и решения, принимаемые машинами, с каждым днем ​​все больше и больше влияют на нас. Мы просим модели машинного обучения найти ответы на такие вопросы, как: от повседневных до жизненно важных:

  • Какая песня мне понравится?
  • Смогу ли я получить ссуду?
  • Кого мне нанять?
  • Какова вероятность того, что у меня рак?

На эти и многие другие вопросы отвечают модели прогнозирования, о которых большинство пользователей знает очень мало.Специалисты по обработке данных часто делают акцент на точности прогнозов своих моделей, а не на понимании того, как эти прогнозы на самом деле делаются. С машинным обучением модели просто делают это.

Сложные модели труднее понять

Некоторые модели машинного обучения просты и понятны. Мы знаем, как изменение входных данных повлияет на прогнозируемый результат, и можем обосновать каждый прогноз. Однако с недавними достижениями в области машинного обучения и искусственного интеллекта модели стали очень сложными, включая сложные глубокие нейронные сети и ансамбли различных моделей.Мы называем эти сложные модели моделями черного ящика.

К сожалению, сложность, придающая моделям черного ящика исключительные возможности прогнозирования, также делает их очень трудными для понимания и доверия. Алгоритмы внутри моделей черного ящика не раскрывают своих секретов. Как правило, они не дают четкого объяснения того, почему они сделали определенный прогноз. Они просто дают нам вероятность, они непрозрачны и их трудно интерпретировать. Иногда существуют тысячи (даже миллионы) параметров модели, нет однозначной связи между входными функциями и параметрами, и часто комбинации нескольких моделей, использующие множество параметров, влияют на прогноз.Некоторые из них также нуждаются в данных. Им нужны огромные объемы данных для достижения высокой точности. Трудно понять, что они узнали из этих наборов данных и какие из этих точек данных имеют большее влияние на результат, чем другие.

По всем этим причинам очень сложно понять процесс и результаты этих методов. Также сложно понять, можем ли мы доверять моделям и можем ли мы принимать справедливые решения, используя их.

Что произойдет, если они узнают не то? Что произойдет, если они не готовы к развертыванию? Существует риск искажения, упрощения или переобучения. Таким образом, нам нужно быть осторожными, когда мы их используем, и нам лучше понять, как эти модели работают.

Почему не хватает точности

В машинном обучении точность измеряется путем сравнения выходных данных модели машинного обучения с известными фактическими значениями из набора входных данных.

Модель может достичь высокой точности, запомнив несущественные особенности или закономерности в вашем наборе данных.Если в вашем наборе входных данных присутствует смещение, это также может повлиять на вашу модель. Кроме того, данные в среде обучения могут не быть хорошим представлением данных в производственной среде, в которой развертывается модель. Даже если изначально они достаточно репрезентативны, если учесть, что данные в производственной среде не являются стационарными, они могут очень быстро устареть.

Таким образом, мы не можем полагаться только на точность прогноза, достигаемую для конкретного набора данных.Нам нужно знать больше. Нам необходимо демистифицировать модели машинного обучения «черный ящик» и улучшить прозрачность и интерпретируемость, чтобы сделать их более надежными и заслуживающими доверия.

Что такое интерпретируемость?

Интерпретируемость означает объяснение конечным пользователям конкретного решения или процесса. В частности, это влечет за собой:

  • Понимание основных задач, влияющих на результаты.
  • Объяснение решений, принимаемых алгоритмом.
  • Выявление шаблонов / правил / характеристик, которые усваиваются алгоритмом.
  • Критически относиться к результатам.
  • Изучение неизвестных неизвестных для вашего алгоритма.

Речь идет не о понимании всех деталей того, как модель работает для каждой точки данных в обучающих данных.

Зачем нужна интерпретируемость?

Интерпретируемость важна для разных людей по разным причинам:

Специалисты по данным хотят строить модели с высокой точностью.Они хотят разобраться в деталях, чтобы узнать, как выбрать лучшую модель и улучшить ее. Они также хотят получить представление о модели, чтобы они могли сообщить свои выводы своей целевой аудитории.

Конечные пользователи хотят знать, почему модель дает определенный прогноз. Они хотят знать, как на них повлияют эти решения. Они хотят знать, справедливо ли с ними обращаются и нужно ли им возражать против какого-либо решения. Они хотят иметь определенную степень доверия, когда делают покупки в Интернете или нажимают на рекламу в Интернете.

Регулирующие органы и законодатели хотят сделать систему справедливой и прозрачной. Они хотят защитить потребителей. С неизбежным ростом алгоритмов машинного обучения они все больше озабочены решениями, принимаемыми моделями.

Все эти пользователи хотят аналогичных вещей от моделей черного ящика. Они хотят, чтобы они были прозрачными, заслуживающими доверия и объяснимыми.

  1. Прозрачный : система может объяснить, как она работает и / или почему дает определенные прогнозы
  2. Надежный : система может обрабатывать различные сценарии в реальном мире без постоянного контроля.
  3. Объяснимый : Система может передавать полезную информацию о своей внутренней работе, о шаблонах, которые она изучает, и о результатах, которые она дает.

В типичном конвейере машинного обучения у нас есть контроль над набором данных, используемым для обучения модели, у нас есть контроль над моделью, которую мы используем, и у нас есть контроль над тем, как мы оцениваем и развертываем эти модели.

Когда нужна интерпретируемость?

Если вам нужна интерпретируемость, сначала вы должны спросить себя, зачем она вам нужна.На каком этапе этого процесса вам нужна интерпретируемость? Возможно, нет необходимости понимать, как модель делает свои прогнозы для каждого приложения. Однако вам может потребоваться это знать, если эти прогнозы используются для принятия решений с высокими ставками. После того, как вы определите свою цель, вы должны сосредоточиться на том, какие методы вам нужны на каком этапе процесса:

  1. Интерпретируемость в предварительном моделировании (интерпретируемость входных данных модели): Понимание вашего набора данных очень важно, прежде чем вы начнете строить модели.Вы можете использовать различные методы исследовательского анализа данных и визуализации, чтобы лучше понять свой набор данных. Это может включать обобщение основных характеристик вашего набора данных, поиск репрезентативных или критических точек в вашем наборе данных и поиск соответствующих функций из вашего набора данных. После того, как вы получите общее представление о своем наборе данных, вам нужно подумать о том, какие функции вы собираетесь использовать при моделировании. Если вы хотите объяснить отношения ввода-вывода после моделирования, вам нужно начать с осмысленных функций.Хотя тщательно спроектированные функции (например, полученные из t-sne, случайных проекций и т. Д.) Могут повысить точность вашей модели, их нельзя будет интерпретировать, когда вы начнете использовать модель.
  2. Интерпретируемость в моделировании: Мы можем разделить модели на модели белого ящика (прозрачные) и черные ящики (непрозрачные) на основе их простоты, прозрачности и объяснимости.
    1. Модели белого ящика (прозрачные) : Деревья решений, списки правил и алгоритмы регрессии обычно рассматриваются в этой категории.Эти модели легко понять, если использовать их с небольшим количеством предикторов. Они используют интерпретируемые преобразования и дают вам больше интуиции о том, как все работает, что помогает вам понять, что происходит в модели. Вы можете объяснить их технической аудитории. Но, конечно, если у вас есть сотни функций и вы построите очень глубокое и большое дерево решений, все может стать сложным и непонятным.
    2. Модели черного ящика (непрозрачные): Глубокие нейронные сети, случайные леса и машины для повышения градиента могут быть рассмотрены в этой категории.Обычно они используют много предикторов и сложных преобразований. Некоторые из них имеют множество параметров. Обычно трудно представить себе и понять, что происходит внутри этих моделей. Их сложнее донести до целевой аудитории. Однако их точность прогнозов может быть намного лучше, чем у других моделей. Недавние исследования в этой области надеются сделать эти модели более прозрачными. Некоторые из этих исследований включают методы, которые являются частью тренировочного процесса. Создание объяснений в дополнение к прогнозам — один из способов повысить прозрачность этих моделей.Еще одно улучшение — включить визуализацию функций после тренировочного процесса.
  3. Интерпретируемость в пост-моделировании (апостериорная интерпретируемость): Интерпретируемость в прогнозах модели помогает нам исследовать динамику между входными характеристиками и выходными предсказаниями. Некоторые действия после моделирования зависят от модели, в то время как другие не зависят от модели. Добавление интерпретируемости на этом этапе может помочь нам понять наиболее важные функции модели, как эти функции влияют на прогнозы, как каждая функция влияет на прогноз и насколько чувствительна ваша модель к определенным характеристикам.Существуют методы, не зависящие от модели, такие как графики частичной зависимости (PD), графики индивидуальных условных ожиданий (ICE) и локальные интерпретируемые не зависящие от модели объяснения (LIME), в дополнение к специфическим для модели методам, таким как выходные данные переменной важности из случайного леса .

Следите за новостями, чтобы увидеть больше сообщений по этой теме. В этой серии блогов мы более подробно расскажем о некоторых методах интерпретируемости. Мы объясним, как можно использовать методы интерпретируемости, не зависящие от модели, для понимания моделей черного ящика.Мы также рассмотрим некоторые из последних достижений в области интерпретируемости.

Bio : Илкнур Кайнар Кабул — старший менеджер в подразделении SAS Advanced Analytics, где она возглавляет группу исследований и разработок SAS, которая занимается алгоритмами и приложениями машинного обучения.

Оригинал. Размещено с разрешения.

Ресурсы:

Связанный:

Методы интерпретируемости в машинном обучении: краткий обзор

Модели

машинного обучения (ML) могут быть удивительно хороши в прогнозировании, но они часто не могут дать объяснения своих прогнозов в терминах, которые легко понять людям.Признаков, на основании которых они делают выводы, может быть так много, а их расчеты настолько сложны, что исследователи могут счесть невозможным точно установить , почему алгоритм дает ответы, которые он дает.

Однако можно определить , как алгоритм машинного обучения пришел к своим выводам.

Эта способность, также известная как «интерпретируемость», является очень активной областью исследований среди исследователей ИИ как в академических кругах, так и в промышленности.Он немного отличается от «объяснимости» — ответа «почему» — тем, что он может выявить причины и следствия изменений в модели, даже если внутренняя работа модели остается непрозрачной.

Интерпретируемость важна по нескольким причинам. Если исследователи не понимают, как работает модель, у них могут возникнуть трудности с переносом полученных знаний, например, в более широкую базу знаний. Точно так же интерпретируемость важна для защиты от встроенной ошибки или отладки алгоритма. Это также помогает исследователям измерить влияние компромиссов в модели.В более широком смысле, поскольку алгоритмы играют все более важную роль в обществе, понимание того, как именно они приходят к своим ответам, будет становиться все более важным.

В настоящее время исследователи должны компенсировать неполную интерпретируемость суждениями, опытом, наблюдениями, мониторингом и тщательным управлением рисками, включая полное понимание используемых наборов данных. Однако существует несколько методов повышения степени интерпретируемости моделей машинного обучения, независимо от их типа.В этой статье перечислены некоторые из наиболее распространенных из них, включая их относительные преимущества и недостатки.

Интерпретируемые модели ML и «черные ящики»

Некоторые модели машинного обучения интерпретируются сами по себе. Например, для линейной модели прогнозируемый результат Y представляет собой взвешенную сумму ее характеристик X. Вы можете визуализировать «y равно X плюс b» на графике в виде прямой линии: a, вес признака, представляет собой наклон линия, а b — пересечение оси y.

Линейные модели удобны в использовании, потому что они просты и понятны.Однако для достижения максимальной точности больших современных наборов данных часто требуются более сложные и выразительные модели, например нейронные сети.

На следующем изображении показана небольшая, полностью подключенная нейронная сеть, одна из простейших нейронных архитектур. Но даже для этой простейшей нейронной архитектуры никто не может понять, какой нейрон играет какую роль и какая входная функция действительно способствует выходу модели. По этой причине такие модели иногда называют «черными ящиками».”

Источник: Майкл Нильсен, Neural Networks and Deep Learning. neuralnetworksanddeeplearning.com

Теперь представьте модель с миллионами нейронов и всевозможными связями. Без надежных методов интерпретируемости исследователю было бы трудно понять это вообще.

Методы интерпретируемости, не зависящие от модели

Существует несколько важных методов интерпретируемости, не зависящих от модели, и хотя ни один из них не идеален, они могут помочь исследователям интерпретировать результаты даже очень сложных моделей машинного обучения.

В целях демонстрации рассмотрим небольшой набор данных временного ряда. Временной ряд — это просто ряд точек данных, индексированных во временном порядке. Это наиболее распространенный тип данных в финансовой индустрии. Частой целью количественных исследований является выявление тенденций, сезонных колебаний и корреляции в данных финансовых временных рядов с использованием статистических методов и методов машинного обучения.

Проблема
  • Данные:
  • Модель:
    • модель = RandomForestRegressor (n_estimators = 10, max_depth = 3)
    • модель.подходит ( X, y )
  • Прогноз:

В этом примере используется модель RandomForestRegressor из sklearn.

Метод 1: график частичной зависимости (PDP)

Первый метод, который мы рассмотрим, — это график частичной зависимости или PDP, который был изобретен несколько десятилетий назад и показывает предельное влияние, которое одна или две функции оказывают на прогнозируемый результат модели машинного обучения.

Это помогает исследователям определить, что происходит с прогнозами модели при корректировке различных характеристик.

Здесь на этом графике ось x представляет значение признака f0, а ось y представляет собой прогнозируемое значение. Сплошная линия в заштрихованной области показывает, как средний прогноз изменяется при изменении значения f0.

PDP очень интуитивно понятен и прост в реализации, но поскольку он показывает только средние предельные эффекты, гетерогенные эффекты могут быть скрыты . 1 Например, одна функция может показывать положительную связь с прогнозом для половины данных, но отрицательную связь для другой половины.Сюжет PDP будет просто горизонтальной линией.

Для решения этой проблемы был разработан новый метод.

Метод 2: Индивидуальные условные ожидания (ICE)

Индивидуальное условное ожидание или ICE очень похоже на PDP, но вместо того, чтобы строить среднее, ICE отображает одну строку для каждого экземпляра.

Этот метод более интуитивно понятен, чем PDP, потому что каждая строка представляет прогнозы для одного случая, если изменяется интересующая функция.

Как и частичная зависимость, ICE помогает объяснить, что происходит с прогнозами модели при изменении конкретной характеристики.

ICE отображает одну строку на экземпляр:

В отличие от PDP, кривые ICE могут выявить неоднородные отношения. Однако это преимущество также имеет свою цену: может быть не так просто увидеть средний эффект, как при использовании PDP.

Метод 3: переменная важность функции

Важность перестановочных признаков — еще один традиционный метод интерпретируемости.

Важность функции заключается в увеличении ошибки прогнозирования модели после перетасовки значений функции.Другими словами, он помогает определить, как функции модели влияют на прогнозы, которые она делает.

На приведенном ниже графике ось абсцисс представляет уменьшение баллов или ошибку модели, а ось ординат представляет каждую функцию f0, f1, f2, f3.

Как показано на графике, верхний элемент f2 имеет наибольшее влияние на ошибку модели; в то время как f1, вторая функция сверху, не влияет на ошибку после перетасовки. Остальные две функции имеют отрицательный вклад в модель.

PDP против ICE против важности функций

Все три вышеперечисленных метода интуитивно понятны и просты в реализации.

PDP показывает глобальные эффекты, скрывая разнородные эффекты. ICE может выявить неоднородные эффекты, но усреднить трудно.

Важность функции позволяет кратко понять поведение модели. Использование коэффициента ошибок (вместо ошибки) делает измерения сопоставимыми для разных задач. И он автоматически учитывает все взаимодействия с другими функциями.

Однако взаимодействия не аддитивны. Увеличение важности функции не приводит к полному падению производительности. Перемешивание функций добавляет случайности, поэтому результаты каждый раз могут быть разными. Кроме того, перемешивание требует доступа к истинным результатам, что невозможно для многих сценариев.

Кроме того, все три метода предполагают независимость функций, поэтому, если функции коррелированы, маловероятные точки данных будут созданы, и эти нереалистичные точки данных могут смещать интерпретацию.

Метод 4: Глобальный суррогат

Глобальный суррогатный метод использует другой подход. В этом случае интерпретируемая модель обучается приближенно предсказывать модель черного ящика.

Процесс прост. Сначала вы получаете прогнозы для набора данных с помощью обученной модели черного ящика, а затем обучаете интерпретируемую модель на этом наборе данных и прогнозах. Обученная интерпретируемая модель теперь становится суррогатом исходной модели, и все, что нам нужно сделать, это интерпретировать суррогатную модель.Обратите внимание, суррогатная модель может быть любой интерпретируемой моделью: линейной моделью, деревом решений, правилами, определяемыми человеком, и т. Д.

Использование интерпретируемой модели для аппроксимации модели черного ящика вносит дополнительную ошибку, но эту дополнительную ошибку можно легко измерить с помощью R-квадрата.

Однако, поскольку суррогатные модели обучаются только на предсказаниях модели черного ящика, а не на реальном результате, глобальные суррогатные модели могут интерпретировать только модель черного ящика, но не данные.

Метод 5: Местный суррогат (LIME)

Локальный суррогат, или LIME (для локальных интерпретируемых, не зависящих от модели объяснений), отличается от глобального суррогата тем, что он не пытается объяснить всю модель. Вместо этого он обучает интерпретируемые модели для аппроксимации индивидуальных прогнозов.

LIME пытается понять, как меняются прогнозы, когда мы изменяем выборки данных. Вот пример извести, объясняющий, почему эта фотография классифицируется моделью как древесная лягушка.

Сначала изображение слева делится на интерпретируемые компоненты. Затем LIME генерирует набор данных возмущенных экземпляров, отключая некоторые из интерпретируемых компонентов (в данном случае делая их серыми).

Для каждого возмущенного экземпляра можно использовать обученную модель, чтобы получить вероятность того, что на изображении есть древесная лягушка, а затем изучить локально взвешенную линейную модель на этом наборе данных.

В конце концов, компоненты с наивысшими положительными весами представлены в качестве пояснения.

Глобальные и местные суррогатные методы

Как глобальный, так и локальный суррогатные методы имеют преимущества и недостатки.

Глобальный суррогат заботится об объяснении всей логики модели, в то время как местный суррогат заинтересован только в понимании конкретных прогнозов.

При использовании глобального суррогатного метода любую интерпретируемую модель можно использовать в качестве суррогата, и можно легко измерить близость суррогатных моделей к моделям черного ящика.

Однако, поскольку суррогатные модели обучаются только на предсказаниях модели черного ящика, а не на реальном результате, они могут интерпретировать только модель, но не данные.Кроме того, суррогатные модели, которые во многих случаях проще, чем модель черного ящика, могут дать хорошее объяснение только части данных, а не всему набору данных.

С другой стороны, местный суррогатный метод лишен этих недостатков. Кроме того, метод локального суррогата не зависит от модели: если вам нужно попробовать другую модель черного ящика для вашей проблемы, вы все равно можете использовать те же суррогатные модели для интерпретации. И по сравнению с интерпретациями, даваемыми глобальными суррогатными методами, интерпретации локальных суррогатных методов часто бывают короткими, контрастными и понятными для человека.

Однако у местного суррогата есть свои проблемы.

Во-первых, LIME использует ядро ​​для определения области, в которой точки данных рассматриваются для локальных объяснений, но трудно найти правильную настройку ядра для задачи. Способ выполнения выборки в LIME может привести к получению нереалистичных точек данных, а местная интерпретация может быть смещена в сторону этих точек данных.

Еще одна проблема — нестабильность объяснений. Два очень близких пункта могут привести к двум совершенно разным объяснениям.

Метод 6: Величина Шепли (SHAP)

Концепции, лежащие в основе Shapley Value, взяты из теории игр. В этом методе прогноз можно объяснить, предполагая, что каждое значение признака экземпляра является «игроком» в игре. Вклад каждого игрока измеряется путем добавления и удаления игрока из всех подмножеств остальных игроков. Ценность Шепли для одного игрока — это взвешенная сумма всех его вкладов.

Shapley Value является аддитивным и локально точным.Если вы сложите значения Shapley для всех функций плюс базовое значение, которое является средним прогнозом, вы получите точное значение прогноза. Это функция, которой нет у многих других методов.

Вот пример с гитхаба. Эксперимент пытается предсказать цены на жилье с помощью 13 функций, используя модель Xgboost.

На графике показано значение Шепли каждой функции, представляющее вклад, который подталкивает результат модели от базового значения к окончательному прогнозу.Красный цвет означает положительный вклад, а синий цвет означает отрицательный вклад.

График показывает, что в этом наборе данных функция под названием LSTAT (% более низкого статуса населения, основанного на образовании и профессии) оказывает наибольшее влияние на прогноз, а высокое значение LSTAT снижает прогнозируемую стоимость жилья. 2

Величина Шепли по сравнению с LIME

Как указывает аналитик данных Кристоф Мольнар в Interpretable Machine Learning , значение Шепли может быть единственным методом для обеспечения полной интерпретации, и это метод объяснения с сильнейшей теоретической базой.

Однако есть компромиссы. Расчет значения Шепли требует больших вычислительных ресурсов. Недавно разработанный метод ядра SHAP выполняет быстрое приближение ядра для решения этой проблемы, но для больших фоновых данных он по-прежнему требует больших вычислений.

В отличие от LIME, значение Шепли не возвращает модель прогнозирования. Наконец, вычисление значения Шепли для нового экземпляра данных требует доступа к реальным данным, а не просто к функции прогнозирования.

Как выбрать «правильный» инструмент интерпретации?

В таблице ниже перечислены методы, описанные в этой статье, в порядке от наименьшей к наибольшей сложности. 3

Как исследователь должен решить, какой метод лучше всего подходит для данной проблемы? Имейте в виду следующие три соображения:

  1. Вам нужно понимать всю логику модели или вас волнуют только причины конкретного решения? Это поможет вам решить, нужен ли вам глобальный метод или локальный метод.
  2. Какое у вас ограничение по времени? Если пользователю необходимо быстро принять решение (например, стихийное бедствие может быть неизбежным, и государственные должностные лица должны оценить возможные ответные меры), может быть предпочтительнее получить простое для понимания объяснение.Но если время принятия решения не является ограничением (например, во время процедуры выдачи ссуды), можно предпочесть более сложное и исчерпывающее объяснение.
  3. Каков уровень знаний пользователя? Пользователи прогнозирующей модели могут иметь различные базовые знания и опыт решения данной задачи. Это могут быть лица, принимающие решения, ученые, инженеры и т. Д. Знание пользовательского опыта при выполнении задачи — ключевой аспект восприятия интерпретируемости модели. Эксперты в предметной области могут предпочесть более сложную интерпретацию, в то время как другие могут захотеть такую, которую легко понять и запомнить.

Решив, какой метод лучше всего соответствует вашим потребностям, как исследователи могут оценить интерпретацию наших данных или задач?

Методы оценки интерпретируемости

В настоящее время существует три основных способа оценки методов интерпретируемости: основанный на применении, обоснованный человеком и функционально обоснованный.

  • Оценка на основе приложений требует, чтобы человек проводил эксперименты в реальном приложении. 4 Например, чтобы оценить интерпретацию диагноза определенного заболевания, врач лучше всего ставит диагноз.
  • Оценка , ориентированная на человека, заключается в проведении более простых экспериментов на человеке с субъектом. Например, людям предлагаются пары объяснений, и они должны выбрать то, которое они считают более качественным.
  • Функционально обоснованная оценка не требует экспериментов на людях. Вместо этого он использует прокси для качества объяснения. Этот метод намного дешевле двух предыдущих. Задача, конечно же, состоит в том, чтобы определить, какие прокси использовать. Например, деревья решений считались интерпретируемыми во многих ситуациях, но требуются дополнительные исследования.

Подведение итогов

Интерпретируемость остается очень активной областью исследований в области машинного обучения, и не зря.

alexxlab

Related Posts

Добавить комментарий

Ваш адрес email не будет опубликован.