Автор теории черного лебедя. Нассим Николас Талеб «Черный лебедь» - рецензия - Психология эффективной жизни - онлайн-журнал

Что такое Черный лебедь, признаюсь, друзья, до недавнего времени, в свои «39 с хвостиком», не знала о таком понятии. Оказывается, оно существует довольно таки давно. Хочу вам рассказать о происхождении этого крылатого выражения.

Термин «черный лебедь» прочно укрепился в сознании после выхода в свет книги Нассима Талеба «Черный лебедь. Под знаком непредсказуемости» .
Нассим Николас Талеб (1960г.р.) – математик, трейдер, бизнесмен и философ, выходец из Ливана, сейчас проживает в США. Семья Нассима Талеба, исповедующая православие, была депортирована из ливанского города Амиун в 1975 году, после начала гражданской войны. Предки Талеба в прошлом занимали высокие посты в правительстве Ливана, его отец был врачом - онкологом, занимался антропологическими исследованиями.

Черный лебедь Нассима Толеба

Книга «Черный лебедь», вышедшая в 2007 году, была продана более чем в 300 000 экземпляров. Она семнадцать недель держалась в списке бестселлеров “New York Times” и была переведена на 27 языков. В октябре 2009 года по версии журнала «Секрет фирмы», книга возглавила список Топ-5 деловых бестселлеров.

В начале своего нашумевшего труда, Талеб повествует о том, что до открытия Австралии считалось, что черных лебедей не может быть. Их существование отрицалось так же, как и существование, например, розовых слонов. Старый мир считал, что лебеди могут быть только белые. Обнаружение первого черного лебедя было большой неожиданностью для орнитологов. Но главное, по мнению автора, в истории не это. Его книга является иллюстрацией жесткой ограниченности нашей способности учиться на основании опыта и хрупкости нашего знания. Одно единственное наблюдение способно разрушить общее представление, основанное на множестве наблюдений в течение тысячелетий.

Понятие термина Черный лебедь

Бестселлер Нассима Талеба - это эссе весьма необычного человека о жизни и о том, как найти в ней свое место. В нем автор называет «Черным лебедем» событие, имеющее следующие атрибуты:

1. Это событие необычно, редко и не ожидаемо.

2. Его последствия очень масштабны.

3. Вопреки редкостному характеру этого события, человечество придумывает ему такие трактовки, что оно выглядит предсказуемым и объяснимым.

За последние годы человечество пережило череду сильнейших потрясений. Таких, как 11 сентября 2001 года, глобальный финансовый кризис, война в Осетии. Все они, казавшиеся абсолютно невозможными, пока не произошли, теперь представляются нам закономерными. Именно такие непредсказуемые события и предлагает называть Талеб Черными лебедями. По его авторитетному убеждению, именно такие события оставляют след, как в истории в целом, так и в жизни каждого отдельного человека. В рамках жизни одного индивидуума, Талеб предлагает провести воображаемый эксперимент: рассмотреть свою жизнь и изучить в ней роль таких непредсказуемых событий с большими последствиями. Стоит вспомнить момент выбора профессии , встречи спутника жизни, предательства, изгнания из Родины, внезапное обогащение или разорение. Разве вы могли запланировать эти вещи? Разве часто вы ожидаете такие моменты в своей жизни? Есть такая поговорка: «Расскажи Богу о своих планах – пусть он повеселится», которая, как раз об этом.

В общем, суть вопроса

что такое Черный лебедь

такова: это не ожидаемое событие, которое предсказать невозможно. В противоположность этому понятию, существует термин Белый лебедь – событие, которое в той или иной степени предсказуемо. Например, эксперты предсказывают, что будет с нефтью через 20 лет – это Белый лебедь, а вот, сколько она будет стоить через год, предсказать невозможно. Или предсказание о том, что президентом страны станет Медведев или Путин, или даже Прохоров – это предсказуемые ситуации, с той или иной степенью погрешности. А возможно ли было предсказать заявление Ельцина в канун 2000 года о снятии с себя полномочий президента? Это не прогнозируемая ситуация. Да, после, она вполне вписалась в логику, но, до – это просто не могло прийти в голову.

Смысл Черного лебедя в том, что он, как правило, не подвластен человеку, при том, что он, как иной формат событий на земле (вместе с белым лебедем), полностью является реальной вещью. Черный лебедь имеет место быть.

Человеческая жизнь всегда определялась степенью предсказуемости. Чем более она непредсказуема – тем более она интересна. Конечно, в определенной мере, потому что совсем непредсказуемая жизнь – ужасна. Но, чем более она становится предсказуемой, тем более скучной. И так по кругу.

Это означает, что наша жизнь формируется под влиянием двух течений: белого и черного лебедей. Белый лебедь дает возможность человеку не упасть в уныние от безысходности, и поэтому он горд собой от умения прогнозировать. Черный же лебедь не оставляет человеку никакого шанса почувствовать себя всемогущим. И, если убрать одну из этих опор, наша жизнь, которой мы живем, превратится в не что. Мы превратимся либо в животных, либо в богов. А земля, как известно, создана для людей.

Только представьте себе: старый друг, с которым вы не виделись вечность, приглашает вас на торжественный обед к себе домой в самую шикарную часть города. Камердинер в красном галстуке встречает вас. Вы проходите в дом через двери, размер которых раза в два больше стандартного. Ваш старый друг приветствует вас вежливой улыбкой, демонстрируя, как он рад вас видеть, и представляет остальным присутствующим, чьи повседневные наряды дают вам отчетливо понять: со спортивной курткой вы, конечно, ошиблись.

Обед из девяти различных блюд, названия которых вы даже не в силе повторить, уже накрыт. Разговор затрагивает разные темы: от международной экономики до политики. Вы же находите вежливую (и, конечно же, неправдоподобную) причину покинуть комнату.

И вот сейчас вы в 15 футах от входной двери, ведущей на свободу, как внезапно что-то привлекает ваше внимание — комната с огромными книжными полками, полностью заполненными книгами в твердом переплете — разными: старыми и новыми. Возле кожаного кресла стоит излучающая мягкий свет лампа.

Вот это библиотека!

Увесистый томик «Морская жизнь» лежит на кресле. Вы поднимаете его.
«Тяжеловата, не правда ли?», — говорит голос прямо у вас за спиной.

Вы поворачиваетесь, неуклюже вертя книгу в руках, как вдруг томик выпадает из рук. Стукнувшись об пол, он открывается на главе «Эхолокация и голубой кит».
«Простите, — говорите вы. — Книги увлекли меня. Вы читали эту?».

Он поднимает книгу с пола и перелистывает несколько страничек. «Нет, не всю, вряд ли! — отвечает голос. — На самом деле, мне кажется, мне не удалось прочитать полностью ни единой полки отсюда».

Это заявление, конечно же, наталкивает на мысль, которая бы пришла в голову любому нормальному человеку: «Какой же кретин!».

Почему ваше заключение ошибочно?

Вышеописанная история — своеобразное видение сценария Нассима Николаса Талеба (Nassim Nicholas Taleb), описанного в его книге «Черный лебедь: Под знаком непредсказуемости» (The Black Swan: The Impact of the Highly Improbable).

Очевидно, что не менее 99% людей назовут нашего старого друга «Кретином с большой буквы», ведь кажется, что его огромная библиотека была создана просто так, для галочки — должна же быть у состоятельного человека огромная библиотека с редкими книгами.

И, как Талеб пишет в своем произведении, лишь единицы сочтут старого друга одним из тех, кто кое-что понимает, кое-что, что мы, как маркетологи, нередко упускаем из виду.

То, чего вы не знаете, гораздо ценнее того, что вы знаете

Рассмотрим пример, чтобы вы могли представить, как этот принцип работает в маркетинге.

Представьте: 1999 год, вы — представитель стереобизнеса. Маркетинговое исследование (приведено для примера) демонстрирует следующее:

CD-диски продаются просто прекрасно;
в среднем в домах есть 1.7 устройств, проигрывающих CD;
в среднем человек покупает 5.4 диска в год.

Вы смотрите на общеизвестные факты и говорите: «Черт возьми! Так давайте же запустим такое стереопроизводство, которое позволит сделать звучание CD-дисков лучшим на рынке! Покупатели будут просто без ума!».

После чего запускаются новые производственные линии, которые выпускают десятки тысяч заказанных вами экземпляров дисков, в то время как Стив Джобс, сидя себе тихонечко в своем офисе, разрабатывает iPod — технику нового поколения.

Как так? Дело в том, что Джобс уделял максимум внимания тому, чего он не знал.

Иллюзия подтверждения

Намного проще доказать чью-то неправоту, чем объяснить правильность чего-либо. Наглядный пример — черный лебедь. Многие столетия люди думали, что таких птиц не бывает. Почему? Да потому, что образ белого лебедя плотно засел в их сознании. И конечно же, устоявшееся представление было разрушено, когда появились подтверждения существования черных лебедей. Как говорит Талеб:

«Одно-единственное наблюдение может опровергнуть вековую истину о белых лебедях. Все, что нужно, — одна-единственная (и, кстати, довольно, неприятная на вид) черная птица».

Нельзя говорить о верности какого-либо факта, только потому, что вам всегда приходилось видеть его с определенной стороны.

Утверждать, что все лебеди белые, и не иначе, только потому, что вам всегда приходилось видеть только белоснежных представителей этой породы — то же самое, что и говорить, будто бы всем всегда будут нужны диски, потому чтоj сейчас их неплохо покупают. Чтобы все изменить, достаточно одного лебедя, ну или одного iPod.

Когда здравый смысл бессилен

В маркетинге здравый смысл обычно советует принимать решения, отталкиваясь от тех фактов, которые уже были испробованы. И знаете что? Конечно же, в большинстве случаев прислушиваться к здравому смыслу будет очень правильно. Но иногда по-настоящему большой куш сорвать можно, только выходя за рамки здравого смысла.

Именно поэтому создатели «Карты против всех» во время грандиозных распродаж в « », вместо того чтобы снизить, подняли цены на игру на 5 долларов. В результате они сумели за одну «Черную пятницу» поставить рекорд дневных продаж. А известные представители печатных СМИ получили настоящую сенсацию.

Практически все бизнесмены, начиная с проверенных годами идей, впоследствии решаются на эксперименты и реализацию немного сумасшедших идей.

Впоследствии все прибегают к реализации слегка сумасшедших идей.

Помните идею «Заплатите, сколько не жалко», реализованную группой Radiohead? Их альбом In Rainbows распространялся именно по такой модели. Никто даже представить себе не мог, что когда-то она обретет популярность. Это было нечто неизведанное.

Но рискованный подход «выстрелил», и очень пришелся по душе и поклонникам, и самим исполнителям.

А на каких стратегиях основывается ваш бизнес? Почему вы выбрали именно их?
Может быть то, на что вы раньше не обращали внимания, поможет в развитии бизнеса намного больше?

Теория черных лебедей

Термин «черный лебедь» происходит от латинского выражения – «редкая птица на земле подобна черному лебедю». Автором данного выражения считается древнеримский поэт Ювенал. До конца $XVII$ века популяции черных лебедей не были известны, считалось, что лебеди могут иметь исключительно белую окраску.

Несмотря на существование древнеримской метафоры, автором теории черного лебедя принято считать Нассима Николаса Талеба. Именно этот специалист впервые ввел данный термин для обозначения непредсказуемых событий в своем труде «Черный лебедь. Под знаком непредсказуемости». Н.Н. Талеб понимает под «черными лебедями» любые непредсказуемые события со значительными последствиями, как негативными, так и позитивными.

В соответствии с теорией черного лебедя людям свойственна склонность заблуждаться на счет собственной способности прогнозировать будущие события. В своих трудах Н.Н. Талеб описывает несколько видов заблуждений, которые являются причиной подобной излишней уверенности:

Нарративные заблуждения – склонность людей больше верить в эмоциональные факты, чем в статистические данные;
Игровые заблуждения – использование принципов теории игр в реальных условиях;
Ретроспективные заблуждения – вера в предсказуемость будущего на основе прошлых данных.

Критерии «черных лебедей»

Событие происходит неожиданно для анализующего;
Событие имеет значительные последствия;
Событие имеет ретроспективное рациональное объяснение.

Позиция автора теории черного лебедя заключается в том, что все значимые для мирового сообщества события представляют собой «черных лебедей». К черным лебедям, по его мнению, относятся научные открытия, значимые для человечества, исторические и политические события, а также успехи в области культуры и искусства.

Пример 1

В качестве примеров черных лебедей можно назвать появление и распространение сети Интернет, Первую мировую войну или террористический акт 11 сентября.

Н.Н. Талеб считает, что проблема человечества заключается в феномене «сверхуверенности» - уверенность в собственных знаниях опережает сами знания, а в реальности человек не способен достоверно прогнозировать будущее. При этом в мире преобладают именно события типа «черный лебедь», однако человечество уделяет очень большое внимание известным и повторяющимся ситуациям.

Черные лебеди в управлении риском

Профессия риск-менеджера в настоящее время является одной из наиболее активно развивающихся и высокооплачиваемых специальностей. Большинство компаний уделяют существенное внимание борьбе с возможными угрозами. Несмотря на относительную молодость отрасли риск-менеджмента, ее развитие происходит очень быстро. Компании тратят значительные средства на техническое оснащение департаментов по управлению риском, чтобы обезопасить себя от возможных угроз. Риск-менеджментом занимаются не только коммерческие организации, но и государственные предприятия, и отдельные люди по всему миру.

Однако события типа «черный лебедь» не подвластны контролю риск-менеджмента. Деятельность департаментов и специалистов по управлению рисков сфокусирована на часто повторяющихся событиях, вероятность возникновения которых можно подтвердить статистическими данными. В основе управления риском лежат математические и статистические инструменты, применение которых требует наличия выборок данных большого объема. Обеспечение стабильности организации требует от менеджмента рисков в первую очередь внимания к рутинным рискам и событиям. Кроме того, психологические особенности человека способствуют более оптимистичной оценке будущей ситуации, отказу от изучения чего-то, не поддающегося предсказанию и контролю.

Замечание 1

Таким образом, сложившаяся в области менеджмента риска ситуация способствует образованию «мертвых зон» в исследовании черных лебедей. Риск-менеджмент не нацелен на исследование событий типа «черный лебедь» и бесполезен в экстремальных, непредсказуемых ситуациях.

"Люди часто ошибаются, делая прогноз на основе того, что знают о прошлом. Считая, что будущее является отражением прошлого, мы заблуждаемся, потому что много неизвестных факторов идёт вразрез с нашими предположениями.

Пример. Представьте, что вы индейка на ферме. На протяжении многих лет фермер кормил вас, холил и лелеял. Ориентируясь на прошлое, нет никаких оснований ожидать изменений. Увы, на День благодарения вас обезглавили, зажарили и съели ".
<...>

Иногда события удивляют не потому, что они случайны, а потому, что наше мировоззрение слишком узкое. Такие сюрпризы называются «чёрными лебедями» и могут заставить нас пересмотреть картину мира.

Спасибо dralexmd за наводку

Талант человека — превращать все сигналы окружающей среды в значимую информацию. Это позволило создать научный метод, философствовать о природе бытия и изобретать сложные математические модели.

Наша способность размышлять о мире и управлять им вовсе не означает, что у нас это хорошо получается. Мы склонны узко мыслить в своих представлениях о нём. Придя к какому-либо суждению, мы мёртвой хваткой цепляемся за него.

Человеческие знания постоянно увеличиваются, и столь догматичный подход не эффективен. Двести лет назад врачи и учёные были абсолютно уверены в своих знаниях медицины, но только представьте, что, обратившись к врачу с жалобами на насморк, вам выписывают рецепт на пиявок!

Уверенность в суждениях заставляет выводить концепции за рамки системы понятий, принятой нами за истинную. Как понять медицину, не зная о существовании микробов? Можно придумать разумное объяснение болезни, но оно будет ошибочным из-за отсутствия важной информации.

Такое мышление может привести к неожиданным сюрпризам. Иногда события удивляют не по тому, что они случайны, а по тому, что наше мировоззрение слишком узкое. Такие сюрпризы называются «чёрными лебедями» и могут заставить нас пересмотреть картину мира.

Прежде чем человек впервые увидел чёрного лебедя, все предполагали, что они бывают только белыми. Белый цвет считался их неотъемлемой частью. Увидев чёрного лебедя, люди в корне изменили представление об этой птице. Чёрные лебеди — столь же обыкновенное явление, как лебеди белого цвета, и столь же роковое, как банкротство из-за падения фондового рынка.

«Чёрные лебеди» могут иметь судьбоносные последствия для тех, кто слеп к ним

Эффект «чёрного лебедя» не одинаков для всех. Некоторые могут серьёзно пострадать от него, а другие его даже не заметят. Важен доступ к соответствующей информации: чем меньше вы знаете, тем больше риск стать жертвой «чёрного лебедя».
Пример. Представьте, что на скачках вы поставили на любимую лошадь по кличке Ракета. Из-за телосложения лошади, её списка наград, мастерства жокея и вялой конкуренции вы ставите все деньги на её победу. А теперь представьте своё удивление, когда Ракета не только не побежала после старта, но предпочла просто лечь. Это «чёрный лебедь». Учитывая имеющуюся информацию, Ракета должна была выиграть, но почему-то вы потеряли все деньги. Напротив, владелец Ракеты разбогател, поставив против неё. В отличие от вас, он знал, что Ракета объявит забастовку в знак протеста против жестокого обращения с животными. Это знание спасло его от «чёрного лебедя».

Влияние «чёрных лебедей» может затрагивать не только отдельных людей, но и целые общества . В таких случаях «чёрный лебедь» может изменить мир, воздействуя, например, на философию, теологию и физику.

Пример. Коперник предположил, что Земля не является центром Вселенной, и последствия оказалась колоссальными: открытие ставило под сомнение как авторитет правящих католиков, так и самой Библии.

Впоследствии этот «чёрный лебедь» положил начало нового европейского общества.

Нас очень легко запутать даже элементарными логическими ошибками

Люди часто ошибаются, делая прогноз на основе того, что знают о прошлом. Считая, что будущее является отражением прошлого, мы заблуждаемся, потому что много неизвестных факторов идёт вразрез с нашими предположениями.

Делая прогнозы на основе прошлого, мы ошибаемся, и это приводит к серьёзным последствиям. Подобным заблуждением является когнитивное искажение, когда мы ищем доказательства только уже существующих убеждений.

Мы не принимаем информацию, противоречащую тому, во что мы уже верим, и вряд ли будем проводить дальнейшее исследование. Но если решим разобраться, то будем искать источники, оспаривающие данную информацию.

Пример. Если вы твёрдо уверены, что «изменение климата» — это тайный сговор, а потом увидите документальный фильм под названием «Неоспоримые доказательства изменения климата», вполне вероятно, вы очень расстроитесь. И если вы станете искать информацию в Интернете, в условиях поиска вы укажите «изменение климата — обман», а не «доказательства за и против изменения климата».

То есть мы невольно делаем неправильные выводы: это заложено в нашей природе.

Наш мозг группирует информацию способом, мешающим делать точные прогнозы

В ходе эволюции человеческий мозг научился классифицировать информацию. Но когда нам необходимо обучаться и быстро адаптироваться к опасной обстановке, такой способ совершенно бесполезен.

Неправильная классификация информации называется ложным повествованием: человек создаёт линейные описания текущей ситуации. Из-за огромного количества информации, которую мы получаем ежедневно, наш мозг выбирает только ту, которую считает важной.

Пример. Вы, наверное, помните, что ели на завтрак, но вряд ли назовёте цвет ботинок каждого пассажира в метро.

Чтобы придать смысл информации, мы связываем её. Так, думая о своей жизни, вы отмечаете определённые события как значимые, и выстраиваете их в повествование, объясняющее, как вы стали тем, кто вы есть.

Пример. Вы любите музыку, потому что мама пела вам перед сном.

Так нельзя полноценно понять мир. Процесс работает только с оглядкой на прошлое и не учитывает почти безграничные толкования любого события. Даже крошечные события могут иметь непрогнозируемые, важные последствия.

Пример. Бабочка, взмахивая крылышками в Индии, вызывает ураган в Нью-Йорке месяц спустя.

Если мы расставим причины и следствия в порядке их возникновения, то увидим ясные, причинно-следственные отношения между событиями. Но поскольку мы видим только результат — ураган — можно лишь угадывать, какое из одновременно происходящих событий на самом деле повлияло на такой исход.

Нам сложно отличить масштабируемую и немасштабируемую информацию

Мы не очень хорошо различаем типы информации — «масштабируемую» и «немасштабируемую». Разница же между ними принципиальна.

Немасштабируемая информация, такая, как масса тела или рост, имеет статистический верхний и нижний предел. То есть, вес тела немасштабируем, так как существуют физические ограничения: невозможно весить 4500 кг. Ограничение параметров такой немасштабируемой информации позволяет делать прогнозы относительно средних значений.

Но нефизические или принципиально абстрактные вещи, такие, как распределение богатства или продажи альбомов, масштабируемы.

Пример. Если альбом продавать через iTunes, количеству продаж нет предела: оно не ограничивается объёмом физических копий. А поскольку операции проходят в режиме онлайн, нет недостатка физической валюты, и ничто не помешает продать триллионы альбомов.

Разница между масштабируемой и немасштабируемой информацией имеет решающее значение для видения точной картины мира. Если правила, эффективные для немасштабируемой информации, применить к масштабируемой, возникнут ошибки.

Пример. Вы хотите измерить богатство населения Англии. Самый простой способ — посчитать богатство на душу населения, сложив доходы и разделив их на количество граждан. Однако богатство масштабируемо: крошечный процент населения может владеть невероятно большим процентом богатства.

Данные о доходах на душу населения не отразят реального положения дел в вашем распределении доходов.

Мы слишком уверены в том, что считаем известным

Все хотят уберечь себя от опасности. Один из способов — оценивать риски и управлять ими. Поэтому мы покупаем страховку и стараемся «не класть все яйца в одну корзину».

Большинство прилагает все усилия для максимально точной оценки рисков, чтобы не упустить возможности и одновременно не сделать того, о чём можно пожалеть. Для этого нужно оценить все риски, а затем и вероятность того, что эти риски материализуются.

Пример. Допустим, вы собираетесь приобрести страховку, но без лишней траты денег. Тогда необходимо оценить угрозу заболевания или несчастного случая и принять взвешенное решение.

К сожалению, мы убеждены, что знаем все возможные риски, от которых должны защититься. Это игровая ошибка: мы склонны реагировать на риск, как на игру с набором правил и вероятностей, которые можно определить до её начала.

Рассматривать риск таким образом очень опасно.

Пример. Казино хотят зарабатывать как можно больше денег, поэтому разработали систему безопасности и дисквалифицируют игроков, выигрывающих слишком много и часто. Но их подход основан на игровой ошибке. Основная угроза казино — не везунчики и не воры, а похитители, берущие ребёнка владельца казино в заложники, или работник, не представивший декларацию по доходам в Налоговую службу. Серьёзные опасности для казино совершенно непредсказуемы.

Неважно, насколько сильно мы стараемся. Точно предвидеть какой-либо риск невозможно.

Почему необходимо осознавать своё незнание?

Понимая, что вы многого не знаете, вы сможете лучше оценивать риски

Все знают фразу: «Знание − сила». Но когда знания ограничены, выгоднее признавать это.

Сосредоточившись только на том, что знаете, вы ограничиваете своё восприятие всех возможных исходов данного события, создавая благодатную почву для возникновения «чёрного лебедя».

Пример. Вы хотите купить акции компании, но слишком мало знаете о фондовом рынке. В этом случае, вы проследите за несколькими падениями и подъёмами, но, в целом, обратите внимание только на то, что тенденции положительны. Полагая, что ситуация сохранится, вы тратите все деньги на акции. На следующий день рынок терпит крах, и вы теряете всё, что у вас было.

Изучив тему немного лучше, вы бы увидели многочисленные подъёмы и падения рынка на протяжении всей истории. Сосредотачивая внимание только на том, что мы знаем, мы подвергаем себя серьёзным рискам.

Если же признать, что вы чего-то не знаете, можно значительно уменьшить риск.

Пример. Хорошие игроки в покер знают, что этот принцип имеет решающее значение для успеха в игре. Они понимают, что карты их противников могут быть лучше, но также знают, что существует определённая информация, которой они не знают — например, стратегии соперника и степень его решимости идти до конца.

Осознавая наличие неизвестных факторов, игроки фокусируется исключительно на своих картах, лучше оценивая возможные риски.

Представление об ограниченности поможет нам сделать правильный выбор

Лучшая защита от когнитивных ловушек — хорошо понимать инструменты прогнозирования, а также их ограничения. Пусть это и не спасёт от промаха, но поможет уменьшить количество неудачных решений.

Если вы осознаете, что подвержены когнитивному искажению, гораздо легче понять, что вы ищете информацию, подтверждающую уже существующие утверждения. Или, зная, что люди любят сводить все к ясным, причинно-следственным повествованиям, вы будете склонны искать дополнительную информацию для лучшего представление о «картине в целом».

Необходимо знать о своих недостатках.

Пример. Если вы понимаете, что всегда существуют непредвиденные риски, несмотря на перспективность возможности вы будете осторожнее вкладывать в неё большие средства.

Невозможно преодолеть все случайности или наши ограничения в понимании сложности мира, но можно, по крайней мере, смягчить ущерб, нанесённый невежеством.

Самое главное

Хотя мы постоянно делаем прогнозы, у нас это плохо получается. Мы слишком уверены в своих знаниях и недооцениваем наше невежество. Неспособность понять и определить случайность и даже сама наша природа способствуют неудачному принятию решений и появлению «чёрных лебедей», то есть событий, кажущихся невозможными и заставляющих переосмыслить понимание мира.

Недоверчиво относитесь к «потому что». Вместо желания видеть события в чёткой причинно-следственной связи, рассматривайте ряд возможностей, не зацикливаясь на одной.

Осознайте, что вы чего-то не знаете. Для осмысленных прогнозов на будущее, будь это покупка страховки, инвестиции, смена места работы и так далее, недостаточно учитывать всё «известное» вам — это даёт лишь частичное понимание рисков. Вместо этого признайте, что вы чего-то не знаете, чтобы излишне не ограничивать информацию, с которой имеете дело.

Существует актуальная фундаментальная уязвимость в любой программном средстве написанном на компилируемых языках.

Теория «Черного лебедя»

Автор теории Нассим Николас Талеб, описавший ее своей книге «Чёрный лебедь. Под знаком непредсказуемости». Теория рассматривает труднопрогнозируемые и редкие события, которые несут за собой значительные последствия. Процессы реального мира не возможно описать с точки зрение одной лишь математики, и в доказательство этому рассмотрим один простой пример.

Живую индюшку покупают на птицефабрике, и она попадает в гораздо лучшие условия.
Ее усиленно откармливают, заботятся, холят и лелеют. Каждый день ее кормушка заполняется кормом, ее загон теплый и комфортный. Каждый день, долгое время.

Обладай индюшка умением прогнозирования, она практически со 100 процентной вероятностью предсказала бы что и на следующий день корма будет вдоволь в ее теплом загоне.Но в один прекрасный день в ноябре, наступает день благодарения, и все тот-же заботливый хозяин сворачивает ей шею. Сюрприз. Случилось то, что индюшка не могла знать, и принципиально изменилась вся картина. Случилось то, что и есть Черный Лебедь- редкое непредсказуемое событие. Удар с неожиданной стороны. И такие события происходят в нашей жизни.

Если вы всю жизнь видели только белых лебедей, не значит что черных не существует.

Рассмотрев эту теорию можно понять актуальность потенциальной фундаментальной уязвимости любой автоматизированной системы. Проблема достаточно старая, существует столько же сколько и язык C.

Размышление о том, можно ли полагаться на доверие

В 1975 Кеном Томпсоном (создатель языка программирования C и операционной системы UNIX) была впервые поставлена проблема доверенного компилятора. Публично опубликована в 1984 году в его Тьюринговской лекции «Размышление о том, можно ли полагаться на доверие».

В лекции Кен Томпсон продемонстрировал атаку через бинарную версию компилятора С без необходимости модификации его исходных кодов. Была продемонстрирована закладка в компиляторе, которая добавляет вирусный код в программы скомпилированные этим компилятором. А также настроена и на сам компилятор.

Вирусный код невозможно отследить традиционными методами через исходный код.

А ведь компиляторы также компилируются компиляторами. Доверенному и проверенному исходному тексту компилятора нельзя верить до тих пор пока он сам не будет собран доверенным компилятором. Собирая новые версии компилятора размножается вирусный код в новых версиях компилятора. Яркий пример проявления проблемы «курицы и яйца».

Около 20 лет проблема считалась нерешаема.

Метод двойной раздельной кросс-компиляции

В 2005 году Дэвид Уилер представил решение этой проблемы, позволяющий точно распознать успешно проведенную атаку на компилятор.

Основная сложность теории заключается в том, что необходимо наличие доверенного компилятора.

Вкратце методика заключается в следующем:
1)берется проверенный исходный текст компилятора S (например gcc-4.7);
2)компилятор S компилируется проверяемым компилятором C1 и получается компилятор С1(S);
3)компилятор S компилируется доверенными компилятором C2 и получается компилятор С2(S);
4)на компиляторе C1(S) и C2(S) компилируется программа P, получаем бинарный код программы C1(S(P)) и С2(S(P));
5)сравниваем C1(S(P)) и С2(S(P));

Получившиеся бинарные файлы должен быть идентичны, в противном случае компилятор дискредитирован и имеет вирусный код (программную закладку).

Заключение

Распространение бинарных версии компиляторов происходило неконтролируемо, и невозможно утверждать, что на каких либо этапах не выкладывались компиляторы с описанной уязвимостью. На данный момент найти доверенный компилятор практически невозможно. Это говорит о наличии потенциальной фундаментальной уязвимости в любой автоматизированной системе. Наличие проверенных исходных кодов не является панацеей, так как наличие бинарных вирусов сводит на нет все преимущество легко поддающегося аудиту исходного кода.

Пример с индюшкой в начале статьи является попыткой доказать актуальность данной уязвимости, которой на протяжении многих лет уделяется недостаточно внимания.

Неизвестно кто и для чего мог сделать программную закладку в компиляторе, и не наступит ли «День благодарения» для нас всех.

Литература

1)Nassim Nicholas Taleb, The Black Swan: The Impact of the Highly Improbable,
http://www.nytimes.com/2007/04/22/books/chapters/0422-1st-tale.html?_r=0
2) Thompson, Ken, Reflections on Trusting Trust,
https://www.ece.cmu.edu/~ganger/712.fall02/papers/p761-thompson.pdf
3)Wheeler, David A., Countering Trusting Trust through Diverse Double-Compiling (DDC),