Полная вероятность и формула Байеса

Прежде, чем привести формальный вывод формулы полной вероятности, рассмотрим две задачи, ставшие почти «классическими» .

Слепой старец без поводыря вышел из пункта, А в пункт В (рис.7). Какова вероятность того, что он достигнет конечного пункта? Так как предполагается, что старец случайным образом выходит на ту или иную дорогу, то вероятность попасть в каждый из промежуточных пунктов С, Д, Е одинакова и равна 1/3. Однако из этих пунктов он попадет в конечный пункт В уже с разными вероятностями. Для пункта С эта вероятность — 1/3, т.к. из него ведут три дороги, для Д — вероятность равна ½, для Е — 1. Таким образом, общая вероятность для слепого старца попасть из пункта, А в пункт В (именно эта вероятность и есть полная вероятность) равна.

=.

Другая задача. В группе студентов-старшекурсников 4 отличника, 13 хорошо успевающих и 8 слабых студентов. Результаты предшествующих экзаменационных сессий показали, что отличники на экзаменах получают только отличные оценки (потому они и отличники); «хорошисты», как правило, в девяти случаях из десяти получают отличные или хорошие оценки; наконец, слабые студенты в одном случае из пяти получают хорошие оценки, а в оставшихся четырех с равной вероятностью получают удовлетворительные и неудовлетворительные оценки.

Для сдачи экзамена наугад выбирается один студент. Найти вероятность события А, что студент получит хорошую или отличную оценку.

Итак, если студент — отличник, то с вероятностью единица он получает отличную или хорошую оценку, а вероятность, что именно такой студент будет выбран равна 4/25. Если студент успевает хорошо, то с вероятностью 9/10 он получает хорошую или отличную оценку, а вероятность, что он будет выбран наугад составляет 13/25. Наконец, выбираемый с вероятностью 8/25 слабый студент получает хорошую оценку с вероятностью 1/5. Так как выбор экзаменующегося студента осуществляется случайно и независимо, то.

p (A)=.

Теперь после получения интуитивно понятных результатов, формальным образом введем понятие полной вероятности.

Пусть мы имеем полную группу попарно несовместных событий. Это означает, что.

.

Если теперь событие, А реализуется вместе с одним из событий, то.

. (21).

Это и есть формула полной вероятности, используемая при решении широкого круга задач.

Те же условия, что и для формулы полной вероятности, были использованы для формулирования так называемой теоремы гипотез или формулы Байеса. (Сразу отметим, что сам Томас Байес — английский математик XVIII века — формулу эту не выводил. Она названа так в знак признания его работ по теории вероятностей.).

Итак, до проведения экспериментов или наблюдений есть какие-то гипотезы, выражаемые численно в виде вероятностей некоторых событий. После проведения экспериментов, как правило, приходится проводить переоценку первоначальных гипотез и для этого необходимо иметь соответствующую формулу, чтобы указанную процедуру проводить строго однозначно.

Пусть попарно несовместные события образуют полную группу событий, т. е.

Рассмотрим некоторое событие, А в том же пространстве элементарных событий, что и .

Определение. Вероятность осуществления события (гипотезы), вычисленная безотносительно к событию А, называется априорной вероятностью.

Определение. Условная вероятность выполнения события (гипотезы), вычисленная в предположении, что событие, А осуществилось, называется апостериорной вероятностью.

Так как события попарно несовместны и образуют полную группу, то.

.

Используя результат теоремы об умножении вероятностей (формула 17), имеем.

. (22).

Вычислим теперь условную вероятность события, если известно, что событие, А реализовалось. По формуле условной вероятности (13) имеем.

(23).

Это и есть формула Байеса, которую иногда называют формулой переоценки гипотез в тех случаях, когда события рассматривают как гипотезы.

Рассмотрим два примера использования этой формулы.

Пусть при сдаче экзамена положительная оценка ставится с вероятностью 0,95, если студент подготовлен достаточно хорошо, и с вероятностью 0,05, если он не подготовлен. Другими словами, событие заключается в том, что студент подготовлен к экзамену удовлетворительно, — «подготовлен неудовлетворительно», A — «положительная оценка», т. е. и = 0,05. Таким образом, в 5% случаев неподготовленный студент будет получать положительную отметку и в 5% случаев подготовленный студент будет получать неудовлетворительную оценку. Пусть теперь имеется поток, в котором доля студентов хорошо подготовленных составляет 0,8, и соответственно, доля неподготовленных — 0,2. Возникает вопрос, как на основании априорной информации определить вероятность того, что получивший хорошую оценку студент действительно был хорошо подготовлен.

По формуле Байеса имеем.

Таким образом, если пользоваться априорными условными вероятностями, то можно ожидать, что неправильная оценка знаний на экзамене будет почти исключена: в длинной серии экзаменов не более двух человек из ста, будучи плохо подготовленными, смогут получить хорошую оценку.

Условия следующей задачи имеют отношения к проблеме медицинской диагностики, хотя точно такой же подход может быть использован для решения аналогичных диагностических задач в любой области науки и техники.

Итак, предполагается, что диагностический тест ракового заболевания дает положительную реакцию с вероятностью 0,95, если у обследуемого действительно есть рак, и с вероятностью 0,05, если у обследуемого этого заболевания нет. Запишем это более формально: событие — «обследуемый болен раком», событие — «обследуемый не болен раком», A — «положительная реакция», Следовательно, при использовании этого теста не более 5% действительно больных будут отнесены к здоровым и не более 5% здоровых ошибочно будут причислены к больным. Пусть теперь с использованием этого теста обследуется группа, в которой каждый индивидуум имеет вероятность быть больным равную 0,001, т. е. и = 0,999. Зададимся вопросом, какова вероятность того, что индивидуум из этой группы, имеющий положительную реакцию на тест, в действительности болен раком?

Используя формулу Байеса, имеем.

Таким образом, из обследуемых в этой группе и имеющих положительную реакцию на тест меньше 2% в действительности больны раком.

В заключение этой главы рассмотрим пример, связанный с вероятностными расчетами для ситуации, которая могла бы возникнуть реально.

Попытки использовать вероятностные методы для моделирования ситуаций, возникающих на практике, наталкиваются на специфические трудности. Во-первых, ни одна реальная задача не связана с таким математическим понятием как множество элементарных событий, которое определяет результат решения. Поэтому прежде, чем приступить к решению задачи вероятностными методами, необходимо сформулировать ее в соответствующих понятиях. Собственно к этому и сводится построение математической модели реальной ситуации. Существует много способов построения моделей, и их адекватность может быть проверена или эмпирическим путем или, что бывает значительно чаще, базироваться на интуитивном представлении о соответствии модели реальному механизму изучаемого явления. При этом следует отдавать себе отчет в том, что полученное решение соответствует использованной нами модели, но совсем не обязательно будет соответствовать реальной ситуации, для которой эта модель построена. И только в том случае, если формальные или интуитивные представления, положенные в основу модели адекватны исследуемому процессу или явлению, следует ожидать удовлетворительного совпадения «выходов» модели и «выходов» реальной системы.

Вторая трудность при решении практически важных задач состоит в том, что реальные проблемы чрезвычайно сложны и попытки их адекватного отражения в математической модели приводят зачастую к непреодолимым математическим сложностям, так что приходится пересматривать модель, жертвуя ее адекватности ради возможности получить решение за приемлемое время и с приемлемыми затратами сил и средств.

Эти соображения следует иметь в виду, оценивая приводимые в этом и других разделах задачи, имеющие отношение к реальности.

Пусть мы проверяем новый измерительный комплекс для проведения физико-химического анализа проб почв, состоящий из двух узлов: измерительного (первого) и регистрирующего (второго). Вероятности безотказной работы за время t (надежность работы) известны из паспортных данных фирмы-изготовителя и равны соответственно Узлы отказывают независимо друг от друга. По истечении времени t выяснилось, что прибор неисправен. Возможны три предположения (гипотезы):

={неисправен только первый узел};

={неисправен только второй узел};

={неисправны оба узла}.

Вообще-то, до начала испытаний существовала еще одна гипотеза ={исправны оба узла}, но так как прибор все-таки отказал, то эта гипотеза исключается.

Для локализации неисправности прибор тестируется с помощью трех независимых тестов: в результате чего оказывается, что первые два теста дали положительный результат, а третий — отрицательный, т. е. реализовалось событие B={+±}, где плюсом обозначены положительные результаты тестов, а минусом — отрицательный результат. Известны также условные вероятности положительного результата тестов при гипотезах. Эти вероятности обозначаются как, где i — номер теста, j-номер гипотезы. Имеем:

.

Необходимо определить наиболее вероятное из возможных состояний прибора.

Прежде всего, необходимо оценить априорные вероятности каждой из трех гипотез, используя известные вероятности безотказной работы каждого из узлов. Обозначая через вероятность неисправности i-го узла, имеем:

Эти значения получены с учетом условия, что узлы прибора отказывают независимо друг от друга.

Так как, в конечном счете, прибор отказал, то будем считать, что реализовалось некоторое событие.

.

вероятность которого.

Тогда в соответствии с формулой Байеса.

апостериорные вероятности гипотез будут равны соответственно.

На следующем этапе для учета результатов тестирования эти вероятности могут использоваться уже как априорные, и с их использованием необходимо вычислить условные вероятности события B при тех же гипотезах. Имеем.

И в этом случае при расчетах использовано условие о том, что результаты тестирования независимы.

Вторично применяя формулу Байеса получим:

Из этих результатов следует, что наиболее вероятное состояние прибора соответствует второй гипотезе — «отказал только второй узел». В этом случае целесообразно начинать ремонтные работы именно со второго узла, так как вероятность выхода из строя именно этого узла более чем в два раза превышает вероятность выхода из строя первого.