Статистика

Лекции по теории вероятности и математической статистике


Теория вероятности и математическая статистика

Введение.

Теория вероятности возникла как наука из убеждения, что  в  основе  массовых
случайных   событий   лежат   детерминированные    закономерности.    Теория
вероятности изучает данные закономерности.
Например: определить однозначно результат выпадения  “орла”  или  “решки”  в
результате подбрасывания монеты нельзя, но  при  многократном  подбрасывании
выпадает примерно одинаковое число “орлов” и “решек”.
Испытанием называется реализация определенного  комплекса  условий,  который
может воспроизводиться неограниченное число раз. При этом  комплекс  условий
включает в себя случайные факторы, реализация которого  в  каждом  испытании
приводит к неоднозначности исхода испытания.
Например: испытание - подбрасывание монеты.
Результатом испытания является событие. Событие бывает:
Достоверное (всегда происходит в результате испытания);
Невозможное (никогда не происходит);
Случайное (может произойти или не произойти в результате испытания).
Например: При подбрасывании кубика невозможное событие  -  кубик  станет  на
ребро, случайное событие - выпадение какой либо грани.
Конкретный результат испытания называется элементарным событием.
В результате испытания происходят только элементарные события.
Совокупность  всех  возможных,  различных,  конкретных   исходов   испытаний
называется пространством элементарных событий.
Например:  Испытание  -  подбрасывание  шестигранного  кубика.  Элементарное
событие - выпадение грани с “1” или “2”.
Совокупность элементарных событий это пространство элементарных событий.
Сложным   событием   называется   произвольное   подмножество   пространства
элементарных событий.
Сложное событие в результате  испытания  наступает  тогда  и  только  тогда,
когда в результате испытаний произошло элементарное  событие,  принадлежащее
сложному.
Таким образом, если в  результате  испытания  может  произойти  только  одно
элементарное событие, то  в  результате  испытания  происходят  все  сложные
события, в состав которых входят эти элементарные.
Например:  испытание  -  подбрасывание  кубика.   Элементарное   событие   -
выпадение грани с номером “1”. Сложное событие - выпадение нечетной грани.
Введем следующие обозначения:
А - событие;
( - элементы пространства (;
( - пространство элементарных событий;
U - пространство элементарных событий как достоверное событие;
V - невозможное событие.
Иногда для удобства элементарные события будем обозначать Ei, Qi.


Операции над событиями.

1. Событие C называется суммой A+B, если оно состоит  из  всех  элементарных
событий, входящих как в A, так и в B. При  этом  если  элементарное  событие
входит и в A, и в B, то в C оно входит  один  раз.  В  результате  испытания
событие C происходит тогда, когда произошло событие, которое входит или в  A
или  в  B.  Сумма  произвольного  количества  событий    состоит   из   всех
элементарных событий, которые входят в одно из Ai, i=1, ..., m.



 2. Событие C произведением A и B, если оно  состоит  из  всех  элементарных
событий, входящих и в A, и в B. Произведением  произвольного  числа  событий
называется событие состоящее из элементарных событий, входящих  во  все  Ai,
i=1, ..., m.



  3.  Разностью  событий  A-B  называется  событие  C,  состоящее  из   всех
элементарных событий, входящих в A, но не входящих в B.



 4. Событие   называется противоположным событию A, если  оно  удовлетворяет
двум свойствам.
Формулы де Моргана: [pic]   и  [pic]



5. События A и  B  называются  несовместными,  если  они  никогда  не  могут
произойти в результате одного испытания.
События  A  и  B  называются  несовместными,  если  они   не   имеют   общих
элементарных событий.
C=A(B=V
Тут V - пустое множество.

Частость наступления события.

Пусть пространство элементарных событий конечно и состоит из m  элементарных
событий. В этом случае в качестве возможных исходов испытаний  рассматривают
2m событий - множество всех подмножеств пространства элементарных событий  (
и невозможное событие V.
Пример:
(=((1, (2, (3)
A1=V
A2=(?1)
A3=(?2)
A4=(?3)
A5=(?1, ?2)
A6=(?2, ?3)
A7=(?1, ?3)
A8=((1, (2, (3)
Обозначим систему этих событий через  F.  Берем  произвольное  событие  A(F.
Проводим серию испытаний в количестве n.  n - это  количество  испытаний,  в
каждом из которых произошло событие A.
Частостью наступления события A в n испытаниях называется число
[pic]


Свойства частости.

    1. [pic]
    2. Частость достоверного события равна 1.  ?n(U)=1.
    3. Частость суммы попарно несовместных событий равна сумме частостей.
Рассмотрим систему Ai, i=1, ..., k; события попарно несовместны, т.е.
[pic]  Событие        [pic]             [pic]
Пусть в результате некоторого испытания произошло событие A. По  определению
сумы это означает, что в этом испытании произошло некоторое событие Ai.  Так
как все события попарно несовместны, то это  означает,  что  никакое  другое
событие Aj (i(j) в этом испытании произойти не может. Следовательно:
nA=nA1+nA2+...+nAk
[pic]
Теория вероятности используется при описании  только  таких  испытаний,  для
которых выполняется следующее предположение: Для любого события  A  частость
наступления этого события в любой бесконечной серии испытаний имеет  один  и
тот же предел, который называется вероятностью наступления события A.
Следовательно, если рассматривается  вероятность  наступления  произвольного
события,  то  мы  понимаем  это  число  следующим  образом:   это   частость
наступления события в бесконечной  (достаточно длинной) серии испытаний.
К сожалению, попытка определить вероятность как предел частости,  при  числе
испытаний,  стремящихся  к   бесконечности,   закончилась   неудачно.   Хотя
американский ученый Мизес создал теорию вероятности,  базирующуюся  на  этом
определении,  но  ее  не  признали  из-за  большого  количества   внутренних
логических несоответствий.
Теория вероятности как наука была построена на аксиоматике Колмогорова.

Аксиоматика теории вероятности.


Построение вероятностного пространства.

Последовательно строим вероятностное пространство.
Этап 1:
Имеется испытание. В результате проведения испытания может наблюдаться  одно
событие  из  серии  событий  (.  Все  события  из   системы   (   называются
наблюдаемыми.  Введем  предположение,  что  если  события  A  (  (,  B  (  (
наблюдаемы, то наблюдаемы и события [pic].
Система событий F называется полем событий или алгеброй  событий,  если  для
двух произвольных событий A, B ( F выполняется:
    1) Дополнения [pic]
    2) (A+B) ( F, (A(B) ( F
    3) все конечные суммы элементов из алгебры принадлежат алгебре
    4) все конечные произведения элементов из алгебры принадлежат алгебре
    5) все дополнения конечных сумм и произведений принадлежат алгебре.
Таким образом, систему ( мы расширяем до алгебры или поля F путем  включения
всех конечных сумм, произведений, и  их  дополнений.  Т.е.  считаем,  что  в
результате проведения  испытания  наблюдаемая  система  является  полем  или
алгеброй.
Множество всех подмножеств  конечного  числа  событий  является  наблюдаемой
системой - алгеброй, полем.
Этап 2:
Каждому событию A ( F ставим в соответствие число P(A),  которое  называется
вероятностью наступления события  A.  Такая  операция  задает  вероятностную
меру.
       Вероятностная мера - числовая скалярная функция, аргументами которой
       являются элементы из системы алгебры F. Введенная вероятностная мера
       удовлетворяет системе из трех аксиом.
    1. [pic]   [pic]
    2. P(U)=1.
    3. Рассмотрим конечную или  бесконечную  систему  попарно  несовместных
       событий, каждое из которых принадлежит алгебре F.
[pic].      Если  [pic], то      [pic].
Алгебра событий называется ( - алгеброй, если эта система  событий  содержит
в себе все конечные суммы и произведения из алгебры F  и  их  дополнения,  а
также все бесконечные суммы и произведения из алгебры и их дополнения.
Пример: В пространстве R1 зададим  в  качестве  поля  событий  все  конечные
интервалы вида a(x(b, b(a.
Распространение этой алгебры на ( - алгебру приводит к  понятию  борелевской
алгебры, элементы которой называются борелевскими  множествами.  Борелевская
алгебра получается не только расширением поля вида a(x(b, но  и  расширением
полей вида a(x(b, a(x(b.
Над наблюдаемым полем событий F задается счетно-аддитивная мера  -  числовая
скалярная  функция,  элементами  которой  являются  элементы  поля  F,  т.е.
события.  Она  удовлетворяет   следующим   трем   условиям-аксиомам   теории
вероятности.
    1. [pic]   [pic].    P(A) - число,  принадлежащее  сегменту  [0,  1]  и
       называющееся вероятностью наступления события A.
    2. P(A) ( [0, 1]       P(U)=1.
    3. Пусть имеется A1, A2, A3,...,  Ak  -  система  попарно  несовместных
       событий
[pic]      Если  [pic], то      [pic].

Теорема о продолжении меры.

Построим минимальную (  -  алгебру,   которой  принадлежит  поле  событий  F
(например, борелевская ( - алгебра - это минимальная (  -  алгебра,  которая
содержит поле всех полуинтервалов ненулевой длины).
Тогда  доказывается,   что   счетно-аддитивная   функция   P(A)   однозначно
распространяется на все элементы минимальной ( - алгебры и при этом ни  одна
из аксиом не нарушается.
Таким образом, продленное P(A) называется ( - аддитивной мерой.
( - алгебра содержит ненаблюдаемые события наряду с наблюдаемыми.
Но в аксиоматической  теории  вероятности  считается,  что  может  произойти
любое событие из ( - алгебры.
Расширение поля наблюдаемых событий на ( - алгебру связано с  невозможностью
получить основные результаты теории вероятности без понятия ( - алгебры.

Определение вероятностного пространства.

Вероятностным пространством называется тройка ((, (, P), где
( - пространство элементарных событий, построенное для данного испытания;
(  -  (-алгебра,  заданная  на  (  -  системе  возможных  событий,   которая
интересует исследователя, в результате проводимых испытаний;
P - ( - аддитивная  мера,  т.е.  (  -  аддитивная  неотрицательная  функция,
аргументами которой являются аргументы из  (  -  алгебры  и  удовлетворяющая
трем аксиомам теории вероятности.
    1. [pic]   [pic].    P(A) - называется вероятностью наступления события
       A.
    2. Вероятность достоверного события равна 1       P(()=1.
    3. Вероятность суммы несовместных событий равна сумме вероятностей
[pic]
[pic],     [pic].
k - возможно бесконечное число.
Следствие:
Вероятность невозможного события равна 0.
По определению суммы имеет место  неравенство  (+V=(.  (  и  V  несовместные
события.
По третей аксиоме теории вероятности имеем:
P((+V)=P(Q)=P(U)=1
P(()+P(V)=P(()
1+P(V)=1
P(V)=1
Пусть ( состоит из конечного числа элементарных событий (={E1,  E2,...,  Em}
тогда по определению  [pic].  Элементарные  события  несовместны,  тогда  по
третей аксиоме теории вероятности имеет место [pic]
Пусть некоторое событие A(( состоит из k элементарных событий,  тогда  {Ei1,
Ei2,..., Eik} [pic]
Доказать: Если A(B, то P(B)(P(A), B=A+C, A и  C несовместны.
*  Пусть  B=A+C,  A  и  B  несовместны.  Тогда  по  третей  аксиоме   теории
вероятности P(B)=P(A+C)=P(A)+P(C)  т.к. 1(P(C)(0 - положительное  число,  то
P(B)(P(A).

Классическое определение вероятности.

Пусть ( состоит из конечного числа элементарных событий и  все  элементарные
события  равновероятны,  т.е.  ни  одному  из  них  из  них  нельзя   отдать
предпочтения до испытания, следовательно, их можно считать равновероятными.
Тогда достоверное событие [pic]  m - количество равновероятных событий
[pic],                  [pic],              [pic]
Пусть произвольное событие [pic] Тогда [pic], т.е. событие A  состоит  из  k
элементарных событий.
Если  элементарные  события  являются  равноправными,  а,  следовательно,  и
равновероятными, то  вероятность  наступления  произвольного  события  равна
дроби  числитель  которой  равен  числу  элементарных  событий,  входящих  в
данное, а знаменатель - общее число элементарных событий.

Условная вероятность.

P(A/B)
Условной  вероятностью  наступления  события  A,  при  условии  события   B,
называется вероятность наступления события A в  результате  испытаний,  если
известно, что в это испытании произошло событие B.
Вывод формулы условной вероятности для  случая  равновероятных  элементарных
событий



Действительно, в данном испытании произошло одно из t  событий,  входящих  в
B.  Все  элементарные  события  равновероятны,  следовательно,  для  данного
испытания  вероятность  наступления  произвольного  элементарного   события,
входящего в B равна 1/t. Тогда по классическому определению  вероятности,  в
данном испытании событие A произойдет с вероятностью r/t.
[pic]
[pic]
В общем случае доказать эту формулировку невозможно,  в  теории  вероятности
она вводится как правило. Существует лишь толкование этой формулы.

Обоснование формулы условной вероятности в общем случае.

Пусть в nB испытаниях произошло событие  B,  а  в  nA  испытаниях  произошло
событие A. Найдем условную частость наступления события A при  условии,  что
произошло событие B. Мы можем сделать это для обоснования формулы, т.к.  под
вероятностью наступления  события  понимается  предел  частости  наступления
события при условии, что серия испытаний достаточно длинная.
Условная частость [pic]
[pic]
Рассматривая AB как одно событие D имеем: [pic] с другой стороны [pic]
Рассмотрим систему  событий  A1,  A2,...,Ak.  Покажем,  что  вероятность  их
совместного наступления равна:     [pic]
Доказательство проведем по мат индукции.
Формула равна для 2 и 3 (см. ранее)
Пусть формула верна для k-1.
[pic]
Введем событие B.
[pic]
P(A1A2...Ak-1)=P(B)
P(A1A2...Ak)=P(AkB)=P(B)(P(AkB)

                            Независимые события.

Два события A и B называются независимыми, если P(A/B)=P(A);  P(B)=P(B/A)  -
доказать.
В  этом  случае  вероятность  наступления  двух  событий   A   и   B   равна
P(AB)=P(B)P(A/B)=P(A)P(B),
при этом покажем, что P(B/A)=P(B); P(AB)=P(B)P(A)=P(A)P(B/A)
События A1A2...Ak называются независимыми между собой, если  вероятность  их
совместного наступления [pic]; [pic]. Два независимых события совместны.
* Если бы события  были  несовместны,  то  P(A/B)=0  и  P(B/A)=0,  т.к.  они
независимы, то P(A/B)=P(A)  и  P(B/A)=P(B),  т.е.  утверждение  “независимые
события несовместны”, т.к. P(A)=0 и P(B)=0, то это утверждение неверно.

                       Формула сложения вероятностей.

[pic]
U - достоверное событие
[pic]
Покажем, что события [pic] несовместны.
* Если события несовместны, то [pic]; [pic];
т.е. события несовместны.
Тогда по третей аксиоме теории вероятности [pic]
[pic]
Справедливо следующее тождество на основании (1) и закона дистрибутивности
[pic]
Показать самим, что все три множества попарно несовместны.
[pic]
На основании первой и третей аксиомы теории вероятности получаем:
[pic]
Имеет место тождество [pic], показать самим, что [pic] несовместны
[pic]
По третей аксиоме:
[pic]
Для экзамена доказать самим формулу суммы произвольного числа событий
[pic]

                         Формула полной вероятности.

Рассмотрим систему A из k попарно несовместных событий.
B1, B2, ..., Bk       [pic]
Пусть дано событие A, удовлетворяющее равенству A=B1A+B2A+...+BkA.
Показать,   что    события    B1A,    B2A,    BkA    попарно    несовместны.
BiABjA=BiBjAA=VAA=V
Найти вероятность  наступления  события  A.  Любое  событие  входящее  в  A,
обязательно входит в некоторое, но одно Bi, т.к. B1, B2,  ...,  Bk  образуют
полную группу.
Т.к. B1, B2, ..., Bk несовместны,  то по третей аксиоме  теории  вероятности
имеем:
[pic]; т.е.

[pic]

Например: Имеются урны трех составов
|1 |5 урн  |6 белых и 3 черных |
|  |       |шара               |
|2 |3 урны |10 белых и 1 черный|
|3 |7 урн  |0 белых и 10 черных|


Все шары в каждой урне перемешаны.
Испытание - извлекается шар. Какая вероятность  того,  что  при  этом  будет
извлечен белый шар.
B1 - Вытащить любой шар из урны 1.
B2 - Вытащить любой шар из урны 2.
B3 - Вытащить любой шар из урны 3.
A  - Извлечь белый шар.
A=B1A+B2A+B3A
B1, B2, B3 - попарно несовместны.
Формула полной вероятности: P(A)=P(B1)P(A/B1)+P(B2)P(A/B2)+P(B3)P(A/B3)
|P(B1)=1/|P(A/B1)=6/9=2|
|3       |/3           |
|P(B2)=1/|P(A/B2)=10/11|
|5       |             |
|P(B3)=7/|P(A/B3)=0    |
|15      |             |


P(A)=1/3(2/3+1/5(11/10+7/15(0=2/9+2/11=40/99(0.4

                               Формула Байеса.

Постановка задачи та же, но решаем обратную задачу.
Проводится испытание, в результате  которого  произошло  событие  A.  Какова
вероятность того, что в этом испытании произошло событие Bi.
Условные вероятности называются апостериорными, а безусловные  -  априорными
вероятностями.
P(ABi)=P(A)P(Bi/A)=P(Bi)P(A/Bi)
Откуда, [pic]
Таким образом, формула Байеса: [pic]

Композиция испытаний.
Имеется вероятностное пространство, которое порождает испытание 1.
[pic]
где Ei, i=1, ...,  m1  -  пространство  элементарных  событий  в  результате
испытания.
P(Ei), i=1, ..., m1 - вероятности элементарных событий.
Испытание 2 порождает вероятностное пространство вида
[pic]
P(Ei), P(Qj) - разные вероятностные меры.
Композицией  двух  испытаний  называется  сложное  испытание,  состоящее   в
поведении первого и второго испытания.
Композиция испытаний порождает вероятностное пространство вида:
[pic]          [pic]
EiQj - композиционное событие.
В общем случае по P(Ei) и P(Qj) найти P(EiQj) невозможно.
Рассмотрим один частный случай, когда это можно сделать.
Два  испытания  называются  независимыми,  если   различные   исходы   обоих
испытаний определяются несвязанными между собой случайными факторами.
Из определения  независимости  испытания  вытекает,  что  условные  частости
наступления события в одном испытании, при условии, что во втором  испытании
произошло фиксированное число событий равны безусловным частостям, если  они
существуют.
Пусть  испытания  независимы.  В  результате  проведения  первого  испытания
произошло элементарное событие Ei,  в  результате  второго  испытания  может
произойти все что угодно.
Тогда сложное событие, определяющее исход первого и второго испытания  имеет
вид:
 [pic]  и равно сумме комбинаций исходов первого и второго испытаний.
Вероятность сложного события A.
[pic], т.е. результаты второго испытания не зависят от результатов первого.
Если в результате второго испытания произошло событие  Qj,  а  в  результате
первого испытания могло произойти все  что  угодно,  то  сложное  событие  B
имеет вид: [pic].
Вероятность сложного события B  равна  сумме  вероятностей  комбинаций  вида
EiQj, i=1, ..., m1
[pic], т.к. исходы первого испытания не влияют на исходы второго  испытания.
 Из факта: P(AB)=P(A)P(B/A); P(B/A)=P(B); AB=EiQj (надо доказать)
A={EiQ1, EiQ2, ..., EiQj, ..., EiQm2}
B={E1Qj, E2Qj, ..., EiQj, ..., Em1Qj}
По определению произведения AB в него  входят  только  те  события,  которые
входят и в A, и в B. Из приведенных выше формул следует, что только  событие
EiQj входит и в A, и в B, то AB= EiQj. Следует:
[pic]
Композиционное пространство имеет вид: [pic]
Общая  структура  независимых   событий   в   композиционном   пространстве,
порожденном композицией испытаний:
[pic]
т.е. в результате первого испытания произошли элементарные события: [pic].
В результате второго испытания события: [pic].
Сложное  событие  B  определяет  все  возможные  комбинации   исходов   двух
испытаний  независимо  друг  от  друга.  В  результате   первого   испытания
произошли элементарные события: [pic].
В результате второго испытания события:  [pic].
Тогда: [pic]
[pic], т.к. второе испытание не влияет на результаты первого.
[pic]
т.к. [pic], (надо доказать)
то [pic]
При решении практических задач, связанных с независимыми испытаниями  обычно
не требуется строить  композиционных  пространств  элементарных  событий,  а
использовать формально неверную запись:  P(A(B)=P(A)(P(B).

Композиция n испытаний.
Имеется n испытаний. Зададим для i-го испытания вероятностное пространство:
[pic]        i=1, ..., n
Композицией  n  испытаний  называется   сложное   испытание,   состоящее   в
совместном проведении  n  испытаний.  Задается  n  испытаний,  вероятностное
пространство каждого из которых имеет вид:
[pic]          i=1, ..., n
Композиционное пространство имеет вид:
[pic]            j1=1, ..., m1;   j2=1, ..., m2;   jn=1, ..., mn;


Композиция n независимых испытаний.
Испытания (n -  испытаний)  называются  независимыми,  если  неоднозначность
исхода каждого из испытаний определена не связанными  между  собой  группами
факторов.
Событие A1: в  результате  проведения  композиционного  испытания  в  первом
испытании произошло событие [pic]. Тогда [pic]
Событие An: в  результате  проведения  композиционного  испытания  в  первом
испытании произошло событие [pic]. Тогда [pic]
[pic]
[pic]
[pic]         i=1, ..., n
Рассмотрим событие: [pic]
В силу определения независимости испытаний очевидно, что:
[pic]
[pic]
[pic]
[pic].
Следовательно:  [pic].
На практике не строят композиционных  пространств,  а  записывают  формально
неправильную формулу: P(A1A2...An)=P(A1)P(A2)...P(An).
Композиционное пространство имеет вид:
[pic]            j1=1, ..., m1;   j2=1, ..., m2;   jn=1, ..., mn;
Общая структура независимых  событий  в  композиционном  пространстве  имеет
вид:
|1-е      |это событие, которое происходит в 1-м вероятностном    |
|событие -|пространстве                                           |
|2-е      |это событие, которое происходит во 2-м вероятностном   |
|событие -|пространстве                                           |
|n -      |это событие, которое происходит в n-м вероятностном    |
|событие -|пространстве                                           |


Рассмотрим два вероятностных пространства.
|I                                    |II                                   |
|[pic]                                |[pic]                                |


Очевидно,   что   неопределенность   испытания   до   испытания   в   первом
вероятностном пространстве выше, чем во втором. Действительно, до  испытания
в I нельзя ни одному из событий отдать предпочтения,  а  во  II  событие  E3
происходит чаще.

Энтропия - мера неопределенности исхода испытания (до испытания).

Первым, кто функционально задал выражение для энтропии был Шеннон.

[pic],           [pic]

Для вероятностного пространства:
[pic]
Энтропия задается выражением: [pic]. Если P1=0, то Pi(logPi=0.
Самим показать, что:
 Если вероятностное пространство не имеет определенности, т.е.  какое-то  из
Pi=1, а остальные равны 0, то энтропия равна нулю.
 Если элементарный исход равновероятен, т.е. [pic],  то  энтропия  принимает
максимальное значение.
0(Pi(1,  [pic]
    1) [pic]
           [pic],   [pic]
           т.о. вероятности p1, p2, ..., ps обращаются в ноль, например pi,
       которая равна 1. Но log1=0. Остальные числа также  обращаются  в  0,
       т.к. [pic].
    2) Докажем, что энтропия системы с конечным числом  состояний  достигае
       максимума, когда все состояния равновероятны. Для  этого  рассмотрим
       энтропию системы как функцию вероятностей p1, p2, ..., ps  и  найдем
       условный экстремум этой функции, при условии, что [pic].
Пользуясь  методом  неопределенных   множителей   Лагранжа,   будем   искать
экстремум функции: [pic].
Дифференцируя по p1, p2, ..., ps  и  приравнивая  производные  нулю  получим
систему:
[pic]              i=1, ..., s
Откуда видно, что экстремум достигается при равных между собой p1.
Т.к.  [pic], то p1= p2=, ..., = ps= 1/s.
Еденицей измерения энтропии является  энтропия  вероятностного  пространства
вида: [pic]
[pic], которая называется 1 бит.
Неопределенность исхода  испытания  до  испытания  автоматически  определяет
информативность исхода испытания после  испытания.  Поэтому  в  битах  также
измеряется информативность исхода.
Рассмотрим два вероятностных пространства:
[pic]                            [pic]
Проводим композицию двух испытаний. Композиционное пространство имеет вид:
[pic]            i=1, ..., s1             j=1, ..., s2
С точки зрения качественного анализа максимальная  энтропия  композиционного
вероятностного пространства достигается тогда, когда  испытания  независимы.
Найдем  энтропию  композиционного  пространства   для   случая   независимых
испытаний.
[pic]
[pic]

Биномиальное распределение.
n  испытаний  называются  системой  испытаний   Бернулли,   если   испытания
независимы,  в  каждом  из  них  происходит  событие  [pic],  либо  [pic]  с
вероятностью наступления P(A) = p;   [pic]
Найдем вероятность того, что в результате проведенных n испытаний событие  А
произошло m раз:
[pic]
Рассмотрим композицию n  независимых  испытаний  и  построим  композиционное
пространство элементарных событий.
Общий вид элемента этого пространства следующий:
[pic]
|где|[pic]                                                             |


При этом вероятность наступления такого события равна:
[pic](умножение при независимых событиях)[pic]

Найдем   вероятность   наступления   любого   элементарного    события    из
композиционного пространства:
[pic]
Рассмотрим  в  композиционном  вероятностном  пространстве  событие:   в   n
испытаниях событие A произошло m раз.
Событие A состоит из [pic] - общее кол-во элементарных  событий,  в  которое
входит событие А. А произошло m раз, [pic] - n-m  раз.  Вероятность  каждого
из этих элементарных событий одинакова и равна:
[pic]
Следовательно,  на  основании  III  аксиомы  теории  вероятности   результат
равняется:

[pic]  (сложение вероятностей)
[pic]

Случайная величина

Пусть имеется вероятностное пространство вида [pic].
Случайной величиной называется измеримая числовая скалярная  функция  [pic],
элементами которой являются элементарные события.
Числовая  скалярная  функция  -  это  функция,  удовлетворяющая   следующему
условию:
[pic]  событие  [pic]-   алгебре   и,   следовательно,   имеет   вероятность
наступления.
Если  произведено  испытание,  в  результате  которого  произошло  некоторое
элементарное  событие  [pic].  В  соответствии  с   функцией   [pic]   этому
элементарному событию соответствует число,  которое  называется  реализацией
случайной величины x в данном испытании.
В  соответствии  с  определением  случайной   величины   вводится   числовая
скалярная функция F(x), [pic], определенная для каждого действительного x  и
по определению равная вероятности наступления события:

[pic]

Эта функция называется функцией распределения случайной величины [pic].
Рассмотрим три события:
[pic]
где a0  функция  Лапласа  определяет  вероятность  попадания  нормальной
случайной величины с параметрами
MX=0
DX=1
в интервале (0, z)

2)
 [pic]

3) [pic] - функция нечетная

Иногда в литературе встречаются два вида функций Лапласа
[pic]
Функция Лапласа табулирована. Функция Лапласа  используется  для  выполнения
событий вида
[pic]
для произвольных нормальных величин.
Найдем вероятность  того,  что  в  результате  испытания  над  x  произойдет
сложное  событие:  x  примет  числовое  значение,  принадлежащее  отрезку  с
концами (a, b).
[pic]
Пример.
x - случайная величина.
f(x) - плотность вероятности.
Найти плотность вероятности g(n) случайной величины H.
[pic]
Рассмотрим отрезок (h, h+dh). Событию попадание H  в  отрезок  (h,  h+dh)  в
силу однозначности функции h(x) соответствует  попадание  x  в  отрезок  (x,
x+dx). При этом вероятности наступления такого события одинаковы:
[pic]
Тогда построим функцию h(x), обратную x(h), x=x(h).
т.к. [pic]
Вероятность первого события равна
[pic]
Вероятность второго события
[pic]
Следовательно
[pic]

Неравенство Чебышева

Рассмотрим случайную величину X  с  конечным  мат.  ожиданием  и  дисперсией
[pic]
Для любого неотрицательного числа t вероятность наступления события
[pic]
Пусть Z - непрерывная случайная  величина  с  плотностью  вероятности  f(Z).
Пространство событий величины Z (0; ?). Тогда имеет место неравенство
[pic]
Доказать неравенства
[pic]
Рассмотрим два сложных события
[pic]
a - произвольное действительное число.
Показать самим, что x - удовлетворяет и одному и другому неравенству.
Тогда [pic] справедливо
[pic]
В данном случае [pic]
Равномерность неравенств при ?>0
|[pic]                                |[pic]                               |


или, в частности, при a=?=MX
[pic]
при ?=?t справедливо неравенство Чебышева.


Многомерные случайные величины.
Инженерная интерпретация.
Проводится  испытание.  В  результате  испытания  фиксируется   m   числовых
значений X1, X2, ...,Xm. Исход испытания случайный.
Пример: Испытание - реализация некоторой технологии выпуска продукта.  Исход
- численное значение m характеристик,  оценив  которые  мы  оценим  качество
продукта.
Т.к. в процессе реализации  технологии  на  технологию  действуют  случайные
факторы, то результат испытания неоднозначен.

Аксиоматика. Формальная вероятностная модель.
Имеется вероятностное пространство: ((, (, P). Зададим m числовых  измеримых
скалярных функций  (1((),  ...,  (m(().  Каждая  из  этих  функций  является
одномерной по определению. Возьмем m  произвольных  действительных  чисел  и
рассмотрим событие A.
[pic]
Очевидно, что событие A является пересечением событий Ai вида:
[pic]
Т.к.  каждое  Ai((-алгебре,  то  и  A((-алгебре.  Следовательно,  существует
вероятность наступления события A и существует числовая скалярная функция  m
действительных  аргументов,  которая  определена  для  всех  значений  своих
аргументов и численно равна вероятности наступления события A.
F(x1, x2, ...,xm)=P(A)
Это m-мерная функция распределения m-мерной случайной величены.
Свойства многомерного распределения:
    1. Значение функции при значении хотя бы одного  ее  аргумента  равного
       -(, равно 0, как вероятность невозможного события.
    2. Значение функции, при всех значениях ее аргументов равных +(,  равно
       1, как вероятность достоверного события.
    3. Функция не убывает по любой совокупности ее аргументов.
    4.  Функция  непрерывна  почти  всюду  (для  инженерной  практики   это
       означает, что на конечном, либо  счетном  множестве  аргументов  она
       может иметь скачки 1-го рода).
Рассмотрим арифметическое пространство [pic] и зададим полуинтервалы вида:
[pic]
Доказать самим, что P(B) существует, и образ этого множества принадлежит  (-
алгебре по (.
[pic]
Можно доказать, что:
[pic]
Т.о. многомерная функция распределения позволяет в  m-мерном  арифметическом
пространстве задать счетно-аддитивную меру - функцию на  поле,  порожденному
всеми  m-мерными  полуинтервалами  объема  ((i,   ai(bi).   Тогда   построим
минимальную (-алгебру на этом поле,  которая  называется  борелевским  полем
(алгеброй) в m-мерном арифметическом пространстве. Любая  скалярная  функция
m-аргументов удовлетворяет всем свойствам, приведенным для m-мерной  функции
распределения и однозначно задает вероятностное пространство вида:
[pic]
Таким образом, для инженерного исследования  задача  свелась  к  следующему:
пространство   элементарных   событий   -   это   m-мерное    арифметическое
пространство. По  результатам  статистических  испытаний  нужно  оценить  m-
мерную  функцию  распределения  F(x1,  x2,  ...,xm).   Рассмотрим   числовую
скалярную функцию m действительных аргументов. g(x1,  x2,  ...,xm).  Функция
g(x1, x2, ...,xm) называется  борелевской, если для любого B(( в  одномерном
арифметическом  пространстве  соответствующая   [pic].   Тогда   справедлива
теорема,  доказательство  которой  полностью  повторяет   доказательство   в
одномерном случае. Скалярная функция  [pic]-  является  измеримой  скалярной
функцией - случайной величиной.

Двумерные случайные величины.
Рассмотрим испытание, результатом которого является появление двух чисел  из
некоторого конечного  либо  счетного  множества  пар  чисел.  Это  испытание
физически  может  быть  одним  испытанием  (мгновенное  измерение   прибором
величены тока и напряжения в сети), а  также  может  быть  композицией  двух
испытаний, каждое  из  которых  порождает  одномерную  дискретную  величину.
Условно двумерная дискретная случайная величина  обозначается как  XY,  либо
любые две буквы латинского алфавита, либо для:  X:{x1, x2,  ...,xs},  Y:{y1,
y2, ...,yn}, проводя испытание над  двумерной  случайной  величиной  находят
одно из чисел из  X  либо  из  Y.  А  вероятностное  пространство  двумерной
случайной величены формально строится так:
[pic]
Двумерной  случайной  величиной  называется  система  из   двух   одномерных
случайных величин X, Y, где как X, так и Y являются  дискретными  случайными
величинами.  В  пространстве  элементарных  событий   дискретной   случайной
величены  XY  определим  сложное  событие  A:  В  результате  испытания  над
двумерной случайной величиной XY, случайная величина X приняла значение  xi,
случайная величина Y - любое значение.
[pic]
[pic]
Вводим сложное событие B: В результате  испытания  над  двумерной  случайной
величиной XY, случайная величина Y приняла значение yj.
[pic]
[pic]
Найдем условную вероятность:
[pic]
Аналогично:
[pic]
Покажем что сумма условных вероятностей: [pic]; [pic]
[pic]
Условным математическим ожиданием является выражение:
[pic];         [pic]
Условной дисперсией называется выражение:
[pic];
[pic].
Условное мат. ожидание и дисперсия отличаются  от  безусловной  только  тем,
что в их определении подставляется условная вероятность вместо безусловной.
Условное  мат.  ожидание  случайной  величены,  при  условии,   что   другая
случайная  величена  приняла  заданное  значение   определяет   число-точку,
относительно которой группируются результаты конкретных испытаний над  одной
случайной величиной, при  условии,  что  в  этом  испытании  (над  двумерной
случайной  величиной  XY)  вторая  случайная   величена   приняла   заданное
фиксированное значение.
Условная дисперсия определяет степень  концентрации  результатов  конкретных
испытаний  над  одной  случайной  величиной  относительно   условного   мат.
ожидания.
При решении практических задач условное мат ожидание  и  условная  дисперсия
обычно используются в следующем  случае:  проводят  испытание  над  X  и  Y,
исследователь имеет возможность  измерять  результаты  испытания  над  одной
случайной величиной, измерение другой недоступно.  Если  условные  дисперсии
малы, то в качестве неизвестного значения не измеряемой случайной  величены,
которую она приняла в результате испытания, можно брать мат. ожидание.

Двумерные непрерывные случайные величины.
Двумерная случайная величина  называется  непрерывной  случайной  величиной,
если пространством ее элементарных событий является плоскость, либо  область
плоскости, либо область конечной ненулевой плоскости. Очевидно  что  X  и  Y
являются одномерными непрерывными случайными величинами.



Следствием этого  определения  является  следующее:  любое  сложное  событие
размерности 1 (произвольная кривая, принадлежащая пространству  элементарных
событий) имеет нулевую  вероятность  т.к.  в  противном  случае  вероятность
достоверного события никогда бы не  равнялась  единице.  Числовая  скалярная
функция  двух  действительных  аргументов  называется  двумерной  плотностью
вероятности,  двумерной  случайной  величины  XY,  если  для   фиксированных
значений своих аргументов она выполняет равенство [pic].  Приведенное  здесь
определение   является   аналогичным   определению   одномерной    плотности
вероятности.
[pic]
Ниже  будет  выведено  условие  существования  плотности   вероятности   для
фиксированных x, y.
[pic]
Рассмотрим произвольную область G.



Разобьем область G на  множество  прямоугольников,  покрывающих  область  G.
Тогда  на  основании  3-й  аксиомы  теории  вероятности  имеем:  вероятность
искомого события равна:
[pic]. Точное выражение получим перейдя к пределу: [pic] (показать самим).
Числовая  скалярная  функция  двух  действительных   аргументов   называется
двумерной функцией распределения, если она  при  фиксированном  числе  своих
аргументов численно равна  вероятности  наступления  Fx,y(x,y)=P(X(x,  Y(y),
если  X,  y  -  непрерывные  случайные   величины,   то   значение   функции
распределения не изменится.
Доказать:
 [pic]
[pic]
[pic]
По определению второй смешанной производной.

Найдем по двумерной плотности одномерные плотности случайных величин X и Y.
[pic]
Т.к. полученное равенство верно для всех х, то подинтегральные  выражение
[pic]
аналогично
[pic]
В математической теории вероятности вводится как  базовая  формула  (1)  ибо
предлагается, что плотность вероятности как аналитическая функция  может  не
существовать. Но т.к. в нашем курсе мы  исследуем  только  2  конструкции  -
дискретные или непрерывные, то для них полученные формулы эквивалентны и  не
имеет смысла какую-то из них вводить как первичную.

Условная плотность вероятности.

Найдем плотность  вероятности  случайной  величины  Y  при  условии,  что  в
результате испытания над случайной величиной XY , X приняло значение х.
Обозначим
[pic]
тут мы использовали второе определение одномерной плотности.
В качестве условной плотности вероятности используется следующее выражение
[pic]
Обоснование выражения для условной плотности вероятности
[pic]
Выведем выражение для ?
[pic]
Обозначим [pic]
[pic]
Условное мат. ожидание и дисперсия линии регрессии -  зависимость  Y  от  X,
выраженная в изменении средних значений Y при переходе x от одного  значения
к другому. Найдем математическое ожидание MZ, где
[pic]

Двумерные независимые случайные  величины  (двумерные  дискретные  случайные
величины)

Двумерная дискретная случайная величина  называется  случайной  величиной  с
независимыми компонентами, если[pic]
Показать самим, что справедливо
[pic]

Доказать самим, что если испытание, исходом  которого  является  пара  чисел
[pic]  является  композицией  двух  независимых  испытаний,   то   случайные
величины X Y независимы.
[pic]

Независимые непрерывные двумерные случайные величины.

Непрерывными случайными величинами с  независимыми  компонентами  называются
если:
Непрерывная  двумерная  случайная  величина  имеет   независимые   случайные
компоненты, если
или     [pic]
Покажем, что второе эквивалентно первому.
[pic]
Покажем, что если двумерная  непрерывная  случайная  величина  XY  порождена
композицией независимых испытаний, то X и Y независимы.
В силу определения независимых испытаний в композиционном пространстве
[pic]
В силу определения независимых испытаний в композиционном пространстве  A  и
B независимы.
Следовательно: [pic]

Многомерные дискретные случайные величины

Это система, состоящая из m дискретных  одномерных  случайных  величин.  Всю
арифметику проделать самостоятельно.

Многомерные непрерывные случайные величины.
Система  из  m  одномерных  непрерывных   случайных   величин,   у   которой
пространством  элементарных   событий   является   m-мерное   арифметическое
пространство либо его область, имеющая ненулевой объем.
m-мерная плотность вероятности удовлетворяет выражению
[pic]
m-мерной функцией распределения  называется  числовая  скалярная  функция  m
действительных аргументов, которая численно равна:
[pic]
Случайные величины x1, x2, ... xm независимы, если
[pic]
Доказать, что если m-мерная  случайная  величина  порождена  композицией  m-
мерных испытаний, то события независимы.
Запишем аналог формул
[pic]
для многомерного случая.
Для получения плотности  вероятности  [pic]  необходимо  n-мерную  плотность
проинтегрировать   в   бесконечных   пределах   по    переменным,    которые
соответствуют случайным величинам, не входящим в
[pic]
Найдем плотность n-мерной случайной величины.
[pic]

Математическое ожидание скалярной функции случайных аргументов.

Двумерный дискретный случай.
XY
Числовая скалярная функция  [pic]
[pic] является  одномерной  дискретной  случайной  величиной,  со  следующим
отличием от обычного представления:
для того, чтобы в испытании получить реализацию  [pic]  необходимо  провести
испытание над двумерной случайной величиной XY, зафиксировать  ее  результат
xi,yi и подставить в [pic] . Полученное число и  есть  реализация  случайной
величины [pic].
Таблица случайной величины  строится по таблице
[pic]

Двумерные непрерывные случайные величины

[pic]
Случайную величину [pic] аппроксимируем дискретной  по следующему правилу:
пространство  элементарных  событий  XY  представим  в   виде   совокупности
прямоугольников с вершинами [pic], если в результате испытания XY  попало  в
прямоугольник (i,j), то  эта  случайная  величина  приняла  значение  [pic].
Вероятность наступления этого события равна:
[pic]
точное значение мат. ожидания
[pic]


n-мерный дискретный случай

[pic] - многомерная дискретная случайная величина
Найдем [pic]
Вероятностное пространство зададим в виде
[pic]
Тогда
[pic]


n-мерный непрерывный случай

[pic]
Теорема 1. Математическое  ожидание  суммы  случайных  величин  равно  сумме
математических ожиданий
[pic]
а) дискретный случай
[pic]
б) непрерывный случай
[pic]
Пусть n-произвольное число
[pic]
Теорема  2.  Математическое  ожидание  произведения  независимых   случайных
величин равно произведению мат.ожиданий.
По определению имеем [pic] т.к. случайные величины  X  и  Y  независимы,  то
[pic]
[pic]

Коэффициент ковариации

Коэффициентом ковариации называется выражение
[pic]
Эта формула верна, т.к. верна следующая формула.
Пусть [pic]
тогда
[pic]
Если случайные величины XY независимы, то их  коэффициент  ковариации  равен
нулю, обратное в общем случае неверно.
Пример.
X  -  случайная  величина,  имеющая  нормальное  распределение   с   нулевым
мат.ожиданием
[pic]
Y=X2 (Y и X связаны функционально).
Найдем
[pic]
Случайная величина [pic] называется нормированной  случайной  величиной,  ее
мат.ожидание равно 0, а дисперсия -1.
[pic]
Коэффициентом корреляции случайных величин X и Y - это число
[pic]
Следствие:
Если X и Y независимы, то коэффициент ковариации равен 0, то
[pic]
Доказать, если [pic] независимы, то
[pic]


Свойства коэффициента корреляции

1. [pic]
По определению
[pic]
т.к. [pic] всегда неотрицательна, то
[pic]

2. Если  [pic], то с вероятность 1 X и Y связаны линейно.
[pic]
Рассмотрим X*-Y*, отсюда M(X*-Y*)=0.
[pic]
Если X и Y дискретные случайные величины, и дисперсия равна 0, то  их  сумма
(разность) является постоянной
[pic]
Пусть  X  и  Y  непрерывные  случайные  величины,  то   в   соответствии   с
неравенством Чебышева
[pic]
т.к. [pic]
[pic]
Это неравенство и обозначает, что с вероятностью 1
[pic]
откуда y=ax+b, где [pic]
Если коэффициент корреляции [pic], то результаты опыта лежат на прямой
[pic]
В общем случае Y можно представить в виде
[pic]
Коэффициент  корреляции  является  мерой  близости  линейной   связи   между
случайными величинами X и Y: чем ближе коэффициент корреляции  по  модулю  к
1, тем более тесно результаты конкретного испытания над X и Y соотносятся  с
прямой ax+b.

Нахождение плотности вероятности суммы двух независимых случайных величин

Дискретный случай.
Пусть X и Y -  две  дискретные  независимые  величины  данного  испытания  и
Z=X+Y. Возможное значение Z=z=x+y всегда представляет сумму  двух  возможных
значений слагаемых X=x и Y=y. По правилу сложения
[pic]
где суммирование распространено на те пары, которые в сумме дают Z.  В  силу
независимости X и Y
[pic]
Приняв во внимание, что y=z-x
[pic]
последняя сумма [pic] распространяется не на все значения  x,  а  только  на
такие, для которых z-x равно одному из возможных значений y.
Если условиться, что P(y=z-x)=0, если z-x не принадлежит к  числу  возможных
значений Y, то
[pic]
Аналогично
[pic]
Формулы (1) и (2) определяют композицию величин X и Y.
Или
[pic]
Непрерывный случай.
Пусть X и Y независимые  непрерывные  случайные  величины.  Пусть  f(x,y)  -
двумерная плотность вероятности двумерной случайной величины  XY.  Плотность
совместного распределения f(x,y) в силу независимости X и Y имеет вид
[pic]
Рассмотрим функцию распределения случайной величины Z.
[pic]
[pic]
Для того, чтобы имело место событие [pic]действительное число  необходимо  и
достаточно, чтобы случайная точка Q(x,y) попала в область 1.
Тогда эта вероятность равна
[pic]
Дифференцируя под знаком интеграла
[pic]

Двумерное нормальное распределение

Двумерная случайная величина XY распределена нормально,  если  ее  плотность
вероятности f(x,y) имеет вид
[pic]

Свойства двумерного нормального распределения

1. [pic]

2.
[pic]
т.е. X и Y имеет одномерное нормальное распределение.
[pic]
Сделаем подстановку  [pic]
[pic]
тут мы для краткости обозначили
[pic]
Прибавляя и вычитая в показателе степени по e по [pic]
[pic]
Сделаем подстановку
[pic]

3. [pic] то X и Y независимые случайные величины, то  плотность  вероятности
двумерная распадается на произведение одномерных
[pic]
Найдем условную плотность вероятности
[pic]
Подставляя в полученное выражение значения [pic] и [pic] получаем
[pic]
Вывод: условная плотность вероятности оказалось нормальной с мат. ожиданием
[pic]
и дисперсией, постоянной
[pic]

Многомерное нормальное распределение

n-мерная непрерывная  случайная  величина  имеет  нормальное  распределение,
если ее многомерная плотность вероятности в матричном виде
[pic]
Показать, что формула
[pic]
в двумерном случае переходит в
[pic]
для n=2 находим
[pic]
Показатель степени при e
[pic]
Найдем обратную матрицу матрице В
[pic]
Проводим непосредственное доказательство
[pic]
B - ковариационная матрица
[pic]
Показать, что  эта  формула  в  двумерном  случае  совпадает  с  выражением,
рассмотренном ранее.
Свойства n-мерного нормального распределения.
[pic] - определитель матрицы B - неотрицательное число.
По критерию Сильвестрова,  если  [pic]  то  все  главные  миноры  матрицы  B
неотрицательные и определитель матрицы B неотрицателен.
[pic]



Свойства многомерного нормального распределения

Все одномерные плотности вероятности - это плотности вероятности  одномерной
нормальной случайной  величины  с  параметрами,  определяемыми  координатами
вектора X  и  главной  диагональю  ковариационной  матрицы  B.  Кроме  того,
подвектор  вектора  [pic]из  k   элементов,   где   [pic]также   распределен
нормально.
Если все коэффициенты корреляционной или ковариационной матрицы  B  (все  ее
недиагональные элементы) равны  нулю,  то  показать  самим,  что  компоненты
случайной величины являются независимыми.
[pic]
если [pic],то многомерная плотность распадается на произведение  одномерных,
значит [pic] независимы.
Теорема.
[pic]
Проводим  линейное  преобразование  Y=AX.  A  -   квадратная   невырожденная
матрица, тогда вектор Y также имеет n-мерное нормальное распределение вида
[pic]
Следствие: Из доказательства теоремы вытекает, что ковариационная матрица
[pic]
Оператор A переводит произвольную область  из  арифметического  пространства
Rn в некоторую область того же пространства.
Рассмотрим произвольную область S, принадлежащую  пространству  элементарных
событий случайной многомерной величины  X.  Ей  соответствует  область  D  в
пространстве элементарных событий случайного вектора Y. При этом
[pic]
[pic]
Запишем эти вероятности
[pic]
где |I| - якобиан перехода
[pic]
Т.к. область S и соответственно  D  произвольны,  то  плотность  вероятности
случайного вектора x равна
[pic]
n-мерная плотность вероятности случайного вектора Y равна
[pic]
Преобразуем показатель степени e
[pic]
Можно показать, что если нормальное распределение имеет данный вид, то  B  -
ее ковариационная матрица
[pic]
Следствие.
[pic]- многомерный нормальный вектор. A - прямоугольная матрица [pic]  Тогда
Y=AX имеет нормальное распределение вида
[pic]
Y - m-мерный вектор.
Для определенности положим, что матрица A имеет вид
A = (A1 A2)
A1 - квадратная матрица размером [pic]
A2 - матрица размерности [pic]
Рассмотрим матрицу размерности  [pic].  Считается,  что  m  первых  столбцов
независимы.
[pic]
[pic]  равен определителю полученной квадратной матрицы и не равен нулю.
E - единственная квадратная матрица размерности [pic]
Следовательно, на основании доказанной теоремы, вектор Y  имеет  многомерное
нормальное распределение.
Z=CX
Компоненты вектора Z имеют вид
[pic]           [pic]
Пусть матрица  А произвольная, но т.к.  ее  ранг  равен  m  она  содержит  m
линейно независимых  столбцов.  Путем  перестановки   столбцом  соберем  эти
столбцы  в  первые  m.  И  соответствующим  образом  пронумеруем  компоненты
вектора Х. Попадаем в предыдущий случай.

Предельные случайные последовательности.

Рассмотрим  вероятностное  пространство  [pic]  в  котором  задана   счетная
последовательность случайных величин, каждая из которых является измеримой
[pic]
Покажем, что событие  [pic]  измеримо, т.е. имеет  вероятность  наступления.
Действительно событие
[pic]
Каждое  из  этих  событий  в  пересечении  принадлежит  [pic]-  алгебре.  По
определению [pic]-  алгебры  ей  принадлежит  и  счетное  перечисление  этих
событий, таким образом событие имеет вероятность наступления.
Пусть последовательность  [pic]  имеет предел при [pic], который может  быть
постоянной  или  случайной  величиной.  В  теории  вероятности  этот  предел
понимают следующим образом: под  сходимостью  последовательности  к  пределу
понимают событие А которое может задаваться следующим образом:
1. [pic]
Событие А состоит из всех m, удовлетворяющих условию: для любого как  угодно
большого r существует такое m, что для всех n выполняется
[pic]
2.  А: Если предел [pic],то
[pic]
Для любого, как угодно большого  r  существует  такое  m,  что  для  всех  n
выполняется

[pic]
3.Если предел случайная величина, то
[pic]
Показать самим, что  событие  А  с  [pic]-  алгебре  и  следовательно  имеет
вероятность наступления
любое событие  [pic]  измеримо,  как  доказывалось  ранее[pic]  измеримы,  и
следовательно  имеет  вероятность   наступления.   Разность   [pic]-алгебре.
Следовательно событие А имеет вероятность наступления.
Если предел константа, то эквиваленты 1 и 2, если случайная величина - то  1
и 3.


Существующие определения сходимости случайных величин.

Пусть  имеется  счетная  последовательность  случайных   величин   и   пусть
[pic]предел последовательности.
1. Счетная последовательность сходится к  пределу  с  вероятностью  1,  если
Р(А)=1.
Это не вероятность достоверного события.
2. Сходимость по поверхности.
Счетная  последовательность  случайных  величин  [pic]сходится   к   [pic]по
поверхности, если
[pic]
3. Сходимость в среднеквадратичном.
Последовательность    случайных    величин    сходится    к    пределу     в
среднеквадратичном, если выполняется
[pic]
Покажем, что  из  сходимости  в  среднеквадратичном  следует  сходимость  по
вероятности.
Воспользуемся Неравенством Чебышева
[pic]
При любом конечном r если выполняется сходимость  в  среднеквадратичном,  то
этот  предел  существует  и  равен  0,  т.к.  числитель  сходится  к  0,   а
знаменатель конечен.
Теорема.
Счетная последовательность [pic]сходится к пределу [pic]  с  вероятностью  1
только тогда, когда
[pic]
Указанное выше событие [pic]имеет своим дополнением событие
[pic]
и сходимость с вероятностью 1 означает, что P(B)=0.
Очевидно, что условие теоремы достаточно рассмотреть для [pic].
Положим[pic]
События Вrm, m=1,2,.... убывают, и для   [pic]
Докажем это.
Будем искать P(Br)  так
[pic]
Событие, обратное [pic] имеет следующую структуру:
[pic]
Показать самим, что следующее событие включает предыдущее.
[pic]
По построению справедлива следующая формула
[pic]
По третьей аксиоме теории вероятности
[pic]
Построенный   ряд   D1,   D2...Dn    образует    неубывающую    ограниченную
последовательность, следовательно имеет предел сверху.
Поэтому возможен переход
[pic]


Теорема Бернулли.

Рассмотрим систему независимых испытаний Бернулли.
[pic]
Система  испытаний  неограниченна.  С  каждым   i-видом   испытаний   свяжем
дискретную величину Xi
[pic]
Хi принимают значения 1, если в i-том испытании произошло событие А и 0 -  в
противном случае
[pic]
Рассмотрим  случайную  величину[pic]  -  число  появлений  события  А  в   n
испытаниях
[pic]
Рассмотрим случайную величину  [pic]
Это частость наступления события А в n испытаниях
[pic]
Используем неравенство Чебышева
[pic]
где ( - произвольное неотрицательное число
Рассмотрим [pic]
Получена теорема Бернулли.
Частость наступления произвольного события при числе  испытаний  стремящемся
к  бесконечности  по  вероятности  сходится  к   теоретической   вероятности
наступления события.
Обоснование того, что [pic] - частость наступления события A  заключается  в
следующем:  с  тоски  зрения  ранее  приведенного  определения,  независимым
испытаниям эквивалентны две схемы:
проведение n раз одного и того же испытания
проведение n независимых испытаний над n копиями одного и того же.
Аналогия:  100  раз  монету  подбрасывает  1   человек   или   100   человек
подбрасывают по одной монете.

Закон больших чисел.
Рассмотрим независимые: одинаково распределенные случайные величины X1,  X2,
..., Xn с конечным мат. ожиданием и дисперсией.
[pic]
Рассмотрим их среднее арифметическое
[pic]
Используя вспомогательное неравенство получим
[pic]
получаем
[pic]
При числе испытаний, стремящихся к ? среднее арифметическое  по  вероятности
сходится к математическому ожиданию.
В любом университетском учебнике доказывается сходимость с вероятностью 1.

Использование закона больших чисел.

Пусть имеется одна случайная величина X, над которой проведено n  испытаний.
Результаты испытаний
[pic]
Тогда в силу примечания, сделанного  Бернулли,  эти  n-чисел  можно  считать
результатом одного испытания над n-мерной случайной величиной, у которой  Xi
независимы и распределены как X, т.е.
Тогда [pic] является реализацией следующего
[pic]
Для [pic] справедлив  закон  больших  чисел,  следовательно  [pic]  является
хорошей оценкой величины X.

Основы теории характеристических функций

Комплексная случайная величина Z определяется с помощью двумерной  случайной
величины (X,Y) следующим выражением
[pic]
Операции над комплексными случайными величинами совпадают с  операциями  над
комплексными числами.
Рассмотрим скалярную функцию случайных аргументов и числа i.
[pic]
тогда  в  теории  вероятности  математическое  ожидание  случайной  величины
вычисляется по тем же формулам, что и [pic],  просто  i  считают  постоянным
параметром.
[pic]
Найдем мат.ожидание случайной величины Z.
[pic]
1. Для комплексной случайной величины справедливы  свойства  аддитивности  и
мультиплекативности мат.ожидания.
[pic]
2. Комплексные случайные величины Z1  и  Z2  называются  независимыми,  если
независимы между собой двумерные  случайные  величины  [pic],  т.е.  попарно
независимы [pic]
Пусть  Z1  и  Z2  независимые   комплексные   случайные   величины.   Найдем
мат.ожидание произведения
[pic]
3. [pic]
а) дискретный случай
[pic]
б) непрерывный случай
Двумерная случайная величина XY имеет плотность вероятности f(x,y).
[pic]
Характеристической функцией действительной случайной величины  X  называется
функция
[pic]


Свойства характеристической функции

1. Для дискретного случая
[pic]
2. Для непрерывного случая
Будем считать, что плотность вероятности f(x) существует, тогда
[pic]
3. [pic]
Это свойство гарантирует, что характеристическая функция всегда существует
[pic]
4. Пусть случайная величина
y=ax+b
[pic]
[pic]
5. Характеристическая функция  суммы  независимых  случайных  величин  равна
произведению характеристических функций.
Пусть [pic]
хi - независимы
Тогда
[pic]
Отсюда
[pic]
6. Если у случайной величины Х конечен начальный момент n-го порядка, то
а) для [pic] - существуют к-е производные и при этом
[pic]
б) имеет место разложение
[pic]
[pic]
Для того, чтобы полученное равенство было справедливо, необходимо  доказать,
что мы можем дифференцировать под знаком интеграла.
Для доказательства приведем ряд фактов.
1. Аналог теоремы Либега для интегралов Римана
Пусть функция [pic] интегрируема по Риману и при всех х
[pic]
сходимость в каждой точке известна.
Пусть при этом [pic]
[pic] - некоторая функция,  мажорирующая  данную.  Пусть  при  этом  конечен
интеграл
[pic]
т.е.
[pic]
Тогда
[pic]

2. Некоторые свойства мат.ожиданий действительной случайной величины
1) Если х>0, то МХ>0 - доказать самим
Дискретный случай
[pic]
Введем случайную величину [pic]
[pic]
Аналогично [pic]
[pic]
Очевидно, что [pic]
Следовательно
[pic]
Тогда
[pic]
Пара [pic] может принимать значения:
а) (-?,+?) в этом случае говорится, что МХ не определено.
б) (-?,