Probabilità, variabili aleatorie e processi stocastici

1. Spazio dei risultati ed eventi

Tutto ciò che il corso costruirà — traffico, code, blocchi, tempi di attesa — poggia su un unico oggetto: un esperimento con esito aleatorio. Si chiama S lo spazio dei risultati, cioè l'insieme di tutti i possibili risultati dell'esperimento.

Un evento è semplicemente un qualunque sottoinsieme A di S, cioè un raggruppamento di possibili risultati. Da qui la teoria degli insiemi presta il proprio vocabolario: S è l'evento certo, ∅ l'evento impossibile, A∪B l'evento unione (si verifica A, oppure B, oppure entrambi), A∩B l'evento intersezione (si verificano entrambi), A^c il complemento (A non si verifica).

2. Definizione assiomatica di probabilità

Dato un esperimento aleatorio con spazio dei risultati S, se per ogni evento A ⊆ S si può definire un valore numerico P(A) che soddisfa i tre assiomi seguenti, allora P(A) = Prob{A} si dice probabilità dell'evento A:

Assioma 1:   0 ≤ P(A) ≤ 1
Assioma 2:   P(S) = 1
Assioma 3:   ∀ A, B ⊂ S con A ∩ B = ∅:   P(A ∪ B) = P(A) + P(B)

Interpretata concretamente, la probabilità è una misura della frequenza relativa dell'evento sul totale dei risultati possibili dell'esperimento. Dagli assiomi discendono immediatamente tre proprietà che useremo di continuo:

• P(∅) = 0
• A ⊆ B ⇒ P(A) ≤ P(B)
• P(Ac) = 1 − P(A) — l'arma preferita del corso: quasi tutte le probabilità di blocco si calcolano più comodamente per complemento.

3. Probabilità condizionata e teorema di Bayes

Le definizioni successive sono quattro, e tutte torneranno letteralmente nei capitoli sul teletraffico.

Nel caso di eventi indipendenti si ha P(A|B) = P(A) e P(B|A) = P(B): sapere che B si è verificato non cambia nulla su A. Dalla proprietà commutativa dell'intersezione si ottiene poi il teorema di Bayes:

P(A|B) P(B) = P(A,B) = P(B,A) = P(B|A) P(A)

  ⇒   P(A|B) = P(B|A) P(A) / P(B)

Esempio guidato: il lancio di due dadi

Le slide propongono il seguente esercizio. Si lanciano simultaneamente due dadi e si indica con n = n₁ + n₂ il risultato complessivo. Si chiede di calcolare Prob{n = 9}, poi Prob{n = 9 | n₁ = 3} e infine Prob{n₁ = 3 | n = 9}. Il widget qui sotto costruisce lo spazio dei risultati e mostra come le tre risposte siano tre letture diverse della stessa griglia.

4. Variabili aleatorie discrete e continue

Dati un esperimento aleatorio con spazio dei risultati S e w ∈ S un suo generico risultato, una variabile aleatoria (v.a.) è una funzione X = X(w) che associa a w un valore numerico reale. L'esempio delle slide è il lancio di due monete:

S = { (T,T), (T,C), (C,T), (C,C) }
X(w) = numero di T ottenute

X(T,T) = 2      X(T,C) = X(C,T) = 1      X(C,C) = 0

Una v.a. si dice discreta se S è numerabile (numero di teste, somma di due dadi, numero di utenti in coda) e continua se S è non numerabile (durata di una telefonata, tempo di servizio di un pacchetto).

0 ≤ pₓ(x) ≤ 1  ∀x            ∑ₓ pₓ(x) = 1

Fₓ(x) = ∑ₓᵢ ≤ ₓ pₓ(xᵢ)        (non decrescente in x)

limₓ→−∞ Fₓ(x) = 0        limₓ→+∞ Fₓ(x) = 1

a < b  ⇒  Prob{a < X ≤ b} = Fₓ(b) − Fₓ(a)

Prob{a < X ≤ b} = ∫ᵤᵇ fₓ(x) dx

Fₓ(x) = Prob{X ≤ x} = ∫₋∞ˣ fₓ(u) du

fₓ(x) ≥ 0  ∀x            ∫₋∞⁺∞ fₓ(x) dx = 1

a < b  ⇒  Prob{a < X ≤ b} = Fₓ(b) − Fₓ(a)

Due formule ulteriori, elencate fra le «altre formule utili», meritano attenzione perché sono precisamente quelle che verranno usate nei capitoli successivi:

• Distribuzione condizionata a un evento: FX|A(x) = Prob{X ≤ x | A} = Prob{X ≤ x, A} / Prob{A}. È lo strumento con cui si ricava il tempo di servizio residuo.
• Somma di due v.a. continue e indipendenti Z = X + Y: la densità di Z è la convoluzione delle due densità, fZ(z) = ∫ fX(x) fY(z − x) dx. È lo strumento con cui si costruisce il tempo di servizio di Erlang di grado r.

5. Valor medio, valore quadratico medio, varianza

Le tre grandezze sintetiche si definiscono in modo perfettamente parallelo nel caso discreto e in quello continuo: somma pesata dalla funzione di probabilità nel primo caso, integrale pesato dalla densità nel secondo.

caso discreto                        caso continuo

E[X]   = ∑ₓ x pₓ(x)                 E[X]   = ∫ x fₓ(x) dx
E[X²] = ∑ₓ x² pₓ(x)                E[X²] = ∫ x² fₓ(x) dx
σ²ₓ    = E[X²] − (E[X])²           σ²ₓ    = E[X²] − (E[X])²

e in generale, per una funzione g(X):   E[g(X)] = ∫ g(x) fₓ(x) dx

6. La variabile aleatoria esponenziale

Le ultime slide del richiamo sono dedicate a una sola distribuzione, quella esponenziale, e non è un caso: è la distribuzione che rende Markoviano tutto ciò che il corso studierà.

densità        fₓ(x) = λ e⁻ᵏˣ        x ≥ 0
distribuzione  Fₓ(x) = 1 − e⁻ᵏˣ    x ≥ 0

E[X] = 1/λ        E[X²] = 2/λ²        σ²ₓ = 1/λ²

Si noti che media e deviazione standard coincidono: il coefficiente di variazione di una esponenziale vale esattamente 1. È il riferimento rispetto a cui, più avanti, si giudicheranno «regolari» le distribuzioni deterministiche e «irregolari» quelle heavy tailed di Pareto.

Assenza di memoria

La proprietà si dimostra in tre righe applicando la definizione di probabilità condizionata:

P{X > s + t | X > s} = P{X > s + t , X > s} / P{X > s}
                     = P{X > s + t} / P{X > s}
                     = e⁻ᵏ⁽ˢ⁺ᵗ⁾ / e⁻ᵏˢ
                     = e⁻ᵏᵗ  =  P{X > t}

Questo è il motivo per cui, nel capitolo 4, un sistema a coda con arrivi di Poisson e servizi esponenziali potrà essere descritto guardando soltanto il numero di utenti presenti, senza memorizzare da quanto tempo ciascun servizio è in corso. Senza questa proprietà lo spazio degli stati esploderebbe.

7. Processi stocastici

Un processo stocastico è lo studio dell'evoluzione temporale di una variabile aleatoria. Data una v.a. X, si indica con X_i(t) un suo possibile andamento nel tempo, frutto di un particolare esperimento; si definisce allora processo stocastico X(t) l'insieme di tutti i possibili andamenti. Ciascun X_i(t) è una realizzazione (o funzione campione) del processo.

La classificazione procede su due assi indipendenti:

Fissato un istante t₀, il valore X(t₀) che tutte le realizzazioni possono assumere è a sua volta una variabile aleatoria; l'insieme dei suoi possibili valori si chiama spazio degli stati. Per un processo tempo-continuo a valori discreti si definiscono allora le funzioni di probabilità di ordine crescente:

primo ordine    p₁(x,t) = Prob{X(t) = x}
secondo ordine  p₂(x₁,t₁,x₂,t₂) = Prob{X(t₁) = x₁, X(t₂) = x₂}
ordine n        pₙ(x₁,t₁,…,xₙ,tₙ) = Prob{X(t₁) = x₁, …, X(tₙ) = xₙ}

8. Stazionarietà ed ergodicità

Su un processo stocastico si possono definire due tipi di media, ed è cruciale non confonderli.

A questo punto si introducono le due ipotesi di lavoro che reggono l'intero corso:

• un processo è stazionario se X(t) e X(t+t₀) hanno la stessa descrizione statistica per ogni t₀, e quindi p1(x,t) = p1(x) e E[X(t)] = E[X] per ogni t: le statistiche non dipendono da quando si guarda;
• un processo è ergodico se ogni realizzazione è caratteristica con probabilità 1 dell'intero processo, e quindi E[X(t)] = <Xj(t)> per ogni j e ogni t: media statistica e media temporale coincidono.

Vale l'implicazione processo ergodico ⇒ processo stazionario, ma non il viceversa.

Verifica le tue conoscenze