Puterea medie ponderată

Media ponderată a legii puterii  este un fel de medie . Pentru o mulțime de numere reale pozitive cu un parametru și greutăți nenegative , este definit ca

.

Dacă ponderile sunt normalizate la unu (adică suma lor este egală cu unu), atunci expresia pentru media ponderată a legii puterii ia forma

.

Proprietăți

Relația cu entropia Rényi

Entropia informațională a unui anumit sistem poate fi definită ca logaritmul numărului de stări disponibile ale sistemului (sau numărul lor efectiv dacă stările nu sunt la fel de probabile). Să luăm în considerare că probabilitățile ca sistemul să fie în starea cu numărul ( ) sunt normalizate la . Dacă stările sistemului sunt echiprobabile și au probabilitate , atunci . În cazul diferitelor probabilități de stare, definim numărul efectiv de stări ca o medie ponderată a legii puterii a valorilor cu ponderi și un parametru (unde ):

.

De aici obținem expresia entropiei

,

coincid cu expresia pentru entropia Rényi [1] . Este ușor de observat că în limita la (sau ) entropia Renyi converge către entropia Shannon (în ciuda faptului că media ponderată a legii puterii converge către media geometrică ponderată ). Conform definiției entropiei Rényi , trebuie respectată o constrângere suplimentară (sau ).

Note

  1. Zaripov, 2005 , p. 108-125.

Literatură