Verallgemeinerte kanonische Verteilung

Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD

65px|Kein GFDL

Der Artikel Verallgemeinerte kanonische Verteilung basiert auf der Vorlesungsmitschrift von Franz- Josef Schmitt des 1.Kapitels (Abschnitt 3) der Thermodynamikvorlesung von Prof. Dr. E. Schöll, PhD.

   |}}

{{#set:Urheber=Prof. Dr. E. Schöll, PhD|Inhaltstyp=Script|Kapitel=1|Abschnitt=3}} Kategorie:Thermodynamik __SHOWFACTBOX__

Verallgemeinerte kanonische Verteilung

Motivation:

Makroskopische thermodynamische Zustände sind gegeben durch die Mittelwerte $⟨M(x)⟩$ von Mikroobservablen M(x), interpretiert als Zufallsvariable.

Rückschlüsse von $⟨M(x)⟩$ auf die Wahrscheinlichkeitsverteilung $\rho (x)?$

Methode:

Vorurteilsfreie Schätzung ( Jaynes , 1957):

unbiased guess; Prinzip des maximalen Nichtwissens:

• Verallgemeinerung des Laplacschen Prinzips vom unzureichenden Grund.
• ( Minimum der Shannon- Information

$I(\rho (x))$ = Maximum des Nichtwissens $S(\rho (x))$

liefert Gleichverteilung

• Jetzt: Zusätzlich zur Normierung der Pi sind die Mittelwerte von m Zufallsvariablen:

$\begin{array}{ll}& {M_i}^n\\ & n=1,2,...,m\\ & \Rightarrow ⟨M^n⟩=\sum _{i=1}^N{P}_i{M_i}^n\\ & n=1,...,m\\ & m<<N\\ \end{array}$

Annahme:

Jedes Elementarereignis $A_i$

hat gleiche a-priori- Wahrscheinlichkeit , das heißt OHNE zusätzliche Kenntnisse

$⟨M^n⟩$

gilt Gleichverteilung über den 

$A_i$ .

Informationstheoretisches Prinzip ( Jaynes)

Suche die Wahrscheinlichkeitsverteilung , die unter der Erfüllung aller bekannten Angaben als Nebenbedingung die minimale Information enthält:

Also:

$I(P)=\sum _{i=1}^N{P}_i\ln P_i=!=Minimum$

Nebenbed.:

$\begin{array}{ll}& \sum _{i=1}^N{P}_i=1\\ & ⟨M^n⟩=\sum _{i=1}^N{P}_i{M_i}^n\\ & n=1,...,m\\ \end{array}$

Variation:

$\delta I=\sum _{i=1}^N(\ln P_i+1)\delta P_i$

Es gilt: von den N Variationen $\delta P_i$

sind nur N-m-1  unabhängig voneinander !

$\sum _i^{}\delta P_i=0$

Lagrange- Multiplikator

$\lambda =-(\mathrm{\Psi }+1)$

$\sum _i^{}{M_i}^n\delta P_i=0$

Lagrange- Multiplikator

${\lambda }_n$

Anleitung

Wähle $\mathrm{\Psi },{\lambda }_n$ so, dass die Koeffizienten von $(m+1)\delta P_i$ ´s verschwinden, die übrigen N-(m+1) sind dann frei variierbar !

Somit:

$\Rightarrow \delta I=\sum _{i=1}^N(\ln P_i-\mathrm{\Psi }+{\lambda }_n{M_i}^n)\delta P_i=!=0$

Vorsicht: Auch Summe über n ( Einsteinsche Summenkonvention !)

$\Rightarrow P_i=\exp (\mathrm{\Psi }-{\lambda }_n{M_i}^n)$

Die verallgemeinerte kanonische Verteilung

Die Lagrange- Multiplikatoren

$\mathrm{\Psi },{\lambda }_n$

sind dann durch die m+1 Nebenbedingungen eindeutig bestimmt !

Kontinuierliche Ereignismenge !

$I(\rho )=\underset{}{\overset{}{\int }}{d}^{d}x\rho (x)\ln \rho (x)=!=Minimum$

unter der Nebenbedingung

$\begin{array}{ll}& \underset{}{\overset{}{\int }}{d}^{d}x\rho (x)=1\\ & \underset{}{\overset{}{\int }}{d}^{d}x\rho (x)M^n(x)=⟨M^n⟩\\ & n=1,...,m\\ \end{array}$

Durchführung einer Funktionalvariation: $\delta \rho (x)$

$\begin{array}{ll}& \delta I(\rho )=\underset{}{\overset{}{\int }}{d}^{d}x(\ln \rho (x)+1)\delta \rho (x)=0\\ & \Rightarrow \underset{}{\overset{}{\int }}{d}^{d}x\delta \rho (x)=0\\ & \underset{}{\overset{}{\int }}{d}^{d}x{M}^n(x)\delta \rho (x)=0\\ & \Rightarrow \underset{}{\overset{}{\int }}{d}^{d}x(\ln \rho -\mathrm{\Psi }+{\lambda }_n{M}^n)\delta \rho (x)=0\\ & \Rightarrow \rho (x)=\exp (\mathrm{\Psi }-{\lambda }_n{M}^n)\\ \end{array}$

Vergleiche: A. Katz, Principles of Statistial Mechanics

Eigenschaften der verallgemeinerten kanonischen Verteilung

hier: noch rein informationstheoretisch,

später: wichtige Anwendungen in der Thermodynamik

Legendre- Transformation:

Sei $\mathrm{\Psi }(t)$ eine Bahn !

Dann ist $M:=\frac{d\mathrm{\Psi }(t)}{dt}$

die Geschwindigkeit.

Aus $\mathrm{\Psi }(M)$ kann die Bahn $\mathrm{\Psi }(t)$

noch nicht rekonstruiert werden, jedoch aus

$I(M)=\mathrm{\Psi }(t)-M(t)t$

mit t=t(M):

$\begin{array}{ll}& \frac{dI}{dM}=\frac{d\mathrm{\Psi }(t)}{dt}\frac{dtM}{dM}-M\frac{dt}{dM}-t\\ & M:=\frac{d\mathrm{\Psi }(t)}{dt}\\ & \Rightarrow \frac{dI}{dM}=-t\\ \end{array}$

hieraus folgt $M(t)$

eingesetzt in $I(M)=\mathrm{\Psi }(t)-M(t)t\Rightarrow \mathrm{\Psi }(t)$

durch Eisnetzen gewinnt man $\mathrm{\Psi }(t)$

Jedenfalls:

$I(M)=\mathrm{\Psi }(t)-M(t)t$

heißt legendre- Transformierte von $\mathrm{\Psi }(t)$ .

Anwendung auf die verallgemeinerte kanonische Verteilung:

$\Rightarrow P_i=\exp (\mathrm{\Psi }-{\lambda }_n{M_i}^n)$

Normierung:

$\sum _i^{}{P}_i=1\Rightarrow e^{-\mathrm{\Psi }}=\exp (-{\lambda }_n{M_i}^n)\equiv Z$

Also gilt:

$\mathrm{\Psi }=\mathrm{\Psi }({\lambda }_1,...,{\lambda }_m)$

und 

$P_i$

sind durch 

$({\lambda }_1,...,{\lambda }_m)$

vollständig parametrisiert.

Nebenbemerkung

Die Verteilung $P_i$

bzw. 

$\rho \left(x\right)$

wirkt auf dem Raum der Zufallsvariablen 

${M_i}^n$

(diskret) bzw. 

$x\in R^d$ (kontinuierlich).

$({\lambda }_1,...,{\lambda }_m)$

sind Parameter.

$⟨M^n⟩$

sind Erwartungswerte 

$⟨M^n⟩\in R$

Beispiel:

$x=(q_1,...,q_{3N},p_1....,p_{3N})\in \mathrm{\Gamma }$

 ( Phasenraumelement)

mit $\mathrm{\Gamma }$ als Phasenraum der kanonisch konjugierten Variablen

$M\left(x\right)=\sum _{i=1}^{3N}(\frac{{p_i}^2}{2m}+V\left(q_i\right))$

mikrokanonisch Verteilungsfunktion

$⟨M\left(x\right)⟩=⟨\sum _{i=1}^{3N}(\frac{{p_i}^2}{2m}+V\left(q_i\right))⟩$ als mittlere Energie

Shannon- Information:

$\begin{array}{ll}& I(P)=\sum _i^{}{P}_i\ln P_i=\sum _i^{}{P}_i(\mathrm{\Psi }-{\lambda }_n{M_i}^n)=\mathrm{\Psi }-{\lambda }_n\sum _i^{}{P}_i{M_i}^n\\ & I=\mathrm{\Psi }({\lambda }_1,...{\lambda }_m)-{\lambda }_n⟨M^n⟩\\ \end{array}$

Aus

$\begin{array}{ll}& \mathrm{\Psi }({\lambda }_1,...{\lambda }_m)=-\ln \sum _i^{}\exp (-{\lambda }_n{M_i}^n)\\ & \Rightarrow \frac{\partial }{\partial {\lambda }_n}\mathrm{\Psi }=-\frac{\sum _i^{}(-{M_i}^n)\exp (-{\lambda }_n{M_i}^n)}{\sum _i^{}\exp (-{\lambda }_n{M_i}^n)}\\ & \sum _i^{}\exp (-{\lambda }_n{M_i}^n)=e^{-\mathrm{\Psi }}\\ & \Rightarrow \frac{\partial }{\partial {\lambda }_n}\mathrm{\Psi }=\sum _i^{}\left({M_i}^n\right)\exp (\mathrm{\Psi }-{\lambda }_n{M_i}^n)\\ & \exp (\mathrm{\Psi }-{\lambda }_n{M_i}^n)=P_i\\ & \Rightarrow \frac{\partial }{\partial {\lambda }_n}\mathrm{\Psi }=\sum _i^{}\left({M_i}^n\right)P_i\\ & \Rightarrow \frac{\partial }{\partial {\lambda }_n}\mathrm{\Psi }=⟨M^n⟩\\ \end{array}$

Damit können wir die Legendre- Transformation ( verallgemeinert auf mehrere Variablen) identifizieren:

$\mathrm{\Psi }(t)\to \mathrm{\Psi }({\lambda }_1,...{\lambda }_m)$

 Variable

${\lambda }_n$

$M\to ⟨M^n⟩=\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}$

 neue Variable  

$⟨M^n⟩$

$I\left(M\right)\to I=\mathrm{\Psi }-{\lambda }_n⟨M^n⟩$

 Legendre- Transformierte von 

$\mathrm{\Psi }$

!

Es folgt:

$\frac{\partial I}{\partial ⟨M^n⟩}=-{\lambda }_n$

wegen:

$\begin{array}{ll}& \frac{\partial I}{\partial ⟨M^n⟩}=\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_m}\frac{\partial {\lambda }_m}{\partial ⟨M^n⟩}-\frac{\partial {\lambda }_m}{\partial ⟨M^n⟩}⟨M^m⟩-{\lambda }_n\\ & \frac{\partial \mathrm{\Psi }}{\partial {\lambda }_m}=⟨M^m⟩\\ & \Rightarrow \frac{\partial I}{\partial ⟨M^n⟩}=-{\lambda }_n\\ \end{array}$

Zusammengefasst:

$dI=-{\lambda }_{n}d⟨M^n⟩$

Dies ist in der Thermodynamik die Gibbsche Fundamentalgleichung !!

Betachte Variation:

$⟨M^n⟩\to ⟨M^n⟩+\delta ⟨M^n⟩$

dann:

$\begin{array}{ll}& {\lambda }_n\to {\lambda }_n+\delta {\lambda }_n\\ & \mathrm{\Psi }\to \mathrm{\Psi }+\delta \mathrm{\Psi }\\ & P_i\to P_i+\delta P_i\\ \end{array}$

Informationsgewinn:

$\begin{array}{ll}& K(P+\delta P,P)=\sum _i^{}(P_i+\delta P_i)\ln (P_i+\delta P_i)-\sum _i^{}(P_i+\delta P_i)\ln P_i\\ & \sum _i^{}(P_i+\delta P_i)\ln (P_i+\delta P_i)=I(P+\delta P)\\ & \Rightarrow K(P+\delta P,P)=(\mathrm{\Psi }+\delta \mathrm{\Psi })-({\lambda }_n+\delta {\lambda }_n)(⟨M^n⟩+\delta ⟨M^n⟩)-\sum _i^{}(P_i+\delta P_i)(\mathrm{\Psi }-{\lambda }_n{M^n}_i)\\ & \sum _i^{}(P_i+\delta P_i)(\mathrm{\Psi }-{\lambda }_n{M^n}_i)=\mathrm{\Psi }-{\lambda }_n\sum _i^{}(P_i+\delta P_i){M^n}_i=\mathrm{\Psi }-{\lambda }_n(⟨M^n⟩+\delta ⟨M^n⟩)\\ & \Rightarrow K(P+\delta P,P)=(\mathrm{\Psi }+\delta \mathrm{\Psi })-({\lambda }_n+\delta {\lambda }_n)(⟨M^n⟩+\delta ⟨M^n⟩)-\mathrm{\Psi }+{\lambda }_n(⟨M^n⟩+\delta ⟨M^n⟩)\\ & =\delta \mathrm{\Psi }-\delta {\lambda }_n(⟨M^n⟩+\delta ⟨M^n⟩)\\ \end{array}$

Wir können die variierten Funktionen für kleine Variationen $\delta {\lambda }_n$ entwickeln:

$\begin{array}{ll}& \delta \mathrm{\Psi }=\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\delta {\lambda }_n+\frac{1}{2}\frac{{\partial }^2\mathrm{\Psi }}{\partial {\lambda }_n\partial {\lambda }_m}\delta {\lambda }_n\delta {\lambda }_m+....\\ & \delta ⟨M^n⟩=\frac{\partial ⟨M^n⟩}{\partial {\lambda }_n}\delta {\lambda }_n+\frac{1}{2}\frac{{\partial }^2⟨M^n⟩}{\partial {\lambda }_n\partial {\lambda }_m}\delta {\lambda }_n\delta {\lambda }_m+....\\ & \Rightarrow K(P+\delta P,P)=\delta \mathrm{\Psi }-\delta {\lambda }_n(⟨M^n⟩+\delta ⟨M^n⟩)=(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\delta {\lambda }_n-⟨M^n⟩)\delta {\lambda }_n+(\frac{1}{2}\frac{\partial }{\partial {\lambda }_m}\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}-\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m})\delta {\lambda }_n\delta {\lambda }_m\\ & \frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}=⟨M^n⟩\Rightarrow (\frac{1}{2}\frac{\partial }{\partial {\lambda }_m}\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}-\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m})=-\frac{1}{2}\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m}\\ & (\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\delta {\lambda }_n-⟨M^n⟩)=0\\ & \Rightarrow K(P+\delta P,P)=-\frac{1}{2}\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m}\delta {\lambda }_n\delta {\lambda }_m\\ & K(P+\delta P,P)\ge 0\\ \end{array}$

Vergleiche oben

also folgt:

$\begin{array}{ll}& \Rightarrow K(P+\delta P,P)=-\frac{1}{2}\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m}\delta {\lambda }_n\delta {\lambda }_m\ge 0\\ & \Rightarrow \frac{\partial ⟨M^n⟩}{\partial {\lambda }_m}\le 0\\ \end{array}$

negativ semidefinit, für alle $\delta {\lambda }_m$

Definiere Suszeptibilitätsmatrix:

${\eta }^{mn}:=\frac{\partial ⟨M^n⟩}{\partial {\lambda }_n}=\frac{{\partial }^2\mathrm{\Psi }}{\partial {\lambda }_n\partial {\lambda }_m}$

Diese Matrix beschreibt die Änderung von $⟨M^m⟩$

bei Variation von ${\lambda }_n$

$\delta ⟨\overline{M}⟩=\overline{\overline{\eta }}\delta \overline{\lambda }$

bzw.:

${\tilde{\eta }}_{\sigma \lambda }:=\frac{\partial {\lambda }_{\sigma }}{\partial ⟨M^{\lambda }⟩}=-\frac{{\partial }^{2}I}{\partial ⟨M^{\lambda }⟩\partial ⟨M^{\sigma }⟩}$

In Matrixschreibweise:

$\begin{array}{ll}& \delta \overline{\lambda }=\widetilde{\overline{\overline{\eta }}}\delta ⟨\overline{M}⟩\\ & \widetilde{\overline{\overline{\eta }}}={\overline{\overline{\eta }}}^{-1}\\ \end{array}$

Wegen

$\begin{array}{ll}& \frac{\partial }{\partial {\lambda }_n}\left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_m}\right)=\frac{\partial }{\partial {\lambda }_m}\left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\right)\\ & \left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_m}\right)=⟨M^m⟩\Rightarrow \frac{\partial }{\partial {\lambda }_n}\left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_m}\right)={\eta }^{mn}\\ & \left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\right)=⟨M^n⟩\Rightarrow \frac{\partial }{\partial {\lambda }_m}\left(\frac{\partial \mathrm{\Psi }}{\partial {\lambda }_n}\right)={\eta }^{nm}\\ \end{array}$

Somit:

${\eta }^{nm}$

 ist symmetrisch

Aus

$K(P+\delta P,P)\ge 0$

folgt:

${\eta }^{mn}\delta {\lambda }_m\delta {\lambda }_n=\delta ⟨M^n⟩\delta {\lambda }_n={\tilde{\eta }}_{nm}\delta ⟨M^n⟩\delta ⟨M^m⟩\le 0$

Also: negativ- semidefinite quadratisceh Form:

$\begin{array}{ll}& \Rightarrow {\eta }^{nn}\le 0\\ & {\tilde{\eta }}_{nn}\le 0\\ \end{array}$

Nebenbemerkung:

Also sind

$I\left(⟨M^n⟩\right)$

und

$-\mathrm{\Psi }\left({\lambda }_n\right)$

konvex !

Zusammenhang mit der Korrelationsmatrix

$Q^{mn}:=⟨\mathrm{\Delta }{M}^m\mathrm{\Delta }{M}^n⟩$

 ist Korrelationsmatrix ( siehe oben)

$={⟨M^m{M}^n⟩}_c$

 2. Kumulante

$={\frac{{\partial }^2\mathrm{\Gamma }\left(\alpha \right)}{\partial {\alpha }_m\partial {\alpha }_n}|}_{\alpha =0}$

 mit Kumulantenerzeugender

$\begin{array}{ll}& \mathrm{\Gamma }\left(\alpha \right)=\ln ⟨\exp \left({\alpha }_n{M}^n\right)⟩=\ln \sum _i^{}{P}_i\exp \left({\alpha }_n{M_i}^n\right)=\ln \sum _i^{}{e}^{\mathrm{\Psi }-({\lambda }_n-{\alpha }_n){M_i}^n}\\ & =\ln [e^{\mathrm{\Psi }}\cdot \sum _i^{}{e}^{-({\lambda }_n-{\alpha }_n){M_i}^n}]=\mathrm{\Psi }\left(\lambda \right)+\ln \left[\sum _i^{}{e}^{-({\lambda }_n-{\alpha }_n){M_i}^n}\right]\\ & \ln \left[\sum _i^{}{e}^{-({\lambda }_n-{\alpha }_n){M_i}^n}\right]=-\mathrm{\Psi }(\lambda -\alpha )\\ & \Rightarrow \mathrm{\Gamma }\left(\alpha \right)=\mathrm{\Psi }\left(\lambda \right)-\mathrm{\Psi }(\lambda -\alpha )\\ & \Rightarrow Q^{mn}=-{\frac{{\partial }^2\mathrm{\Psi }(\lambda -\alpha )}{\partial {\alpha }_m\partial {\alpha }_n}|}_{\alpha =0}=-\frac{{\partial }^2\mathrm{\Psi }\left(\lambda \right)}{\partial {\lambda }_m\partial {\lambda }_n}=-{\eta }^{mn}\\ \end{array}$

Suszeptibilität !

Also: Die Korrelationsmatrix ist das Negative der Suszeptibilität !!

Also:

$Q^{mn}:=⟨\mathrm{\Delta }{M}^m\mathrm{\Delta }{M}^n⟩=-\frac{\partial ⟨M^m⟩}{\partial {\lambda }_n}=-\frac{\partial ⟨M^n⟩}{\partial {\lambda }_m}$

Fluktuations/ Dissipations- Theorem:

Fluktuationen: Zufällige Schwankungen um den Mittelwert

Dissipation: Systematische Änderung der Mittelwerte !

Korrektur einer Verteilung durch Zusatzinformationen

Sei

$P^0$

die Verteilung, die 

$I\left(P\right)$

unter Kenntnis der Nebenbedingungen

$\begin{array}{ll}& \sum _i^{}{P_i}^0=1\\ & \sum _i^{}{P_i}^0{M_i}^m=⟨M^m⟩\\ & m=1,...,m\\ \end{array}$

minimalisiert ( Vorsicht: Index und Laufende sind ungünstigerweise gleich bezeichnet !)

Jetzt:

Zusatzinformationen ( zusätzliche Mittelwerte beobachtet):

$\begin{array}{ll}& \sum _i^{}{P}_i{V_i}^{\sigma }=⟨{V_i}^{\sigma }⟩\\ & \sigma =1,...,s\\ & \sum _i^{}{P}_i=1\\ \end{array}$

Prinzip der vorurteilsfreien Schätzung

Suche Minimum des Informationsgewinns

$K(P,P^0)=\sum _i^{}{P}_i\ln \frac{P_i}{{P_i}^0}$

unter dieser Nebenbedingung !!

Also:

$\sum _i^{}(\ln P_i-\ln {P_i}^0+1+\xi +{\xi }_{\sigma }{V_i}^{\sigma })\delta P_i=0$

mit neuen Lagrange- Multiplikatoren $\xi ,{\xi }_{\sigma }$

$\begin{array}{ll}& \Rightarrow 1+\xi =-\mathrm{\Xi }\\ & \sum _i^{}(\ln P_i-\ln {P_i}^0-\mathrm{\Xi }+{\xi }_{\sigma }{V_i}^{\sigma })\delta P_i=0\\ & \Rightarrow P_i={P_i}^0\exp (\mathrm{\Xi }-{\xi }_{\sigma }{V_i}^{\sigma })\\ \end{array}$

Mit

${P_i}^0=\exp (\mathrm{\Psi }-{\lambda }_n{M_i}^n)$

 folgt:

$\begin{array}{ll}& K(P,P^0)=\sum _i^{}{P}_i\ln P_i-P_i\ln {P_i}^0+{P_i}^0\ln {P_i}^0-{P_i}^0\ln {P_i}^0\\ & \sum _i^{}{P}_i\ln P_i=I(P)\\ & \sum _i^{}{P_i}^0\ln {P_i}^0=I(P^0)\\ & -P_i\ln {P_i}^0+{P_i}^0\ln {P_i}^0=-\sum _i^{}(P_i-{P_i}^0)\ln {P_i}^0\\ & \ln {P_i}^0=\mathrm{\Psi }-{\lambda }_n{M_i}^n\\ & -\sum _i^{}(P_i-{P_i}^0)(\mathrm{\Psi }-{\lambda }_n{M_i}^n)={\lambda }_n(\sum _i^{}\left(P_i{M_i}^n\right)-\sum _i^{}\left({P_i}^0{M_i}^n\right))\\ & \sum _i^{}\left(P_i{M_i}^n\right)=⟨M^n⟩\\ & \sum _i^{}\left({P_i}^0{M_i}^n\right)={⟨M^n⟩}_0\\ \end{array}$

Da nun die Mittelwerte $⟨M^n⟩,{⟨M^n⟩}_0$ nicht durch die Zusatzinfo geändert werden muss gelten:

$\begin{array}{ll}& K(P,P^0)=I(P)-I(P^0)+{\lambda }_n(\sum _i^{}\left(P_i{M_i}^n\right)-\sum _i^{}\left({P_i}^0{M_i}^n\right))\\ & =I(P)-I(P^0)+{\lambda }_n(⟨M^n⟩-{⟨M^n⟩}_0)\\ & keine\ddot{A}nderung\\ & \Rightarrow {\lambda }_n(⟨M^n⟩-{⟨M^n⟩}_0)=0\\ & ⟨M^n⟩={⟨M^n⟩}_0\\ \end{array}$

da diese Mittelwerte nicht durch die Zusatzinfo geändert werden !

$\begin{array}{ll}& \Rightarrow K(P,P^0)=I(P)-I(P^0)+{\lambda }_n(\sum _i^{}\left(P_i{M_i}^n\right)-\sum _i^{}\left({P_i}^0{M_i}^n\right))\\ & =I(P)-I(P^0)+{\lambda }_n(⟨M^n⟩-{⟨M^n⟩}_0)=I(P)-I(P^0)\\ \end{array}$

Das heißt: Der Informationsgewinn entspricht gerade der Änderung der Shannon- Info !