Übersicht:Thermodynamik

klassische Mechanik

• Prinzip der Vorurteilsfreien Schätzung in der klassischen Mechanik

--> gleiche a –priori Wahrscheinlichkeiten

• Hamiltonfunktion mit Hamiltongleichungen
• Lösungen Trajektorien im Phasenraum

Satz von Liouville

Das Phasenraumvolumen ist invariant unter Zeitentwicklung --> gleiche Phasenvolumina ^= gleiche a-priori Wahrscheinlichkeit bleibt bestehen --> Informationsmaß über Microzustand kann mit der zeit nicht zunehmen $I(t_{1})\geq I(t_{2})$ mit $t_{1}<t_{2}$

Zustand

$\left\langle {{M}^{\nu }}\right\rangle =\int {d\xi \rho \left(\xi \right){{M}^{\nu }}\left(\xi \right)}$ (thermodynamischer Zustand durch Mittelwerte der Phasenraumfunktionen $\rho \left(\xi \right)=\exp \left(\psi -{{\lambda }_{\nu }}{{M}^{\nu }}\left(\xi \right)\right)={{z}^{-1}}\exp \left(-{{\lambda }_{\nu }}{{M}^{\nu }}\left(\xi \right)\right)$ mit $z={{\operatorname {e} }^{-\psi }}=\int {{{e}^{-{{\lambda }_{\nu }}{{M}^{\nu }}\left(\xi \right)}}d\xi }$

Shannon-Information

• $I\left(P\right)=\sum \limits _{i}{{{P}_{i}}\ln {{P}_{i}}}\leq 0$
• Information: Welches Ereignis tritt ein?
• Wie viel weiß ich von meinem System?
• Maximum$I\left(P\right)=0$ --> schafte Verteilung${{P}_{i}}={{\delta }_{ij}}$

minimum

• Maximum des Nichtwissens entspricht minimaler Shannon-Information -- >$I\left(P\right)<0$ Variation der $P_{i}$ um$\delta {{P}_{i}}$

mit 1 Nebendbedingung $\sum \limits _{i}{{P}_{i}}=1$ führt unter Verwendung eines Lagrange-Parameters$\lambda$ zu

$I\left(P\right)=\sum {{{P}_{i}}\ln {{P}_{i}}+\lambda \left({{P}_{i}}-1\right)}$

die Variation, also $\delta I\left(P\right)=\sum {\left(\ln {{P}_{i}}+1\right)\delta {{P}_{i}}}$

lässt keine freien Parameter zu also erhält man N Gleichungen

$\left(\ln {{P}_{i}}\right)=-\left(\lambda +1\right)={\text{const.}}$

so erhält man wegen der Normierung ($\sum \limits _{i}{{P}_{i}}=1$) die

Gleichverteilung${{P}_{i}}={\frac {1}{N}}$

Nebenbedingungen

• führt zum Informationstheoretischen Prinzip nach Jaynes
• Wahrscheinlichkeitsverteilung die die minimale Information enthält bei Erfüllung aller bekannten Nebenbedingungen
• Variationsverfahren mit Nebenbedingungen
• Shannon-Information $I\left(P\right)=\sum \limits _{i}{{{P}_{i}}\ln {{P}_{i}}}\leq 0$ soll minimal werden
• Es gibt m+1 Nebenbedingungen:
  • Gesamtwahrscheinlichkeiten sind 1: $\sum \limits _{i=1}^{N}{{P}_{i}}=1$
  • Kenntnis von $\nu$ Mittelwerten makroskopischer Observabelen $\left\langle {{M}^{\nu }}\right\rangle =\sum \limits _{i=1}^{N}{{{P}_{i}}M_{i}^{\nu }}$
  • also mit Lagrange Multiplikatoren: $I\left(P\right)=\sum {{P}_{i}}\ln {{P}_{i}}+\lambda \left({{P}_{i}}-1\right)+{{\lambda }_{\nu }}M_{i}^{\nu }{{P}_{i}}$
• führt zur Variation $\delta I\left(P\right)=\left(\sum \ln {{P}_{i}}+\underbrace {1+\lambda } _{:=-\psi }+{{\lambda }_{\nu }}M_{i}^{\nu }\right)\delta {{P}_{i}}=0$
• daraus erhält man die verallgemeinerte kanonische Verteilung ${{P}_{i}}=\exp \left(\psi -{{\lambda }_{\nu }}M_{i}^{\nu }\right)$
• die m+1 Lagrange-Multiplikatoren sind also eindeutig bestimmt
• $\psi =\psi \left({{\lambda }_{\nu }}\right)=-\ln \sum {\exp \left(-{{\lambda }_{\mu }}M_{i}^{\mu }\right)}$, da ${\begin{aligned}&1=\sum {{P}_{i}}=\sum {\exp \left(\psi -{{\lambda }_{\nu }}M_{i}^{\nu }\right)={{e}^{\psi }}{{e}^{{\lambda }_{\nu }}}\sum {{e}^{M_{i}^{\nu }}}}\\&\Rightarrow {{e}^{-\psi }}={{e}^{{\lambda }_{\nu }}}\sum {{e}^{M_{i}^{\nu }}}\\\end{aligned}}$

Fundamentalbeziehung

• durch eine Legenderetransformation $I\left(P\right)\to I\left(\lambda \right)$

$I\left(P\right)=\sum \limits _{i}{{{P}_{i}}\ln {{P}_{i}}}=\sum \limits _{i}{{{P}_{i}}\ln \exp \left(\psi -{{\lambda }_{\nu }}M_{i}^{\nu }\right)}=\psi \underbrace {\sum \limits _{i}{{P}_{i}}} _{1}-{{\lambda }_{\nu }}\sum \limits _{i}{{{P}_{i}}M_{i}^{\nu }}=\psi -{{\lambda }_{\nu }}\left\langle {{M}^{\nu }}\right\rangle$

• extensive Parameter $\left\langle {{M}^{\nu }}\right\rangle ={{\partial }_{{\lambda }_{\nu }}}\psi \left({{\lambda }_{\nu }}\right)={{\partial }_{{\lambda }_{\nu }}}\left(-\ln \sum {\exp \left(-{{\lambda }_{\mu }}M_{i}^{\mu }\right)}\right)$
• intensive Parameter ${{\lambda }_{\nu }}=-{{\partial }_{\left\langle {{M}^{\nu }}\right\rangle }}I$

$\to dI=-{{\lambda }_{\nu }}d\left\langle {{M}^{\nu }}\right\rangle$

Beziehungen

• $I\left(P\right)=\sum \limits _{i}{{{P}_{i}}\ln {{P}_{i}}}=Tr\left({\hat {\rho }}\ln {\hat {\rho }}\right)$
• Verknüpfung mit phänomenologischer Statistik
  • Entropie = fehlende Kenntnis
  • $S\left(\left\langle {{M}^{\nu }}\right\rangle \right)=-{{k}_{B}}I\left(\left\langle {{M}^{\nu }}\right\rangle \right)$
  • da Shannoninformation (I) nach letzer Messung nicht zunehmen kann, --> kann Entropie (S) nicht abnehmen
  • $S=-kI=-k\operatorname {Tr} \left({\hat {\rho }}\ln \left({\hat {\rho }}\right)\right)=-k\left(\psi -{{\lambda }_{\nu }}{{M}^{\nu }}\right)=k\left({{\lambda }_{\nu }}{{M}^{\nu }}-\psi \left(\left\{{{\lambda }_{\mu }}\right\}\right)\right)$
  • $k{{\lambda }_{\nu }}={{\partial }_{\left\langle {{M}^{\nu }}\right\rangle }}S$ pähnomenologische Definition der intensiven Variabelen
• Gibbssche Fundamentalgleichung $dS=k{{\lambda }_{\nu }}d\left\langle {{M}^{\nu }}\right\rangle =k\left(\beta dU+{\frac {\beta }{p}}dV-{\frac {S}{\mu }}dN\right)$

Kullback-Information

• Informationsgewinn $K\left(P,P'\right)=\sum {{{P}_{i}}\ln {\frac {{P}_{i}}{{{P}_{i}}'}}}\geq 0$