Entropie
[griech. en innen, tropē Umkehr, Wende] Der Begriff entstammt der Physik, findet sich jedoch mittlerweile in vielen Bereichen. Ein allgemeines Verständnis wird mittels der Mathematik des Zufalls (Stochastik) erwartet.
[1] Physik: Grad der Unumkehrbarkeit eines Vorganges. Diese Größe kennzeichnet auch die Verlaufsrichtung eines Wärmeprozesses. Eine Wärmemenge, die nicht zur mechanischen Arbeit genutzt werden kann, wird an die Umgebung abgegeben. Diese nicht nutzbare Wärmemenge wird mit der entsprechenden Temperatur zu einer neuen Funktion verknüpft, woraus sich die Größe Entropie ergibt. Alle natürlichen Energieumwandlungsprozesse enthalten einen unumkehrbaren - irreversiblen - Entropieanteil, bei dem nicht genutzte Wärme an die Umgebung abgegeben wird. Entropie bedeutet eine „nach innen gekehrte, d. h. nicht mehr verwandlungsfähige oder nutzbare Energie.“
[2] Informatik: Maß für den mittleren Informationsgehalt einer Menge von Zeichen.
[3] Chemie: Maß für die Triebkraft chemischer Reaktionen. In der Chemie ist die Triebkraft einer chemischen Reaktion interessant. Die Energie einer Reaktion wird Reaktionsenthalpie (H) genannt und gibt an, ob ein Prozeß exotherm (unter Energiefreisetzung) oder endotherm (unter Energieverbrauch) abläuft. Man dachte, nur exotherme Reaktionen laufen von alleine ab. Diese Annahme ist nicht immer richtig, denn manche Reaktionen laufen auch freiwillig ab und führen zu einem Wärmeverbrauch. Einfaches Beispiel dafür ist die Lösung von Zucker oder Salz in Wasser. Die Lösung ist kälter als die Temperatur der Ausgangsstoffe. Bei der Reaktion wurde also keine Energie freigesetzt, sondern verbraucht. Für die Triebkraft der Energiefreisetzung ist also ein zweiter Faktor maßgebend: die Entropieerhöhung. Nimmt bei einer Reaktion die Entropie zu, wird dies den Reaktionsablauf beschleunigen oder sogar erst möglich machen.
[4] Mathematik: In der Wahrscheinlichkeitsrechnung Maß für die Zahl der Möglichkeiten eines oder mehrerer Zufallsprozesse. Grob vereinfacht eine Bezeichnung für die Menge an möglichem Zufall.
[5] Kryptoanalyse: Maß der Unordnung in Texten. Für die Entschlüsselung von Geheimtexten ist die Bestimmung der Entropie nützlich, um Erkenntnisse über die Struktur des Textes und, ergänzt durch Vergleichtstexte und der Erfassung der Häufigkeit des Auftretens bestimmter Zeichen, möglichst auch über die zugrundeliegende Sprache zu erhalten, um den Text zu entschlüsseln.