Informationskriterium
Einfache Sprache
Ein Informationskriterium versucht die Güte der Anpassung des Modells an die beobachteten Daten mit der Komplexität des Modells, meist Anzahl der Parameter, auszubalancieren. Inspiration dabei ist Ockhams Rasiermesser
Def. Informationskriterium
In der Theorie sind alle Informationskriterien wie folgt aufgebaut
$$IC = \log(\hat\sigma^2)+\frac{k}{f(T)}\;,$$wobei $\hat\sigma^2$ die Varianz, $k$ die Anzahl der Parameter, $T$ die Anzahl der Beobachtungen und $f(\cdot)$ eine Funktion die in $T$ steigt (weil mehr Daten erlauben mehr Parameter).
Es gibt folgende Praktische Informationskriterien: