\input format


\begin{document}


\thispagestyle{empty}

Physik Department \hfill SoSe 2010 \\
TU München \hfill Übungsblatt 8 \\
Theoretische Physik \hfill 29.6.2010 \\

\vskip 1 truecm                                                  
\centerline{\bf Übung zur theoretischen Physik neuronaler Informationsverarbeitung}
\centerline{(Prof.\ J.\ L.\ van Hemmen)}
\vskip 1 truecm


\begin{Aufgabe}{Myeliniesiertes Axon} 

  Axone im Ischias-Nerv des Frosches sind myelinisiert und haben mit
  Myelin einen Durchmesser von $15\,\mathrm{\mu m}$, ohne Myelin
  10,5$\,\mathrm{\mu m}$. Alle 1,38$\,\mathrm{mm}$ ist das Myelin
  durch einen Ranvier'schen Schnürring mit einer Länge von
  2,5$\,\mathrm{\mu m}$ unterbrochen. Die Gesamtkapazität eines
  myelinisierten Bereichs beträgt 2,2$\,\mathrm{pF}$, die
  Gesamtkapazität eines Ranvier'schen Schnürrings 1,6$\,\mathrm{pF}$.
  Nehmen Sie an, dass der spezifische Membran-Querwiderstand
  $5000\,\mathrm{\Omega \, cm^2}$ und der spezifische
  Membran-Längswiderstand $50\,\mathrm{\Omega \, cm}$ betragen.
  \begin{enumerate}
  \item Wie schnell in etwa breitet sich ein Spannungspuls in einer
    myelinisierten Nervenfaser aus?
  \item Wie schnell würde sich ein Spannungspuls in einer nicht
    myelinisierten Nervenfaser ausbreiten?
  \end{enumerate}
\end{Aufgabe}


\begin{Aufgabe}{Hopfield-Modell}
  Gegeben seinen $N$ Neuronen mit Zuständen $S_i(t) \in \{+1,-1\}$ zur
  Zeit $t$ und $q$ Muster $\xi_i^\mu \in \{+1,-1\}$, wobei $1 \le i
  \le N$ und $1 \le \mu \le q$. Die Muster $\vec{\xi}^\mu =
  (\xi_1^\mu, \dots, \xi_N^\mu)$ bestehen aus unabhängigen, identisch
  verteilten Zufallszahlen mit Mittelwert 0. Das lokale Potential
  $h_i(t)$ an Neuron $i$ ist
  \begin{equation}
    h_i(t) = \sum_{j=1}^N J_{ij} S_j(t) \,.
  \end{equation}
  Der Zustand $\vec{S}$ zum Zeitschritt $t+\Delta t$ ergibt sich aus
  dem Zustand zur Zeit $t$ entsprechend der deterministischen Dynamik
  \begin{equation}
    S_i(t+\Delta t) = \sgn( h_i(t) ) \,.
    \label{eq:dyn}
  \end{equation}
  Die $q$ Muster seien zuvor bereits durch die Hebb'sche Regel
  \begin{equation}
    J_{ij} = \left\{ \begin{array}{ll} 
      \frac{1}{N} \sum_{\mu=1}^q \xi_i^\mu \xi_j^\mu & \mbox{für $i \neq j$} \\
      0 & \mbox{für $i=j$}
    \end{array}
    \right.
    \label{eq:J}
  \end{equation}
  gelernt worden. Ein derartiges Netzwerk stellt einen assoziativen
  Speicher dar, dessen Attraktoren den gespeicherten Mustern
  entsprechen.

\rule[.5mm]{\textwidth}{0.1mm}\\
{\footnotesize Bitte wenden.}
\newpage 
  \begin{enumerate}
  \item Der Anfangszustand des Netzes sei ein beliebiges Muster (z.B.
    $\vec{S}(t_0)=\vec{\xi}^\nu)$. Berechnen Sie die maximal
    speicherbare Zahl der Muster $q_\mathrm{max}$ für $N \to \infty$,
    wenn zur Zeit $t_0+\Delta t$
    \begin{enumerate}
    \item die Wahrscheinlichkeit, dass ein beliebiges Neuron instabil
      ist, näherungsweise kleiner als $1\,\%$ sein soll.
    \item alle Spins mit $99\,\%$-iger Wahrscheinlichkeit richtig sein
      müssen.  \\
      Hinweis: Verwenden Sie für das Gauß'sche Fehlerintegral
      \begin{equation}
        \erf(x) = \frac{2}{\sqrt{\pi}} \int_0^x e^{-t^2} \,\mathrm{d}t
      \end{equation}
      die Abschätzung
      \begin{equation}
        \frac{2}{\sqrt{\pi}} \frac{e^{-x^2}}{x+\sqrt{x^2+2}} <
        1-\erf(x)
        \le \frac{2}{\sqrt{\pi}} \frac{e^{-x^2}}{x+\sqrt{x^2+\frac{4}{\pi}}} \,.
      \end{equation}
    \end{enumerate}
  \item 
    \begin{enumerate}
    \item Zeigen Sie, dass
      \begin{equation}
        H(t) = - \sum_{i=1}^N |h_i(t)|
      \end{equation}
      eine Lyapunovfunktion bezüglich der oben angegebenen Dynamik mit
      symmetrischen ($J_{ij}=J_{ji}$), ansonsten beliebigen
      Synapsenstärken $J_{ij}$ ist.
    \item Zeigen Sie, dass bei zufällig gewählten Synapsenstärken
      $J_{ij}=J_{ji}$ (z.B. gleichverteilt aus $[-1,1]$) die Dynamik
      mit Wahrscheinlichkeit 1 entweder zu einem Fixpunkt konvergiert
      oder zu einem $2 \Delta t$-periodischen Grenzzyklus.
    \end{enumerate}
\end{enumerate}
  
\end{Aufgabe}





\vspace{2\parsep}

\hrulefill

\footnotesize Besprechung der Übungen am Freitag, den 9.7.2010 um
8.30 Uhr im Raum PH 2271 (Garching).

\vspace{1.5\parsep}

Übungsleitung: Moritz Franosch, mail@Franosch.org, http://www.t35.ph.tum.de .


\end{document}
