Modell

Der Algorithmus modelliert eine RNA-Sequenz ${\displaystyle s}$ und die Basenpaare innerhalb dieser Sequenz als einen planaren Graphen, das heißt ohne Pseudoknoten. Zwischen den Basen eines einzigen Basenpaares liegt mindestens eine weitere Base, d. h., die Schleife einer Haarnadelstruktur besteht aus mindestens einer Base.

Gegeben ist die Sequenz ${\displaystyle s}$ der einzelnen Basen als eine Zeichenkette mit der Länge ${\displaystyle n}$. Dabei bezeichnet ${\displaystyle s[i]}$ das Zeichen an der Stelle ${\displaystyle i}$ und ${\displaystyle s[i..j]}$ die Teil-Sequenz der Zeichen von der Stelle ${\displaystyle i}$ bis zur Stelle ${\displaystyle j}$. Damit ist ${\displaystyle s[i..i]}$ gleichbedeutend mit ${\displaystyle s[i]}$ und ${\displaystyle s[1..n]}$ ist ${\displaystyle s}$. Weiters sei ${\displaystyle s[i..i-1]}$ eine leere Zeichenkette der Länge 0.

Die Matrix ${\displaystyle N[i,j]}$ der Größe ${\displaystyle n\times n}$ enthält die die Anzahl der maximal möglichen Basenpaare der Teilsequenzen ${\displaystyle s[i..j]}$ für ${\displaystyle i\leq j}$ der Sequenz ${\displaystyle s}$. Das Matrixelement ${\displaystyle N[1,n]}$ bezeichnet dementsprechend die Anzahl der maximal möglichen Basenpaare für die gesamte Sequenz.

Die Funktion ${\displaystyle \sigma (i,j)}$ ergibt 1, wenn ${\displaystyle s[i]}$ und ${\displaystyle s[j]}$ komplementäre Basen sind, sonst 0.

Pseudoknoten sind im Modell nicht erlaubt, d. h., für zwei Basenpaare ${\displaystyle (s[a];s[b])}$ und ${\displaystyle (s[c];s[d])}$ gilt ${\displaystyle a<b<c<d}$ oder ${\displaystyle a>b>c>d}$

Zerlegung in kleinere Teil-Probleme

Die Elemente der Matrix ${\displaystyle N}$ werden berechnet, indem zuerst angenommen wird, alle Elemente bis auf das Element ${\displaystyle N[1,n]}$, das die Sequenz ${\displaystyle s[1,n]}$ beschreibt, seien bekannt. Die Sequenz ${\displaystyle s[1,n]}$ kann gebildet werden, indem der Sequenz ${\displaystyle s[1,n-1]}$ die Base ${\displaystyle s[n]}$ angehängt wird. Diese Base kann nun entweder mit einem anderen Element der Sequenz ein Basenpaar bilden oder nicht:

1. Falls kein Basenpaar gebildet wird, so muss ${\displaystyle N[1,n]=N[1,n-1]}$ sein und das Problem ist gelöst.
2. Falls ein Basenpaar gebildet wird, so kann dieses Basenpaar zwischen ${\displaystyle s[n]}$ und einer der Basen aus der Teil-Sequenz ${\displaystyle s[1..n-2]}$ gebildet werden. Angenommen, das Basenpaar bildet sich zwischen ${\displaystyle s[k]}$ und ${\displaystyle s[n]}$ mit ${\displaystyle i\leq k\leq n-2}$ so teilt sich die Sequenz in die weiteren Teile ${\displaystyle s[1..k-1]}$ und ${\displaystyle s[k+1..n-1]}$. Für diese beiden Teile kann wiederum die Anzahl der maximal möglichen Basenpaare berechnet werden, indem der Algorithmus für diese Teile von Neuem begonnen wird. Die Summe der beiden Teile plus dem zwischen ${\displaystyle s[k]}$ und ${\displaystyle s[n]}$ gebildete Basenpaar ergibt einen möglichen Kandidaten-Wert für die Maximale Summe. Der Wert für ${\displaystyle N[1,n]}$ soll maximal werden, also muss für jedes erlaubte ${\displaystyle 1\leq k\leq n-2}$ die Kandidaten berechnet werden. Der höchste so erreichbare Wert garantiert, dass auch ${\displaystyle N[1,n]}$ maximal wird. Somit ist

${\displaystyle N[1,n]=\max {\begin{Bmatrix}\max _{1<k<n-1}(N[1,k-1]+N[k+1,n-1]+1)\cdot \sigma (k,n)&\\N[2,n-1]\cdot \sigma (1,n)&\end{Bmatrix}}}$

und das Problem ist ebenfalls gelöst. Der untere Term der Maximalwertsberechnung behandelt den Sonderfall eines Basenpaares zwischen dem ersten und dem letzten Element der Sequenz, wodurch eine der Teilsequenzen leer ist (${\displaystyle s[0,0]}$). Beide gelisteten Möglichkeiten werden überprüft und die höhere so erreichbare Anzahl an Basenpaaren ist das Ergebnis der Berechnung.

Der Algorithmus verkleinert die Sequenz auf diese Weise in immer kleinere Teil-Sequenzen, bis diese sofort berechnet werden können. Die Zwischenergebnisse werden dann zur Berechnung der nächstgrößeren Teil-Sequenzen verwendet.

Initialisierung

Die Teil-Sequenzen ${\displaystyle s[i,i+1]}$ der Länge 2, ${\displaystyle s[i,i]}$ der Länge 1 und ${\displaystyle s[i,i-1]}$ der Länge 0 enthalten maximal 0 Basenpaare:

${\displaystyle N[i,i+1]=0}$ für ${\displaystyle 1\leq i<n}$

${\displaystyle N[i,i]=0}$ für ${\displaystyle 1\leq i\leq n}$

${\displaystyle N[i,i-1]=0}$ für ${\displaystyle 1<i\leq n}$

Rekursion

Für die weiteren Elemente der Matrix gilt, unter der Voraussetzung, dass ${\displaystyle N[i,0]=0}$:

${\displaystyle N[i,j]=\max {\begin{Bmatrix}N[i,j-1]&\\\max _{i\leq k<j-1}(N[i,k-1]+N[k+1,j-1]+1)\cdot \sigma (k,j))&\end{Bmatrix}}}$ mit ${\displaystyle 1\leq i<n,1<j<n,i<j-1}$

Das Element ${\displaystyle N[i,j]}$ der Matrix ${\displaystyle N}$ ist nach Beendigung des Algorithmus die maximal mögliche Anzahl von Basenpaaren des Substrings ${\displaystyle s[i..j]}$ von ${\displaystyle s}$. Also ist die maximal mögliche Anzahl von Basenpaaren der gesamten Eingabesequenz ${\displaystyle s}$ in ${\displaystyle N[1,n-1]}$ gespeichert.

Die Fallunterscheidung in der Rekursion unterscheidet zwei Fälle. Entweder wird der Substring ${\displaystyle s[i..j-1]}$, für den schon die maximal mögliche Anzahl von Basenpaaren schon berechnet wurde, um eine Base erweitert, welche nicht mit einer anderen Base paart. Oder die Base ${\displaystyle s[j]}$ paart mit einer komplementären Base im Substring ${\displaystyle s[i..j-1]}$. Im zweiten Fall existieren ${\displaystyle k}$ mögliche Basen, mit denen ${\displaystyle s[j]}$ ein Basenpaar bilden könnte. Die Wahl der zu ${\displaystyle s[j]}$ komplementären Base teilt den Substring ${\displaystyle s[i..j-1]}$ in zwei Substrings ${\displaystyle s[i..k-1]}$ und ${\displaystyle s[k+1..j-1]}$, für die die maximale mögliche Anzahl von Basenpaaren rekursiv berechnet wird. Die Funktion ${\displaystyle \sigma (k,j)}$ hat den Wert ${\displaystyle 1}$, wenn die Base ${\displaystyle s[k]}$ komplementär zu ${\displaystyle s[j]}$ ist, ansonsten ${\displaystyle 0}$.

Die Fallunterscheidung entspricht der kontextfreien Grammatik

${\displaystyle X=X.\mid X(X)\mid \epsilon }$

wobei ein ${\displaystyle .}$ eine ungepaarte Base bezeichnet und die Klammern Platzhalter für alle möglichen komplementären Basenpaare darstellen. Nach dieser Grammatik können alle Strukturen, über die der Nussinov-Algorithmus optimiert, abgeleitet werden.

Die Sekundärstrukturen, welche die maximalen Basenpaare enthalten, können durch Backtracking von der Zelle ${\displaystyle N[0,n-1]}$ erzeugt werden. Das heißt, es werden die Pfade durch die Matrix zurückverfolgt, die zu dem optimalen Ergebnis in ${\displaystyle N[i,n-1]}$ führen und in Abhängigkeit dieser Pfade werden die optimalen Sekundärstrukturen erzeugt.