הפתרון מאוד דומה לפתרון של השאלה: פתירת נוסחת נסיגה בעזרת פונקציות יוצרות. ממליץ להסתכל.
נכפול את צידי משוואת הנסיגה ב-x^{n}:
a_{n}x^{n}=a_{n-1}x^{n}+2nx^{n}
נסכום ע"פ הערכים החוקיים של n\geq1:
\sum_{n=1}^{\infty}a_{n}x^{n}=\sum_{n=1}^{\infty}\left(a_{n-1}x^{n}+2nx^{n}\right)\,\,\,(1)
נגדיר f(x)=\sum_{n=0}^{\infty}a_{n}x^{n}. נתבונן על צד שמאל של המשוואה (1), כך שנקבל:
\sum_{n=1}^{\infty}a_{n}x^{n}=\sum_{n=0}^{\infty}a_{n}x^{n}-a_{0}=f(x)-1
עתה, נתבונן על צד ימין של המשוואה (1), כך שנקבל:
\begin{align*}
\sum_{n=1}^{\infty}\left(a_{n-1}x^{n}+2nx^{n}\right)&=\sum_{n=1}^{\infty}a_{n-1}x^{n}+2\sum_{n=1}^{\infty}nx^{n}\\&=x\sum_{n=0}^{\infty}a_{n}x^{n}+2\sum_{n=0}^{\infty}nx^{n}\\&=xf(x)+\frac{2x}{(1-x)^2}
\end{align*}
נציב במשוואה (1):
\begin{align*}
f(x)-1=xf(x)+\frac{2x}{(1-x)^2}&\Leftrightarrow(1-x)f(x)=\frac{2x}{(1-x)^2}+1\\&\Leftrightarrow f(x)=\frac{1+x^2}{(1-x)^3}\end{align*}
נפרק לגורמים חלקיים - יהיו A,B,C כך שמתקיים:
\frac{1+x^2}{(1-x)^3}=\frac{A}{1-x}+\frac{B}{(1-x)^2}+\frac{C}{(1-x)^3}
לפיכך נקבל:
1+x^2=A(1-x)^2+B(1-x)+C
נפתח סוגריים ונקבל:
x^2+1=Ax^2+(-2A-B)x+(A+B+C)
לכן נקבל את מערכת המשוואות הבאה:
\begin{cases}
A=1\\
-2A-B=0\\
A+B+C=1
\end{cases}\Longrightarrow\begin{cases}
A=1\\
B=-2\\
C=2
\end{cases}
כלומר קיבלנו כי מתקיים:
f(x)=\frac{1+x^2}{(1-x)^3}=\frac{1}{1-x}-\frac{2}{(1-x)^2}+\frac{2}{(1-x)^3}
סה"כ נקבל:
\begin{align*}
f(x)&=\frac{1}{1-x}-\frac{2}{(1-x)^2}+\frac{2}{(1-x)^3}\\&=\sum_{n=0}^{\infty}x^{n}-2\cdot\sum_{n=0}^{\infty}(n+1)x^n+2\sum_{n=0}^{\infty}{n+2 \choose 2}x^n\\&
=\sum_{n=0}^{\infty}\left(1-2(n+1)+2{n+2\choose 2}\right)\cdot x^{n}\\
&=\sum_{n=0}^{\infty}(n^2+n+1)x^n
\end{align*}
המקדם של x^{n} הוא n^2+n+1 ולכן a_{n}=n^2+n+1.