Если \(f(a)=f(b)\), то сравнение уравнений при \(y=a\) и \(y=b\) даёт \(a=b\), значит \(f\) инъективна. Обозначим \(c=f(0)\). При \(x=0\): \(f(f(y))=c+f(y)+y+1\). Пусть \(t=f(y)\). Тогда \(f(t)=c+t+y+1\), откуда \(t+y+1=f(t)-c\). Поэтому \(f(x+t)=f(x)+f(t)-c\). Значит, \(g(x)=f(x)-c\) аддитивна и непрерывна, следовательно, \(g(x)=ax\).
Из \(f(c)=f(0+f(0))=c+c+0+1=2c+1\) получаем \(g(c)=c+1\). Кроме того, \(f(f(y))=c+f(y)+y+1\) переписывается как \(g(g(y)+c)+c=g(y)+y+2c+1\). Так как \(g\) аддитивна и \(g(c)=c+1\), получаем \(g(g(y))=g(y)+y\). Для \(g(x)=ax\) это даёт \(a^2=a+1\).
Остаётся условие \(g(c)=c+1\), то есть \(ac=c+1\), или \(c(a-1)=1\). Поэтому \(a\) равен одному из корней \(a^2-a-1=0\), а \(c=\frac{1}{a-1}\). Итак, подходят две функции: \(f(x)=ax+\frac{1}{a-1}\), где \(a=\frac{1+\sqrt{5}}{2}\) или \(a=\frac{1-\sqrt{5}}{2}\). Прямая подстановка подтверждает обе.