g(n) = p が素数だとすると p = n(n^2 + an + b) なので n = 1, -1, p, -p の可能性しかないわね
だから g(n) が素数となるとしたら
（イ）g(1) = a + b + 1 が素数である
（ロ）g(-1) = a - b - 1 が素数である
（ハ）g(p) = pとなる素数pがある ⟺ x^2 + ax + b - 1 = 0 が素数解を持つ
（ニ）g(-p) = pとなる素数pがある ⟺ x^2 - ax + b + 1 = 0 が素数解を持つ
の４つの可能性のどれかね
アタシは（ハ）と（ニ）の２次方程式の素数解は合計で高々2個ってことまではわかったわ
ふたつの２次方程式のうち整数解を持つのがひとつ以下なら、これは明らかに成り立つわ
ではどちらの２次方程式も整数解を持つとしましょう
すると（ハ）の判別式D_1 = a^2 - 4b + 4 と（ニ）の判別式D_2 = a^2 - 4b - 4 が両方とも平方数になるわ
なので、ある非負整数 j, k に対して j^2 = a^2 - 4b + 4 かつ k^2 = a^2 - 4b - 4 となるわ
j^2 - k^2 = 8 だけど、もし j = k + 1 なら j^2 - k^2 は奇数になるから、この可能性はないわ
だから j ≥ k + 2 だけど、もし k ≥ 2 なら
j^2 - k^2 = (j - k)(j + k) ≥ 2[(k+2)+k] = 4k + 4 ≥ 4⋅2 + 4 = 12 > 8
だから k = 0 か k = 1 となるけど、k = 0 なら j^2 = 8 となってjが整数でなくなるから、k = 1, j = 3の可能性しかないわ
つまり
D_1 = a^2 - 4b + 4 = 3^2 = 9
D_2 = a^2 - 4b - 4 = 1^2 = 1
ね。b = (a^2 - 5)/4 が整数だからaは奇数ね
そして（ハ）と（ニ）の２次方程式の解は、それぞれ (-a±3)/2 と (a±1)/2 になるわ
・a ≤ -1 なら、 (a±1)/2はどちらも0以下だから素数ではない
・a = 1 なら、（ハ）と（ニ）の２次方程式の解は、1, -2, 1, 0 となってこの中に素数はない
・a ≥ 3 なら、 (-a±3)/2はどちらも0以下だから素数ではない
したがってどの場合でも (-a±3)/2 と (a±1)/2のうち素数は合計で高々２個ね
ここまで書くだけでもかなり面倒くさくて時間がかかったわ
でもこの問題を解くには（イ）と（ロ）が両方成り立つ場合に（ハ）と（ニ）の２次方程式の素数解が合計で高々1個であることを示す必要があって、それが難しいわ…