全く場合分けせずに解く方法もあるわ。

(x-1)(a-[x])>[x](x-[x])
(x-1)(1+(n+1/n)/2-[x])>[x](x-[x])
(x-1)((n+1/n)/2-[x-1])>([x-1]+1)(x-1-[x-1])
y=x-1とおくと
y((n+1/n)/2-[y])>([y]+1)(y-[y])
y(n+1/n)/2-y[y]>y-[y]+y[y]-[y]^2
[y]^2-2y[y]+[y]-y+y(n+1/n)/2>0
nが3以上の奇数なのであらためてnを自然数として2n+1とおきなおすと
[y]^2-(2y-1)[y]-y+y(2n+1+1/(2n+1))/2>0
記号が錯綜するけどy=a/2とおくと
[a/2]^2-(a-1)[a/2]-a/2+a/4 (4n^2+4n+2)/(2n+1)>0
[a/2]^2-(a-1)[a/2]+an^2/(2n+1)>0 …(★)
f(x)=x^2-(a-1)x+an^2/(2n+1)とおくと、y=f(x)の頂点のx座標は(a-1)/2で、
[a/2]は(a-1)/2に最も近い整数だから、(★)が成り立つということは、
すべての整数mに対してf(m)>0が成り立つということよね。

と、いうわけでこれは大昔の東大入試の問題なのよ。
http://server-test.net/math/php.php?name=tokyo&v1=1&v2=1997&v3=1&v4=2&y=1997&n=2
https://www.youtube.com/watch?v=2XzOe34FPn0
https://ameblo.jp/mathisii/entry-12352941501.html

どこ見ても下手糞な解き方しか載ってなかったわ。
アタシが昔使ってた問題集にはもっと簡単な解き方が載ってたのに。