全然まだわかっていないけど、とりあえずあたしの考えている方向性だけ書いておくわね。
まずは問題文を振り返ってみるわ。

nは正の整数とする
0より大きく1より小さい既約分数のうち
「nを分母で割ったものの小数部分が1/2以上である」
という条件をみたすものは全部で何個あるか
nで表せ

これって、要するにそのまんま式にすれば
Σ[k/2≦n mod k＜k]φ(k)
ってことよね。これがより簡単なnの式で表せる、って話でしょ。
だからあたしはどうしてもオイラー関数から離れられないのよ。
そうするとオイラー関数の性質を色々調べるじゃない？
メビウス関数による整数論的関数の反転公式とか。
でもこれらの性質って、和についての性質ではあるんだけども、
和の条件が[k|n]であることがほとんどだから、
[k/2≦n mod k＜k]の時にそのまま使えないのよね。
だから和の条件の[k/2≦n mod k＜k]をもっとかみ砕いて別の表現にして、
それで何とかならないかと思うんだけど。

それでうさぎさんが予想して証明したんだから結果はn^2で間違いないと思うんだけど、
n^2が出てきそうなオイラー関数に関する性質が何かないかと捜したところ、
オイラー関数を一般化して、kを超えない自然数のうちでnと互いに素である者の個数を
φ(n,k)と表すとする。もちろんφ(n,n)=φ(n)になるわ。
このときにΣ[k|n]φ(k,kn)=n^2になるって性質があったんだけど、
和の条件がそもそも全然違うし、これ関係あるのかしら？
なんてことを考えてるところよ。

でもこういうことを考えていると時間があっという間に経ってしまって困るわね。