集合と位相の問題

$d$ が距離であること（確認）　$\arctan$ は $\mathbb{R}$ 上で狭義単調増加なので単射である。よって $d(x,y)=0⟺\arctan x=\arctan y⟺x=y$。対称性は明らか。三角不等式は、実数の絶対値の三角不等式から
$$|\arctan x-\arctan z|\le |\arctan x-\arctan y|+|\arctan y-\arctan z|$$
として得られる。

開球の条件を書き換える　$\arctan \sqrt{3}=\frac{\pi }{3}$ なので、$x\in B\left(\sqrt{3},\frac{5\pi }{12}\right)$ は
$$\left|\arctan x-\frac{\pi }{3}\right|<\frac{5\pi }{12}$$
と同値である。これを解くと
$$\frac{\pi }{3}-\frac{5\pi }{12}<\arctan x<\frac{\pi }{3}+\frac{5\pi }{12},\text{すなわち}-\frac{\pi }{12}<\arctan x<\frac{3\pi }{4}.$$

値域を考える　$\arctan x$ はつねに $\left(-\frac{\pi }{2},\frac{\pi }{2}\right)$ の値をとり、$\frac{\pi }{2}<\frac{3\pi }{4}$ だから、右側の不等式 $\arctan x<\frac{3\pi }{4}$ はすべての実数 $x$ で成り立つ。したがって条件は
$$\arctan x>-\frac{\pi }{12}$$
だけになる。$\tan$ は $\left(-\frac{\pi }{2},\frac{\pi }{2}\right)$ で狭義単調増加なので、これは $x>\tan \left(-\frac{\pi }{12}\right)$ と同値である。

$\tan \left(-\frac{\pi }{12}\right)$ の計算　加法定理より
$$\tan \frac{\pi }{12}=\tan \left(\frac{\pi }{3}-\frac{\pi }{4}\right)=\frac{\sqrt{3}-1}{1+\sqrt{3}}=\frac{(\sqrt{3}-1{)}^2}{(\sqrt{3}+1)(\sqrt{3}-1)}=\frac{4-2\sqrt{3}}{2}=2-\sqrt{3}.$$
よって $\tan \left(-\frac{\pi }{12}\right)=-(2-\sqrt{3})=\sqrt{3}-2$。

結論
$$B\left(\sqrt{3},\frac{5\pi }{12}\right)=\left(\sqrt{3}-2,\infty \right).$$
半径が有限でも、この距離では開球が上に有界でない区間になることに注意する（$(\mathbb{R},d)$ の直径は $\pi$ で、$\arctan$ の値が $\pi /2$ に近い点はすべて中心の近くに集まる）。

$\arctan \sqrt{3}=\frac{\pi }{3}$ なので、条件は $\left|\arctan x-\frac{\pi }{3}\right|<\frac{5\pi }{12}$、すなわち $\frac{\pi }{3}-\frac{5\pi }{12}<\arctan x<\frac{\pi }{3}+\frac{5\pi }{12}$、つまり $-\frac{\pi }{12}<\arctan x<\frac{3\pi }{4}$。

$\arctan x$ の値域は $\left(-\frac{\pi }{2},\frac{\pi }{2}\right)$ なので上側の条件 $\arctan x<\frac{3\pi }{4}$ はつねに成り立ち、実質の条件は $\arctan x>-\frac{\pi }{12}$。$\tan$ は $\left(-\frac{\pi }{2},\frac{\pi }{2}\right)$ で単調増加なので $x>\tan \left(-\frac{\pi }{12}\right)=-\tan \frac{\pi }{12}$。

$\tan \frac{\pi }{12}=\tan \left(\frac{\pi }{3}-\frac{\pi }{4}\right)=\frac{\sqrt{3}-1}{1+\sqrt{3}}=\frac{(\sqrt{3}-1{)}^2}{2}=2-\sqrt{3}$。よって $x>\sqrt{3}-2$。

検算：$x=\sqrt{3}-2\approx -0.268$ のとき $\arctan x=-\frac{\pi }{12}$ で $d=\frac{\pi }{3}+\frac{\pi }{12}=\frac{5\pi }{12}$ となり、境界で等号が成り立つ（開球なので含まない）。$x=0$ では $d=\frac{\pi }{3}<\frac{5\pi }{12}$ で含まれる。したがって開球は $(\sqrt{3}-2,\infty )$。