ベルトランの定理の論文（英訳版）を読み、自分なりに理解したところをまとめました。

Santos, F. C.; Soares, V.; Tort, A. C. (2011). “An English translation of Bertrand's theorem”. Latin American Journal of Physics Education 5 (4): 694–696.

ベルトランの定理

中心力ポテンシャル $V(r)$ に束縛された質点の運動について、質点が必ず安定な閉軌道を描くような $V(r)$ の形は次の２つに限られます

万有引力型： $V(r)\propto -r^{-1}$
等方調和振動子型： $V(r)\propto r^2$

証明の準備

２つの保存量

質点の軌道は、ポテンシャル中心を含む１つの平面上におさまります：質点はこの平面に垂直な力を受けないためです。そこで、ラグランジアン $\mathcal{L}$ を平面極座標 $(r,\vartheta)$ を使って表します。まず、速度 $\dot{\mathbf{r}}$ の表式は

$\displaystyle \dot{\mathbf{r}} = \frac{\partial\mathbf{r}}{\partial r}\dot{r} + \frac{\partial\mathbf{r}}{\partial\vartheta}\dot{\vartheta} = \left|\frac{\partial\mathbf{r}}{\partial r}\right|\dot{r}\mathbf{e}_r + \left|\frac{\partial\mathbf{r}}{\partial\vartheta}\right|\dot{\vartheta}\mathbf{e}_\vartheta$

なので、そのノルム自乗は基底 $\mathbf{e}_r, \mathbf{e}_\vartheta$ の直交性から

$\displaystyle \dot{\mathbf{r}}^2 = \left|\frac{\partial\mathbf{r}}{\partial r}\right|^2\dot{r}^2 + \left|\frac{\partial\mathbf{r}}{\partial\vartheta}\right|^2\dot{\vartheta}^2$

ここで、 $\mathbf{r}$ の極座標表示は

$\displaystyle \mathbf{r} = r(\cos\vartheta\mathbf{e}_r+\sin\vartheta\mathbf{e}_\vartheta)$

ですから、運動エネルギーは

$\displaystyle \frac{M}{2}\dot{\mathbf{r}}^2 = \frac{M}{2}\left(\dot{r}^2 + r^2\dot{\vartheta}^2\right)$

となり、ラグランジアン $\mathcal{L}$ の表式は

$\displaystyle \mathcal{L} = \frac{M}{2}\left(\dot{r}^2 + r^2\dot{\vartheta}^2\right) - V(r)$

さて、この表式から２つの保存量が明らかになります。第１に、時刻 $t$ に陽に依存しないことから全エネルギー

$\displaystyle E = \frac{M}{2}\left(\dot{r}^2 + r^2\dot{\vartheta}^2\right) + V(r)$

が保存します。第２に、 $\vartheta$ が循環座標となっていることから角運動量

$\displaystyle L = \frac{\partial \mathcal{L}}{\partial\dot{\vartheta}} = Mr^2\dot{\vartheta}$

が保存します。

軌道の方程式

ラグランジアンが得られたのでオイラー・ラグランジュ方程式を解いても良いですが、いま興味があるのは質点の軌道であって、時間発展を考える意味はありません。 $r$ の $\vartheta$ 依存性、 $\mathrm{d}r/\mathrm{d}\vartheta$ の式が与えられれば十分です。そこで、前項で求めた２つの保存量を $\dot{r}, \dot{\vartheta}$ について解き

$\displaystyle \dot{\vartheta} = \frac{L}{Mr^2}\\ \dot{r} = \pm\sqrt{\frac{2}{M}\left(E-V(r)\right)-\frac{L^2}{M^2r^2}}$

軌道の方程式（ビネ方程式の変形）

$\displaystyle \frac{\mathrm{d}r}{\mathrm{d}\vartheta} = \frac{\dot{r}}{\dot{\vartheta}} = \pm r^2\sqrt{\frac{2M\left(E-V(r)\right)}{L^2}-\frac{1}{r^2}}$

を得ます

ポテンシャル中心から近点と遠点とを見込む角

閉軌道をたどると、中心からの距離が極小となる近点，極大となる遠点が交互に現れます。そこで、隣り合う近点・遠点の１組に注目し、ポテンシャル中心から２点を見込む角を $\varphi$ とおきます。すなわち

$\displaystyle \varphi = \int_0^\varphi\mathrm{d}\vartheta = \int_{r_0}^{r_1}\frac{\mathrm{d}r}{\mathrm{d}r/\mathrm{d}\vartheta} = \int_{r_0}^{r_1}{\frac{1}{\sqrt{\frac{2M\left(E-V(r)\right)}{L^2}-\frac{1}{r^2}}}\frac{\mathrm{d}r}{r^2}}$

ただし、近点 $r=r_0$ の方位を $\vartheta=0$ とし、遠点 $r=r_1$ の方位を $\vartheta=\varphi$ としています。 $r$ は区間 $0\lt\vartheta\lt\varphi$ で単調増加しますから、 $\mathrm{d}r/\mathrm{d}\vartheta$ の復号は $+$ をとります
積分の $\mathrm{d}r/r^2$ に注目しますと、 $z=1/r$ と変数変換したくなります。そこで、 $\varpi(z) = -V\left(1/z\right)$ とおくと

$\displaystyle \varphi = \int_\alpha^\beta{\frac{\mathrm{d}z}{\sqrt{\frac{2ME}{L^2}+\frac{2M\varpi(z)}{L^2}-z^2}}}$

積分区間の $\alpha, \beta$ は、それぞれ遠点，近点の中心からの距離の逆数 $1/r_1, 1/r_0$ です。ここで $h = 2ME/L^2$ ， $1/k^2=2M/L^2$ とおけば元論文の式 (3) の右辺を得ます

安定な閉軌道とは

『安定な』閉軌道とは、先に求めた軌道の方程式を満たしながら連続変形させたとき、閉軌道のままであるような軌道です。結論を先に言いますと、閉軌道の条件は「近点と遠点とを見込む角 $\varphi$ が円周率 $\pi$ の有理数 $m$ 倍であること」，さらに安定である条件は「 $m$ が軌道の連続変形に依らない定数であること」です

閉軌道の条件

中心力を受けて運動する質点の軌道 $r=r(\vartheta)$ は、軌道上に $\mathrm{d}r/\mathrm{d}\vartheta=0$ となる点（ $\vartheta=0$ とします）があれば、その点とポテンシャル中心とを結ぶ直線について線対称 $r(\vartheta)=r(-\vartheta)$ になります。それは、軌道の方程式が $\vartheta$ に依存しないことから明らかです。
さて、閉軌道について考えます。先に考えた隣り合う近点 $(\vartheta=0)$ ・遠点 $(\vartheta=\varphi)$ の組に注目すると、軌道が遠点とポテンシャル中心とを結ぶ直線について線対称であることから、 $\vartheta=2\varphi$ の点がまた近点 $(r=r_0)$ でなければなりません。同様にして、 $n$ を整数として $\vartheta=2n\varphi$ は近点， $\vartheta=(2n-1)\varphi$ は遠点となります。もし $\varphi$ が $\pi$ の有理数倍でなければ、これらの近点・遠点はすべて一致せず、軌道をどれだけたどっても閉じることはありません。
したがって、閉軌道の条件は「近点と遠点とを見込む角 $\varphi$ が円周率 $\pi$ の有理数 $m$ 倍であること $(\varphi=m\pi)$ 」です。

安定な閉軌道の条件

軌道を連続変形させれば、 $m$ は連続的に変化するでしょう。ところが、『有理数 $m$ は無理数を通過しないと別の有理数 $m'$ になれない』ので、安定な閉軌道であるためには $m$ は軌道の連続変形に依らない定数でなければなりません。『』の事実は、例えば２つの有理数 $m, m'$ を $1:\sqrt{2}$ に内分する数 $x$ を考えれば分かります

$\displaystyle x = \frac{m\sqrt{2}+m'}{\sqrt{2}+1} = (2m-m')+\sqrt{2}(m'-m)$

右辺の第１項は有理数，第２項は $m\neq m'$ より無理数なので、 $x$ は無理数です。 $x$ は $m, m'$ の間にありますから、 $m'$ をどう選んでも無理数 $x$ を通過することになります
したがって、安定な閉軌道の条件は「 $m$ が軌道の連続変形に依らない定数であること」です

証明

証明の準備から、安定な閉軌道が満たす方程式は元論文の式 (3) の通りです。そして、 $z=\alpha, \beta$ で $\mathrm{d}r/\mathrm{d}\vartheta=0$ となることから、定数 $h, 1/k^2$ を $\alpha, \beta$ の式で置き換えて式 (4) を得ます（分母の平方根の最後項の $z^3$ は恐らく $z^2$ の誤植です。この記事では $z^2$ と考えます）
任意の中心力ポテンシャル $V(r)$ （あるいは $\varpi(z)$ ）について、円軌道は軌道の方程式を満たします。そこで、円軌道を微小変形した軌道が閉軌道である場合を考えます。 $\alpha, \beta$ の差は微小なので、次の $u, \gamma$ は微小量です

$\displaystyle u = \beta - \alpha \\ \gamma = z - \alpha$

式 (4) の分子・分母をこれら２つの微小量で展開し、それぞれ主要項を求めます。分子は元論文の通り $\sqrt{u\varpi'(\alpha)}$ です。分母は低次の項がことごとくキャンセルするため、３次まで展開する必要があります。詳しくは次の通りです（簡単のため、引数 $\alpha$ を省略して $\varpi(\alpha)$ を $\varpi$ と表記します）

$\displaystyle \begin{aligned} \alpha^2\varpi(\beta) &= \alpha^2\varpi+\alpha^2\varpi'u+\frac{1}{2}\alpha^2\varpi''u^2+\frac{1}{6}\alpha^3\varpi^{(3)}u^3 + \cdots \\ -\beta^2\varpi &= -\alpha^2\varpi-2\alpha\varpi u -\varpi u^2 \\ (\beta^2-\alpha^2)\varpi(z) &= (2\alpha u+u^2)\left(\varpi+\varpi'\gamma+\frac{1}{2}\varpi''\gamma^2+\cdots\right) \\ &= 2\alpha\varpi u + \{2\alpha\varpi'u\gamma+\varpi u^2\} + \{\alpha\varpi''u\gamma^2+\varpi'u^2\gamma\} + \cdots \\ -z^2\{\varpi(\beta)-\varpi\} &= -(\alpha^2+2\alpha\gamma+\gamma^2)\left(\varpi'u+\frac{1}{2}\varpi''u^2+\frac{1}{6}\varpi^{(3)}u^3+\cdots\right) \\ &= -\alpha^2\varpi'u-\left\{\frac{1}{2}\alpha^2\varpi''u^2+2\alpha\varpi'u\gamma\right\}-\left\{\frac{1}{6}\alpha^2\varpi^{(3)}u^3+\alpha\varpi''u^2\gamma+\varpi'u\gamma^2\right\}+\cdots \end{aligned}$

上記を足し合わせると２次以下の項がすべてキャンセルして

$\displaystyle \alpha^2\varpi(\beta)-\beta^2\varpi+(\beta^2-\alpha^2)\varpi(z)-z^2\{\varpi(\beta)-\varpi\} \sim u\{\varpi'-\alpha\varpi''\}(u\gamma-\gamma^2)$

あとは、これらを式 (4) の分子分母に代入し、 $z$ を $\gamma$ に変数変換して積分を実行します

$\displaystyle m\pi = \sqrt{\frac{\varpi'}{\varpi'-\alpha\varpi''}}\int_0^u{\frac{\mathrm{d}\gamma}{\sqrt{u\gamma-\gamma^2}}} = \sqrt{\frac{\varpi'}{\varpi'-\alpha\varpi''}}\pi$

すると、元論文にある $\varpi$ の微分方程式が得られます。対数微分の形をしていますから、すぐに解 $\varpi$ が求まります。 $\alpha$ は任意なので $z$ で置き換えて良いでしょう。すなわち

$\displaystyle \varpi(z) = A \frac{z^{2-1/m^2}}{2-\frac{1}{m^2}} + B$

$A, B$ は積分定数です。ここで求まった $\varpi(z)$ を再び式 (4) に代入して式 (6) を得ます
最後に $1/m^2-2$ の正負で場合分けし、 $\alpha, \beta$ の適当な値を代入すれば、 $m$ の値が１つずつ求まります。 $V(r)$ に戻せば

$m=1$ のとき、万有引力型のポテンシャル $V(r) \propto -1/r$
$m=1/2$ のとき、等方調和振動子型のポテンシャル $V(r) \propto r^2$

ベルトランの定理が示されました

疑問点

証明の最後で理解できていない点が２つあります。

$\alpha=1, \beta=0$ を代入している点。 $\alpha, \beta$ はそれぞれ中心から遠点，近点までの距離の逆数なので $\alpha\lt\beta$ となる筈であり、矛盾しているように思われます
$\alpha=0$ や $\beta=0$ を代入している点。 $\alpha, \beta$ は中心からの距離の逆数ですから、その値が $0$ になるのは無限遠点 $r\uparrow\infty$ です。これは有界な軌道を考えていることに矛盾しているように思われます