感谢邀请。
这种问题,需要考虑广义相对论。至少在目前,广义相对论的解释还算靠谱。曾经有人证明了黑洞的“无毛定理”,也就是说,在超新星大爆炸以后,形成的黑洞,能保留的物理信息只有三个:质量、电荷、角动量。这里我们考虑最简单的黑洞,只有质量的球对称黑洞。这种黑洞满足史瓦西外解。一般球对称不带电无转动天体的引力场,其外部为史瓦西外部解,内部为史瓦西内部解。但是黑洞,我们只考虑史瓦西外部解。对于光而言,它的测地线长为0。那么史瓦西外部解变为
上式采用几何单位制,所有物理常数取成1。
考虑对称性,发现光的运动满足能量守恒以及φ角对应的角动量守恒。即
其中λ为仿射参数。由于存在角动量守恒,这意味着光的运动是二维平面内的运动。所以可以把经度角θ取为常数。于是光的运动方程为
其中
我们可以约掉λ,获得r关于φ的微分方程。再令u=1/r,得到关于u的微分方程。
如果光能在闭合轨道上运动,那么,这个方程右边就必须有三个正零点,但是,这个方程右边最多只有两个正零点(待会我会证明一下)。这表明,该方程给不出闭合轨道解,也就是说,光是不会像卫星那样,绕着黑洞转的。
下面我来证明方程右边最多只有两个正零点。借助一元函数的分析学可得
由此可以知道函数f(u)的单调性:0<u<u2,f(u)单调递减,u>u2,单调递增。又f(0)>0,所以如果f(u2)<0,则有两个零点;f(u2)=0,则只有一个零点;f(u2)>0,则没有零点。下面分析一下,零点的意义。如果没有零点或者只有一个,那么u可以从0到∞任意取值,这意味着轨道是开放的;如果有两个,那么在0和第一个零点之间,f(u)大于零,这一段是有物理意义的(因为方程左边要求该函数大于零),那么这意味着u是从0到第一零点可以任意取值,这还是意味着轨道是开放的(这是双曲线)。所以,对于光,没有闭合轨道解。
这里强调,上述推导适用于一切有质量无自转不带电天体,包括史瓦西黑洞。也就是说,即使黑洞也不能束缚光在一个封闭轨道上。
但是这不代表问题就结束了,因为我们可以考虑有质量有电荷有自转的情况。但这种情况很复杂,不便于讨论。对于这类黑洞,可能存在闭合因果线(很抱歉,我没有去计算,只是照抄广义相对论书的结论),这就意味着光线有可能是有闭合轨道的。所以,光有可能被黑洞束缚在闭合轨道上。但是,Kerr黑洞的这种因果结构,会导致一些问题,比如我们是不是可以借助闭合因果线实现时间旅行?所以,对于Kerr黑洞更多的是考虑这个问题,而不是问主思考的问题。
以上内容参考:刘辽《广相》,梁灿彬《微广》