如果不存在至高的上帝，那么也不存在至高的解释，不论解释者做何种努力 — David 9
假想这样一个场景，世界上仅有两个至高的神（比如“宙斯”和“赫拉”），互相解释同一件事情。虽然宙斯和赫拉都是无所不知的神，但我们假设宙斯对赫拉并不是无所不知的(同样赫拉对宙斯也是)：
那么，他们相互可以解释清楚同一件事情吗？
因为赫拉除了宙斯之外已经无所不知了，那么，宙斯向赫拉解释的过程就退化为：把自己对这件事所知道的信息传递给赫拉。
如果宙斯需要解释的信息都是共同知道的信息，那这种信息传递较容易。但如果解释中包括了宙斯知道的信息而赫拉不知道的，那么赫拉将难以理解和消化。并且，宙斯不知道赫拉有哪些事是已经知道的，所以宙斯不一定能高效地把自己知道的一切让赫拉明白。
也许，最高效的解释不仅是找到共同可以理解的交集，也在于如何预测对方可能已经知道的信息。
回到正题，对于复杂模型的解释，人们普遍停留在找“可以共同理解”的交集，当然，这对人类来说更直观清晰。比如，神经网络是如何判断一个场景中是在下雪的？：
最直观的方式是，告诉人类， 图片的哪一部分被神经网络重点关注，才推测了
