“不相关”与“独立”

“不相关”与“独立”变量之间没有线性关系不相关和变量之间完全没有关系独立。① “不相关”仅停留在“线性”维度上含义当说两个随机变量XXX和YYY“不相关”时通常指的是它们的相关系数如皮尔逊相关系数ρXY\rho_{XY}ρXY​为 0或者协方差Cov(X,Y)0{\rm Cov}(X, Y) 0Cov(X,Y)0。解释这只说明XXX和YYY之间不存在线性关系即不能用一条直线YaXbY aX bYaXb来描述它们的关系。但是它们之间可能存在非常强的非线性关系例如二次函数关系YX2Y X^2YX2或者是圆环状分布等。结论“不相关”是一个较弱的条件它排除了直线关系但没排除曲线关系。② “独立”则是“全维度上”两个变量互不影响含义统计独立性是指两个事件或变量在概率分布上完全互不干扰。数学定义为联合概率密度等于边缘概率密度的乘积f(x,y)fX(x)⋅fY(y)f(x, y) f_X(x) \cdot f_Y(y)f(x,y)fX​(x)⋅fY​(y)。解释这说明无论XXX取什么值都不会改变YYY发生的概率分布反之亦然。这种“互不影响”是全方位的不仅包括线性关系也包括任何形式的非线性关系指数、对数、周期性等。结论“独立”是一个非常强的条件说明两者之间没有任何形式的依赖关系。③ “独立”⟹ \implies⟹“不相关”逻辑关系独立⇒\Rightarrow⇒不相关如果两个变量是独立的那么它们一定是不相关的因为既然没有任何关系自然也没有线性关系。不相关⇏\nRightarrow⇏独立如果两个变量不相关它们不一定是独立的因为它们可能通过非线性方式纠缠在一起。特例只有在变量服从二维正态分布时“不相关”才等价于“独立”。但在一般情况下独立的要求远高于不相关。