基于Python代码的相关性热力图,VIF共线性诊断图及残差四图的使用及解释

注:热力图共线性诊断图易看易解释,这里不再阐述

残差四图(Residuals vs Fitted Plot,Normal Q-Q Plot,Scale-Location Plot,Cook's Distance Plot)

各种现象的相关解释如下:

  1. Residuals vs Fitted Plot(残差与拟合值散点图):
    这个图用于帮助检验回归模型的线性关系假设。在这个图中,我们会将模型的残差(观测值与预测值之间的差异)与模型的拟合值(预测值)进行比较,理想情况下,残差应该随着拟合值的增加而随机分布在0附近,没有明显的模式或趋势。如果残差呈现出某种趋势,可能意味着模型的线性关系假设不成立。

  2. Normal Q-Q Plot(正态概率图):
    这个图用于检验模型残差是否符合正态分布。在这个图中,残差的排序值会和一个理论的正态分布进行比较,理想情况下,残差点应该落在一条直线上,如果残差点偏离直线,可能表示残差不符合正态分布。

  3. Scale-Location Plot(标准化残差与拟合值的散点图):
    这个图也称为“Spread-Location”图,用于检验模型的同方差性假设。在这个图中,我们会将标准化残差的绝对值开方(以消除负值)与拟合值进行比较,理想情况下,点应该在一条水平线上分布,如果点呈现出聚集或特定的模式,可能意味着同方差性不成立。

  4. Cook’s Distance Plot(库克距离图):
    这个图用于识别在回归模型中对结果产生显著影响的个别观测值。Cook’s Distance是一种衡量数据点影响的统计量,这个图可以显示每个数据点的Cook’s Distance值,通常我们会关注那些Cook’s Distance远高于平均水平的数据点,它们可能是影响模型准确性的异常值或离群点。

综合使用这四种图可以帮助分析师评估线性回归模型的准确性、假设是否成立以及是否存在异常值,从而提高建模的质量和可靠性。

1>封装好的代码如下:

基于Python代码的相关性热力图,VIF共线性诊断图及残差四图的使用及解释

import matplotlib.pyplot as plt import seaborn as sns import statsmodels.formula.api as smf import pandas as pd from statsmodels.formula.api import ols plt.rcParams['font.sans-serif'] = ['SimHei'] plt.rcParams['axes.unicode_minus'] = False  def Corr_heatmap(data):     # import matplotlib.pyplot as plt     # import seaborn as sns     #相关性分析     print(data.corr())     #画出热力图     plt.figure(figsize=(7,5),dpi=128)     sns.heatmap(data.corr().round(2), cmap='coolwarm', annot=True, annot_kws={"size": 10})     plt.savefig('相关系数热力图.jpg')     plt.show()  def VIF_calculate(data, y_name):     # import statsmodels.formula.api as smf     # import pandas as pd     x_cols = data.columns.to_list()     x_cols.remove(y_name)      def vif(df_exog, exog_name):         exog_use = list(df_exog.columns)         exog_use.remove(exog_name)         model = smf.ols(f"{exog_name}~{'+'.join(list(exog_use))}", data=df_exog).fit()         return 1. / (1. - model.rsquared)      df_vif = pd.DataFrame()     for x in x_cols:         df_vif.loc['VIF', x] = vif(data[x_cols], x)      df_vif.loc['tolerance'] = 1 / df_vif.loc['VIF']     df_vif = df_vif.T.sort_values('VIF', ascending=False)     df_vif.loc['mean_vif'] = df_vif.mean()     # from statsmodels.formula.api import ols     def vif(data, col_i):         """         df: 整份数据         col_i:被检测的列名         """         cols = list(data.columns)         cols.remove(col_i)         cols_noti = cols         formula = col_i + '~' + '+'.join(cols_noti)         r2 = ols(formula, data).fit().rsquared         # 其实就是多元线性回归建模步骤,只是取出了参数 R 平方而已         test = 1. / (1. - r2)         return test      print('vif检验结果')     print('  变量            vif检验值')     vif_value = []     for i in data:         print(i.center(7) + '    ', str(vif(data=data, col_i=i)))         vif_value.append(vif(data=data, col_i=i))     plt.bar([x for x in data], vif_value, color='teal')     plt.axhline(10, color='red', lw=2, label="参考线")     plt.title("VIF检验结果")     plt.xlabel("变量")     plt.ylabel("VIF_value")     plt.show()     return print(df_vif)  def Residuals_plot(predicts,residuals):     import numpy as np     import matplotlib.pyplot as plt     import statsmodels.api as sm     plt.rcParams['font.sans-serif'] = ['SimHei']     plt.rcParams['axes.unicode_minus'] = False      plt.subplots(2, 2, figsize=(8, 8), dpi=128)     plt.subplot(221)     plt.scatter(predicts, residuals)     plt.xlabel('Fitted Value')     plt.ylabel('Residual')     plt.title('(a)Residuals vs Fitted Plot', fontsize=15)     plt.axhline(0, ls='--')      ax2 = plt.subplot(222)     pplot = sm.ProbPlot(residuals, fit=True)     pplot.qqplot(line='r', ax=ax2, xlabel='Theoretical Quantiles', ylabel='Sample Quantiles')     ax2.set_title('(b)Normal Q-Q Plot', fontsize=15)      #创建一个序列来表示观测序号:     obs = np.arange(1, len(residuals) + 1)     #绘制scale-location图     ax3 = plt.subplot(223)     ax3.scatter(np.sqrt(obs), np.abs(residuals))     ax3.set_xlabel("√Observation Number")     ax3.set_ylabel("|Residuals|")     ax3.set_title("(c)Scale-Location Plot")      #计算库克距离并绘制库克距离图:     model = sm.OLS(residuals, sm.add_constant(obs)).fit()  # 应用OLS回归模型     influence = model.get_influence()     cooks_dist = influence.cooks_distance[0]      ax4=plt.subplot(224)     ax4.scatter(obs, cooks_dist)     ax4.axhline(y=4*cooks_dist.mean(), linestyle='dashed')     ax4.set_xlabel("Observation")     ax4.set_ylabel("Cook's Distance")     ax4.set_title("(d)Cook's Distance Plot")     plt.tight_layout()     plt.show()

Multivariable_statistics.py

 2>对上述代码进行简单调用:

import Multivariable_statistics as Ms import numpy as np import pandas as pd p=np.linspace(20,60,100)   #预测值 r=np.random.uniform(-1,1,100)   #残差值 print(r) Ms.Residuals_plot(residuals=r,predicts=p)   #残差四图   #对于其他两个图的使用教程,以p,r数据为例 #得到一组100*2的数据 df=pd.DataFrame(p,columns=['p']) df['r']=r df['y']=np.linspace(50,80,100)   #预测值 print(df)  Ms.Corr_heatmap(df)    #皮尔逊相关系数的热力图 Ms.VIF_calculate(df,'y')        #VIF检验值以及图

3>结果图如下:

基于Python代码的相关性热力图,VIF共线性诊断图及残差四图的使用及解释基于Python代码的相关性热力图,VIF共线性诊断图及残差四图的使用及解释

基于Python代码的相关性热力图,VIF共线性诊断图及残差四图的使用及解释

 

发表评论

评论已关闭。

相关文章