缺失值填充在数据分析领域的预处理过程绕不过去的一个坎,蛋白质组学也不例外,简单记录下,可能有些地方有其特殊之处。
-
分析缺失值来源:完全随机缺失(MCAR,如质谱仪抖动,对数据影响无偏好性,均一分布),随机缺失(MAR,依赖于其他观测变量,如时间梯度越长采集越可能出现缺失值),非随机缺失(MNAR,依赖观测变量自身,如某些蛋白含量在仪器检测限以下)。一般我们默认缺失值属于MCAR或MAR机制类。
-
缺失值在蛋白质组数据中的表现形式:0,NA,NaN,Filtered等。
-
如果数据量多,缺失值比例少,认为删除所有缺失值对结果不会有影响,则可简单删掉。但数据中缺失值比例比较大时(如大于30%),不建议直接删除。
-
DDA labelfree一般较多,10%-50% 的缺失值。过滤标准不定,如一个蛋白中三个重复,2个有值,建议保留,1个有值,严格一点考虑过滤掉。
-
不建议用均值、中位值或最小值来进行填充。
-
常用方法:KNN,Sequential KNN,MI,RandomForest等,所有方法都是基于现有的数据来进行填充的。
-
KNN(K近邻):常用于分类的监督学习方法,首先计算测试数据与各个训练数据之间的距离;然后按照距离递增关系进行排序;选取距离最小的K个点;确定前K个点所在类别的出现频率;最后返回前K个点中出现频率最高的类别作为测试数据的预测分类。
缺失值填充过程:先计算目标对象(含缺失值的肽段或蛋白)与其他对象之间的距离(一般默认为欧氏距离,其他对象是无缺失值的),再选择K个(预先设定)距离最近的对象,然后将对应位置的数值进行平均或加权,最后得到的数值用来表征该缺失值的大小。
impute::impute.knn(data, #矩阵
k=10, #预设近邻数,默认10
rowmax=0.5, #当某行的缺失值占比超过50%,则用整个样本的均值填充
colmax=0.8) #当任何一列中缺失值占比80%,计算终止并报错
- Sequential KNN(有序K近邻):KNN方法的升级,一般用于处理缺失值比例高的数据。但缺失值如果太多了,不建议保留。
填充过程:首先根据数据中每个对象缺失值的比例进行排序(sequential),从比例最小的那个对象开始计算,对K个近邻的值进行平均或加权计算填充,这个填充后的对象也会加入后续其他对象缺失值填充的计算当中。
SeqKnn::SeqKNN(data, k=10)
- MI(多重插补):细分的方法有很多,主要有三部分:一是
mice
,将包含缺失值的原始数据集生成几个完整的数据集(3-10个无缺失值的数据集),再把所有填充值的平均值作为最终的填充结果;第二with
,使用标准方法,如线性回归模型/广义线性模型等,对这几个完整的数据集进行统计分析(不是评价好坏);第三pool
,整合模型分析的结果,输出最终结果。
data(sleep,package="VIM")
# 1st
imp=mice::mice(sleep,
m=5, #生成完整数据集个数
defaultMethod="pmm", #填充方法
seed=1234) #保证重复性
# 2nd
fit=with(imp,lm(dream~span+Gest)) #选择线性模型对填充数据集分析
# 3rd
pooled=pool(fit) #整合最终结果
summary(pooled)
-
RF(随机森林):将含有缺失值的数据按列分开,先用该列的均值进行填充,然后利用完整数据(相当于训练集)构建随机森林模型,最后利用该模型对含有缺失值的数据(相当于测试集)进行预测,并可对预测的结果进行评价。
-
没有哪种方法一定最好,具体问题具体分析。可以用几种方法填充后比较。也可用一些现有的工具评价,如NAguideR可比较评估23种缺失值填充方法,帮助我们从中选择最好的一种。