R语言教程 -- dplyr包中的distinct()函数

dplyr::distinct对数据框去重,该方法默认保留重复记录的第一条记录

dplyr包中distinct()函数与base包中的unique()函数比较类似,不同的是unique()是一个泛型函数,可以针对向量、矩阵、数组、数据框甚至列表这五种数据类型,求取唯一值。而distinct()函数则是专门为数据框设计的,这也与tidyverse系列包的宗旨一致。

之前用distinct()函数的时候,总容易出现问题,归根结底是没有弄明白distinct()各参数的含义,囫囵吞枣的看了看文档,就开始写了。今天看到一篇很不错的博客,里面提到了distinct()函数,感觉作者讲的很不错。

distinct()用于对输入的tbl进行去重,返回无重复的行,类似于base::unique()
函数,但是处理速度更快。原数据集行名称会被过滤掉。
语法:

distinct(.data, ..., .keep_all = FALSE)

 

通过指定一列或多列进行去重

df %>% distinct( `column1` , `column2` ,  `···`, .keep_all = T) #.keep_all表示去重后返回数据框的所有列向量

通过基于所有列向量去除重复行记录

df %>% distinct() 

 

此外,除了使用distinct函数处理重复行记录,在dplyr管道中,还推荐使用group_by配合使用 slice实现更细致的去重操作,如:

 

  • 随机保留1条重复行记录
df %>% group_by(`column1` ,  `···`)  %>% slice_sample(n = 1) %>% data.frame()
  • 保留最后1个重复行记录
df %>% group_by(`column1` ,  `···`)  %>% slice( n() ) %>% data.frame()
  • 根据一列向量进行分组排序再去重保留符合要求的记录
df %>% group_by(`column1`) %>% arrange(desc(`column3`)) %>% slice(1) %>% data.frame()

 

实例: