readr パッケージの関数 guess_encoding()が利用できる。

> guess_encoding("a.txt")
# A tibble: 6 x 2
  encoding   confidence
  
1 EUC-JP          1    
2 Big5            0.74 
3 EUC-KR          0.73 
4 GB18030         0.570
5 ISO-8859-1      0.42 
6 ISO-8859-2      0.26