[問題] fread 和 未讀取資料狀態下檢查資料

作者: JJabrams (JJ)   2015-11-19 11:45:38
[問題類型]:
程式諮詢(我想用R 做某件事情,但是我不知道要怎麼用R 寫出來)
[軟體熟悉度]:
入門(寫過其他程式,只是對語法不熟悉)
[問題敘述]:
用R讀取大概1.5億筆5G的csv資料(5 variables)
理論上資料應該是完整沒有missing value
想要用fread讀取csv檔,卻遇到下列error:
> raw_data <- fread('all_data.csv')
Read 35.1% of 151308116 rows
Error in fread("all_data.csv") :
Expected sep (',') but new line or EOF ends field 1 on line 55828616 when
reading data: 58
改用 read.csv 就可以順利讀取 (只是花了好久的時間......)
想請問:
1. 為什麼fread讀不進來?
2. 有沒有辦法在不讀取資料的狀態下, 直接去檢查 line 55828616 這邊的資料有
沒有破損?
謝謝大家!!
[關鍵字]:
dplyr,fread
作者: celestialgod (天)   2015-11-19 12:44:00
fread必須是regular csvread.csv沒有要求可以用readLines(可以輸入特定列)查看
作者: JJabrams (JJ)   2015-11-19 15:52:00
請問一下什麼是regular csv? 我google了一下仍然不太懂是只有用"," "\n" """ 這三種區隔的形式嗎?我的資料只有,和ㄧ些na 是因為這樣無法使用fread嗎?thx!
作者: celestialgod (天)   2015-11-19 17:14:00
基本上,每列,數目相同就是一個regular csv?fread Description第三列就有了

Links booklink

Contact Us: admin [ a t ] ucptt.com