ulimit -a a résolu le mystère :
core file size (blocks, -c) 1
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 30619
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) 3338968
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 30619
virtual memory (kbytes, -v) 6496960
file locks (-x) unlimited
Cela a fonctionné après avoir défini la taille maximale de la mémoire et la mémoire virtuelle sur illimité et tout redémarré. BTW, le fichier suivant avait encore 2 Go.
Désolé de vous déranger, mais j'étais désespéré. Peut-être que cela aide quelqu'un à "googler" avec un problème similaire.
