ゲストが起動しなくなってしまった。
いろいろ調べてhttp://www.unixmen.com/linux-tutorials/520-convert-vmware-to-vbox
を見て、vmdkファイルをいったんbinファイルに変換し、binファイルをvdiファイルに変換すると読み込めました。
使うコマンドは、
qemu-img convert system.vmdk system.bin
VBoxManage convertdd system.bin system.vdiの2つ。
qemu-imgはaptでインストールしないといけない。
後は、出来上がったvdiファイルをストレージに指定すれば起動できるようになった。