Ограничен ли как то размер rootfs на плате? Если я заливаю rootfs менее 21 мб то все норм если больше то система не грузиться

Смотря куда заливаете и какой процессор. Если в RAM, то естественно ограничена размером RAM, а например на imx233 образ больше 5-6 МБ не работает. Если внешний носитель - никаких ограничений нет.

Виснет вот на этом
lib80211: common routines for IEEE802.11 drivers
rtc-at91sam9 at91_rtt.0: hctosys: unable to read the hardware clock
atmel_mci atmel_mci.0: Using dma0chan0 for DMA transfers
atmel_mci atmel_mci.0: Atmel MCI controller at 0xfff80000 irq 11, 1 slots
atmel_mci atmel_mci.1: Using dma0chan1 for DMA transfers
atmel_mci atmel_mci.1: Atmel MCI controller at 0xfffd0000 irq 29, 1 slots
UBIFS: mounted UBI device 0, volume 0, name "nandfs"
UBIFS: file system size: 208244736 bytes (203364 KiB, 198 MiB, 1614 LEBs)
UBIFS: journal size: 10450944 bytes (10206 KiB, 9 MiB, 81 LEBs)
UBIFS: media format: w4/r0 (latest is w4/r0)
UBIFS: default compressor: lzo
UBIFS: reserved for root: 4952683 bytes (4836 KiB)
VFS: Mounted root (ubifs filesystem) on device 0:12.
Freeing init memory: 132K
Starting network...

Заливаю в nand как я понял там 200 мб отведено под rootfs

Цитата

Заливаю в nand как я понял там 200 мб отведено под rootfs

Плата SK-AT91SAM9G45/M10-XC6SLX

Судя по приведенному логу проблема скорей в самой корневой а не в размере.