Работаю с платой SK-iMX233. Для разрабатываемого прибора необходимы два последовательных порта. Один должен работать с GSM модемом, а другой будет использоваться для обмена данными с другим прибором. Дисплей и клавиатура с платой не используются. Доступ к плате будет через telnet.

APPUART был успешно запущен, GSM модем работает. К DEBUG порту сейчас подключен терминал.
Я поменял строку запуска на console=/dev/null , пересобрал и перезалил ядро. Теперь при загрузке системы нет лога загрузки, но после загрузки системы в окне терминала появляется приглашение на ввод имени пользователя. После логина все работает как и раньше.

Что нужно сделать, чтобы linux оставил моей программе порт DEBUG (ttyAM0)?

В файле /etc/inittab должно быть что-то такое:
ttyS0::respawn:/sbin/getty -L ttyS0 115200 vt100
или
ttyAM0::respawn:/sbin/getty -L ttyS0 115200 vt100

Закоментируйте или отключите в buildroot

Для надежности можно вообще отключить консоль для DBGU в конфиге ядра

Device Drivers ---> Character devices ---> Serial drivers --->
[ ] Support for console on i.MXS debug serial port

Спасибо, все получилось
Отключение консоли в ядре проблему не решило, а в файле inittab - сработало.