Программирование модема

Используйте Hayes Commands для управления модемом. Для контроля порта rs232 вам потребуется termios. Смотри пример miniterm.c.