一個完整的嵌入式Linux內核一般由5部分組成，它們分別是內存管理、進程管理、進程間通信、虛擬文件系統和網絡接口。
1、內存管理
內存管理主要完成的是如何合理有效地管理整個系統的物理內存，同時快速響應內核各個子系統對內存分配的請求。嵌入式Linux內存管理支持虛擬內存，而多余出的這部分內存就是通過磁盤申請得到的，平時系統只把當前運行的程序塊保留在內存中，其他程序塊則保留在磁盤中。在內存緊缺時，內存管理負責在磁盤和內存間交換程序塊。
2、進程管理進程管理主要控制系統進程對CPU的訪問。當需要某個進程運行時，由進程調度器根據基于優先級的調度算法啟動新的進程。：Linux支持多任務運行，那么如何在一個單CPU上支持多任務呢？這個工作就是由進程調度管理來實現的。在系統運行時，每個進程都會分得一定的時間片，然后進程調度器根據時間片的不同，選擇每個進程依次運行，例如當某個進程的時間片用完后，調度器會選擇一個新的進程繼續運行。由于切換的時間和頻率都非常的快，由此用戶感覺是多個程序在同時運行，而實際上，CPU在同一時間內只有一個進程在運行，這一切都是進程調度管理的結果。
3、進程間通信
進程間通信主要用于控制不同進程之間在用戶空間的同步、數據共享和交換。由于不用的用戶進程擁有不同的進程空間，因此進程間的通信要借助于內核的中轉來實現。一般情況下，當一個進程等待硬件操作完成時，會被掛起。當硬件操作完成，進程被恢復執行，而協調這個過程的就是進程間的通信機制。
4、虛擬文件系統
Linux內核中的虛擬文件系統用一個通用的文件模型表示了各種不同的文件系統，這個文件模型屏蔽了很多具體文件系統的差異，使Linux內核支持很多不同的文件系統，這個文件系統可以分為邏輯文件系統和設備驅動程序：邏輯文件系統指Linux所支持的文件系統，例如ext2、ext3和fat等；設備驅動程序指為每一種硬件控制器所編寫的設備驅動程序模塊。
5、網絡接口
網絡接口提供了對各種網絡標準的實現和各種網絡硬件的支持。網絡接口一般分為網絡協議和網絡驅動程序。網絡協議部分負責實現每一種可能的網絡傳輸協議。網絡設備驅動程序則主要負責與硬件設備進行通信，每一種可能的網絡硬件設備都有相應的設備驅動程序。