鐵路內燃機車主要由柴油機、主傳動裝置、輔助傳動裝置、車體(包括司機室)、走行部及各輔助系統組成,其中:機車輔助系統包括:燃油系統、機油系統、冷卻水系統、預熱系統、空氣制動系統及其他用風系統、控制系統、照明系統、充電系統、檢測系統、診斷系統和顯示記錄系統等。
內燃機的轉向架是由帶有車輪的兩根輪軸、牽引電機、傳動裝置、懸架和制動器構成的整個總成,負責支撐機車重量,提供推進力、懸架和制動系統。
內燃機的牽引電機為車輪提供推進動力,每根輪軸上有一臺牽引電機,每臺電機驅動一個小齒輪,與驅動軸上的較大齒輪相齧合,內燃機裝用的變速裝置可使最大運行速度達180km/h。
有的人可能認為內燃機車和汽車都是使用的內燃機,兩者的結構原理應是相同的。其實,它們是不完全一樣的,汽車是利用內燃機產生的動力直接推動車輪轉動,而內燃機車則是先通過內燃機帶動發電機產生電能,再用電能使電動機旋轉,從而驅動機車前進。所以,通常也將內燃機車稱做“電傳動內燃機車”。