1903年（明治36年）9月28日北海道上川郡東旭川村（現：旭川市東旭川町）で３人兄弟の末っ子として生を受ける。
父、鉄蔵（日露戦争に軍曹として従軍。奉天会戦にて戦死するも金鵄勲章を受勲し曹長）が出征前に残した「自分が戦死したら軍人になれ」という遺言に従い、1918年（大正７年）９月、13歳になると同時にれ仙台陸軍地方幼年学校に入学した。
1925年（大正14年）7月、陸士第37期として卒業し見習士官。
その後陸軍歩兵少尉に任官するも、本人の希望により飛行第6連隊附の航空兵に転科し陸軍航空兵少尉となった。
1926年（大正15年）6月、所沢陸軍飛行学校へ入校し、卒業時には技量成績優秀として恩賜の銀時計を賜りエースとしての頭角を現しはじめる。
1929年（昭和4年）6月に結婚し、33歳までに3人の男子をもうける。

1937年（昭和12年）には日中戦争に陸軍航空兵大尉・飛行第2大隊第1中隊の中隊長として初陣を飾り、1938年（昭和13年）3月には航空部隊として始めて感状が授与される。
1939年（昭和14年）7月には活躍が認められ、寺内寿一陸軍大将らの独・伊・米等各国への視察旅行の随行員として訪欧。
1941年（昭和16年）4月には陸軍少佐・4代目戦隊長として飛行第64戦隊に着任、新鋭の一式戦闘機「隼」に搭乗し、「加藤隼戦闘隊」が誕生した。
太平洋戦争開戦時には部隊長自らが愛機「隼」を操り活躍し、南方作戦の成功に大きく貢献、後に映画『加藤隼戦闘隊』、軍歌「加藤隼戦闘隊（飛行第六十四戦隊歌）」が製作された。
この頃には40歳に近くなるが、常に最前にたち、周囲からの信頼も厚かった。1942年5月22日ベンガル湾上空で英空軍第60飛行中隊のブリストル ブレニム爆撃機と戦闘中、敵機を撃墜したのち機体右翼より発火、部下二人の大きく手を振るように翼をふるとベンガル湾に自爆をとげた。
死後はその活躍により累計6回の部隊感状を賜り、最終階級は陸軍少将となった。
1942年9月22日、秋雨降る築地本願寺にて陸軍葬。お墓は旭川市豊岡の愛宕墓地にあり、今は、故郷・旭川の地で安らかに眠っている。享年38歳。