小室さんは１９３０年（昭和５年）１０月、東京都出身。５１年１１月、青木ジムからプロデビューし、篠田明（日東）に初回ＫＯ勝ちを収めた。
５４年９月には佐々木民雄（野口）を１０回判定で破り日本バンタム級王座を獲得。５５年４月に大塚昌和（オール）に判定負けして２度目の防衛に失敗したものの、同年６月、大塚に雪辱して日本王座に返り咲いた。
２度防衛後の５５年１２月、フィリピン・マニラで、サノン・Ｅ・Ｔ・Ｂ（タイ）に６回反則（ＴＫＯ）勝ちして第３代ＯＢＦ東洋（現東洋太平洋）バンタム級王座を手にした。
その後、日本初の世界王者（フライ級）となった白井義男さん（故人）を破ったこともあるレオ・エスピノサ（フィリピン）らと激闘を演じた。
５６年８月の試合を最後に引退した後は都内で寿司店を経営した。