Né dans la préfecture de Saga, sur l'île de Kyūshū, Deshimaru fut élevé par son grand-père, un ancien samouraï, et par sa mère, une fervente disciple du Jōdo shinshū, une école amidiste japonaise. Par curiosité, il s'éloigne des pratiques spirituelles bouddhiques pour étudier le christianisme sous la direction d'un pasteur protestant. Il revient ensuite au bouddhisme, suit l'enseignement de l'école Rinzai, dont il s'éloigne également.

En 1936 Il rencontre alors le grand réformateur du Zen Sōtō Kodo Sawaki. Il se marie peu après et aura trois enfants. Il se consacrera désormais à la pratique du zazen, avec l'attitude Shikantaza.

Deshimaru reçoit l'ordination monastique peu de temps avant que son maître Sawaki tombe gravement malade. Celui-ci lui fait part de son souhait de voir le Zen se répandre dans le monde et lui demande de se rendre en Europe pour cela.

Suivant le vœu de son maître, Deshimaru se rend en France en 1967 par le Transsibérien. Arrivé à Paris, il travaille dans un magasin d'alimentation macrobiotique. Alors qu'il ne parle qu'un anglais rudimentaire, il pratique zazen dans l'arrière-boutique, ce qui attire à lui progressivement des disciples qu'il initie ainsi au Zen.

En 1975, alors qu’il enseignait au dojo qu’il avait fondé à Paris rue Pernety, Deshimaru reçut le shiho officiel de Yamada Zenji, abbé de Eihei-ji. A titre anecdotique, il lui fallut se faire réordonner par Yamada, car les documents d'enregistrement de son ordination par Sawaki avaient été perdus. En 1985, Niwa Zenji, abbé de ce même temple, lui conféra à titre posthume la dignité de zenji.

Deshimaru a fondé plus de 200 dojos en Europe, en Afrique du Nord et au Canada, ainsi que le temple de La Gendronnière (Association Zen Internationale ou AZI) dans la vallée de la Loire, qui devient le premier et le plus grand temple zen de toute l'Europe. D’après les registres du temple, il a ordonné plus de 500 moines et nonnes, et plus de 20 000 personnes ont, un jour ou l’autre, pratiqué à ses côtés.

Deshimaru est mort en le 30 avril 1982 à Tokyo, où il était rentré pour soigner un fulgurant cancer du pancréas. Une partie de ses cendres est enterrée au temple de La Gendronnière.