東京府南多摩郡堺村相原大戸（現在の東京都町田市相原町）に生まれる。生家は代々農業を営み、重吉は三男二女の中の次男。父の代には雇人もある自作農であり、村でも暮らし向きは良い方であった。

1912年（明治45年）4月、鎌倉市にあった全寮制の神奈川県師範学校予科（現・横浜国立大学）に入学し寄宿生活を送る。英語を得意とし、1915年（大正4年）ラビンドラナート・タゴールの詩集である花園緑人著『タゴールの詩と文』を愛読して文学にも興味を示し、師範学校内の詩の会にも参加した。高学年になり日本メソジスト鎌倉教会の日曜のバイブルクラスに出席する。

1917年（大正6年）3月神奈川県師範学校本科第一部を卒業後、4月より東京高等師範学校(後・東京教育大学で現・筑波大学)文科第三部英語科予科に進学し、東京大塚の学校の寮に入る。1918年（大正7年）になると北村透谷に傾倒し『透谷全集』を読み、6月には未亡人ミナを新小川町の家に訪ねている。この頃、同級生のクリスチャン吉田不二雄と親交を深め、小石川福音教会のバイブルクラスに出席するようになり、新約聖書を原語ギリシア語で読む。

1919年3月2日、駒込の教会で富永徳磨から洗礼を受け、キリスト教に入信する。ただし、5月4日に駒込基督会の夜の礼拝に出席したのを最後に富永からは2か月ほどで離れ、以後死去するまで特定の教会に属さない無教会の立場を貫いた。これについては、内村鑑三からの影響が指摘されており、鑑三の講演にも接した。この間、3月11日付で、重吉も編集に加わった『一粒の麥 吉田不二雄遺稿』が刊行され、二年先輩の永野芳夫と連名の序文「告ぐ」を付した。この頃から、ジョン・キーツの詩に親しんだ。同年12月、スペインかぜに罹患し、肺炎を併発して東京神田の橋本病院へ3か月に及ぶ入院をし父と弟の看病を受けたのち、1920年（大正9年）堺村の実家で静養する。全快後、本科3年に進み、寮を出て、池袋で下宿生活を始める。秋には高等師範学校の英語劇大会で舞台背景の作画を担当した。

1921年（大正10年）3月、下宿先に島田とみが滝野川の女子聖学院3年級の編入試験準備として訪れ、重吉は約一週間英語と数学を教える（本来は同じ下宿に暮らしていた人物を頼ってきたが重吉を紹介された）。とみは合格したものの、直後に重吉は東京高等師範を卒業し、兵庫県の御影師範学校（神戸大学国際人間科学部の前身）に英語科教諭兼訓導として就職して武庫郡住吉村（現・神戸市東灘区）山田の柴谷方に下宿し、遠く離れることになった。7月には、当時義務づけられていた6週間の陸軍現役制度により、姫路市の歩兵第39連隊に入営している。この間、4月に重吉はとみに手紙を出して文通を始め、同時期に日記に短歌や詩を記すようになる。やがて重吉はとみとの結婚を真剣に考え始め、9月に手紙でとみに愛を告白した。しかし、恋愛結婚には実家の長兄政三から反発があり、重吉は高等師範の先輩で教えも受けた内藤卯三郎に相談、内藤の説得によって理解を得た重吉ととみは1922年（大正11年）2月に「とみの卒業後に結婚する」条件で横浜市本牧の本牧神社で重吉、とみ、八木藤三郎(父)、島田慶治、内藤の5名で婚約式をおこなった。ただし、重吉の父からは内藤に「あなたの弟とおもって重吉の味方になってやってくれ」」との言葉があり、勘当に近い形での婚約であった。3月に春休みを利用し上京し、横浜市本牧の内藤宅で休日を過ごすが、このとき重吉は肋膜炎に罹患していた。その後、とみも肋膜炎を発症したことから急遽上京し、「自分が御影に引き取って教育し、丈夫にする」と兄慶治に申し出て、同年7月19日に女子聖学院を4年で中退したとみと内藤卯三郎立会のもとに結婚、武庫郡御影町（現・神戸市東灘区）石屋川の借家で新婚生活を送り始める。この時期に詩作が活発になるとともに、日本・外国を問わず多くの詩人の作品を読む。とりわけジョン・キーツから強い影響を受け、「あこがれの人」「キーツはわが故里のごとし」といった言葉を書き残している。1923年(大正12年)自作の詩を、原稿用紙をリボンで綴じた手製の小詩集にまとめ始める。3月、御影町柳に転居した。5月26日に長女桃子が生まれる。10月22日付けでノート「よせあつめ」を作成し、芭蕉作品やドイツ近代詩人の詩を原文のまま筆写する。1924年秋には、自筆詩集を再編して『秋の瞳』という自選集を作り、加藤武雄に送付して出版を依頼した。12月29日に長男陽二が誕生する。1925年(大正14年)3月までの御影在住時代に1800編近い詩を書いたとされる。

1925年4月、千葉県東葛飾郡千代田村（現・柏市）の東葛飾中学校（現・千葉県立東葛飾高等学校）の英語教員に転じ千代田村柏に移転する。3月15日付で御影師範学校を退任後、名目上は3月31日付で千葉県女子師範学校訓導兼東葛飾中学校嘱託に任命され、正式に東葛飾中学校教員になったのは翌年2月15日であった。東葛飾中学校は開校から3年目（校舎の完成から2年目）だった。この転任は罹患した実家の祖父への気遣いからであるとされ、この際にも内藤卯三郎の支援を受けた。転居先は勤務先の学校に近い教職員住宅で、万葉集を好んだ重吉は、真間手児奈などに登場する葛飾を喜んだという。転任に伴って重吉の俸給は御影時代より10円加算された。

同年夏8月、書籍の処女詩集となる『秋の瞳』が刊行される（富士印刷所発行、新潮社発売）。この刊行には加藤武雄が助力し巻頭文も執筆している。新潮社には加藤が勤めていたことがあった。『秋の瞳』は、『詩神』『日本詩人』といった詩壇雑誌から好意的な評価を受け、新聞雑誌から寄稿依頼も寄せられた。7月17日には読売新聞に4編の詩が掲載され、初めて原稿料を得る。複数の同人勧誘を受ける中で、佐藤惣之助が主催する『詩之家』に参加した。同年10月の『詩之家』には「どなたか遊びに来てくだすったらどんなにうれしいだろう」と道案内も含めた来訪を呼びかける文章を掲載し、草野心平は重吉の自宅を訪れた詩人の一人だった。心平からは、詩誌『銅鑼』の同人になるよう勧誘の手紙をもらっていたが、『詩之家』の同人だからと言って重吉は同人としての参加は辞退した。以後、『日本詩人』『生活者』『生誕』『文章倶楽部』『若草』『銅鑼』などに作品を発表した。

1926年（大正15年）は年初より体調を崩し、2月には病臥。当初は「風邪」という診断であったが回復が思わしくなく、3月に発熱して、内藤卯三郎の勧めで東京九段の東洋内科医院を受診し、結核の第二期という診断を受ける。療養生活に入るや、詩作はとだえ、病床ノートが作られ始める。5月、重吉は休職して、東洋内科医院の分院で茅ヶ崎にあった南湖院で療養生活に入った。東葛飾中学の教え子による後年の証言では、最後の授業では詩集の講義をおこない、終わりに「キリストの再来を信ず」という言葉を残して教室を後にしたという。とみは柏から看病に通ったが、重吉からの要望を受けて同年7月に茅ヶ崎町の十間坂の借家に一家で転居し、重吉も自宅療養（南湖院の副院長が往診）となる。同じ月にイギリス留学を控えた内藤卯三郎が見舞いに訪れ、重吉はキーツの書物を購入するよう依頼した。病状は小康状態だったが、10月に再度発熱すると耳下腺炎、歯痛、腹痛などを併発して苦しんだ。10月2日、病床に富永徳麿が見舞いに訪れ、再会を果たした。冬に入り容態が悪化する中、柏時代の作品を中心とした第2詩集『貧しき信徒』の編纂に没頭した。1927年（昭和2年）10月、危篤が告げられ、高熱の中で十字を切る。10月26日、茅ヶ崎の自宅において29歳で死去した。本葬は堺村の実家で執り行われた。郷里の生家近くにある墓碑には十字架が刻まれている一方で、仏教式の戒名（浄明院自得貫道居士）も刻されている。