Thánh Gioan sinh tại Tuscia. Ngài được chọn làm Giám mục Rôma ngày 13-8-523. Người ta không biết gì về đời thơ ấu của thánh nhân, nhưng từ ngày lên kế vị Thánh Phêrô, ngài đã nhiệt thành sống khẩu hiệu: “Tất cả vì Danh Chúa”. Ngài đã có công hoàn thành nhạc bình ca mà các vị tiền nhiệm của ngài là Đức Giáo Hoàng Cêlestinô I, Đức Lêô Cả và Đức Galêsiô khởi xướng.

Năm 624, Vua Justinô I vùng Tiểu Á muốn hiệp nhất giáo hội cũng như nhằm mục đích chính trị đã đàn áp nhóm theo lạc giáo Ariô. Tại Rôma, Vua Thêôđôricô là người theo lạc giáo Ariô đã tức giận và bắt Đức Giáo Hoàng Gioan I dẫn đầu phái đoàn đi thương thuyết. Sau nhiều lần phản đối, ngài đã chấp nhận lên đường. Đây là lần đầu tiên có một vị Giáo Hoàng rời khỏi nước Italia. Vua Justinô và toàn dân thành Contantinôpôli hân hoan vui mừng đón tiếp Đức Giáo Hoàng. Ngài đã cử hành lễ Phục Sinh tại thánh đường thánh nữ Sôphia và phong vương cho vua Justinô.