Theo truyền thuyết, Đạt Ma sư tổ hay còn có tên gọi là bồ đề Đạt Ma nguyên quán tại Nam Thiên Trúc - Ấn Độ. Đạt Ma sư tổ vốn có tên thật là Bồ Đề Đa La- Một vị Hoàng tử của nước Nam Thiên Trúc.
Truyện kể rằng, trong một lần đến nước Hương chí bát mã Đa la - vị tổ thứ 28 của nhà Phật đã bàn luận cùng Bồ Đề Đa La về chữ tâm. Bát Nhã Đa La nhận thấy vị hoàng tử này ngộ tính rất cao, suy nghĩ thấu đáo nên Bát Nhã Đa La khuyên rẳng: “Hoàng tử đối với chư pháp đã được thông đạt, vậy Hoàng tử nên lấy tên là Đạt Ma, có nghĩa là rộng lớn, thông đạt”. Từ đó, danh hiệu Bồ Đề Đạt Ma ra đời.
Sau nhiều năm tu hành, cùng với ngộ tính và sự thông minh tuyệt đỉnh của mình, Bồ Đề Đạt Ma đã thấu hiếu giáo lý Phật pháp và được Bát Nhã đa la chọn làm người thừa kế của mình. Bồ Đề Đạt Ma được tôn xưng là vị phật thứ 28 của nhà Phật. Vì sao vị Phật Đạt Ma xuất thân từ Nam Thiên Trúc nhưng lại được xem là người sáng lập của Thiền phái Thiếu lâm của Trung Hoa?
Tương truyền rằng, trước khi qua đời, vị tổ thứ 27 của nhà Phật – Bát Nhã đa la đã khuyên Bồ đề Đạt Ma nên xuất dương truyền pháp cũng như tìm hiểu thế sự, giác ngộ con người. Sau khi thầy mất, Đạt Ma đã nghe lời căn dặn mà xuống thuyền ra khơi đi về phía Đông Thổ (Trung Hoa nay) để truyền bá phật pháp của mình. Tiếp đó là câu truyện về cuộc gặp gỡ giữa Đạt Ma sư tổ và vua Lương Vũ Đế.