Trước khi tới bờ biển Brazil và nổi tiếng khắp thế giới. Nguồn gốc của Jiu-Jitsu được thăm dò ngược lại từ hơn nghìn năm trước đây. Có một số giả thuyết về nguồn gốc bắt đầu của Jiu-Jitsu, và rất nhiều người đồng ý rằng dấu vết của Jiu-Jitsu đã có mặt từ hơn 2000 năm trước công nguyên, từ các đấu sĩ vật thời La Mã và Ai Cập cổ đại.
Đạo Phật có ảnh hưởng lớn tới quá trình phát triển Jiu-Jitsu. Các nhà sư tại Ấn Độ khi đi du hành truyền bá đạo Phật cần học cách phòng thân, tự vệ. Tuy nhiên, vì theo giáo lý đạo Phật dạy không được phép làm hại, tổn thương đến người khác cho nên các sư thầy đã sáng tạo nên môn võ lấy nhu thắng cương. Môn võ này tập trung kiểm soát đối phương và không làm đối phương bị thương. Sau này, môn võ được truyền bá qua Trung Quốc ( Cầm nả thủ, Thái Cực )
Jiu-Jitsu đến Nhật Bản và phát triển dưới hình thức chiến đấu cho các Samurai trong chiến tranh trước khi phát triển thành một môn thể thao có tính cạnh tranh cao.