Корни джиу-джитсу уходят в глубокую древность. Известно, что оно входило в систему боевой и физической подготовки самураев в феодальной Японии. В 1868 в этой стране начались радикальные буржуазные реформы. Бывшие воины, чьей профессией являлась служба у крупных феодалов, остались не у дел, и многие из них стали зарабатывать себе на жизнь, преподавая джиу-джитсу всем желающим. Это искусство было не единой системой, а представляло собой множество стилей и видов рукопашного боя.
В 1882 молодой японский ученый Дзигоро Кано открыл в Токио собственную школу Кодокан («дом постижения Пути»), где начал обучение новой, разработанной им самим системе спортивного единоборства, которую он назвал дзюдо («путь гибкости, мягкий путь»). При этом основной упор делался им на вторую часть названия (до), означавшую не только «путь», но и «понимание жизни». Поясняя особенности своего учения, Кано пишет: «Дзюдо означает Путь мягкости, податливости, или умение уступать во имя конечной победы, в то время как дзюдзюцу олицетворяет собой техническое мастерство и практику дзюдо». Обязательным является принцип: «Максимум эффективности, минимум энергии» («сэйрёку дзэнкё»). Кано рассматривал дзюдо как средство формирования гармонично развитой личности. По мнению Кано, те, кто занимается дзюдо, проходят хорошую физическую и морально-психологическую подготовку. Любой дзюдоист должен уметь выявить сильные и слабые стороны соперника, быть мужественным, проявлять настойчивость в борьбе, с уважением относиться к другим людям.
Дзюдо развивалось в условиях жесткой, порой жестокой конкуренции со стороны других школ джиу-джитсу. Однако вскоре оно получило официальное признание властей, нашло применение в полиции и армии, а через несколько лет вошло в программу физической подготовки средних и высших учебных заведений.Распространение дзюдо в мире началось в 1930-е годы. После Второй мировой войны американские оккупационные власти ввели запрет на боевые искусства в Японии, что приостановило развитие дзюдо. После отмены запрета интерес к дальневосточным боевым искусствам вспыхнул в мире с новой силой.
В 1948 состоялся чемпионат Японии по дзюдо. Вскоре после этого была образована Всеяпонская федерация дзюдо. Международная Федерация дзюдо была создана в 1952, а первый чемпионат мира по дзюдо был проведен в Токио в мае 1956. Уже в 1964 дзюдо было включено в программу Олимпийских игр, проводившихся в Токио, и с тех пор является неотъемлемой частью мирового спорта.