У давнину, коли люди невпинно кочували, існувала нагальна потреба мати зручний мішок для перенесення речей. Найперший варіант рюкзака було знайдено разом із останками первісної людини в альпійських горах.. Він являв собою невелику сумку, пошите зі шматків шкіри і одягнену на дерев'яний каркас.
На початку 20 століття норвежець О. Берган вперше винайшов рюкзак із сталевою рамою. Він був набагато легшим і міцнішим за дерев'яний. Крім того, у нього була можливість підстроювання відповідно до зростання та статури власника.
Звідки походить назва «рюкзак» Сучасне слово "рюкзак" прийшло в російську мову з німецької – Rucksack – означає "заплічна сумка". У дослівному перекладі Rücken – "спина" і Sack – "мішок". Близьке за значенням слово «ранець» теж запозичене з німецької мови.