Думата „Германия“ влиза в употреба още в Древен Рим (самите римляни вероятно са я взели от гърците). В своето съчинение „Записки за Галската война“ Юлий Цезар нарича германците източните съседи на келтите, живеещи на изток от Рейн.
Думата „германци“ очевидно има келтски произход и идва или от „gair“ („съсед“), или от „gairm“ („боен вик“).
В края на I в. пр. Хр. римският историк Тацит подробно описва нравите на германските народи в своя труд „За произхода на германците и местоположението на Германия.“
В славянските езици думата „немец“ означава неразбираемо говорещ човек, ням. Така казвали на иностранеца, на човека, чиято реч била непонятна, точно както и римляните нарекли „варвари“ чуждите племена, имитирайки словесната комбинация „бар-бар“, която те чували от думите на чуждия език.
Впрочем, има и друга версия: „немец“ може да произлиза от името на германските племена немети, които също се споменавали от Юлий Цезар.