O esporte surgiu na Inglaterra durante a segunda metade do século XIX, junto com o tênis de campo e o badminton. As primeiras lembranças registradas do esporte mostram-no sendo praticadas com livros dispostos no lugar da rede e com rolhas no lugar de bolinhas.
Em seu início não exista um padrão a ser seguido nos equipamentos. As primeiras raquetes eram de madeira, papelão ou tripa de animal, e podiam ser cobertas por cortiça, lixa ou tecido; já as bolas eram de cortiça ou borracha, e as redes tinham alturas diferentes de um jogo para outro. Assim como as regras que eram muito diferentes das utilizadas hoje em dia.
No século XIX, o ex- maratonista inglês James Gibb voltou de uma viagem dos Estados Unidos com bolas de celuloide de brinquedo, que poderiam ser utilizadas para o esporte. O barulho delas sendo golpeadas por uma raquete foi associado às palavras ping pong que logo deram origem ao nome do jogo.
Por volta de 1889 o esporte chegou ao Japão, de onde se espalhou ao resto dos países orientais, tais como a China, que atualmente é uma potência no esporte. Essa internacionalização da modalidade foi super importante para seu crescimento e amadurecimento.