Vamos supor que tenham muitas redes interconetadas por gateways, mas só tenham dois hosts em cada extremo da interconexão das redes, quando um host quer enviar ao outro, ele encapsula o datagrama e o envia ao gateway mais próximo. Uma vez que o quadro chega ao gateway, o software de IP extrae o datagrama encapsulado, e as rotina de roteamento IP selecionam o próximo gateway que formará parte do caminho que levarrá o datagrama ao host destino.
Para um gateway saber onde enviar um datagrama, e para um host saber qual gateway usar para um destino determinado, precisa-se de um algoritmo de roteamento que maneje as Tabelas de Roteamento.