O Grimsby, da League Two, vencia por 2 a 0 com apenas 15 minutos para o fim do jogo, graças aos gols de Charles Vernam e Tyrell Warren.
Bryan Mbeumo desencadeou uma reação tardia dos Red Devils com seu primeiro gol pelo clube, mas o camaronês perdeu o pênalti decisivo para aumentar a pressão sobre o técnico do United, Ruben Amorim.
O treinador português já estava sob críticas após um início sem vitórias na temporada da Premier League do United.
O time 20 vezes campeão inglês terminou em 15º lugar na temporada passada, em sua pior campanha na liga desde que foi rebaixado em 1974.
Agora, uma das suas duas únicas chances realistas de ganhar um troféu nesta temporada desapareceu em um dos piores resultados da história do clube.
Amorim fez oito mudanças em relação ao time que empatou por 1 a 1 com o Fulham no domingo, mas ainda escalou um time que custou centenas de milhões de libras, repleto de jogadores internacionais.
Benjamin Sesko fez sua primeira partida como titular pelo United após uma transferência de £ 74 milhões do RB Leipzig, enquanto Andre Onana retornou em uma noite para esquecer para o goleiro do United.
O Grimsby esperava pela visita do United desde 1948 e saiu em alta velocidade para merecer a vantagem de dois gols no intervalo.
Vernam disparou um chute rasteiro e potente, passando por Onana em seu primeiro poste, aos 22 minutos, para o deleite da maioria do público de 9.000 pessoas no Blundell Park.
Os anfitriões continuaram a zombar da diferença de três divisões entre os times.
Cameron Gardner colocou a bola na rede, mas teve o segundo gol negado por toque de mão.
No entanto, momentos depois, Grimsby dobrou a vantagem quando Onana não conseguiu marcar um escanteio e Warren, agradecido, finalizou.
A noite ruim de Onana pode acelerar a suposta contratação do goleiro belga Senne Lammens pelo United nos últimos dias da janela de transferências.
Amorim respondeu no intervalo escalando o capitão Bruno Fernandes, Mbeumo e Matthijs de Ligt para uma missão de resgate.
Apesar do domínio do United no segundo período, a equipe estava sem inspiração até que Mbeumo mirou e chutou no canto inferior de fora da área.
Harry Maguire foi forçado a atuar como um atacante improvisado em alguns momentos durante o problemático reinado de Amorim e pareceu ter criado um grande momento para seu técnico aos 89 minutos, quando o inglês cabeceou o escanteio de Mason Mount.
Sesko então teve uma chance incrível de vencer o jogo aos cinco minutos do segundo tempo, o que garantiu a necessidade de pênaltis.
Matheus Cunha teve a chance de vencer a disputa por pênaltis por 4 a 4, mas seu esforço foi defendido por Christy Pym.
Após mais 15 pênaltis bem-sucedidos, incluindo dos dois goleiros, Mbeumo acertou o travessão e selou o destino do United.
O Brighton chegou à terceira rodada com uma goleada de 6 a 0 sobre o Oxford, com Stefanos Tzimas marcando duas vezes em sua estreia.
Fulham e Everton também avançaram com vitórias de 2 a 0 sobre Bristol City e Mansfield, respectivamente.
