Rock and Roll panfletário era coisa corriqueira no Village e nos bares mais legais de Nova York, onde os heróis locais eram merecedores de estima igual, senão maior, aos campeões das paradas de sucessos. John Lennon ouviu comentários entusiásticos de Jerry Rubin, David Peel e outros sobre uma banda de rua da pesada chamada Elephant's Memory.
A Elephant's Memory, também conhecida como Elephants Memory, sem o apóstrofe, foi formada entre 1967 e 1968, pelo saxofonista Stan Bronstein , veterano da orquestra de Tio Puente, e o baterista Rick Frank. Em 1968, eles adicionaram brevemente Carly Simon como vocalista. Em 1969, a formação se expandiu para incluir John Ward (baixo), Chester Ayers (guitarra), Myron Yules (trombone baixo), R .Sussmann (teclados), Michael Shapiro (vocal), Guy Peritore (guitarra e vocal), Danny Adler (guitarra e teclados), David Cohen (guitarra, teclados e vocal) e Michael Rose na guitarra. Duas de suas músicas, "Jungle Gym at the Zoo" e "Old Man Willow", apareceram na trilha sonora de 1969 do filme Midnight Cowboy. Em 1970, a Elephant's Memory conseguiu um pequeno sucesso com a música "Mongoose" (de Frank e Bronstein) pela Metromedia Records.
Entre 1970 e 1973, a formação permaneceu mais ou menos constante em torno de Stan Bronstein e Rick Frank, juntamente com os guitarristas Wayne "Tex" Gabriel, o tecladista Adam Ippolito e baixista Gary Van Scyoc.
Essa formação que basicamente acompanhou Lennon & Yoko em seu álbum Some Time in New York City durante as sessões de gravação em março de 1972. O álbum foi lançado em junho nos Estados Unidos e em setembro de 1972 no Reino Unido.
Ainda em 1972, eles foram anunciados como a Plastic Ono Elephant's Memory Band e se apresentaram com Lennon e Ono em vários programas de TV, álbuns e shows.
Em abril e maio de 1972, a Elephant's Memory gravou seu segundo álbum auto-intitulado, produzido por Lennon e lançado pelo selo Apple Records, juntamente com o single "Power Boogie".
Esse disco também contém várias entusiásticas contribuições do próprio Lennon tocando guitarra e nos vocais de apoio e um segmento de piano. Este álbum nunca foi relançado em CD.
Em 30 de agosto de 1972, com a adição de John Ward no baixo e Jim Keltner na bateria, a banda tocou com Lennon e Ono no famoso One to One Concert organizado por Geraldo Rivera, para beneficiar a Willowbrook State School para crianças com deficiência intelectual. O concerto foi filmado e gravado, mais tarde lançado em fevereiro de 1986 como o álbum Live In New York City.
De outubro a novembro, a banda gravou material para o álbum duplo de Yoko Ono Aproximately Infinite Universe, lançado em janeiro de 1973.
A última vez que os Elefantes – a banda Elephant’s Memory – se apresentou ao lado de John Lennon, aconteceu no dia 6 de setembro de 1972, na maratona televisiva beneficente comandada por Jerry Lewis por ocasião do Dia do Trabalho. O evento anual em benefício dos portadores de distrofia muscular parecia uma ocasião bizarra para Lennon, dada a lista usual de convidados de Jerry Lewis: gente da velha guarda da indústria do entretenimento, como seus ex-parceiros Dean Martin, Frank Sinatra e ouros luminares de Las Vegas. Lewis apresentou John e Yoko assim: “Senhoras e Senhores, apresentando, e muito orgulhoso em apresentá-los, duas das pessoas mais incomuns em todo o mundo, e não quero dizer apenas no mundo do entretenimento. Eles não se encaixam em nenhum formato ou padrões, exceto o padrão da excelência. Senhoras e senhores, John Lennon e Yoko”. Lennon não mudou de estilo. De óculos escuros, com o cabelo esvoaçando em todas as direções e barba por fazer, tocou “Imagine” e com Yoko Ono e a banda, "Now or Never" (“cantada” por Yoko) e "Give Peace a Chance" numa versão reggae. “Mandem dinheiro agora...”, pedia John entre os refrões para manter o telefone tocando. Mas, ao contrário da resposta pretendida, é muito possível que os telefones pararam de tocar enquanto John e Yoko estavam se apresentando.
Apesar de terem uma nítida conexão quando tocavam juntos, John e os Elefantes não duraram tanto, devido a diversas problemáticas, como a questão da imigração do músico - que era torturado continuamente pela espera de uma resposta definitiva do governo dos EUA. Enquanto não tivesse seu passaporte ajustado pelas autoridades locais, Lennon estava incapacitado de produzir algo musicalmente sério. Para se ter ideia, o máximo que o astro conseguiu foi fazer um show para caridade no Madison Square Garden de Nova York, em 1972. A parceria entre os elefantes e o leão-marinho durou o ano de 1972 inteiro e gerou o álbum “Sometime in New York City” que, infelizmente, não agradou nem o público, nem a crítica da época. "Da próxima a gente acerta", disse Lennon em 1973, que sempre esperou por dias melhores.