Ele recebeu 10 doutorados honorários de faculdades e universidades de renome, embora nunca tenha frequentado uma universidade.

Logo após concluir o ensino médio em Baltimore, em 1940, ele foi contratado para um cargo de nível básico na Chesapeake & Potomac Telephone Company, uma empresa regional que atendia Maryland, Virgínia, Virgínia Ocidental e o Distrito de Columbia. Ele se tornou instalador dos telefones pretos de disco que eram amplamente utilizados na época e considerados um luxo por aqueles que podiam comprá-los.

Após três anos na Reserva da Marinha durante a Segunda Guerra Mundial, o Sr. Ellinghaus retornou ao seu emprego na área de telefonia. Trabalhou como instalador, técnico de reparos e gerente de escritório e de distrito por quase uma década antes de iniciar sua ascensão na hierarquia gerencial.

Ele se tornou vice-presidente da Chesapeake em 1960, vice-presidente da AT&T em Nova York em 1965 e, em 1970, presidente da New York Telephone Company e vice-presidente de tarifas, planejamento e relações governamentais da AT&T. Nesse cargo, lidou com avanços tecnológicos, concorrência de outras operadoras e processos antitruste federais pendentes que ameaçavam a cultura e a direção da gigante corporação matriz.

Nos círculos empresariais e governamentais de Nova York, o Sr. Ellinghaus tornou-se uma figura constante na mídia, conhecido por sua capacidade de resolver problemas. Ele solucionou uma greve de trabalhadores da telefonia em 1971, que paralisou instalações e reparos em Nova York por semanas; negociou aumentos de tarifas com o estado; e, em 1975, restabeleceu o serviço para 173.000 telefones após o que, na época, foi o pior incêndio da Bell, ter danificado uma central de comutação em Manhattan. Simultaneamente, como presidente da New York Telephone Company de 1970 a 1976, ele lidou com problemas de serviço que assolavam essa subsidiária há anos.

À medida que a crise fiscal da cidade de Nova York se aproximava em 1975, o Sr. Ellinghaus, o banqueiro de investimentos nova-iorquino Felix Rohatyn e outros foram convocados para papéis cruciais em um esforço de resgate. Após anos de gastos perdulários, a cidade enfrentava receitas tributárias cada vez menores e enormes déficits orçamentários; estava com pouco dinheiro para despesas operacionais; e, sem poder contrair mais empréstimos, sofria com demissões em massa, cortes de serviços e inadimplência de títulos. Washington rejeitou um pedido de socorro financeiro.