A empresa foi fundada em 13 de junho de 1902 na cidade de Two Harbors, localizada na região dos Grandes Lagos, no estado americano de Minnesota, por cinco empresários locais (Henry Bryan, Hermon Cable, John Dwan, J. Danley Budd e William McGonagle). Eles decidiram explorar uma jazida mineral para a extração de um abrasivo industrial chamado Corindo, vislumbrando oportunidades promissoras para abastecer a incipiente indústria americana no início do século XX. Contudo, a jazida revelou-se de pouco valor, levando a empresa Minnesota Mining and Manufacturing Company (Companhia de Mineração e Manufatura de Minnesota, daí a origem do nome 3M) a mudar rapidamente, em 1905, para as proximidades da cidade de Duluth. Nesse momento, a empresa redirecionou seus negócios para a venda de lixas de papel e derivados, após receber investimentos do empresário Lucius Ordway.

Em 1910, a empresa transferiu suas operações para St. Paul, capital do estado de Minnesota, atraindo novos investidores. Neste período, aprimorou as lixas produzidas e modificou sua abordagem comercial, com vendedores direcionados aos usuários dos produtos, em vez de gerentes. As inovações técnicas e de marketing começaram a render resultados positivos, culminando em 1916, quando a empresa distribuiu seu primeiro lucro de 6 centavos de dólar por ação. No mesmo ano, inaugurou o primeiro laboratório de pesquisa e controle de qualidade da 3M. Destaque para a criação, no início da década de 1920, da primeira lixa à prova d’água do mundo, reduzindo poeira durante a produção de automóveis e revolucionando o mercado de pintura e acabamento de metais.

Um marco importante ocorreu em 1925, quando pesquisadores da 3M identificaram a necessidade de fabricantes de carros por um adesivo que facilitasse a pintura de carros com duas cores. Nesse contexto, Richard G. Drew, um jovem assistente do laboratório da 3M, desenvolveu o revolucionário Scotch Tape (fita escocesa), a primeira de muitas fitas adesivas sensíveis à pressão produzidas pela empresa. O nome Scotch Tape foi mantido e, hoje, é marca registrada de todas as fitas adesivas da 3M. Ao final da década de 1920, a empresa expandiu internacionalmente, formando uma Holding na Europa e estabelecendo a The Durex Corporation como seu primeiro negócio internacional.

Na década de 1930, o progresso técnico resultou no desenvolvimento da fita adesiva de celofane Scotch para selar caixas, facilitando a identificação de conteúdos e encontrando diversas outras utilidades ao longo do tempo. A empresa experimentou um crescimento significativo nesta década.

Nos anos de 1940, durante a Segunda Guerra Mundial, a 3M enfrentou desafios, mas gerou soluções inovadoras, como materiais refletores Scotchlite para a sinalização de estradas, fita magnética para gravação de som, fita adesiva de filamento e o início da participação no mercado das artes gráficas com lâminas para o processo litográfico de impressão. A empresa desenvolveu mais de 100 tipos de fitas para resolver problemas diversos, desde selagem de equipamentos balísticos até identificação de materiais.

Na década seguinte, nos anos de 1950, a empresa expandiu internacionalmente, inaugurando subsidiárias na Austrália, Canadá, França, Alemanha, México e Inglaterra. Introduziu produtos revolucionários, como o processador de cópia Thermo-Fax, o protetor de tecido Scotchgard, a fita magnética de vídeo, as esponjas de limpeza Scotch-Brite e diversos produtos eletromecânicos. Em 1963, inaugurou o primeiro laboratório de pesquisa fora dos Estados Unidos, localizado em Harlow, na Inglaterra.

Os anos de 1970 e 1980 testemunharam a expansão dos negócios para outros segmentos, como farmácia, radiologia e controle de energia. No final da década de 1970, as vendas da 3M ultrapassaram os US$ 5 bilhões. Na década de 1980, a 3M introduziu o bloco de recados adesivos Post-it, criando uma nova categoria de produtos no mercado e transformando a comunicação entre as pessoas e o comportamento das organizações desde então. Durante os anos 1990, a empresa continuou a desenvolver uma grande quantidade de produtos inovadores, incluindo modificadores farmacêuticos de resposta imune, filmes para aumentar o brilho de displays eletrônicos e circuitos flexíveis usados em impressoras de jato de tinta, telefones celulares e outros dispositivos eletrônicos.

Em 2002, a empresa oficialmente adotou o nome 3M COMPANY. Dois anos depois, as vendas globais alcançaram pela primeira vez a marca de US$ 20 bilhões com novos produtos que contribuíram significativamente para o crescimento contínuo da empresa. Em 2008, a 3M adquiriu a marca FUTURO, expandindo sua linha de produtos para incluir munhequeiras, tornozeleiras, joelheiras, cotoveleiras, cintas abdominais e meias elásticas. Nos últimos anos, a 3M lançou inovações como o bloco de recados Post-it Super Sticky, películas ópticas para televisões LCD e uma nova família de produtos de limpeza Scotch-Brite, proporcionando aos consumidores soluções ideais e inteligentes para limpeza.