Little, Brown and Company tenía sus raíces en el comercio de venta de libros. Fue fundada en 1837 en Boston por Charles Little y James Brown. Formaron la sociedad «con el propósito de publicar, importar y vender libros». Sus raíces se remontan a 1784, cuando Ebenezer Battelle tenía una librería en Marlborough Street. Publicaban obras de Benjamin Franklin y George Washington y estaban especializados en la edición legal y la importación de títulos. Durante muchos años, fue la editorial jurídica más extensa de Estados Unidos, y también el mayor importador de obras jurídicas y misceláneas inglesas estándar, presentando a los compradores estadounidenses la Encyclopædia Britannica, los diccionarios de William Smith y muchas otras obras estándar. En los primeros años, Little and Brown publicó las Obras de Daniel Webster, la Historia de los Estados Unidos de George Bancroft, Ferdinand e Isabella de William H. Prescott, el primer libro de poesía de Jones Very (editado por Ralph Waldo Emerson), las Cartas de John Adams y obras de James Russell Lowell y Francis Parkman. Little, Brown and Company fue el editor estadounidense de The Decline and Fall of the Roman Empire, de Edward Gibbon.
La empresa fue el editor original de United States Statutes at Large a partir de 1845, bajo la autoridad otorgada por una resolución conjunta del Congreso. En 1874, el Congreso transfirió la autoridad para publicar los Statutes at Large a la Government Printing Office, que ha sido responsable de producir el conjunto desde entonces. 1 U.S.C. § 113 sigue reconociendo que su edición de las leyes y tratados de los Estados Unidos es una prueba competente de las diversas leyes públicas y privadas del Congreso, los tratados y los acuerdos internacionales que no sean tratados de los Estados Unidos.
En 1853, Little, Brown comenzó a publicar las obras de los poetas británicos desde Chaucer hasta Wordsworth. Se publicaron noventa y seis volúmenes de la serie en cinco años.
En 1859, John Bartlett se convirtió en socio de la firma. Tenía los derechos de sus Familiar Quotations, y Little, Brown publicó la 15ª edición de la obra en 1980, 125 años después de su primera publicación. John Murray Brown, hijo de James Brown, tomó el relevo cuando Augustus Flagg se retiró en 1884. En la década de 1890, Little, Brown se expandió hacia la publicación general, incluyendo la ficción. En 1896, publicó Quo Vadis. En 1898, Little, Brown adquirió una lista de títulos de la firma Roberts Brothers. Entre los empleados del siglo XIX se encontraba Charles Carroll Soule.