Mürekkep, MÖ 2697 yılında, Çinli filozof Tien-Lcheu tarafından bulunmuştur. Önceleri taşlara kazınmış hiyeroglifleri siyahlaştırmada yararlanılan mürekkep, daha sonra başka amaçlarla da kullanılmaya başlanmıştır. Yine aynı tarihlerde Mısırlılar’ın da mürekkep kullandığı bilinmektedir. Asurlular, Mısırlılar, hatta Yunanlar’dan kalma, pişirilmiş toprak levhalar veya taş üzerine yazılmış pek çok yazıt günümüze kadar ulaşmıştır. Mısırlıların yeraltı mezarlarında da, siyah ve kırmızı mürekkeple yazılmış papirüsler bulunmuştur. Bu elyazmalarında tüy kalemlerin kullanıldığı sanılmaktadır. Yunanlar ile Romalılar da düşüncelerini yazı halinde ifade etmek için mürekkep kullanmıştır. Hatta Plinius, Marcus Vitrunius Polio ve Dicskorides’in eserlerinde mürekkep formülleri yer almaktadır.
Mürekkebin icadının en önemli sonuçlarından biri de insanoğlunun kâğıtla tanışması olmuştur. Eski Romalılar, Yunanlılar, Mısırlılar ve İsrailliler yazı yazmak için papirus bitkisinden ya da hayvan derilerinden yararlanmıştır. Bilinen en eski papirus kâğıdı ise MÖ 2000 yılına aittir.
Mürekkep, önceleri çok zahmetli birtakım işlemlerin sonucunda elde ediliyordu. Mürekkep yapmak için çam ağaçlarının yakılmasıyla çıkan dumandan elde edilen is, gaz yağı, misk (bir çeşit güzel kokulu madde) ve eşek derisinden elde edilen bir tür jelatinimsi maddenin karıştırılması gerekiyordu. Çinlilerden sonra başka ulusların insanları, bazı bitki ve minerallerden elde ettikleri doğal boyaları da karışıma ekleyerek mürekkebin gelişimine katkı yaptı. MS 400’lü yıllara gelindiğinde ise, daha sonra yüzyıllar boyunca kullanılacak mürekkep formülü bulundu. Bu formüle göre, mürekkebe demir tozu, meşe palamudu tozu
ve reçine gibi maddeler katılıyordu.
Bu çağlarda yaygın olarak siyah mürekkebin kullanılmasına karşın, değişik renklerde mürekkepler de yapılmaktaydı. Bazı parşömenlerde baş harflerin erguvan rengi (temel maddesi zencefre, civa sülfür ve kantaşı) mürekkeple yazıldığı görülür. Bizanslılar ise kutsal addedtikleri kırmızı mürekkebi sadece imparatorluk yazışmalarında kullanmışlardır. Hatta kırmızı mürekkebin özel yazışmalarında kullanılması yasaklayan fermanlara bile rastlanmıştır. Ortaçağ elyazmalarında ise altın ve gümüş yaldızlı çeşitli mürekkeplere rastlanılır.
Yeniçağda ise çok çeşitli ve renk renk mürekkepler ortaya çıktı. Daha sonra dolmakalem mürekkebi, kopya mürekkebi, marka mürekkebi, tipografi, litografi baskılarda kullanılan yağlı, altın, gümüş, bronz yıldızlı matbaa mürekkepleri de yapıldı.