墨的产生与人类书写或描绘的行为紧密相关，自然可以追溯到极为久远的年代。前人由于认识的局限，故称“上古无墨”。近代以来，随着考古学的不断发展，一些有关墨的文物陆续被发现，这些直接或间接的考古材料为人们大致勾勒出了墨的起源和发展轨迹。
  河南殷墟出土的甲骨文上，有用朱和墨书写文字的痕迹，表明在甲骨文上书写的文字，红是朱砂，墨是碳素单质，这证明朱砂和墨在殷代就开始被巫人用来书写文字了。在商代石、玉、陶器的表面，也曾发现过墨书的遗存。秦汉及魏晋时期是墨史上一个重要的时期，以松烟墨的大量流行及“韦诞制墨方”的出现为标志，中国古代制墨工艺经历了一个大的变革而进入了成熟斯。但是，松烟墨到了魏晋时才由丸状变化为挺状，这与当时用胶配方的改进有很大的关系。丸状是因为用胶不多，加上胶的质量不是很高，很难把墨丸做得大。墨丸小，就不能用手捉住研磨。由于松烟墨是动物胶加工调合成形的，而动物胶则容易受潮生霉，失去粘合性能，墨的形体便由此自行损坏。
  隋唐时代，制墨更加受到重视，政府设官办厂，其中，墨官最著名者为祖敏，制墨之妙名闻天下。产地也由前代的扶风、隃糜、延州扩展到易水和潞州，这些地方不但产松，而且所产之松皆很名贵，为制造上等墨创造了有利条件。在唐代制墨中已有多种颜。《唐书·韦述传》
载，韦述家藏书宏富，全都都经他亲自校点，“黄墨精谨，内秘书不逮也。”黄墨，是用雌黄研细加胶合制的墨，多用于修改文稿或者点校图书。朱墨更是被当时徽州居民制墨家传户习，广泛使用，它是用朱砂研细加胶而成，但容易褪。
  唐末五代由于战乱频繁，大量北方墨工纷纷南迁，制墨中心亦随之转移。此后，徽墨雄踞天下，在制墨业中占据主导地位。宋代由于科举制度的发展和书画艺术的繁荣，文人学士对墨的需求更为扩大，这也刺激了制墨的发展，墨的生产以徽墨为龙头，范围不断增大。墨模在唐代的制墨业中逐渐地普及。墨的烟料捣杵原来尽用人力，因为人的握力有限，所以墨模便应运而生。墨模的压力大，因此而制成的墨质坚实而耐用。同时，由于墨模的出现，墨的形状也越来越丰富多彩。在江苏丹徒的南朝墓葬中，曾出土一锭扁圆柱体墨，长３厘米，宽阴识4.2厘米，厚1.9厘米，墨纯黑，质坚硬，据分析可能是用模压制成的。当时的地方政府每年要向朝廷进贡龙凤墨四斤。