爱华网古医书《外台秘要》曾说，用杨枝将一头咬软，蘸了药物揩牙，可使牙“香而光洁”， 咀嚼嫩树枝用以洁牙的效果似乎也不错，李时珍也说，用嫩柳枝“削为牙枝，涤齿甚妙”。
在还没发明牙膏和牙刷的古代，中国人用树枝、盐、药物等工具来清洁牙齿，希望能达到清洁、消炎抑菌，并带来些微清香的效果。牙膏问世前，西方人发明了牙粉。它是碳酸钙和肥皂粉的混合物，其功能是保持牙齿清洁，除却污渍。但牙粉pH值高，会引起口腔组织发炎。今天，人们对牙膏的期望早已超出了清洁，而是希望牙膏能起到更多口腔保健的作用。
牙膏的组成
牙膏是由摩擦剂、保湿剂、增稠剂、发泡剂、芳香剂、水和其他添加剂(含用于改善口腔健康状况的功效成份)组成的。不管什么牙膏，其中主打成分都是摩擦剂，清洁作用主要由摩擦剂完成。其他添加剂还包括防腐剂、着色剂等等。
摩擦剂
摩擦剂是牙膏中含量最多的成分(约25%-60%)，用以加强牙膏的摩擦作用和去污能力并磨光牙面。摩擦剂要具有一定的摩擦作用，但又不能损伤牙面及牙周组织，也不能与牙膏中的药物发生作用。特别是含氟牙膏的摩擦剂，要求与氟离子具有相容性，能保持氟离子的活性。此外，摩擦剂的细度和颗粒外形等均能影响膏体的质量。
牙膏中常用的摩擦剂有：碳酸钙、磷酸氢钙(摩擦力较强，因此在特制除烟迹的牙膏中，可在二水盐中混入5%-10%无水盐)、焦磷酸钙(由于它不和含氟化合物发生反应，可用作含氟牙膏的基料。 )
保湿剂
湿润剂可防止牙膏在软管中固化变硬，使膏体具有光泽，并能降低膏体的冰点，使牙膏在寒冷地区亦能正常使用。用于牙膏中的湿润剂有甘油、山梨醇、聚乙二醇等。山梨醇还能赋予牙膏适度的甜味。
二甘醇作为一种保湿剂也曾用在牙膏中，但被发现有低毒性，并在2007年被美国、日本、加拿大等国家先后禁止，我国国家质检总局也随后发出了禁止使用的公告，并在在2009年公布的牙膏新国标(GB8372-2008)中明确禁止添加。如作为杂质带入，在牙膏中的含量不得超过0.1%。
表面活性剂
表面活性剂有洁净、发泡能力，可以渗透、疏松牙面污物，使之成为乳化状或悬乳状，易被牙刷和摩擦剂从牙面上洗刷下来，随漱口水吐掉。此外，它还具有轻微的灭菌作用，并且与摩擦剂具有较好的相容性。表面活性剂的过量使用会显著地降低牙膏的香味。配方中用量一般为2～3%，普遍使用的是月桂醇硫酸钠。
增稠剂
增稠剂常见为CMC(羧甲基纤维素钠)，目的是将牙膏中多种原料成分有机地粘合在一起制成膏状，不过新国标已经取消了对稠度的要求。
香料
采用各种香料加以巧妙的配比，精心调制，加入到牙膏中，使刷牙者感到爽口舒适，并有助于减轻口臭。牙膏的香味是消费者选购何种牙膏的一个重要指标。牙膏用香料主要是薄荷，此外，还可使用水果类香料和绿茶味等，但作为牙膏香料来说是有严格限制的，也不要求一定含有。
药物
为了达到防治口腔常见疾病的目的，在牙膏中加入某些药物，如氟化物、化学杀菌剂等，用于预防龋齿和牙周疾病。
防腐剂
牙膏生产过程中时常会受到微生物污染的威胁，因此有必要在牙膏配方体系中添加一定的防腐剂。牙膏中的防腐剂有苯甲酸和对羟基苯甲酸酯类。至于媒体所说的会致癌的三氯生，在2009年的新国标中，已被列入到允许添加的防腐剂中，但明确不得超过0.3%。
