千芝堂药店开设于明代，据出版于清乾隆十年（1744年）的老店经营目录记述，当时经营成药15个门类、624种，并有饮片加工、炮制及批发业务。
光绪七年，千芝堂由吴受臣私人经理。吴曾供职太医院，所以一部分产品销往御药房，一部分销往市内大小药房，同时还销往华北、东北及京包铁路沿线，其主要品种有活络丹、舒络丹、三黄宝蜡丸、虎骨酒、虎骨膏等。特色品种京制法半夏，通过安国药市行销全国。
清末民国以来，千芝堂经营范围除门市外还设有后柜批发和蒙藏药品专柜，并培养蒙藏语人员以便接待顾客。由于千芝堂的中药成本低、价格廉、疗效好，很受患者欢迎。随后吴振声相继开设一些分号，使千芝堂逐步发展成为20余家的联营店堂。
解放后，由于国家对千芝堂老字号的重视和扶持，使千芝堂药店生意日见红火，特别是保持了饮片为主的经营特色。在计划经济时期，药品和其它商品一样，经常发生短缺某一种成药（或饮片）的情况，而千芝堂以饮片齐全闻名北京城。八十年代千芝堂药店逐步发展成为拥有中成药、中药饮片、来料加工等服务项目的大药店。
作为北京医药界的老字号，千芝堂药店受到了医药界的重视。2000年初，崇文区医药药材公司准备编撰20万字的地方志，千芝堂的历史也是其中的重点篇章之一。
然而，几经变革，千芝堂自身的历史档案已散落各处。为此，2000年3月，千芝堂药店的赵先生专程来到北京市档案馆。由于千芝堂在解放前就是著名的老字号，档案馆利用处的工作人员建议赵先生从北平市商会的全宗目录查起。果然，记载着千百家老字号档案的北京市商会全宗中就有关于千芝堂药店的历史纪录。
