1998年2月，潘跃勇下岗在家做起了“家庭妇男”，那段日子，潘跃勇的心情灰暗到极点，为了排遣郁闷，寻找寄托，他经常抽空去新华书店看书。
一次，在书店已个小女孩不小心将酸奶全泼到了书上，导致双方争吵起来。在那一刻，一个创业的灵感在他的脑子里一闪而过：我教过书，又干过酒店销售，如果我自己办个书店，如果用最好的服务与他们竞争，就不愁没有回头客。
之后，潘跃勇在与妻子商量后，取出家里仅有的3000元钱在街边租了门面，潘跃勇的小书店就这样开张了。
刚开始的时候他们也常跟风进些畅销书来卖，可畅销书一旦进了书店就“畅销”不起来，两个星期下来，潘跃勇只卖掉几本书，一个月转眼就到，潘跃勇对房租、水电费一盘算，净亏1000元。
原来的书卖不出，再进新书又没这么多资金。无奈之下的潘跃勇想了个“下策”：为了让书店显得“货源充足”，他将从亲戚朋友那里淘来的旧书全部搬到书店，专门摆放在书店靠里面不显眼的书柜里，然后把最新的图书摆在店门口显眼的地方。
可没想到这却火了一把，一个月下来，潘跃勇发现旧书中的旧教材和辅导书卖得最快， “琢磨”生意给潘跃勇带来了回报，他很快赚到“第一桶金”。
一次偶然的机会，又让潘跃勇悟出了商机。他想，如果将自己的小书店稍加改造，做一个书店型图书馆，既能满足孩子和家长的需要，又能将书店的资源利用起来吗？
但是，开图书馆更不容易，不仅对场地有很高的要求，至少要比小书店大十几倍，而且还要收藏足够数量的书，无异于海市蜃楼。
但潘跃勇没有气馁，他以国家也没有明文规定禁止私人办为理由。经过努力，最后主管部门在经营范围里做了一点变动，允许潘跃勇经营图书馆业务。潘跃勇坐上了图书馆馆长的位置，而很多人戏称潘跃勇创办的图书馆是“书店升级版”。
图书馆如期开张后，生意十分火爆。由于这是济宁除了国有图书馆外，第一家私人创办的图书馆，纷纷涌进图书馆，一个月下来，平均每天的人流量达到2500多人。
2002年7月，潘跃勇从报纸上获悉北京市人大常委会通过了《北京市图书馆管理条例》，立刻牵动了他敏感的神经。
潘跃勇意识到，民营资本依法进入图书馆领域，一个更大的创业梦想在潘跃勇的血液里沸腾起来！在有关部门的支持下，潘跃勇在北京石景山区古城东街八角北路建立了中国第一家民营图书馆。
截至2004年5月，他在全国建立了10家民营图书馆连锁店。他将用最现代的经营管理模式与传统的文化产业实现嫁接，推进图书馆产业化。