系统架构图属于系统设计阶段，系统架构图只是这个阶段一个产物，要正确的、合理的画系统架构图需要全面的理解用户需求以及业务流程，当理解了这些东西后，剩下的就是如何进行表达了，一般而言，可以参照RUP的用例驱动来进行逻辑架构，开发架构等设计工作，你的系统架构图可以反应在各个视图里面，我估计你所说的系统架构图是属于逻辑架构里面，比如分多少层，每层分多少模块等。
至于，绘制的工具，有很多很多。可以选择微软的visio,或者EA,rose,power designer等UML建模工具，当然，你甚至可以用PPT,Word来绘制。
当然，系统架构不是一日之功，需长期努力，跟经验和技术都有很大关系。