我们的同事肯·奥美曾向我们说到，非常正式的总经理结构体系在日本是没有市场的：“大多数日本公司都没有一个大概的组织机构图。对于公司运作享有很大权力的管理主任一般就很少出现在组织机构图中……许多代表都承担着很大的连带责任；而他们也不曾，出现在组织机构图中。比如，本田公司除了在组建项目小组时经常用到机构图之外，实际上并不清楚整个公司是如何架构的。”奥美还强调，在日本，很少有人从组织机构的角度，或者从把公司视为一个整体的角度，来谈论一家公司。
在大多数优秀的公司中，我们也同样发现，结构很简单，等级很少。还记得德尔塔航空公司、达纳公司和迪斯尼公司的情况吗？在这些公司中员工的相互调动是一条非常基本的原则。麦克弗森曾在斯坦福大学商学院的一堂课上向同学们发问：“你们知道天主教堂里有多少等级吗？”学生们想了想，能回答出的最多不过有五级——僧侣，牧师，主教，红衣主教和教皇。问题在于，即使是在教堂这么一个大型的组织中，寥寥几个等级就足以让它正常运转了。过多的等级肯定会产生出诸如决策缓慢僵化、官僚主义等大问题。在当前的情况下，似乎在一个公司里设置更多的经理没什么问题，但那些优秀公司的存在证明了所有这些等级的多余。如果它们依然存在，就会进入一种帕金森法则所描述的管理结构状态中。在这种结构里，这些多余的管理层总是要分散他人的工作精力，从而让别人证明自己的存在价值。每个人看上去都挺忙，而实际上这是名副其实的管理臃肿多余。
除了相对较简单的组织结构和较少的等级外，优秀公司通常在其结构上还有一个重要的与众不同的特点，这一点我们曾在以上的内容中提到过。但我们认为这一点对认识员工与生产率的相互关系非常重要，所以有必要在此重申这一认识。该特征就是“小即多产”。
10多年前，芝加哥大学召开过一次主题为“创造性的组织”的大会。在会议进行中间，曾发生过以下的一次论战：
彼得·彼得森（当时贝尔＆豪厄尔的总裁）：在这个行业里，我们试图创造出一类没有感情而又非常专业的经理人才，这类人不应对产品带有任何个人的感情色彩，即他本人不能“喜爱”这个产品，他本人不创造产品，但他以某种人为的方式实施管理。我曾听过特德谈论过打保龄球及他在打保龄球上的作为——他在这方面确实有自己的感觉，就和奥格威在做广告方面有感觉一样。我真的特别想知道我们是否已足够重视对伟大的烹饪事业，或是伟大的广告事业，亦或伟大的其他什么事业所付出的热忱的责任感？
戴维·奥格威（奥格威及马瑟公司的创办人）：这正是与不偏不倚对立的一面。
加维·斯坦那（芝加哥大学及本次大会的主席）：最伟大的厨师将成为厨房里最有效的领导这一理论听上去很有创造性，而且是正确的。然而这个理论难道不是只有限于那种只有一种明确的专业技能的公司或企业吗？那么在通用汽车公司或芝加哥大学，既不存在一种明确的专业技能，又没有得分，你又该怎么评价它们呢？
奥格威：这将是一个糟糕的机构，因为它过于多样化了。
斯坦那：如果缺乏“让公司分组”这种理念，那么你怎么让这种机构变得富于创造性呢？
奥格威：就是以公司分担！
彼得森：让公司分立。
由于放松监管的影响，当前的银行业正在经历着变革。变革将带来的一个变化就是有必要提供为客户量身定做的服务，比如公司的现金管理。这类业务原先都是以毫无差别的方式进行的，即在所谓的“后院办公室”，由那些非专业人士进行。芝加哥第一银行的主席巴里·沙利文最近致信全美银行协会，对此提出了自己的解决方案：“我想说的就是要把这些后院办公室拆散成独立的企业。”刚离开通用电气公司并接手担任GTE公司总裁的汤姆·范德斯利斯对他的新公司讲了自己的基本目标：“我倡导尽一切所能，把这家企业拆散成一系列好管理的小型企业。”一位评论员最近也曾讨论过3M公司能够取得持续成功的最关键因素：“只要部门膨胀到一定程度，公司就要分立该部门，像变形虫一样，把它们变成更小、更易管理的部门。”另一个3M的员工也重申：“要点只有一个：拆散、精简部门，否则竞争的活力和效率就只有去见鬼了。只有保持小巧，公司才能保持活力。”
保持较小规模的要点在于它能使得企业更易管理，更为重要的是它还能激发人们的热忱。一个经理实际上只懂得管理一个较小的企业，因为在这样一个企业里，只依赖于一条核心的纪律。即使在雇员成百上千的公司里，只要其中的部门被分割得足够小，或者存在某种其他方式的自治，个人在其中依然是重要的，而且是可以被突出的。我们早就认为突出个人的存在是非常必要的。到目前为止，我们发现，除了把部门、车间、小组等单位的规模减小到一个合理的、符合每个人个性的规模，达到能突出个人存在的目的以外，再别无他法。“小”有其独特的作用