Le gouvernement fédéral décide de faire d'Alcatraz une prison modèle, offrant un maximum de sécurité vis-à-vis des évasions et n'accordant que peu de privilèges aux détenus qui ne pouvaient négocier leurs conditions d'incarcération. Il était ainsi question de montrer au public à l'époque que le gouvernement fédéral était résolu à enrayer la hausse de la criminalité. Mais d'après les témoignages d'ex-prisonniers, les conditions d'incarcération à Alcatraz étaient meilleures que dans les autres prisons fédérales et que beaucoup de détenus y demandaient leur transfert. Alcatraz a accueilli les détenus les plus dangereux du pays.
Al Capone, George « Machine-Gun » Kelly, Alvin Karpis (ennemi public n°1), et Arthur « Doc » Barker y ont purgé leur peine. Beaucoup des 1 576 prisonniers qui passèrent par Alcatraz y étaient détenus non pour leurs crimes, mais parce qu'ils refusaient de se conformer aux règles dans les autres prisons fédérales, étaient considérés comme violents ou présentaient de forts risques d'évasion. La vie à Alcatraz était très structurée, ce qui obligeait les détenus à suivre scrupuleusement les règles édictées.