江戸時代後期、長崎半島の西の沖合に浮かぶ小さな島で石炭が発見された。以来、漁師らによってその露出炭が採取され長崎などの町で売られていたという。このころの文献には島の名前は「はしの島」「初島」「端島」などと表記されており、その面積は現在の1/6に満たない小さな岩礁のような島だった。
明治に入ると本格的に竪坑が掘られ、良質な石炭の産出地として注目されるようになる。1890年には三菱社によって買収され第2第3の竪坑が開かれるとともに、埋め立てや護岸工事によって島の面積は段階的に拡張された。製塩工場や蒸留水機、社立の尋常小学校などもつぎつぎと設立され、住環境も整えられていった。明治末期には現在とほぼ同じ大きさの人工島に成長し、人口は2,000人に達した。
石炭の産出量にあわせて増え続ける島の人口。せまい人工島になんとか居住空間を確保すべく、住宅建設には工夫が凝らされた。3階建てや4階建ての木造長屋にとどまらず、コンクリート製の床板を木の柱で支えるというユニークな5階建てアパートなども出現した。さまざまな構造が試された末、1916年には日本初となる鉄筋コンクリート造(RC造)アパート「30号棟」が建設された。東京の初期RC造建築として知られる同潤会青山アパートの建設が10年後の1926年であったことを考えると、この30号棟がいかに画期的な建築だったかがわかる。
一方、前例のない建築ゆえにいくつかの欠陥もあった。屋上に排水溝がないため大雨時は階段が滝のようになったり、横なぐりの雨水が戸袋を伝って室内に侵入したりと、特に排水周りには深刻な問題を抱えていたようだ。しかしそれ以上に、7階建てのアパートで人口密度を高められたことは、この島にとってとても革新的なことだった。
より多くの労働力を確保するため、その後も次々とRC造のアパートが建てられていく。30号棟の問題点を改善しさらに高層化した16号棟や17号棟などが出現し、端島はコンクリートの箱がひしめき合う姿を呈するようになった。
出炭量が増え、人口が増え、RC造アパートが増えていく中、1921年に地元の新聞紙面で端島が紹介された。海から見たその姿が戦艦「土佐」(当時、三菱造船長崎造船所で建造中)に似ているとして、記事の中で端島は「軍艦島」と称された。これ以降、この島は「軍艦島」と呼ばれるようになった。