Kastil baru ini akan berfungsi sebagai titik persiapan pasukan Oda di mana mereka dapat melancarkan serangan terhadap Kastil Inabayama.
Namun, Sunomata berlokasi di dalam wilayah musuh dan setiap pekerjaan konstruksi kemungkinan besar akan dihalangi oleh pasukan Saito.
Tetapi Hideyoshi punya rencana.
Hideyoshi mulai dengan menebang pohon di tepi seberang Sungai Nagara dan membuatnya menjadi bagian-bagian prefabrikasi dari dinding dan menara kastil.
Ini kemudian diapungkan ke sungai dengan rakit dan dipasang kembali di Sunomata dalam waktu satu malam.
Keesokan paginya ketika Saito Tatsuoki memandang ke bawah dari Benteng Inabayama, dia menemukan sebuah benteng yang kokoh, yang tampaknya muncul dalam semalam, hawa dingin merambat di punggungnya.
Pada kenyataannya, "benteng" itu tidak lebih dari kerangka dengan fasad, dimaksudkan untuk mengintimidasi, mengejutkan dan menurunkan moral musuh secara psikologis.
Tak berhenti di situ saja, anak buah Hideyoshi dengan cepat mengubah kerangka benteng menjadi kastil lengkap.
Pada 1567, dengan bantuan Hideyoshi, Nobunaga berhasil melancarkan serangan yang meyakinkan di Benteng Inabayama.
Pasukannya yang berjumlah sekitar lima ribu pasukan menyeberangi Sungai Kiso dan berbaris langsung ke kota kastil Inoguchi (sekarang kota Gifu) menarik dukungan dari banyak pengikut Saito di sepanjang jalan.
Pengepungan itu memakan waktu sekitar dua minggu.
Menjelang akhir pengepungan, Hideyoshi memimpin rombongan kecil mendaki tebing curam Gunung Kinka, menyusup ke kastil dari bagian belakang yang tidak dijaga, dan membuka gerbang depan, sehingga pasukan penyerang dapat masuk.
Setelah Tatsuoki dikalahkan, Nobunaga mengklaim kastil tersebut dan menamainya Kastil Gifu.
Kastil saat ini di Sunomata adalah rekonstruksi yang dibangun pada 1991, mengikuti model dari Kastil Ogaki di dekatnya.
Kastil ini berfungsi sebagai museum yang menyoroti sejarahnya.