W roku 1881 zwodowany został okręt podwodny „Fenian Ram”, ale wkrótce potem doszło do gwałtownego zerwania wszelkich kontaktów Hollanda z Fenianami, głównie w związku z kłopotami finansowymi wewnątrz organizacji Fenian oraz pomiędzy Fenianami a Hollandem. Fenianie ukradli obydwa pierwsze okręty „Holland I” oraz „Fenian Ram” i przetransportowali je do New Haven w stanie Connecticut
Holland stale pracował nad poprawieniem konstrukcji swych eksperymentalnych okrętów podwodnych, aż wreszcie, 17 maja 1897 roku, zwodował pierwszy udany okręt zbudowany za prywatne pieniądze. Okręt ten mógł pokonywać w zanurzeniu znaczne dystanse i jako pierwszy wyposażony był w osobne silniki elektryczne do napędzania śrub pod wodą oraz benzynowe do użycia przy pływaniu nawodnym. Został zakupiony – po przeprowadzeniu dokładnych testów – przez US Navy (11 kwietnia 1900) i wcielony do służby 12 października tegoż roku jako USS „Holland” (SS-1).