Północną stronę placu stanowiła ulica „Młyńska” (), tuż po wojnie krótko znana jako „Młynarska”. Łączyła ona Wysoką Bramę z dawną Bramą Młyńską. Po wyburzeniu zniszczonych kamienic w latach 50. przestała istnieć jako oddzielna ulica.
W północnej części Targu Rybnego, przy dawnej ul. Młyńskiej stoi odbudowany w 1989 roku Dom „Gazety Olsztyńskiej”, który przed zburzeniem przez hitlerowców w 1939 roku nosił adres „Młyńska 2".
Historia Targu Targ powstał w miejscu wolnej przestrzeni graniczącej z murami miejskimi, po powiększeniu miasta o dzielnicę północną w drugiej lokacji w 1378 roku. Stanowił drugie, po Rynku Starego Miasta, miejsce targowe w Olsztynie. Pierwotnie znany był jako Targ Świński. Nazwa Targ Rybny pojawia się na planach miasta już z początku XIX stulecia.
Po II wojnie światowej zburzono większość budynków stojących przy placu, które były w stanie nienadającym się do odbudowy. Nazwę placu przemianowano wtedy na cześć gen. Karola Świerczewskiego „Waltera”. Mieszkańcy Olsztyna nadali mu wtedy potoczną nazwę Karolek. W latach 60. XX wieku zabetonowano plac, a wokoło ustawiono latarnie uliczne i ławki. Z początkiem lat 90. XX wieku, nazwa placu została z powrotem zmieniona na nazwę przedwojenną – „Targ Rybny”. Postanowiono odbudować kamienice stylizowane na zabudowę przedwojenną.