Місце, де зараз розташований парк Шмідта, з першої половини XIX століття бердянці називали митною площею, через митну заставу, яка була розташована поруч. Навіть після того, як митниця переїхала, ця назва зберігалася аж до жовтневої революції. До осені 1878 року на місці старої Митної площі «смердюче болото, що не висихало навіть серед літа, було зовсім засипано баластом…». «У місті немає нічого схожого на сад, жителі рішуче не мають місця для прогулянок», — писав начальника порту і міста Петро Петрович Шмідт. 9 листопада 1878 року у зверненні до міської думи Петро Шмідт просив «дати йому з наявного в міському саду розплідника 300 молодих дерев і чагарників і асигнувати 100 рублів для закладки скверу».
Міська дума не винесла конкретного рішення, тож у березні 1879 року Петро Шмідт розпорядився власними коштами насадити дерева. Цікаво, що сквер було висаджено без відома і згоди міської думи та всупереч найвище затвердженому плану міста. Міський голова Іван Деметріадіс вважав це «прямим порушенням статей міського положення». На честь градоначальника бердянці стали іменувати сквер Шмідтовським. Навколо території встановили красиву металеву огорожу і монументальні ворота з гербом міста та двома кам’яними арками для входу й виходу. Наприкінці скверу на кам’яному постаменті встановили гармату з військового корабля «Боєць», підняту з дна моря 1863 року, вона стала першим бердянським пам’ятником, що нагадував про Кримську війну. 
Згідно з міською легендою, знаменитий радянський письменник, філософ і палеонтолог Іван Єфремов, будучи гімназистом, 1916 року разом із товаришами зробили постріл із цієї гармати.
На початку ХХ століття було проведено подальші роботи з благоустрою скверу: встановлюють скульптури, розбивають квіткові клумби, трав’яні газони, прокладають доріжки алеями, висаджують нові дерева, будують естраду. Регулярно в міському саду грав духовий оркестр. У середині 20-х років минулого століття сквер іменувався «Пролетарським», але ця назва не прижилася і залишилася тільки в архівних документах.
У період німецької окупації міста в 1941-1943 роках парк значно постраждав: 
було вирубано дерева, зруйновано встановлені в ньому пам’ятники. Символічно, що на місці, де був пам’ятник часів Кримської війни, бердянці встановили монумент морякам-десантникам Азовської морської флотилії, які загинули 1943 року під час звільнення Бердянська. Поруч із бронзовим пам’ятником — могила воїнів-визволителів. Після війни сквер було перейменовано на парк імені Пушкіна. Бердянцям чимало довелося потрудитися, щоб повернути йому колишню красу: було відновлено арку головного входу, висаджено нові дерева та чагарники, збудовано літній кінотеатр. У повоєнні роки під час об’єднання міського скверу і подвір’я колишнього католицького костьолу, територія парку збільшилася. Зникла Лермонтовська вулиця, дорога була розібрана і від неї залишилася тільки зливова канава, яка тепер перетинає парк Шмідта. 
Згодом зникла й проїжджа частина вул. Ульянових у північній частині парку. У 1973 році міському парку було присвоєно ім’я П.П. Шмідта, тоді ж було розібрано старовинну вхідну арку, а перед головним входом встановлено бронзове погруддя легендарного лейтенанта Шмідта. Сьогодні парк площею 3,5 га охороняється як пам’ятка садово-паркового мистецтва місцевого значення. До недавнього часу в парку росло близько 70 видів декоративних дерев і чагарників. Основу насаджень складають: акація біла, в’язи, верби, дуб черешчастий і червоний, катальпа, каркас (який називають «залізне дерево»), клени, осика, софора японська, тополя чорна і біла, черемха, ясени. З чагарників — бирючина звичайна, жимолость татарська, бузок, маслина вузьколиста. 
Парк став домівкою для багатьох видів птахів: шпаків, іволг, диких голубів, синиць, зябликів, граків, Ясен, айлант, біла акація, софора та інші види виділяють у повітря велику кількість фітонцидів, які очищають атмосферу від хвороботворних бактерій.
Клени, ясени створюють гарний заслін від шуму, що дуже важливо для міста з великою кількістю транспорту та розважальних закладів. Тополя срібляста, в’яз, каркас чудові біопилососи, що очищають повітря від пилу. Рослинність парку викликає позитивні емоції, і прогулянки в ньому є прекрасною естетотерапією.