Историческите сведения ни връщат към 1833 година, когато желанието за знания събира в Чорбаджи-Лачовия хан първите петнадесетина деца, чието обучение се води на гръцки език.
С построяването на нова сграда училището от начално прераства в прогимназиално със 7 паралелки от 1 до 7 клас. До 1920 г. Харманлийската смесена прогимназия съставлява едно учебно заведение със смесената гимназия. На 01.11.1920 г. със Заповед на Министерството на просвещението смесената прогимназия се отделя като самостоятелно учебно заведение. От 1934 г. училището започва да носи името на народния поет Иван Вазов. През последните години на Втората световна война училищната сграда е използвана за военна болница, поради което обучението се води в други сгради.
В своето досегашно съществуване ОУ „Иван Вазов“ остава вярно на идеите на всеотдайно служене на просветността, духовността и българщината.
През учебната 1962/63 г. ОУ „Иван Вазов” първо в окръг Хасково преминава на кабинетно обучение. Нов етап в израстването на училището представлява разширението на училищната сграда през 1979-84 година. Материалната база се удвоява с построяването на третия етаж и ново триетажно крило с кабинети и работилници. Строителството се осъществява с безвъзмездния труд на цялата училищна общност – учителите, ученици и родители, под ръководството на директора г-жа Антоанета Стоева и заместник-директора г-н Никола Зайчев. Добрата материална база, включваща компютърен кабинет, кабинети по физика, химия, биология, трудово обучение, както и високият професионализъм на преподавателския състав, са предпоставки училището да бъде определено за базово за окръг Хасково.
Видни възпитаници на ОУ „Иван Вазов” са Атанас Маргаритов – главен диригент на Народната опера, Генчо Стоев – виден български писател, Димана Данева – поетеса, Йорданка Кузманова – заслужила артистка и много други.
Училището е новатор при въвеждането на учебен план по ранно чуждоезиково обучение в града ни. През учебната 1997/98 година се разкриват две паралелки, в които изучаването на първи чужд език започва от първи клас, а втори език – в пети. Колективът на училището полага грижи за разнообразен и интересен отдих на учениците чрез организиране на лагери, екскурзионни летувания, зелени училища и ски-обучение, екскурзии с учебна цел из нашата и други страни.
За патронния празник на училището през 2003 г. група самодейци от училищния колектив подготвя постановката „Криворазбраната цивилизация“ от Добри Войников, представена с успех пред харманлийската общественост.
От 2012 г. училището става едно от пилотните в страната при прилагане на нов модел на обучение на деца със специални образователни потребности, за които се грижи цял екип – ресурсен учител, психолог и логопед.
От учебната 2018/2019 г. директор е г-жа Светла Георгиева. В този кратък период училището става иновативно. Най-малките се отделят в самостоятелен сектор, въвежда се ранното чуждоезиково обучение, проектно базираното обучение, а усвояването на знания се съчетава с грижа за здравето на детето.
Активно се работи по програми и проекти, много от които са насочени към осигуряване на съвременна образователна среда чрез въвеждане на технологиите като ежедневие в учебната дейност.
Училището е съхранило онзи дух и традиции, които винаги са тласкали развитието му напред. Обогатявайки историческите традиции, ОУ „Иван Вазов“ и днес продължава да се утвърждава като престижно учебно заведение, където се формират личности с висока интелектуална подготовка и с ярко изразено гражданско съзнание.