Juhani Jysmän tie vei yrittäjäksi vain parin vuoden työskentelyn jälkeen. Jo työskennellessään tukkuliikkeen myyntimiehenä Juhani pyöritti paria kioskia aluksi kesäaikaan. Juhani halusi jatkaa kulkua omin eväin ja perusti vuonna 1952 eräänlaisen välitysliikkeen. Yritystoiminta alkoi varsinaisesti vuosien 1952-53 vaihteessa, jolloin Juhani kiersi myymässä paperipusseja, voimapaperia, kakkurasioita ja leivosaskeja leipomoille sekä siirtomaatavaraa vähittäisliikkeille suoraan autosta. Pääasiassa Juhani myi yksin ympäri Suomen. Juhanin vaimo Eeva-Kaarina hoiti laskutusta ja pakkaamista, kunnes he ottivat oman myyntimiehen. Pikkuhiljaa firma kehittyi. Eeva-Kaarina teki elämäntyönsä Jysmän vähittäismyymälöissä, joita oli Lohjalla ja Virkkalassa. Jysmä oli Lohjalla tunnettu erityisesti omasta myymälästään. Omista myymälöistä saatiin nopeasti asiakaspalautetta tuotteista ja pystyttiin ennakoimaan kysyntää. Lohjan myymälä toimi 1955-2007.
Tuotevalikoimaan taloustavaran lisäksi tulivat jo varhain vahakankaat pöydille ja muovimatot. Jysmä sai yksinmyyntiin hyviä vahakangasmalleja ja muita mattoja ulkomailta. Muovimatot puolestaan olivat aikansa uutuustuote. Jysmä Oy oli yksi ensimmäisistä suomalaisista muovimaton valmistajista. Oman kutomon myötä tuotevalikoimaa pelkistettiin: keskityttiin mattoihin, vahakankaisin ja kodin sisustukseen ja taloustavarat jätettiin valikoimasta pois. Jysmä Oy kasvoi vähitellen. Tiloja on ajan kuluessa laajennettu.
Juhani Jysmä palkittiin vuonna 2011 elämäntyöstään yrittäjänä Uudenmaan Yrittäjien toimesta. Tunnustus myönnetään vuosittain uusmaalaiselle menestyksekkäälle pitkän linjan yrittäjälle.
Vuonna 1998 yrityksen vetovastuu siirtyi seuraavalle sukupolvelle, kun Juhani Jysmän tyttären Tean aviomies Tero Lahtinen ryhtyi Jysmän toimitusjohtajaksi. Tero johti yritystä menestyksekkäästi vuoteen 2018 saakka, jolloin toimitusjohtajan saappaisiin astui ensimmäistä kertaa suvun ulkopuolinen henkilö. Mika Kakko on vetänyt Jysmää maaliskuusta 2018 lähtien. Yritys on edelleen 100 % Jysmän suvun omistuksessa.