ההיסטוריה של מדחסי אוויר ככלי מתוארכת לימי קדם. האדם השתמש בדחיסת אוויר במשך אלפי שנים כדי לחמם את ביתו, לבשל אוכל ולהזיז חפצים. הסוג הקדום ביותר של מדחס היה מפוח המשמש לפיצוץ אוויר דחוס על אש. יחידות הדחיסה הפשוטות הללו הופעלו על ידי אדם או בעלי חיים כדי לדחוס. אלו הוחלפו במדחסי אוויר מכניים אשר שימשו למטרות תעשייתיות. עם התקדמות המדע, המדחסים הצטמצמו בגודלם ומצאו שימושים מחוץ למפעלים ככלי עזר לצלילה מתחת למים או להנעת כלים פנאומטיים ומקדחות.
מכשירי דחיסת אוויר נמצאים בשימוש מאז שנת 2000 לפני הספירה והיו עשויים מעור. מכשירי דחיסת האוויר הראשונים הללו נשאבו ונסגרו באופן ידני. דגם זה שופר עם תוספת של ידיות ושסתומי יניקה. אבל, הגרסה החדשה יותר הייתה עדיין מכשיר בלחץ נמוך המופעל ביד או ברגל המשמש בעיקר להפעלת שריפות. מאוחר יותר הוחלפו המדחסים המונעים ברגל בגלגלי מים.
עם התקדמות המדע, הומצאו מדחסי אוויר חדשים כדי להרחיב את השימושים בדחיסה. בשנת 1650, המדען הגרמני אוטו פון גריקה, הגה משאבת אוויר בוכנה בודדת וצילינדר. בשנת 1797, המדחס הממונע הראשון תוכנן על ידי ג'ורג' מדהרסט מאנגליה. עד המאה ה-18, מדען גילה שאוויר דחוס יכול לשמש כמקור אנרגיה לכוח ולהזיז פריטים. הגילוי אירע כאשר מים רותחים במיכל התפוצצו והזיזו פריט. לאחר גילוי זה, נעשה שימוש באוויר דחוס לקידוח סלע. במאה ה-19, פריז המציאה מערכת רשת מדחס אוויר שתפעיל את השעונים שלה בדופק אוויר בכל דקה. פריז, גם במאה ה-19, התנסתה ברעיון של מערכות מדחס אוויר כחלופה לחשמל.
עם הולדת העידן התעשייתי, דחיסת אוויר זכתה לשימושים חדשים בתחום הייצור. במאה ה-20 נעשה שימוש במדחסי אוויר דחיסת בוכנה בתעשייה. בשנת 1930, מדחס הבורג, שהומצא לראשונה ב-1878 בגרמניה, הציע צורות שקטות יותר של דחיסת אוויר. עד סוף המאה ה-20 היו בשימוש שלושה סוגים עיקריים של מדחסים. מדחס הבוכנה, או מדחס הבוכנה, שימש לבתי זיקוק לנפט, צינורות גז ומפעלי קירור. הם שואבים אוויר פנימה דרך שסתום הכנסה ואז החוצה דרך שקע. הבוכנות שלו מונעות על ידי גל ארכובה כדי לספק אוויר בלחצים גבוהים. המדחסים הסיבוביים, סוג של מדחס גז, הופיעו לאחר מדחס הבוכנה. הם מספקים נפחים גדולים יותר של אוויר בלחץ גבוה וזה טוב לשימוש תעשייתי. מדחסים אלה משתמשים בתנועת טאטוא מתמשכת כדי להגביל את הפעימה. בנוסף, מדחס הסילון משתמש במים או גז בלחץ כדי לאלץ אוויר החוצה גליל או מפזר.
כיום, מדחסים משמשים בכל תחומי החיים. הם נמצאים באתרי בנייה, מפעלים, משרדי רפואה ובתים. ההיסטוריה של מדחסי האוויר תמשיך להתפתח כאשר ההתקדמות הטכנולוגית תיצור דרישות שונות לאוויר דחוס ואיכות המדחסים תשתפר.