黄瓜原来不是中国内地的蔬菜。汉朝时，张骞奉汉武帝之命出使西域，从“胡人”那里带回来许多好吃好看好玩的东西。这些好东西也从宫廷流传到了民间，在内地推广开来，黄瓜就是其中之一。所以，黄瓜起初被称为“胡瓜”，它和大蒜（葫）、芫荽（胡荽）、芝麻（胡麻）、核桃（胡桃）、蚕豆（胡豆）以及石榴、葡萄、无花果等很快在中原地区落地生根了。
到了隋朝，一次厨子给隋炀帝端上一盘菜，隋炀帝问是什么菜名，厨子说是凉拌胡瓜。隋炀帝很不高兴，即令将胡瓜改名为黄瓜。从此，才有了黄瓜这个名字。
明朝初期，有一年的寒冬腊月，身为皇帝的明太祖朱元璋突然觉得吃什么都没胃口，他只想吃黄瓜。于是，宫里立刻派太监四处寻找黄瓜。最后，终于在京城的一条小巷里看到一个人在卖两根新鲜的黄瓜。但两根鲜黄瓜的价钱却是200两银子。太监嫌贵，那人说不买就算了，他要自己吃。说着，那人拿起一根黄瓜，三两口就吃完了。太监一看，急忙乖乖地掏出了100两银子。卖黄瓜的人说，现在一根黄瓜也要卖200两银子。太监刚想说话，那人又拿起剩下的唯一一根黄瓜，要把它往嘴里送。太监只好又乖乖地拿出100两银子，买下了那根黄瓜，拿回去给朱元璋吃。看来，黄瓜也有奇货可居的时候。
清朝的慈禧太后虽然是个“皇上”级的美食家，但她却不喜欢吃黄瓜。但在清代的京城，正月里的黄瓜卖得跟现在的燕窝鱼翅一样贵。嘉庆间《京都竹枝词》说：“黄瓜初见比人参，小小如簪值数金。微物不能增寿命，万钱一食亦何心？”
清朝文人在一则笔记中写到，有一个才子在初春时节来到北京，当地的文人在饭馆宴请他。席间，大家让这位才子点一道菜。才子推辞不过，又不想让众人破费，他想，黄瓜应该是最便宜的，就笑着点了一盘凉拌黄瓜。不料，才子刚点完这道菜，在座的众人都面露不悦之色。因为，一盘凉拌黄瓜比整桌酒席的价钱还要贵得多。
