橡皮主要由 天然橡胶和PVC（聚氯乙烯）制作而成。天然橡胶具有可逆形变的高弹性聚合物材料特性，在室温下富有弹性，能在很小的外力作用下产生较大形变，除去外力后能恢复原状，且不导电。PVC则是一种塑料材料，具有良好的柔韧性和可塑性，常用于制作各种形状和颜色的橡皮。
橡皮的种类繁多，形状和色彩各异，包括普通的橡皮、绘画用的2B、4B、6B等型号的美术专用橡皮，以及可塑橡皮等。橡皮的工作原理是利用橡胶分子和其它物质分子之间容易发生作用力，并且橡皮本身质地柔软，不破坏纸张。
早期的橡皮是用天然橡胶做的，擦字时不掉碎屑，只是把铅笔末粘在橡皮上，越擦越脏。后来，人们在制作橡皮时加入了硫磺和油等物质，使橡皮很容易掉屑，被擦掉的铅笔末随着碎屑离开橡皮，这样一来，橡皮能经常保持干净，也不会把纸弄脏了。
现代的橡皮擦除了天然橡胶和PVC外，还可能包含其他添加剂，如塑型剂、可塑性塑胶（如聚苯乙烯）等，以提高其弹性和柔韧性，使其更易于使用和携带。