计算器一般由运算器、控制器、存储器、键盘、显示器、电源和一些可选外围设备及电子配件通过人工或机器设备组成。
低档计算器的运算器、控制器由数字逻辑电路实现简单的串行运算，其随机存储器只有一、二个单元，供累加存储用。高档计算器由微处理器和只读存储器实现各种复杂的运算程序，有较多的随机存储单元以存放输入程序和数据。键盘是计算器的输入部件，一般采用接触式或传感式。为减小计算器的尺寸，一键常常有多种功能。显示器是计算器的输出部件，有发光二极管显示器或液晶显示器等。除显示计算结果外，还常有溢出指示、错误指示等。计算器电源采用交流转换器或电池，电池可用交流转换器或太阳能转换器再充电。为节省电能，计算器都采用CMOS工艺制作的大规模集成电路(见互补金属-氧化物-半导体集成电路)，并在内部装有定时不操作自动断电电路。计算器可选用的外围设备有微型打印机、盒式磁带机和磁卡机等。
计算器这一小小的程序机器实际上是从计算机中割裂出来的衍生品，但因其方便快捷的操作模式，已经被广泛应用于工程、学习、商业等日常生活中，极大的方便了人们对于数字的整合运算。
