并发程序是指 同时进行多个任务的程序。在操作系统中，并发指的是一个时间段内几个程序都处于已启动运行到运行完毕之间，且这些程序都是在同一个处理机上运行，但任一个时刻点上只有一个程序在处理机上运行。并发程序可以是单线程的，也可以是多线程的，关键在于它们能够在同一时间段内交替执行任务，提高系统资源的利用率和任务执行速度。
并发的实质是一个物理CPU（也可以多个物理CPU）在若干道程序之间多路复用，并发性是对有限物理资源强制行使多用户共享以提高效率。并行性则是并发性的特例，指的是在同一时刻，多核处理器能够同时运行多个程序。
实现并发技术的关键之一是如何对系统内的多个活动（进程）进行切换。并发程序之间可能存在相互制约关系，直接制约体现为一个程序需要另一个程序的计算结果，间接制约体现为多个程序竞争某一资源，如处理机、缓冲区等。
在程序设计角度，并发编程希望通过某些机制让计算机可以在一个时间段内执行多个任务，从而提高程序运行的效率。在现代互联网技术中，因为并发能够提高系统性能和提高用户体验，所以并发编程已经成为互联网开发中的一个必修技能。