Thông thường người ta gọi bộ nhớ cache là bộ nhớ được tích hợp trong bộ vi xử lý, có đặc điểm là tốc độ cao và được sử dụng để lưu trữ tạm thời những dữ liệu được sử dụng thường xuyên nhất.
Nhu cầu sử dụng bộ nhớ đệm được giải thích là do sự khác biệt về tốc độ trao đổi thông tin giữa bộ xử lý và các phần khác nhau của bộ nhớ máy tính. Công việc của bất kỳ ứng dụng nào bắt đầu bằng cách chuyển dữ liệu cần thiết từ một đĩa cứng tương đối chậm vào RAM (bộ nhớ truy cập ngẫu nhiên của máy tính) vào phần truy cập ngẫu nhiên động. Từ đó, chúng có thể được chuyển sang bộ nhớ đệm L2 (bộ nhớ L2) nằm trong chip xử lý hoặc trên chip SRAM riêng biệt tốc độ cao chuyên dụng nằm bên cạnh bộ xử lý. Cuối cùng, thông tin được sử dụng nhiều nhất có thể được chuyển đến bộ nhớ đệm L1 (bộ nhớ cấp đầu tiên), đây là phần dành riêng của bộ xử lý. Để so sánh, kích thước của RAM có thể là 1 GB. Việc thực thi bất kỳ lệnh nào xảy ra theo một sơ đồ nhất định: - phân tích thông tin đăng ký dữ liệu; - quét dữ liệu của bộ đệm cấp đầu tiên; - kiểm tra thông tin của bộ đệm của mức thứ hai; - phân tích dữ liệu của bộ nhớ chính; - truy cập vào bộ nhớ đĩa cứng. Thời gian bộ xử lý dành để có được dữ liệu cần thiết tỷ lệ thuận với nơi lưu trữ thông tin. Do đó, truy cập vào bộ nhớ cache cấp độ đầu tiên mất từ 1 đến 3 chu kỳ, cấp độ thứ hai - từ sáu đến mười hai chu kỳ, và đến bộ nhớ chính - hàng chục và trong một số trường hợp - hàng trăm chu kỳ. Bộ nhớ đệm đóng một vai trò đặc biệt trong quá trình hoạt động của máy chủ, bởi vì Trong những trường hợp này, lưu lượng bộ xử lý tới bộ nhớ có thể rất quan trọng. Cấu trúc bộ nhớ đệm cũng phục vụ mục đích thu hẹp khoảng cách giữa tốc độ bộ xử lý, vốn đang tăng 50% hàng năm và tốc độ dữ liệu RAM, chỉ tăng 5%. Sự phát triển liên tục của cấp độ thứ ba và thứ tư của bộ nhớ cache dường như là những bước hợp lý theo hướng này. Một hướng phát triển khả dĩ khác có thể là chuyển đổi sang quản lý bộ nhớ đệm theo chương trình.
