Память компьютера
<<  Оперативная и долговременная память Долговременная память  >>
Организация памяти
Организация памяти
Иерархии памяти
Иерархии памяти
Схема иерархического построения памяти
Схема иерархического построения памяти
Интерливинг
Интерливинг
Организация кэш-памяти
Организация кэш-памяти
Структура кэш-памяти
Структура кэш-памяти
Оперативная память
Оперативная память
Контроллер
Контроллер
Поиск данных
Поиск данных
Основные вопросы организации кэш-памяти
Основные вопросы организации кэш-памяти
Алгоритмы отображения
Алгоритмы отображения

Пример «буксования» кэш-памяти
Пример «буксования» кэш-памяти

Зависимость количества промахов
Зависимость количества промахов

Сравнение алгоритмов отображения адресов
Сравнение алгоритмов отображения адресов
Алгоритмы записи
Алгоритмы записи
Алгоритмы замещения кэш-строк
Алгоритмы замещения кэш-строк
Алгоритм замещения
Алгоритм замещения
Размер линии кэш-памяти
Размер линии кэш-памяти
Основные параметры кэша
Основные параметры кэша
Процессор
Процессор
Эффективное использование иерархии памяти
Эффективное использование иерархии памяти
Схема иерархической памяти
Схема иерархической памяти
Последовательный обход данных
Последовательный обход данных
Размещение массива в памяти
Размещение массива в памяти
Пример обхода данных
Пример обхода данных
Перемножение матриц
Перемножение матриц
Эффект «буксования» кэша
Эффект «буксования» кэша
Пример «буксования» кэша
Пример «буксования» кэша
Массив
Массив
Решение уравнения
Решение уравнения
Рекомендации
Рекомендации
Компиляторы языка
Компиляторы языка
Ключи оптимизации компилятора
Ключи оптимизации компилятора
Примеры использования различных ключей оптимизации
Примеры использования различных ключей оптимизации
Помощь компилятору
Помощь компилятору
Точность вычислений
Точность вычислений
Презентация «Кэш-память». Размер 399 КБ. Автор: markova.

Загрузка...

Кэш-память

содержание презентации «Кэш-память.ppt»
СлайдТекст
1 Организация памяти

Организация памяти

Организация памяти.

2 Иерархии памяти

Иерархии памяти

Иерархии памяти. Идея иерархической (многоуровневой) организации памяти заключается в использовании на одном компьютере нескольких уровней памяти, которые характеризуются разным временем доступа к памяти и объемом памяти. (Время доступа к памяти это время между операциями чтения/записи, которые выполняются по случайным адресам.) Основой для иерархической организации памяти служит принцип локальности ссылок во времени и в пространстве. Локальность во времени состоит в том, что процессор многократно использует одни и те же команды и данные. Локальность в пространстве состоит в том, что если программе нужен доступ к слову с адресом A, то скорее всего, следующие ссылки будут к адресам, расположенным по близости с адресом A. Из свойства локальности ссылок следует, что в типичном вычислении обращения к памяти концентрируются вокруг небольшой области адресного пространства и более того, выборка идет по последовательным адресам. Время доступа к иерархически организованной памяти уменьшается благодаря следующему сокращению количества обращений к оперативной памяти совмещению обработки текущего фрагмента программы и пересылки данных из основной памяти в буферную память.

3 Схема иерархического построения памяти

Схема иерархического построения памяти

Схема иерархического построения памяти.

4 Интерливинг

Интерливинг

Интерливинг.

5 Организация кэш-памяти

Организация кэш-памяти

Организация кэш-памяти. Кэш-память это высокоскоростная память небольшeго размера с прямым доступом. Она предназначена для временного хранения фрагментов кода и данных. Кэш-память охватывает все адресное пространство памяти, но в отличие от оперативной памяти, она не адресуема и невидима для программиста. Схема построения кэш-памяти Кэш-память построена на принципе локальности ссылок во времени и в пространстве. Кэш-контроллер загружает копии программного кода и данных из ОП в кэш-память блоками, равными размеру строки за один цикл чтения. Процессор читает из кэш-памяти по словам. Кэш-контроллер перехватывает запросы процессора к основной памяти и проверяет, есть ли действительная копия информации в кэш-памяти.

6 Структура кэш-памяти

Структура кэш-памяти

Структура кэш-памяти.

7 Оперативная память

Оперативная память

Схема иерархического построения памяти. Кэш инструкций 1-го уровня (L1I). Кэш 2-го уровня (L2). Кэш 3-го уровня (L3). Оперативная память (RAM). Кэш данных 1-го уровня (L1D). Регистры.

8 Контроллер

Контроллер

Организация кэш-памяти. Когда контроллер помещает данные в кэш- память? Загрузка по требованию (on demand). Спекулятивная загрузка (speculative load). Алгоритм предполагает помещать данные в кэш-память задолго до того, как к ним произойдет реальное обращение. У кэш-контроллера есть несколько алгоритмов, которые указывают, какие ячейки памяти потребуются процессору в ближайшее время.

9 Поиск данных

Поиск данных

Организация кэш-памяти. Когда контроллер выполняет поиск данных в памяти? после фиксации промаха (сквозной просмотр). одновременно с поиском блока в кэш-памяти, в случае кэш-попадания, обращение к оперативной памяти прерывается (отложенный просмотр).

10 Основные вопросы организации кэш-памяти

Основные вопросы организации кэш-памяти

Основные вопросы организации кэш-памяти. Алгоритм отображения адресов основной памяти в кэш-память. Алгоритм записи данных и команд из кэш-памяти в основную память. Алгоритм замещения строки в кэш-памяти. Размер кэш-памяти. Длина строки в кэш-памяти.

11 Алгоритмы отображения

Алгоритмы отображения

Алгоритмы отображения. Прямой (direct mapping). Ассоциативный (full associative mapping). Множественно-ассоциативный (set-associative mapping).

12

13 Пример «буксования» кэш-памяти

Пример «буксования» кэш-памяти

Пример «буксования» кэш-памяти (32 K) (cache trashing). real*8 a(4096),b(4096),c(4096) common a,b,c do i=1,4096 c(i)=a(i)+b(i) enddo.

14

15 Зависимость количества промахов

Зависимость количества промахов

Зависимость количества промахов в кэш-память в зависимости от объема кэш-памяти и степени ассоциативности для длины троки 32 байта.

16

17 Сравнение алгоритмов отображения адресов

Сравнение алгоритмов отображения адресов

Сравнение алгоритмов отображения адресов. Прямой 1 блок – 1 строка Плюс: быстрый поиск, маленькие теги, простая реализация Минус: пробуксовка кэша (Полностью) ассоциативный 1 блок – любая строка Плюс: нет пробуксовки кэша Минус: медленный поиск, большие теги, сложная реализация Множественно-ассоциативный 1 блок – несколько строк Компромиссный вариант.

18 Алгоритмы записи

Алгоритмы записи

Алгоритмы записи. Сквозная запись (Write Through (WT)). Сквозная запись с буфери-зацией (Write Combining). Обратная запись (Write Back (WB)).

19 Алгоритмы замещения кэш-строк

Алгоритмы замещения кэш-строк

Алгоритмы замещения кэш-строк. Least Recently Used (LRU) Most Recently Used (MRU) Pseudo-Least Recently Used (PLRU).

20 Алгоритм замещения

Алгоритм замещения

Алгоритм замещения (алгоритм псевдо-LRU).

21 Размер линии кэш-памяти

Размер линии кэш-памяти

Каким должен быть размер линии кэш-памяти? Размер линии должен быть как минимум в ширину канала памяти Большой размер -- Более эффективное использование канала памяти при последовательном доступе -- Позволяет уменьшать «ассоциативность» кэша и количество линий Маленький размер -- Более эффективное использование канала памяти при произвольном доступе -- Заполнение можно делать за одну транзакцию к памяти.

22 Основные параметры кэша

Основные параметры кэша

Какими должны быть основные параметры кэша? Размер кэша Большой, чтобы вместить рабочие данные Маленький, для быстрого доступа Степень ассоциативности кэша Большая, чтобы избегать пробуксовки Маленькая, для быстрого доступа Размер строки кэша Большой, чтобы использовать локальность Большой, чтобы уменьшить теги Маленький (доля полезных данных в кэше больше, если данные в памяти распределены произвольным образом).

23 Процессор

Процессор

Процессор. Pentium 4, Xeon (Northwood). Itanium2. Opteron. Alpha 21264. PowerPC 970FX. Программные регистры. 8 целочисл. (32 бит), 8 веществ. (80 бит), 16 векторных (128 бит). 128 целочисл. (64 бит), 128 веществ. (82 бит), 64 предикатных (1 бит), 8 регистров ветвлений (64 бит), 128 прикладных регистра. 16 целочисл. (64 бит), 8 веществ. (80-бит), 16 векторных (128-бит). 32 целочисл. (64 бит), 32 веществ. (64 бит). 32 целочисл (64 бит), 32 веществ. (64 бит), 16 векторных (128-бит). Аппаратные регистры. Целочисл. 128 (32 бит), веществ. 128 (128 бит). Соответствуют программным. 40 целочисл., 120 веществ. 80 целочисл., 72 веществ. 32 + 48 целочисл., 32 + 48 веществ., 16 + 16 векторных. Кэш данных L1. 8 KB, 4-way, строка 64 B, 16 KB, 4-way, строка 64 B, 64 KB, 2-way, строка 64 B, 64 KB, 2-way, строка 64 B, 32 KB, 2-way, строка 128 B, Кэш команд L1. Кэш трасс, 12 K микроопераций, 8-way. 16 KB, 4-way, строка 64 B, 64 KB, 2-way, строка 64 B. 64 KB, 2-way, строка 64 B, 64 KB, прямого отображения, Кэш L2. 512 KB, 8-way, строка 64B, 256 KB, 8-way, строка 128B, 1 MB, 16-way, строка 64 B, 1 – 4 MB, внешний, 512 KB, 8-way, строка 128B, Кэш L3. 1.5 – 9 MB, 12-way, строка 128B,

24 Эффективное использование иерархии памяти

Эффективное использование иерархии памяти

Эффективное использование иерархии памяти. Объем обрабатываемых данных Обход данных.

25 Схема иерархической памяти

Схема иерархической памяти

Схема иерархической памяти. Программа: Оперативная память (медленная). int prog() { ... ... ... ... for (i…) for (j…) {a[i][j]… b[j]… } ... ... }. Кэш-память (быстрая). Регистры (сверхбыстрая память). 32 целочисл. 32 веществ. L1: 64Кб L2: 2Мб. 2 Гб.

26 Последовательный обход данных

Последовательный обход данных

Последовательный обход данных (Си). 2D массив: Размещение массива в памяти: float X[N][M]; For (i=0;i<n;i++) // цикл по строкам for (j=0;j<m;j++) // цикл по столбцам x[i][j]=expr(i,j);

27 Размещение массива в памяти

Размещение массива в памяти

Последовательный обход данных (Фортран). 2D массив: Размещение массива в памяти: real X(N,M). Do 10 j=1,m цикл по столбцам do 10 i=1,n цикл по строкам 10 x(i,j)=expr(i,j).

28 Пример обхода данных

Пример обхода данных

Пример обхода данных. Перемножение матриц: C[Nx][Nz]=A[Nx][Ny]*B[Ny][Nz]. Медленно: Aij. Cik. Bjk. =. ? for(i=0;i<Nx-1;i++) for(k=0;k<Nz-1;k++) for(j=0;j<Ny-1;j++) C[i][k]+=A[i][j]*B[j][k];

29 Перемножение матриц

Перемножение матриц

Результаты теста: перемножение матриц. Размеры матриц 800*800. Схема программы: for (…) for (…) for (…) C[i][k]+=A[i][j]*B[j][k];

30 Эффект «буксования» кэша

Эффект «буксования» кэша

Эффект «буксования» кэша. Оперативная память. Кэш данных 1 уровня процессора Alpha 21264. Параметры: Объем: 64 Кб 2-канальный множественно- ассоциативный. 32 Кб = 8192 float (real*4) = 4096 double (real*8). 32Кб. 32Кб. 32Кб. 511. 64 байта. 0.

31 Пример «буксования» кэша

Пример «буксования» кэша

Пример «буксования» кэша: 2D массив. X[Ny][Nx]; Выполняем обход по столбцам в программе на языке Си. D ? размер строки кэш-памяти (для alpha 21264 – 64 байта).

32 Массив

Массив

Пример «буксования» кэша: 3D массив. Семиточечная схема: X[Nz][Ny][Nx];

33 Решение уравнения

Решение уравнения

Результаты теста: решение уравнения Пуассона в трехмерной области методом Якоби. Размер массива: N ? N ? N. Размер 2D слоя для N=128: 128*128 = 16384 элементов = 64 Кб.

34 Рекомендации

Рекомендации

Рекомендации. Объем активно используемых данных не должен превосходить размер кэша По возможности используйте последовательный обход данных Избегайте одновременного использования данных, расположенных в памяти на расстоянии 32Кб (и кратном 32Кб).

35 Компиляторы языка

Компиляторы языка

Компиляторы языка Си на МВС-1000. Compaq C compiler v6.4.9 команда: ccc оптимизирован для процессоров alpha GNU C compiler v2.91 команда: gcc или cc формирует код для любого процессора старая версия компилятора, формирует очень медленный код. Для компиляции Ваших программ используйте Compaq C Compiler (команда: ссс). Замечание: Команда mpicc использует Compaq C Compiler.

36 Ключи оптимизации компилятора

Ключи оптимизации компилятора

Ключи оптимизации компилятора ccc. –O0 Отключает оптимизацию. –O1 Локальная оптимизация и распознавание общих подвыражений. Начальная глобальная оптимизация. Используется по умолчанию. –O –O2 Встраивание небольших статических подпрограмм. Глобальная оптимизация, приводящая к увеличению размера кода: раскрытие умножения и деления (используя сдвиги), раскрутка циклов, дублирование кода для избежания ветвлений. –O3 Встраивание небольших глобальных подпрограмм. –O4 Программная конвейеризация. –fast -O3 плюс дополнительная оптимизация, включая оптимизацию вещественных вычислений, приводящую к некоторой потере точности.

37 Примеры использования различных ключей оптимизации

Примеры использования различных ключей оптимизации

Примеры использования различных ключей оптимизации.

38 Помощь компилятору

Помощь компилятору

Помощь компилятору. Используйте средства языка для более точного описания природы и способа использования объектов языка Старайтесь не использовать глобальных переменных Используйте различные переменные для разных вычислений Компилятору должно быть ясно, какие зависимости имеются между данными в программе Старайтесь не использовать указатели Компилируйте все модули программы сразу Не стоит делать вручную то, что может сделать компилятор Не разворачивайте циклы Пишите более ясный и простой код, особенно внутри циклов.

39 Точность вычислений

Точность вычислений

Точность вычислений. Определяется: типом данных (float/real*4, double/real*8, real*16) размеров вещественных регистров процессора (64 бита для процессоров Alpha) Не зависит от компилятора (ccc, forte) Может меняться в результате преобразования программы: изменение порядка данных изменение порядка операций эквивалентные преобразования выражений оптимизация с помощью компилятора.

«Кэш-память»
Сайт

5informatika.net

115 тем