CSAPP Lab4 Cache Lab

目录

• CSAPP Lab4 Cache Lab: Understanding Cache Memories
• Part 1
• Part 2
  • 2.1 32×32
    • 做法1
    • 做法2
  • 2.2 64×64
  • 2.3 67×61

---

CSAPP Lab4 Cache Lab: Understanding Cache Memories

https://www.zybuluo.com/SovietPower/note/1795924
参考：
https://www.jianshu.com/p/e68dd8305e9c

得分测试：

Linux> make
Linux> python driver.py 

得分截图：

---

Part 1

要求：模拟一个组相连高速缓存。只需给出每次操作是否命中、是否发生驱逐即可。

组相连高速缓存有(S=2^s)组，每组(E)行，每行(1)个有效位，(t)个标记位，(B=2^b)数据位。
地址：(t)个标记位，(s)个组索引位，(b)个块偏移位。
每次模拟即可。

代码还可以优化的地方（但也没必要）：s,b,t,verbose,cache等确实可以定义为局部变量并作为函数参数传递；Cache结构体应有自己的s,b,t，而不是全局的。

测试得分：

Linux> make
linux> ./test-csim

自测：

> csim(.exe) -v -s 4 -E 1 -b 4 -t traces/yi.trace
L 10,1 miss
M 20,1 miss hit
...
M 12,1 miss eviction hit
hits:4 misses:5 evictions:3

代码：

#include "cachelab.h"
#include <stdio.h>
#include <getopt.h>
#include <stdlib.h>
#include <unistd.h>
typedef unsigned long long ull;

const char *Usage="Usage: ./csim-ref [-hv] -s <s> -E <E> -b <b> -t <tracefile>";
const char *Error="Wrong augment.";

typedef struct
{
	int valid, tm;
	ull tag;
}CacheLine; //缓存行 
typedef CacheLine* CacheSet; //缓存组 
typedef CacheSet* Cache; //组相连高速缓存 

int s,S,E,b,B;
int verbose;
int hits=0, misses=0, evictions=0;

Cache cache;
FILE *fp=NULL; //<tracefile>

void Read(int argc, char* argv[])
{
	for(int opt; ~(opt=getopt(argc, argv, "hvs:E:b:t:")); )
	{
		switch(opt)
		{
			case 'h': //Optional help flag that prints usage info
				fprintf(stdout, Usage, argv[0]);
				exit(0);
			case 'v': //Optional verbose flag that displays trace info
				verbose=1;
				break;
			case 's': //Number of set index bits (S = 2^s is the number of sets)
				s=atoi(optarg), S=1<<s;
				break;
			case 'E': //Associativity (number of lines per set)
				E=atoi(optarg);
				break;
			case 'b': //Number of block bits (B = 2^b is the block size)
				b=atoi(optarg), B=1<<b;
				break;
			case 't': //-t <tracefile>: Name of the valgrind trace to replay
				fp=fopen(optarg,"r");
				break;
			default:
				fprintf(stdout, Error, argv[0]);
				exit(1);
		}
	}
}
void Init()
{
	cache=(Cache)malloc(sizeof(CacheSet)*S);
	if(cache==NULL) exit(1);
	for(int i=0; i<S; ++i)
	{
		cache[i]=(CacheSet)calloc(E,sizeof(CacheLine)); //calloc会初始化分配的内容为0，malloc不会 
		if(cache[i]==NULL) exit(1);
	}
}
void Load(int set_id,ull tag)
{
	static int TIME=0;
	++TIME; //time stamp

	int empty=-1, eviction=-1;

	CacheSet set=cache[set_id];
	for(int i=0; i<E; ++i)
	{
		if(set[i].valid)
		{
			if(set[i].tag==tag)
			{
				++hits, set[i].tm=TIME;
				if(verbose) printf(" hit");
				return;
			}
			if(eviction==-1 || set[i].tm<set[eviction].tm)
				eviction=i;
		}
		else empty=i;
	}
	++misses;

	if(~empty)
	{
		set[empty].valid=1, set[empty].tag=tag;
		set[empty].tm=TIME;
		if(verbose) printf(" miss");
	}
	else
	{
		++evictions;
		set[eviction].tag=tag;
		set[eviction].tm=TIME;
		if(verbose) printf(" miss eviction");
	}
}
void Store(int set_id,ull tag)
{
	Load(set_id,tag);
}
void Simulater()
{
	char opt;
	ull add;
	int size;
	while(~fscanf(fp," %c %llx,%d",&opt,&add,&size)) //%I64x
	{
		if(opt=='I') continue;

		int set_id=(add>>b)&(S-1); ull tag=add>>(s+b);
		if(verbose) printf("%c %llx,%d",opt,add,size);
		switch(opt)
		{
			case 'L':
				Load(set_id, tag);
				break;
			case 'S':
				Store(set_id, tag);
				break;
			case 'M':
				Load(set_id, tag), Store(set_id, tag);
				break;
		}
		if(verbose) putchar('
');
	}
}
// void printSummary(int a,int b,int c)
// {
// 	printf("hits:%d misses:%d evictions:%d
",a,b,c);
// }

int main(int argc, char* argv[])
{
	Read(argc,argv);
	Init();
	Simulater();
	printSummary(hits,misses,evictions);

	fclose(fp);
	for(int i=0; i<S; ++i) free(cache[i]);
	free(cache); //Always free what you malloc, otherwise may get memory leak

    return 0;
}

---

Part 2

要求：给定一个(S=5,E=1,B=5)的直接映射缓存，即有(32)组，每组一行能存(32)字节/(8)个int。分别对(32 imes 32)、(64 imes 64)、(67 imes 61)的矩阵转置函数做修改，使得其miss数尽量小。
三个函数允许的最大miss数分别为：(600)、(2000)、(3000)，满分为小于(300)、(1300)、(2000)。
此外表现分要求：

1. 每次最多使用12个局部int变量。
2. 不能定义数组。
3. 不能改变A矩阵，但B矩阵可以任意修改。

在trans.c中修改。
若要测试例如(34 imes 12)的矩阵转置可以使用：
Linux> ./test-trans -M 12 -N 34

自测：

Linux> make
Linux> ./test-trans -M <M> -N <N>

查看错误信息：

Linux> ./tracegen -M 64 -N 64 -F 0

2.1 32×32

做法1

先看一下分组情况：

第一行：(0sim 3)组
第二行：(4sim 7)组
第三行：(8sim 11)组
...
第八行：(28sim 31)组

转置时，A是读同一行，所以miss会很小；而对B需要逐列操作，miss的多少主要取决于B，所以主要关注B。
一般的转置中，B依次写(1,2,3,...,8,9,10,...,32)行，依次占用第(0,4,8,...,28,0,4,...,28)组。可以发现如果只让B写八行的第一列，再写这八行的下一列直至写完前八列，就不会发生miss/eviction（当然第一列会miss）。
至于A的影响，只是在分块矩阵的主对角线上时，B每写一列（八行）会与A冲突一次，导致两次miss。（注意要先存一下A这行的八个元素，才能写B的这一列，否则A要多miss一次）

结果分析：
对于主对角线上的四个(8 imes 8)矩阵，miss数为(2 imes 8+7=23)次；非主对角线上的子矩阵，因为A,B用到的内存组错开了，所以只有(8+8=16)次miss。
所以总miss数约为(23 imes 4+16 imes 12=284)，实测(287)。

做法2

考虑能否消除做法1中主对角线上，额外的(7)次miss。这(7)次miss，是因为A,B是 分别按行列 交叉读写的，所以总会有(7)次的覆盖。
那么我们A,B全都按行读写，就不会有这(7)次覆盖了，每次的一整行都能hit。
注意到缓存可以存下A或B的整个(8 imes 8)矩阵，不能修改A，但可以修改B。
所以我们把A一行一行赋值给B，是(16)次miss；然后再对B的(8 imes 8)矩阵做转置，额外miss数就是0了（全部在缓存中，全部都hit）。
即先按行复制后整个转置。

这样总miss数为(16 imes 16=256)，实测(259)。

代码：

//Sol1: 287
// for(i=0; i<N; i+=8)
// 	for(j=0; j<M; j+=8)
// 		for(k=i; k<i+8; ++k)
// 		{
// 			v0=A[k][j], v1=A[k][j+1], v2=A[k][j+2], v3=A[k][j+3],
// 			v4=A[k][j+4], v5=A[k][j+5], v6=A[k][j+6], v7=A[k][j+7];
//
// 			B[j][k]=v0, B[j+1][k]=v1, B[j+2][k]=v2, B[j+3][k]=v3,
// 			B[j+4][k]=v4, B[j+5][k]=v5, B[j+6][k]=v6, B[j+7][k]=v7;
// 		}
// return;
//Sol2: 259
for(i=0; i<N; i+=8)
	for(j=0; j<M; j+=8)
	{
		for(k=i, l=j; k<i+8; ++k, ++l)
		{
			v0=A[k][j], v1=A[k][j+1], v2=A[k][j+2], v3=A[k][j+3],
			v4=A[k][j+4], v5=A[k][j+5], v6=A[k][j+6], v7=A[k][j+7];

			B[l][i]=v0, B[l][i+1]=v1, B[l][i+2]=v2, B[l][i+3]=v3,
			B[l][i+4]=v4, B[l][i+5]=v5, B[l][i+6]=v6, B[l][i+7]=v7;
		}
		for(k=0; k<8; ++k)//第j行 第i列（偏移量i,j记得加） 
			for(l=k+1; l<8; ++l)//对于B，行的编号就都加j，列的编号就都加i 
				v0=B[k+j][l+i], B[k+j][l+i]=B[l+j][k+i], B[l+j][k+i]=v0;
	}

2.2 64×64

看一下分组情况：

第一行：(0sim 7)组
第二行：(8sim 15)组
第三行：(16sim 23)组
第四行：(24sim 31)组
第五行：(0sim 7)组...

显然还按(8 imes 8)分组不利于B的按列写。如果换成(4 imes 4)分组，B的每列写不会冲突，但缓存中每行的利用率只有一半（能得一点点分）。

考虑综合两种分法，整体采用(8 imes 8)分组，按行的操作每次处理八个，按列的操作每次处理四个（但注意这四行中的前八列都可以用）。

参考上面链接中的做法及图片：
对每个(8 imes 8)矩阵，分成四个(4 imes 4)矩阵，然后做四步：

1. 对A的前四行，前四个数分别存到B的前四列中，后四个数分别存到B的后四列中。
2. 读A的后四行的第一列、第五列元素，并保存。
   
3. 将2.中A的后四行的第一列，放到B当前第一行的后四个元素中（并保存之前这里的四个元素）；将2.中A的后四行的第五列，放到B第五行的后四列去。
4. 将3.中存下的，原先B第一行的后四个元素，放到B第五行的前四列去。
5. (2,3,4)步对不同列重复做共四次，就可以实现转置了。

这个做法充分利用了，同一行能读(8)个数、最多同时存(4)整行的性质，以及转置的特点。
总结就是，前四行可以直接按列赋值给B，然后对后四行，左下角部分的每一列放到右上角部分的每一行、右上角的每一行放到左下角部分的每一行、右下角的列转成行位置，就可以实现转置，而且这种方法对内存的利用率很高、miss少。

结果分析：
对于上面的四步，若子矩阵不在主对角线上，则A,B的读写不会相互影响，则：

1. miss数为(4+4=8)。
2. miss数为(4)。
3. miss数为(0+1=1)。
4. miss数为(0)。
5. 三次重复后的(2,3,4)步miss数共(0+3+0=3)。

总miss数约为((8+4+1+3) imes 64=1024)

若子矩阵在主对角线上，1.中miss数会加(3)，每次的3.会多(4)（写B的被A驱逐的前四行）+(3)（读A的被B驱逐的五六七行）=(7)次，所以共多((3+7)*8=80)次。

所以总miss数为(1104)次，实测(1107)次。
1.中多的(3*8)次miss可以像2.1中，先复制后转置的方法消除。

代码：

for(i=0; i<N; i+=8)
	for(j=0; j<M; j+=8)
	{
		for(k=i; k<i+4; ++k)
		{
			v0=A[k][j+0], v1=A[k][j+1], v2=A[k][j+2], v3=A[k][j+3],
			v4=A[k][j+4], v5=A[k][j+5], v6=A[k][j+6], v7=A[k][j+7];

			B[j][k]=v0, B[j+1][k]=v1, B[j+2][k]=v2, B[j+3][k]=v3,
			B[j][k+4]=v4, B[j+1][k+4]=v5, B[j+2][k+4]=v6, B[j+3][k+4]=v7;
		}
		for(k=j; k<j+4; ++k)
		{
			v0=A[i+4][k], v4=A[i+4][k+4],
			v1=A[i+5][k], v5=A[i+5][k+4],
			v2=A[i+6][k], v6=A[i+6][k+4],
			v3=A[i+7][k], v7=A[i+7][k+4],

			tmp=B[k][i+4], B[k][i+4]=v0, v0=tmp;
			tmp=B[k][i+5], B[k][i+5]=v1, v1=tmp;
			tmp=B[k][i+6], B[k][i+6]=v2, v2=tmp;
			tmp=B[k][i+7], B[k][i+7]=v3, v3=tmp;

			B[k+4][i+0]=v0, B[k+4][i+1]=v1, B[k+4][i+2]=v2, B[k+4][i+3]=v3,
			B[k+4][i+4]=v4, B[k+4][i+5]=v5, B[k+4][i+6]=v6, B[k+4][i+7]=v7;
		}
	}

2.3 67×61

类似2.1，每行是(61)个，所以依旧利用Cache能存B的(8)行的性质，对B每(8)行处理一次，每次处理所有行的这八个元素的A->B赋值。
因为限制为(2000)足够大，比较容易过。实测(1761)。
不过(16 imes 16)分块，暴力转置也能恰好不超过(2000)。

代码：

for(j=0; j<56; j+=8)
	for(i=0; i<67; ++i)
	{
		v0=A[i][j], v1=A[i][j+1], v2=A[i][j+2], v3=A[i][j+3],
		v4=A[i][j+4], v5=A[i][j+5], v6=A[i][j+6], v7=A[i][j+7];

		B[j][i]=v0, B[j+1][i]=v1, B[j+2][i]=v2, B[j+3][i]=v3,
		B[j+4][i]=v4, B[j+5][i]=v5, B[j+6][i]=v6, B[j+7][i]=v7;
	}
for(i=0; i<64; ++i)//右上 
	for(j=56; j<61; ++j)
		B[j][i]=A[i][j];
for(i=64; i<67; ++i)//右下 
	for(j=56; j<61; ++j)
		B[j][i]=A[i][j];