-
Notifications
You must be signed in to change notification settings - Fork 0
Expand file tree
/
Copy pathalgorithms.h
More file actions
250 lines (222 loc) · 9.05 KB
/
algorithms.h
File metadata and controls
250 lines (222 loc) · 9.05 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
/****************************************************
* 该类用于实现PageRank算法
* *************************************************/
class PageRank : public GMR {
public:
/* 根据PageRank算法特点和需要,对图进行初始化 */
void initGraph(GRAPH_DATA *graph) {
printf("==========>PageRank<==========\n");
}
/* Map/Reduce编程模型中的Map函数 */
void map(Vertex &v, std::list<KV> &kvs) {
float value = v.value / v.neighborSize;
for (int i = 0; i < v.neighborSize; i++) {
kvs.push_back({v.neighbors[i], value});
if(DEBUG) printf("%d %f\n", v.neighbors[i], value);
}
}
/* 用于将Map/Reduce计算过程中产生的KV list进行排序 */
void sort(std::list<KV> &kvs) { }
/* Map/Reduce编程模型中的Reduce函数 */
KV reduce(std::list<KV> &kvs) {
float sum = 0.0;
for (auto kv : kvs) {
sum += kv.value;
}
/*Pagerank=a*(p1+p2+…Pm)+(1-a)*1/n,其中m是指向网页j的网页j数,n所有网页数*/
sum = 0.5 * sum + (1 - 0.5) / ntxs;
if (DEBUG) printf("reduce result: %d %f\n", kvs.front().key, sum);
return {kvs.front().key, sum};
}
/* 输出算法的执行结果 */
virtual void printResult(GRAPH_DATA *graph) { }
};
/****************************************************
* 该类用实求解SSSP(单源最短路径)算法
***************************************************/
class SSSP : public GMR {
public:
SSSP(ssize_t startv) : startv(startv) { }
/* 根据SSSP算法特点和需要,对图进行初始化 */
void initGraph(GRAPH_DATA *graph) {
printf("==========>SSSP<==========\n");
for (int i=0; i<graph->numMyVertices; i++) {
if (graph->vertexGID[i] == startv) {
graph->fvwgts[i] = 0;
}
else
graph->fvwgts[i] = FLT_MAX;
}
}
void map(Vertex &v, std::list<KV> &kvs) {
/* 当第一次迭代的时候对图进行出发顶点和其他个顶点的值进行初始化 */
kvs.push_back({v.id, v.value});
if(DEBUG) printf("%dth map result: %d %f\n", iterNum,
v.id, v.value);
for (int i = 0; i < v.neighborSize; i++) {
kvs.push_back({v.neighbors[i], v.value + v.edgewgt[i]});
if(DEBUG) printf("%dth map result: %d-->%d %f + %f\n", iterNum,
v.id, v.neighbors[i], v.value, v.edgewgt[i]);
}
}
/* 用于将Map/Reduce计算过程中产生的KV list进行排序 */
void sort(std::list<KV> &kvs) { }
/* Map/Reduce编程模型中的Reduce函数 */
KV reduce(std::list<KV> &kvs) {
// dist1 [u] = Edge[v][u]
// dist k [u] = min{ dist k-1 [u],
// min{ dist k-1 [j] + Edge[j][u] } }, j=0,1,…,n-1,j≠u
float shortestPath = FLT_MAX;
for (auto kv : kvs) {
if (kv.value < shortestPath)
shortestPath = kv.value;
}
if (DEBUG) printf("%dth reduce result: %d %f\n", iterNum,
kvs.front().key, shortestPath);
return {kvs.front().key, shortestPath};
}
/* 单源最短路经的起始节点 */
ssize_t startv;
/* 输出算法的执行结果 */
virtual void printResult(GRAPH_DATA *graph) { }
};
/****************************************************
* 该类用实求解triangleCount(三角形关系计算)算法
***************************************************/
class TriangleCount : public GMR {
/* 根据PageRank算法特点和需要,对图进行初始化 */
void initGraph(GRAPH_DATA *graph) {
printf("==========>TriangleCount<==========\n");
/* TriangleCount算法中, 只需要迭代一次即可结束 */
algoIterNum = 1;
/* 子图的更新方式为累加形式, 即△ (1, 2, 3)和△ (1, 4, 5)都作为
* 顶点1的值累加上去 */
upmode = accu;
/* 将所有顶点的值都赋为0, 最后存储以此顶点出发的三角形个数 */
for (int i=0; i < graph->numMyVertices; i++)
graph->fvwgts[i] = 0;
}
/* Map/Reduce编程模型中的Map函数 */
void map(Vertex &v, std::list<KV> &kvs) {
KV tempKV;
for (int i = 0; i < v.neighborSize; i++) {
tempKV.svalue.push_back(v.neighbors[i]);
}
for (int i = 0; i < v.neighborSize; i++) {
std::pair<int, int> key;
/* (a, b)与(b, a)实际上是一个键值,所以统一存为: (a, b) st. a < b */
if (v.id < v.neighbors[i])
tempKV.key = v.id, tempKV.skey = v.neighbors[i];
else
tempKV.key = v.neighbors[i], tempKV.skey = v.id;
kvs.push_back(tempKV);
if(DEBUG) {
printf("%dth map result: Pair.key(%d %d)->(", iterNum, tempKV.key, tempKV.skey);
for (int j = 0; j < v.neighborSize; j++)
printf("%d ", v.neighbors[j]);
printf(")\n");
}
}
}
/* 用于将Map/Reduce计算过程中产生的KV list进行排序 */
void sort(std::list<KV> &kvs) { }
/* Map/Reduce编程模型中的Reduce函数 */
KV reduce(std::list<KV> &kvs) {
int sum = 0;
/* 对kvs中的value(std::list<int>)求交集 */
if (kvs.size() == 2) {
/* 遍历pkv1和pkv2的邻居, 寻找其相同的邻居并计数 */
for (int i : kvs.front().svalue) {
for (int j : kvs.back().svalue) {
/*只计数满足a < b < c的三角形△ (a, b, c)*/
if (i == j && i > kvs.front().skey) {
sum++;
}
}
}
}
if (DEBUG) printf("reduce result: (%d %d):%d\n", kvs.front().key,
kvs.front().skey, sum);
return {kvs.front().key, kvs.front().skey, static_cast<float>(sum)};
}
/* 比较Key/Value的key */
virtual int keyComp(KV &kv1, KV &kv2) {
if (kv1.key == kv2.key) {
if (kv1.skey == kv2.skey)
return 0;
else if (kv1.skey < kv2.skey)
return -1;
else
return 1;
}
if (kv1.key < kv2.key)
return -1;
else
return 1;
}
/* 输出算法的执行结果 */
virtual void printResult(GRAPH_DATA *graph) {
float triangleSum = 0;
for (int i=0; i<graph->numMyVertices; i++)
triangleSum += graph->fvwgts[i];
printf("共计三角形个数:%f\n", triangleSum);
}
};
/****************************************************
* 该类用于求解矩阵乘法算法
***************************************************/
class MatrixMultiply : public GMR { };
/****************************************************
* 该类用实求解BFS(广度优先搜索算法)算法
***************************************************/
class BFS : public GMR { };
/****************************************************
* 该类用实求解connectedComponents(连图子图)算法
***************************************************/
class connectedComponents : public GMR { };
/****************************************************
* 该类用实求解prime算法和kruskal算法(最小树生成)算法
***************************************************/
class Prime: public GMR { };
/****************************************************
* 其他图算法, 参考:
* The following is a quick summary of the functionality defined in both Graph and GraphOps
* https://spark.apache.org/docs/latest/graphx-programming-guide.html#graph-operators
***************************************************/
class stronglyConnectedComponents : public GMR { };
/****************************************************
* 该类用实求解KMeans机器学习算法算法
***************************************************/
class Kmeans : public GMR {
public:
/* 分类的数目 */
size_t k;
Kmeans(size_t k) { this->k = k; }
/* 根据Kmeans算法特点和需要,对图进行初始化 */
void initGraph(GRAPH_DATA *graph) {
printf("==========>K-means<==========\n");
}
/* Map/Reduce编程模型中的Map函数 */
void map(Vertex &v, std::list<KV> &kvs) {
float value = v.value / v.neighborSize;
for (int i = 0; i < v.neighborSize; i++) {
kvs.push_back({v.neighbors[i], value});
if(DEBUG) printf("%d %f\n", v.neighbors[i], value);
}
}
/* 用于将Map/Reduce计算过程中产生的KV list进行排序 */
void sort(std::list<KV> &kvs) { }
/* Map/Reduce编程模型中的Reduce函数 */
KV reduce(std::list<KV> &kvs) {
float sum = 0.0;
for (auto kv : kvs) {
sum += kv.value;
}
/*Pagerank=a*(p1+p2+…Pm)+(1-a)*1/n,其中m是指向网页j的网页j数,n所有网页数*/
sum = 0.5 * sum + (1 - 0.5) / ntxs;
if (DEBUG) printf("reduce result: %d %f\n", kvs.front().key, sum);
return {kvs.front().key, sum};
}
/* 输出算法的执行结果 */
virtual void printResult(GRAPH_DATA *graph) { }
};