0447fd142d08f456b4f4ee5cb7f9f713976c6d93
[bluesky.git] / microbench / mixedbench.c
1 /* A simple file system workload generator.
2  *
3  * Reads and writes a number of files in the current working directory.
4  *
5  * Command-line arguments:
6  *   File size (bytes)
7  *   File count
8  *   Write fraction (0.0 - 1.0)
9  *   Threads
10  *   Benchmark duration (seconds)
11  *   Target operations per second (aggregate across all threads)
12  *   Interval count (how many times to report results during the run)
13  *   Directory size (number of files per numbered subdirectory)
14  */
15
16 #include <errno.h>
17 #include <inttypes.h>
18 #include <pthread.h>
19 #include <stdint.h>
20 #include <stdio.h>
21 #include <stdlib.h>
22 #include <string.h>
23 #include <sys/stat.h>
24 #include <sys/types.h>
25 #include <time.h>
26 #include <unistd.h>
27 #include <math.h>
28
29 int opt_filesize, opt_filecount, opt_threads, opt_duration, opt_intervals, opt_dirsize;
30 double opt_writeratio, opt_ops;
31
32 int write_threads;
33
34 struct thread_state {
35     pthread_t thread;
36     pthread_mutex_t lock;
37     int thread_num;
38     int read_count, write_count;
39     double read_time, write_time, read_time2, write_time2;
40 };
41
42 static int64_t start_time;
43
44 #define MAX_THREADS 128
45 struct thread_state threads[MAX_THREADS];
46
47 static double sq(double x)
48 {
49     return x * x;
50 }
51
52 static double stddev(double x, double x2, int n)
53 {
54     if (n < 2)
55         return 0;
56     return sqrt((x2 / n - sq(x / n)) * n / (n - 1));
57 }
58
59 int64_t now_hires()
60 {
61     struct timespec time;
62
63     if (clock_gettime(CLOCK_REALTIME, &time) != 0) {
64         perror("clock_gettime");
65         return 0;
66     }
67
68     return (int64_t)(time.tv_sec) * 1000000000 + time.tv_nsec;
69 }
70
71 int get_random(int range)
72 {
73     return random() % range;
74 }
75
76 void sleep_micros(int duration)
77 {
78     struct timespec req;
79     if (duration <= 0)
80         return;
81
82     req.tv_sec = duration / 1000000;
83     req.tv_nsec = (duration % 1000000) * 1000;
84
85     while (nanosleep(&req, &req) < 0 && errno == EINTR)
86         ;
87 }
88
89 void benchmark_op(struct thread_state *ts)
90 {
91     int64_t start, end;
92
93     start = now_hires();
94
95     char filename[256];
96     int n = get_random(opt_filecount);
97     int n1 = n / opt_dirsize, n2 = n % opt_dirsize;
98
99     if (ts->thread_num >= write_threads) {
100         /* Read */
101         sprintf(filename, "t%d/%d/%d", ts->thread_num - write_threads, n1, n2);
102         FILE *f = fopen(filename, "rb");
103         if (f == NULL) {
104             perror("fopen");
105             return;
106         }
107
108         char buf[65536];
109         while (fread(buf, 1, sizeof(buf), f) > 0) { }
110         fclose(f);
111
112         end = now_hires();
113         pthread_mutex_lock(&ts->lock);
114         ts->read_count++;
115         ts->read_time += (end - start) / 1e9;
116         ts->read_time2 += sq((end - start) / 1e9);
117         pthread_mutex_unlock(&ts->lock);
118     } else {
119         /* Write */
120         sprintf(filename, "t%d/%d/%d", ts->thread_num, n1, n2);
121         FILE *f = fopen(filename, "wb");
122         if (f == NULL) {
123             perror("fopen");
124             return;
125         }
126
127         char buf[65536];
128         int bytes_left = opt_filesize;
129         while (bytes_left > 0) {
130             size_t written = fwrite(buf, 1,
131                                     bytes_left < sizeof(buf)
132                                      ? bytes_left : sizeof(buf),
133                                     f);
134             if (ferror(f))
135                 return;
136             bytes_left -= written;
137         }
138         fclose(f);
139
140         end = now_hires();
141         pthread_mutex_lock(&ts->lock);
142         ts->write_count++;
143         ts->write_time += (end - start) / 1e9;
144         ts->write_time2 += sq((end - start) / 1e9);
145         pthread_mutex_unlock(&ts->lock);
146     }
147 }
148
149 void *benchmark_thread(void *arg)
150 {
151     struct thread_state *ts = (struct thread_state *)arg;
152
153     int target_delay = (opt_threads / opt_ops) * 1e6;
154
155     while (1) {
156         int64_t start = now_hires();
157         benchmark_op(ts);
158         int64_t end = now_hires();
159
160         int elapsed = (end - start) / 1000;
161         if (elapsed < target_delay)
162             sleep_micros(target_delay - elapsed);
163     }
164
165     return NULL;
166 }
167
168 void launch_thread(int i)
169 {
170     memset(&threads[i], 0, sizeof(struct thread_state));
171     threads[i].thread_num = i;
172     pthread_mutex_init(&threads[i].lock, NULL);
173     if (pthread_create(&threads[i].thread, NULL, benchmark_thread, &threads[i]) != 0) {
174         fprintf(stderr, "Error launching thread!\n");
175         exit(1);
176     }
177 }
178
179 void wait_thread(int n)
180 {
181     void *result;
182     pthread_join(threads[n].thread, &result);
183 }
184
185 void reset_stats(int print, double duration)
186 {
187     int read_count = 0, write_count = 0;
188     double read_time = 0, write_time = 0, read_time2 = 0, write_time2 = 0;
189
190     for (int i = 0; i < opt_threads; i++) {
191         pthread_mutex_lock(&threads[i].lock);
192         read_count += threads[i].read_count;
193         write_count += threads[i].write_count;
194         read_time += threads[i].read_time;
195         write_time += threads[i].write_time;
196         read_time2 += threads[i].read_time2;
197         write_time2 += threads[i].write_time2;
198         threads[i].read_count = threads[i].write_count = 0;
199         threads[i].read_time = threads[i].write_time = 0;
200         threads[i].read_time2 = threads[i].write_time2 = 0;
201         pthread_mutex_unlock(&threads[i].lock);
202     }
203
204     if (print) {
205         printf("read: [%g, %f, %f]\n",
206                read_count / duration, read_time / read_count,
207                stddev(read_time, read_time2, read_count));
208         printf("write: [%g, %f, %f]\n",
209                write_count / duration, write_time / write_count,
210                stddev(write_time, write_time2, write_count));
211         printf("\n");
212         fflush(stdout);
213     }
214 }
215
216 int main(int argc, char *argv[])
217 {
218     if (argc != 9) {
219         fprintf(stderr, "Usage: TODO\n");
220         return 1;
221     }
222
223     opt_filesize = atoi(argv[1]);
224     opt_filecount = atoi(argv[2]);
225     opt_writeratio = atof(argv[3]);
226     opt_threads = atoi(argv[4]);
227     opt_duration = atoi(argv[5]);
228     opt_ops = atof(argv[6]);
229     opt_intervals = atoi(argv[7]);
230     opt_dirsize = atoi(argv[8]);
231
232     srandom(time(NULL));
233
234     start_time = now_hires();
235
236     /* Partition threads into those that should do reads and those for writes,
237      * as close as possible to the desired allocation. */
238     write_threads = (int)round(opt_threads * opt_writeratio);
239     fprintf(stderr, "Using %d threads for reads, %d for writes\n",
240             opt_threads - write_threads, write_threads);
241
242     for (int i = 0; i < opt_threads; i++) {
243         launch_thread(i);
244     }
245
246     for (int i = 0; i < opt_intervals; i++) {
247         sleep_micros(opt_duration * 1000000 / opt_intervals);
248         reset_stats(1, (double)opt_duration / opt_intervals);
249     }
250
251     return 0;
252 }