Merge branch 'master' of rtime.felk.cvut.cz:/can-benchmark
[can-benchmark.git] / latester / latester.c
1 /**************************************************************************/
2 /* CAN latency tester                                                     */
3 /* Copyright (C) 2010 Michal Sojka, DCE FEE CTU Prague                    */
4 /* License: GPLv2                                                         */
5 /**************************************************************************/
6
7 #include <ctype.h>
8 #include <errno.h>
9 #include <error.h>
10 #include <fcntl.h>
11 #include <math.h>
12 #include <net/if.h>
13 #include <poll.h>
14 #include <popt.h>
15 #include <pthread.h>
16 #include <semaphore.h>
17 #include <sched.h>
18 #include <signal.h>
19 #include <stdbool.h>
20 #include <stdint.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <sys/ioctl.h>
25 #include <sys/mman.h>
26 #include <sys/socket.h>
27 #include <sys/stat.h>
28 #include <sys/time.h>
29 #include <sys/types.h>
30 #include <talloc.h>
31 #include <unistd.h>
32
33 #include <linux/can.h>
34 #include <linux/can/raw.h>
35
36 #include "histogram.h"
37
38 //#define FTRACE
39
40 #ifndef DEBUG
41 #define dbg(level, fmt, arg...) do {} while (0)
42 #else
43 #define dbg(level, fmt, arg...) do { if (level <= DEBUG) { printf("candping: " fmt, ## arg); } } while (0)
44 #endif
45
46 #define INTERRUPTED_SYSCALL(errno) (errno == EINTR || errno == ERESTART)
47
48 #define MEMSET_ZERO(obj) memset(&(obj), 0, sizeof(obj))
49
50 /* Global variables */
51 volatile sig_atomic_t finish_flag = 0;  /* Threads should terminate. */
52 sem_t finish_sem;               /* Thread signals a termination */
53
54 /* Command line options */
55 struct options {
56         char **interface;
57         canid_t id;
58         unsigned period_us;
59         unsigned timeout_ms;
60         unsigned count;
61         unsigned oneattime;
62         char *name;
63         int length;
64         int userhist;
65         int quiet;
66
67         /* Temporary variables */
68         FILE *f_msgs;
69         FILE *f_hist;
70         FILE *f_stat;
71 };
72
73 struct options opt = {
74         .id = 10,
75         .period_us = 0,
76         .timeout_ms = 1000,
77         .length = 2,
78 };
79
80 struct {
81         unsigned enobufs;
82         unsigned overrun;
83         unsigned lost;
84         struct timespec tic, tac;
85         unsigned timeouts;
86         unsigned invalid_frame;
87 } stats;
88
89 int num_interfaces = 0;
90 int count = 0;                  /* Number of sent messages */
91 unsigned msg_in_progress = 0;
92 int completion_pipe[2];
93
94 struct msg_info {
95         canid_t id;
96         uint8_t length;
97         struct timespec ts_sent, ts_sent_kern;
98         struct timespec ts_rx_onwire, ts_rx_onwire_kern;
99         struct timespec ts_rx_final, ts_rx_final_kern;
100         struct can_frame sent, received;
101 };
102
103 #define MAX_INFOS 10000
104 struct msg_info msg_infos[MAX_INFOS];
105
106 struct histogram histogram;
107
108 void sprint_canframe(char *buf , struct can_frame *cf, int sep) {
109         /* documentation see lib.h */
110
111         int i,offset;
112         int dlc = (cf->can_dlc > 8)? 8 : cf->can_dlc;
113
114         if (cf->can_id & CAN_ERR_FLAG) {
115                 sprintf(buf, "%08X#", cf->can_id & (CAN_ERR_MASK|CAN_ERR_FLAG));
116                 offset = 9;
117         } else if (cf->can_id & CAN_EFF_FLAG) {
118                 sprintf(buf, "%08X#", cf->can_id & CAN_EFF_MASK);
119                 offset = 9;
120         } else {
121                 sprintf(buf, "%03X#", cf->can_id & CAN_SFF_MASK);
122                 offset = 4;
123         }
124
125         if (cf->can_id & CAN_RTR_FLAG) /* there are no ERR frames with RTR */
126                 sprintf(buf+offset, "R");
127         else
128                 for (i = 0; i < dlc; i++) {
129                         sprintf(buf+offset, "%02X", cf->data[i]);
130                         offset += 2;
131                         if (sep && (i+1 < dlc))
132                                 sprintf(buf+offset++, ".");
133                 }
134 }
135
136 static inline uint16_t frame_index(struct can_frame *frame)
137 {
138         uint16_t idx;
139         if (frame->can_dlc >= 2) {
140                 memcpy(&idx, frame->data, sizeof(idx));
141                 if (idx >= MAX_INFOS)
142                         error(1, 0, "%s idx too high", __FUNCTION__);
143         } else {
144
145                 error(1, 0, "%s error", __FUNCTION__);
146         }
147         return idx;
148 }
149
150 static inline struct msg_info *frame2info(struct can_frame *frame)
151 {
152         return &msg_infos[frame_index(frame)];
153 }
154
155 static inline char *tstamp_str(const void *ctx, struct timespec *tstamp)
156 {
157         return talloc_asprintf(ctx, "%ld.%06ld",
158                                tstamp->tv_sec, tstamp->tv_nsec/1000);
159 }
160
161 void msg_info_print(FILE *f, struct msg_info *mi)
162 {
163         struct timespec diff;
164         void *local = talloc_new (NULL);
165         static long num = 0;
166         char sent[64], received[64];
167
168         sprint_canframe(sent, &mi->sent, true);
169         sprint_canframe(received, &mi->received, true);
170
171 #define S(ts) tstamp_str(local, &ts)
172 #define DIFF(a, b) (timespec_subtract(&diff, &b, &a), S(diff))
173
174         switch (num_interfaces) {
175         case 2:
176                 fprintf(f, "%ld: %s %s -> %s (%s) %s = %s (%s)\n",
177                         num, S(mi->ts_sent), sent, S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
178                        DIFF(mi->ts_sent, mi->ts_rx_final_kern),
179                        DIFF(mi->ts_sent, mi->ts_rx_final));
180                 break;
181         case 3:
182                 fprintf(f, "%ld: %s %s -> %s (%s) -> %s (%s) %s = %s (%s), %s (%s)\n",
183                         num, S(mi->ts_sent), sent,
184                         S(mi->ts_rx_onwire_kern), S(mi->ts_rx_onwire),
185                         S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
186                         DIFF(mi->ts_sent, mi->ts_rx_onwire_kern),
187                         DIFF(mi->ts_sent, mi->ts_rx_onwire),
188                         DIFF(mi->ts_rx_onwire_kern, mi->ts_rx_final_kern),
189                         DIFF(mi->ts_rx_onwire, mi->ts_rx_final));
190                 break;
191         }
192 #undef S
193 #undef DIFF
194         num++;
195         talloc_free (local);
196 }
197
198 /* Subtract the `struct timespec' values X and Y, storing the result in
199    RESULT.  Return 1 if the difference is negative, otherwise 0.  */
200
201 int timespec_subtract (struct timespec *result, struct timespec *x, struct timespec *yy)
202 {
203         struct timespec ylocal = *yy, *y = &ylocal;
204         /* Perform the carry for the later subtraction by updating Y. */
205         if (x->tv_nsec < y->tv_nsec) {
206                 int nsec = (y->tv_nsec - x->tv_nsec) / 1000000000 + 1;
207                 y->tv_nsec -= 1000000000 * nsec;
208                 y->tv_sec += nsec;
209         }
210         if (x->tv_nsec - y->tv_nsec > 1000000000) {
211                 int nsec = (x->tv_nsec - y->tv_nsec) / 1000000000;
212                 y->tv_nsec += 1000000000 * nsec;
213                 y->tv_sec -= nsec;
214         }
215
216         /* Compute the time remaining to wait.
217            `tv_nsec' is certainly positive. */
218         result->tv_sec = x->tv_sec - y->tv_sec;
219         result->tv_nsec = x->tv_nsec - y->tv_nsec;
220
221         /* Return 1 if result is negative. */
222         return x->tv_sec < y->tv_sec;
223 }
224
225 void dbg_print_timespec(char *msg, struct timespec *tv)
226 {
227
228         printf("%s sec=%ld nsec=%ld\n", msg, tv->tv_sec, tv->tv_nsec);
229 }
230
231 static inline unsigned get_msg_latency_us(struct msg_info *mi)
232 {
233         struct timespec diff;
234         switch (num_interfaces) {
235         case 3:
236                 if (opt.userhist)
237                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_rx_onwire);
238                 else
239                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_rx_onwire_kern);
240                 break;
241         case 2:
242                 if (opt.userhist)
243                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_sent);
244                 else
245                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_sent);
246                 break;
247         default:
248                 return 0;
249         }
250         return diff.tv_sec * 1000000 + diff.tv_nsec/1000;
251 }
252
253 void set_sched_policy_and_prio(int policy, int rtprio)
254 {
255         struct sched_param scheduling_parameters;
256         int maxprio=sched_get_priority_max(policy);
257         int minprio=sched_get_priority_min(policy);
258
259         if((rtprio < minprio) || (rtprio > maxprio))
260                 error(1, 0, "The priority for requested policy is out of <%d, %d> range\n",
261                       minprio, maxprio);
262
263         scheduling_parameters.sched_priority = rtprio;
264
265         if (0 != pthread_setschedparam(pthread_self(), policy, &scheduling_parameters))
266                 error(1, errno, "pthread_setschedparam error");
267 }
268
269 void term_handler(int signum)
270 {
271         finish_flag = 1;
272 }
273
274 static inline int sock_get_if_index(int s, const char *if_name)
275 {
276         struct ifreq ifr;
277         MEMSET_ZERO(ifr);
278
279         strcpy(ifr.ifr_name, if_name);
280         if (ioctl(s, SIOCGIFINDEX, &ifr) < 0)
281                 error(1, errno, "SIOCGIFINDEX '%s'", if_name);
282         return ifr.ifr_ifindex;
283 }
284
285 static inline get_tstamp(struct timespec *ts)
286 {
287         clock_gettime(CLOCK_REALTIME, ts);
288 }
289
290
291 int trace_fd = -1;
292 int marker_fd = -1;
293
294 int init_ftrace()
295 {
296 #ifdef FTRACE
297         char *debugfs;
298         char path[256];
299         FILE *f;
300
301         debugfs = "/sys/kernel/debug";
302         if (debugfs) {
303                 strcpy(path, debugfs);
304                 strcat(path,"/tracing/tracing_on");
305                 trace_fd = open(path, O_WRONLY);
306                 if (trace_fd >= 0)
307                         write(trace_fd, "1", 1);
308
309                 strcpy(path, debugfs);
310                 strcat(path,"/tracing/trace_marker");
311                 marker_fd = open(path, O_WRONLY);
312
313                 strcpy(path, debugfs);
314                 strcat(path,"/tracing/set_ftrace_pid");
315                 f = fopen(path, "w");
316                 fprintf(f, "%d\n", getpid());
317                 fclose(f);
318                 system("echo function_graph > /sys/kernel/debug/tracing/current_tracer");
319                 system("echo can_send > /sys/kernel/debug/tracing/set_graph_function");
320                 system("echo > /sys/kernel/debug/tracing/trace");
321                 system("echo 1 > /sys/kernel/debug/tracing/tracing_enabled");
322         }
323 #endif  /* FTRACE */
324 }
325
326 static inline void trace_on()
327 {
328         if (trace_fd >= 0)
329                 write(trace_fd, "1", 1);
330 }
331
332 static inline void trace_off(int ret)
333 {
334         if (marker_fd >= 0) {
335                 char marker[100];
336                 sprintf(marker, "write returned %d\n", ret);
337                 write(marker_fd, marker, strlen(marker));
338         }
339         if (trace_fd >= 0)
340                 write(trace_fd, "0", 1);
341 }
342
343 static inline void msg_info_free(struct msg_info *mi)
344 {
345         mi->id = -1;
346 }
347
348 static inline bool msg_info_used(struct msg_info *mi)
349 {
350         return mi->id != -1;
351 }
352
353 int send_frame(int socket)
354 {
355         struct can_frame frame;
356         struct msg_info *mi;
357         int ret;
358         static int curr_msg = -1;
359         int i;
360         uint16_t idx;
361
362         MEMSET_ZERO(frame);
363         i = curr_msg+1;
364         while (msg_info_used(&msg_infos[i]) && i != curr_msg) {
365                 i++;
366                 if (i >= MAX_INFOS)
367                         i = 0;
368         }
369         if (i == curr_msg)
370                 error(1, 0, "Msg info table is full! Probably, many packets were lost.");
371         else
372                 curr_msg = i;
373
374         frame.can_id = opt.id;
375         if (opt.length < 2)
376                 error(1, 0, "Length < 2 is not yet supported");
377         frame.can_dlc = opt.length;
378         idx = curr_msg;
379         memcpy(frame.data, &idx, sizeof(idx));
380         mi = frame2info(&frame);
381
382         mi->id = frame.can_id;
383         mi->length = frame.can_dlc;
384         get_tstamp(&mi->ts_sent);
385         mi->sent = frame;
386
387         trace_on();
388         ret = write(socket, &frame, sizeof(frame));
389         trace_off(ret);
390
391         if (ret == -1 || num_interfaces == 1)
392                 msg_info_free(mi);
393         return ret;
394 }
395
396 static inline send_and_check(int s)
397 {
398         int ret;
399         ret = send_frame(s);
400         if (ret != sizeof(struct can_frame)) {
401 /*              if (ret == -1 && errno == ENOBUFS && opt.period_us == 0 && !opt.oneattime) { */
402 /*                      stats.enobufs++; */
403 /*                      /\* Ignore this error - pfifo_fast qeuue is full *\/ */
404 /*              } else */
405                         error(1, errno, "send_frame (line %d)", __LINE__);
406         } else {
407                 count++;
408                 msg_in_progress++;
409         }
410 }
411
412 static inline void get_next_timeout(struct timespec *timeout)
413 {
414         struct timespec now;
415         static struct timespec last = {-1, 0 };
416
417         clock_gettime(CLOCK_MONOTONIC, &now);
418
419         if (last.tv_sec == -1)
420                 last = now;
421         if (opt.period_us != 0) {
422                 last.tv_sec += opt.period_us/1000000;
423                 last.tv_nsec += (opt.period_us%1000000)*1000;
424                 while (last.tv_nsec >= 1000000000) {
425                         last.tv_nsec -= 1000000000;
426                         last.tv_sec++;
427                 }
428                 if (timespec_subtract(timeout, &last, &now) /* is negative */) {
429                         stats.overrun++;
430                         memset(timeout, 0, sizeof(*timeout));
431                 }
432         } else if (opt.timeout_ms != 0) {
433                 timeout->tv_sec = opt.timeout_ms/1000;
434                 timeout->tv_nsec = (opt.timeout_ms%1000)*1000000;
435         } else
436                 error(1, 0, "Timeout and period cannot be both zero");
437 }
438
439 void receive(int s, struct can_frame *frame, struct timespec *ts_kern, struct timespec *ts_user)
440 {
441         char ctrlmsg[CMSG_SPACE(sizeof(struct timeval)) + CMSG_SPACE(sizeof(__u32))];
442         struct iovec iov;
443         struct msghdr msg;
444         struct cmsghdr *cmsg;
445         struct sockaddr_can addr;
446         int nbytes;
447         static uint64_t dropcnt = 0;
448
449         iov.iov_base = frame;
450         msg.msg_name = &addr;
451         msg.msg_iov = &iov;
452         msg.msg_iovlen = 1;
453         msg.msg_control = &ctrlmsg;
454
455         /* these settings may be modified by recvmsg() */
456         iov.iov_len = sizeof(*frame);
457         msg.msg_namelen = sizeof(addr);
458         msg.msg_controllen = sizeof(ctrlmsg);
459         msg.msg_flags = 0;
460
461         nbytes = recvmsg(s, &msg, 0);
462         if (nbytes < 0)
463                 error(1, errno, "recvmsg");
464
465         if (nbytes < sizeof(struct can_frame))
466                 error(1, 0, "recvmsg: incomplete CAN frame\n");
467
468         get_tstamp(ts_user);
469         MEMSET_ZERO(*ts_kern);
470         for (cmsg = CMSG_FIRSTHDR(&msg);
471              cmsg && (cmsg->cmsg_level == SOL_SOCKET);
472              cmsg = CMSG_NXTHDR(&msg,cmsg)) {
473                 if (cmsg->cmsg_type == SO_TIMESTAMPNS)
474                         *ts_kern = *(struct timespec *)CMSG_DATA(cmsg);
475                 else if (cmsg->cmsg_type == SO_RXQ_OVFL)
476                         dropcnt += *(__u32 *)CMSG_DATA(cmsg);
477         }
478
479 }
480
481 void process_tx(int s)
482 {
483         error(1, 0, "%s: not implemented", __FUNCTION__);
484 }
485
486 void process_on_wire_rx(int s)
487 {
488         struct timespec ts_kern, ts_user, ts_diff;
489         struct can_frame frame;
490         struct msg_info *mi;
491         receive(s, &frame, &ts_kern, &ts_user);
492         mi = frame2info(&frame);
493         if (msg_info_used(mi)) {
494                 mi->ts_rx_onwire_kern = ts_kern;
495                 mi->ts_rx_onwire = ts_user;
496         } else
497                 stats.invalid_frame++;
498 }
499
500
501 void process_final_rx(int s)
502 {
503         struct timespec ts_kern, ts_user, ts_diff;
504         struct can_frame frame;
505         struct msg_info *mi;
506         int ret;
507
508         receive(s, &frame, &ts_kern, &ts_user);
509         mi = frame2info(&frame);
510         mi->ts_rx_final_kern = ts_kern;
511         mi->ts_rx_final = ts_user;
512         mi->received = frame;
513
514         histogram_add(&histogram, get_msg_latency_us(mi));
515
516         ret = write(completion_pipe[1], &mi, sizeof(mi));
517         if (ret == -1)
518                 error(1, errno, "completion_pipe write");
519 }
520
521 void *measure_thread(void *arg)
522 {
523         int s, i, ret;
524         struct pollfd pfd[3];
525         struct timespec timeout;
526         struct sockaddr_can addr;
527         sigset_t set;
528         int consecutive_timeouts = 0;
529
530         MEMSET_ZERO(pfd);
531
532         for (i=0; i<num_interfaces; i++) {
533                 if ((s = socket(PF_CAN, SOCK_RAW, CAN_RAW)) < 0)
534                         error(1, errno, "socket");
535
536                 addr.can_family = AF_CAN;
537                 addr.can_ifindex = sock_get_if_index(s, opt.interface[i]);
538
539                 if (i == 0) {   /* TX socket */
540                         /* disable default receive filter on this RAW socket */
541                         /* This is obsolete as we do not read from the socket at all, but for */
542                         /* this reason we can remove the receive list in the Kernel to save a */
543                         /* little (really a very little!) CPU usage.                          */
544                         if (setsockopt(s, SOL_CAN_RAW, CAN_RAW_FILTER, NULL, 0) == -1)
545                                 error(1, errno, "SOL_CAN_RAW");
546                 }
547
548                 if (bind(s, (struct sockaddr *)&addr, sizeof(addr)) < 0)
549                         error(1, errno, "bind");
550
551                 const int timestamp_on = 1;
552                 if (setsockopt(s, SOL_SOCKET, SO_TIMESTAMPNS,
553                                &timestamp_on, sizeof(timestamp_on)) < 0)
554                         error(1, errno, "setsockopt SO_TIMESTAMP");
555
556                 const int dropmonitor_on = 1;
557                 if (setsockopt(s, SOL_SOCKET, SO_RXQ_OVFL,
558                                &dropmonitor_on, sizeof(dropmonitor_on)) < 0)
559                         error(1, errno, "setsockopt SO_RXQ_OVFL not supported by your Linux Kernel");
560
561                 pfd[i].fd = s;
562                 if (i == 0)
563                         pfd[i].events = POLLIN | POLLERR | ((opt.period_us == 0 && !opt.oneattime) ? POLLOUT : 0);
564                 else
565                         pfd[i].events = POLLIN;
566         }
567
568         set_sched_policy_and_prio(SCHED_FIFO, 40);
569
570 #define SEND() send_and_check(pfd[0].fd)
571
572         if (opt.oneattime)
573                 SEND();
574
575         get_tstamp(&stats.tic);
576
577         while (!finish_flag &&
578                (opt.count == 0 || count < opt.count || msg_in_progress != 0)) {
579
580                 get_next_timeout(&timeout);
581                 //printf("ppoll"); fflush(stdout);
582                 ret = ppoll(pfd, num_interfaces, &timeout, NULL);
583                 //printf("=%d\n", ret);
584                 switch (ret) {
585                 case -1: // Error
586                         if (!INTERRUPTED_SYSCALL(errno))
587                                 error(1, errno, "ppoll");
588                         break;
589                 case 0: // Timeout
590                         if (opt.period_us) {
591                                 if (opt.count == 0 || count < opt.count) {
592                                         SEND();
593                                 }
594                         } else {
595                                 /* Lost message - send a new one */
596                                 stats.timeouts++;
597                                 consecutive_timeouts++;
598                                 if (consecutive_timeouts < 10)
599                                         SEND();
600                                 else /* Something is really broken */
601                                         finish_flag = 1;
602                         }
603                         break;
604                 default: // Event
605                         if (pfd[0].revents & (POLLIN|POLLERR)) {
606                                 process_tx(pfd[0].fd);
607                         }
608                         if (pfd[0].revents & POLLOUT) {
609                                 if (opt.count == 0 || count < opt.count)
610                                         SEND();
611                         }
612                         pfd[0].revents = 0;
613
614                         if (num_interfaces == 3 && pfd[1].revents & POLLIN) {
615                                 process_on_wire_rx(pfd[1].fd);
616                                 pfd[1].revents = 0;
617                         }
618                         if (num_interfaces == 3 && pfd[1].revents & ~POLLIN)
619                                 error(1, 0, "Unexpected pfd[1].revents: 0x%04x\n", pfd[1].revents);
620
621                         i = (num_interfaces == 2) ? 1 : 2;
622                         if (pfd[i].revents & POLLIN) {
623                                 consecutive_timeouts = 0;
624                                 process_final_rx(pfd[i].fd);
625                                 msg_in_progress--;
626                                 pfd[i].revents = 0;
627                                 if ((opt.count == 0 || count < opt.count) &&
628                                     opt.oneattime) {
629                                         SEND();
630                                 }
631                         }
632                         if (pfd[i].revents & ~POLLIN)
633                                 error(1, 0, "Unexpected pfd[%d].revents: 0x%04x\n", pfd[i].revents);
634                 }
635         }
636
637         get_tstamp(&stats.tac);
638
639         for (i=0; i<num_interfaces; i++)
640                 close(pfd[i].fd);
641
642         return NULL;
643 }
644
645 struct poptOption optionsTable[] = {
646         { "device", 'd', POPT_ARG_ARGV, &opt.interface, 'd', "Interface to use. Must be given two times (tx, rx) or three times (tx, rx1, rx2)", "interface" },
647         { "count",  'c', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.count,   0,   "The count of messages to send, zero corresponds to infinity", "num"},
648         { "id",     'i', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.id,      0,   "CAN ID of sent messages", "id"},
649         { "period", 'p', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.period_us, 0, "Period for sending messages or zero (default) to send as fast as possible", "us"},
650         { "timeout",'t', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.timeout_ms,0, "Timeout when period is zero", "ms"},
651         { "oneattime",'o', POPT_ARG_NONE,                         &opt.oneattime,0,  "Send the next message only when the previous was finally received"},
652         { "verbose",'v', POPT_ARG_NONE,                           NULL, 'v',         "Send the next message only when the previous was finally received"},
653         { "name",   'n', POPT_ARG_STRING,                         &opt.name, 0,      "Prefix of the generated files"},
654         { "length", 'l', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.length, 0,    "The length of generated messages", "bytes"},
655         { "userhist", 'u', POPT_ARG_NONE,                         &opt.userhist, 0,  "Generate histogram from userspace timestamps"},
656         { "quiet",  'q', POPT_ARG_NONE,                           &opt.quiet, 0,     "Do not print progress and statistics"},
657         POPT_AUTOHELP
658         { NULL, 0, 0, NULL, 0 }
659 };
660
661 int parse_options(int argc, const char *argv[])
662 {
663         int c;
664         poptContext optCon;   /* context for parsing command-line options */
665         void *local = talloc_new (NULL);
666
667         optCon = poptGetContext(NULL, argc, argv, optionsTable, 0);
668         //poptSetOtherOptionHelp(optCon, "[OPTIONS]* <port>");
669
670         /* Now do options processing */
671         while ((c = poptGetNextOpt(optCon)) >= 0) {
672                 switch (c) {
673                 case 'd':
674                         num_interfaces++;
675                         break;
676                 }
677         }
678         if (c < -1)
679                 error(1, 0, "%s: %s\n",
680                       poptBadOption(optCon, POPT_BADOPTION_NOALIAS),
681                       poptStrerror(c));
682
683         if (num_interfaces < 1 || num_interfaces > 3)
684                 error(1, 0, "-d option must only be given one, two or three times");
685
686         if (opt.oneattime && opt.period_us)
687                 error(1, 0, "oneattime and period cannot be specified at the same time");
688
689         if (opt.name) {
690                 char *f = talloc_asprintf(local, "%s-msgs.txt", opt.name);
691                 opt.f_msgs = fopen(f, "w");
692                 if (!opt.f_msgs)
693                         error(1, errno, "fopen: %s", f);
694         }
695
696         if (opt.name) {
697                 char *f = talloc_asprintf(local, "%s-hist.txt", opt.name);
698                 opt.f_hist = fopen(f, "w");
699                 if (!opt.f_hist)
700                         error(1, errno, "fopen: %s", f);
701         }
702
703         if (opt.name) {
704                 char *f = talloc_asprintf(local, "%s-stat.txt", opt.name);
705                 opt.f_stat = fopen(f, "w");
706                 if (!opt.f_stat)
707                         error(1, errno, "fopen: %s", f);
708         }
709
710         poptFreeContext(optCon);
711         talloc_free(local);
712         return 0;
713 }
714
715 void print_progress()
716 {
717         if (! opt.quiet) {
718                 if (num_interfaces > 1)
719                         printf("\rSent %5d, in progress %5d", count, msg_in_progress);
720                 else
721                         printf("\rSent %5d", count);
722                 fflush(stdout);
723         }
724 }
725
726 int main(int argc, const char *argv[])
727 {
728         pthread_t thread;
729         sigset_t set;
730         int ret, i;
731
732         parse_options(argc, argv);
733
734         mlockall(MCL_CURRENT | MCL_FUTURE);
735
736         signal(SIGINT, term_handler);
737         signal(SIGTERM, term_handler);
738
739         for (i=0; i<MAX_INFOS; i++)
740                 msg_infos[i].id = -1;
741
742         histogram_init(&histogram, 5000000, 1);
743
744         ret = pipe(completion_pipe);
745         if (ret == -1)
746                 error(1, errno, "pipe");
747         ret = fcntl(completion_pipe[1], F_SETFL, O_NONBLOCK);
748         if (ret == -1)
749                 error(1, errno, "pipe fcntl");
750
751         init_ftrace();
752
753         pthread_create(&thread, 0, measure_thread, NULL);
754
755         struct timespec next, now, diff, allsent = {0,0};
756         clock_gettime(CLOCK_MONOTONIC, &next);
757         int completed = 0;
758         while (!finish_flag && (opt.count == 0 || completed < opt.count)) {
759                 struct pollfd pfd[1];
760                 pfd[0].fd = completion_pipe[0];
761                 pfd[0].events = POLLIN;
762                 ret = poll(pfd, 1, 100);
763                 if (ret == -1 && !INTERRUPTED_SYSCALL(errno))
764                         error(1, errno, "poll main");
765                 if (ret > 0 && (pfd[0].revents & POLLIN)) {
766                         struct msg_info *mi;
767                         int ret;
768                         ret = read(completion_pipe[0], &mi, sizeof(mi));
769                         if (ret < sizeof(mi))
770                                 error(1, errno, "read completion returned %d", ret);
771                         msg_info_print(opt.f_msgs, mi);
772                         msg_info_free(mi);
773                         completed++;
774                 }
775
776                 clock_gettime(CLOCK_MONOTONIC, &now);
777                 if (timespec_subtract(&diff, &next, &now)) {
778                         print_progress();
779                         next.tv_nsec += 100000000;
780                         while (next.tv_nsec >= 1000000000) {
781                                 next.tv_nsec -= 1000000000;
782                                 next.tv_sec++;
783                         }
784                 }
785                 if (opt.count != 0 && count >= opt.count) {
786                         if (allsent.tv_sec == 0)
787                                 allsent = now;
788                         timespec_subtract(&diff, &now, &allsent);
789                         if (diff.tv_sec >= 1)
790                                 finish_flag = 1;
791                 }
792         }
793         print_progress();
794         if (!opt.quiet)
795                 printf("\n");
796
797         stats.lost = msg_in_progress;
798
799         pthread_join(thread, NULL);
800
801         close(completion_pipe[0]);
802         close(completion_pipe[1]);
803
804         histogram_fprint(&histogram, opt.f_hist);
805         fclose(opt.f_hist);
806         fclose(opt.f_msgs);
807
808
809         fprintf(opt.f_stat, "cmdline='");
810         for (i=0; i<argc; i++)
811                 fprintf(opt.f_stat, "%s%s", argv[i], i < argc-1 ? " " : "");
812         fprintf(opt.f_stat, "'\n");
813
814         timespec_subtract(&diff, &stats.tac, &stats.tic);
815         fprintf(opt.f_stat, "duration=%s # seconds\n", tstamp_str(NULL, &diff));
816         
817         fprintf(opt.f_stat, "sent=%d\n", count);
818         fprintf(opt.f_stat, "overrun=%d\n", stats.overrun);
819         if (stats.overrun && !opt.quiet)
820                 printf("overrun=%d\n", stats.overrun);
821         fprintf(opt.f_stat, "enobufs=%d\n", stats.enobufs);
822         if (stats.enobufs && !opt.quiet)
823                 printf("enobufs=%d\n", stats.enobufs);
824         fprintf(opt.f_stat, "lost=%d\n", stats.lost);
825         if (stats.lost && !opt.quiet)
826                 printf("lost=%d\n", stats.lost);
827         fprintf(opt.f_stat, "timeouts=%d\n", stats.timeouts);
828         if (stats.timeouts && !opt.quiet)
829                 printf("timeouts=%d\n", stats.timeouts);
830         fprintf(opt.f_stat, "invalid_frame=%d\n", stats.timeouts);
831         if (stats.timeouts && !opt.quiet)
832                 printf("invalid_frame=%d\n", stats.timeouts);
833
834         fclose(opt.f_stat);
835
836         return 0;
837 }