Another bug
[can-benchmark.git] / latester / latester.c
1 /**************************************************************************/
2 /* CAN latency tester                                                     */
3 /* Copyright (C) 2010, 2011, 2012, 2013 Michal Sojka, DCE FEE CTU Prague  */
4 /* License: GPLv2                                                         */
5 /**************************************************************************/
6
7 #include <ctype.h>
8 #include <errno.h>
9 #include <error.h>
10 #include <fcntl.h>
11 #include <math.h>
12 #include <net/if.h>
13 #include <poll.h>
14 #include <popt.h>
15 #include <pthread.h>
16 #include <semaphore.h>
17 #include <sched.h>
18 #include <signal.h>
19 #include <stdbool.h>
20 #include <stdint.h>
21 #include <stdio.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include <sys/ioctl.h>
25 #include <sys/mman.h>
26 #include <sys/socket.h>
27 #include <sys/stat.h>
28 #include <sys/time.h>
29 #include <sys/types.h>
30 #include <talloc.h>
31 #include <unistd.h>
32
33 #include <linux/can.h>
34 #include <linux/can/raw.h>
35
36 #include "histogram.h"
37
38 //#define FTRACE
39
40 #ifndef DEBUG
41 #define dbg(level, fmt, arg...) do {} while (0)
42 #else
43 #define dbg(level, fmt, arg...) do { if (level <= DEBUG) { printf("candping: " fmt, ## arg); } } while (0)
44 #endif
45
46 #define INTERRUPTED_SYSCALL(errno) (errno == EINTR || errno == ERESTART)
47
48 #define MEMSET_ZERO(obj) memset(&(obj), 0, sizeof(obj))
49
50 /* Global variables */
51 volatile sig_atomic_t finish_flag = 0;  /* Threads should terminate. */
52 sem_t finish_sem;               /* Thread signals a termination */
53
54 /* Command line options */
55 struct options {
56         char **interface;
57         canid_t id;
58         unsigned period_us;
59         unsigned timeout_ms;
60         unsigned count;
61         unsigned oneattime;
62         char *name;
63         int length;
64         int userhist;
65         int quiet;
66
67         /* Temporary variables */
68         FILE *f_msgs;
69         FILE *f_hist;
70         FILE *f_hist_gw;
71         FILE *f_stat;
72 };
73
74 struct options opt = {
75         .id = 10,
76         .period_us = 0,
77         .timeout_ms = 1000,
78         .length = 2,
79 };
80
81 struct {
82         unsigned enobufs;
83         unsigned overrun;
84         unsigned lost;
85         struct timespec tic, tac;
86         unsigned timeouts;
87         unsigned invalid_frame;
88 } stats;
89
90 int num_interfaces = 0;
91 int count = 0;                  /* Number of sent messages */
92 unsigned msg_in_progress = 0;
93 int completion_pipe[2];
94
95 struct msg_info {
96         canid_t id;
97         uint8_t length;
98         struct timespec ts_sent, ts_sent_kern;
99         struct timespec ts_rx_onwire, ts_rx_onwire_kern;
100         struct timespec ts_rx_final, ts_rx_final_kern;
101         struct can_frame sent, received;
102         unsigned lat_measured_us, tx_time_us;
103 };
104
105 #define MAX_INFOS 10000
106 struct msg_info msg_infos[MAX_INFOS];
107
108 struct histogram histogram, histogram_gw;
109
110 void sprint_canframe(char *buf , struct can_frame *cf, int sep) {
111         /* documentation see lib.h */
112
113         int i,offset;
114         int dlc = (cf->can_dlc > 8)? 8 : cf->can_dlc;
115
116         if (cf->can_id & CAN_ERR_FLAG) {
117                 sprintf(buf, "%08X#", cf->can_id & (CAN_ERR_MASK|CAN_ERR_FLAG));
118                 offset = 9;
119         } else if (cf->can_id & CAN_EFF_FLAG) {
120                 sprintf(buf, "%08X#", cf->can_id & CAN_EFF_MASK);
121                 offset = 9;
122         } else {
123                 sprintf(buf, "%03X#", cf->can_id & CAN_SFF_MASK);
124                 offset = 4;
125         }
126
127         if (cf->can_id & CAN_RTR_FLAG) /* there are no ERR frames with RTR */
128                 sprintf(buf+offset, "R");
129         else
130                 for (i = 0; i < dlc; i++) {
131                         sprintf(buf+offset, "%02X", cf->data[i]);
132                         offset += 2;
133                         if (sep && (i+1 < dlc))
134                                 sprintf(buf+offset++, ".");
135                 }
136 }
137
138 static inline uint16_t frame_index(struct can_frame *frame)
139 {
140         uint16_t idx;
141         if (frame->can_dlc >= 2) {
142                 memcpy(&idx, frame->data, sizeof(idx));
143                 if (idx >= MAX_INFOS)
144                         error(1, 0, "%s idx too high", __FUNCTION__);
145         } else {
146
147                 error(1, 0, "%s error", __FUNCTION__);
148         }
149         return idx;
150 }
151
152 static inline struct msg_info *frame2info(struct can_frame *frame)
153 {
154         return &msg_infos[frame_index(frame)];
155 }
156
157 static inline char *tstamp_str(const void *ctx, struct timespec *tstamp)
158 {
159         return talloc_asprintf(ctx, "%ld.%06ld",
160                                tstamp->tv_sec, tstamp->tv_nsec/1000);
161 }
162
163 /* Functions and types for CRC checks.
164  *
165  * Generated on Wed Sep 21 22:30:11 2011,
166  * by pycrc v0.7.8, http://www.tty1.net/pycrc/
167  * using the configuration:
168  *    Width        = 15
169  *    Poly         = 0x4599
170  *    XorIn        = 0x0000
171  *    ReflectIn    = False
172  *    XorOut       = 0x0000
173  *    ReflectOut   = False
174  *    Algorithm    = table-driven
175  *****************************************************************************/
176 typedef uint16_t crc_t;
177
178 static const crc_t crc_table[2] = {
179     0x0000, 0x4599
180 };
181
182 crc_t crc_update(crc_t crc, uint32_t data, size_t bit_len)
183 {
184     unsigned int tbl_idx;
185 /*     crc_t bc = crc; */
186 /*     uint32_t bd = data; */
187 /*     size_t bl = bit_len; */
188
189     while (bit_len--) {
190         tbl_idx = (crc >> 14) ^ (data >> 31);
191         crc = crc_table[tbl_idx & 0x01] ^ (crc << 1);
192         data <<= 1;
193     }
194     crc = crc & 0x7fff;
195 /*     printf("crc: 0x%04x -> 0x%04x  data: 0x%08x  len: %d\n", */
196 /*         bc, crc, bd, bl); */
197     return crc;
198 }
199
200 uint32_t calc_bitmap_crc(uint32_t *bitmap, unsigned start, unsigned end)
201 {
202     crc_t crc = 0;
203     crc = crc_update(crc, bitmap[0] << start, 32 - start);
204     crc = crc_update(crc, bitmap[1], 32);
205     crc = crc_update(crc, bitmap[2], end - 64 > 32 ? 32 : end - 64); /* FIXME: This seems to be broken for end < 64 */
206     crc = crc_update(crc, bitmap[3], end > 96 ? end - 96 : 0);
207     return (uint32_t)htons(crc << 17);
208 }
209
210 void write_crc_to_bitmap(uint32_t crc, uint32_t *bitmap, struct can_frame *frame)
211 {
212     unsigned index = frame->can_id & CAN_EFF_FLAG ? 2 : 1;
213     if (frame->can_dlc < 4)
214         bitmap[index] |= crc >> (frame->can_dlc*8);
215     if (frame->can_dlc == 3)
216         bitmap[index + 1] |= crc << 8;
217     if (frame->can_dlc >= 4 && frame->can_dlc < 8)
218     {
219         bitmap[index + 1] |= crc >> (frame->can_dlc*8);
220         if (frame->can_dlc == 7)
221             bitmap[index + 2] = crc << 8;
222     }
223     else if (frame->can_dlc == 8)
224         bitmap[index + 2] = crc;
225 }
226
227 unsigned calc_stuff_bits(struct can_frame *frame) {
228         uint32_t bitmap[4];
229         unsigned start = 0, end;
230         uint32_t mask, ones = 0, basemask = 0xf8000000;
231         unsigned stuffed = 0;
232         memset(bitmap, 0, sizeof(bitmap));
233         uint32_t crc;
234
235 /*      char received[64]; */
236 /*      sprint_canframe(received, frame, true); */
237 /*      printf("Frame: %s\n", received); */
238         
239         if (frame->can_id & CAN_EFF_FLAG) {
240                 // bit 31                              0
241                 // [0] |...........................sBBBB| s = SOF, B = Base ID (11 bits)
242                 // [1] |BBBBBBBSIEEEEEEEEEEEEEEEEEER10DLC4| S = SRR, I = IDE, E = Extended ID (18 bits), DLC4 = DLC
243                 // [2] |00000000111111112222222233333333| Data bytes, MSB first
244                 // [3] |44444444555555556666666677777777|
245                 bitmap[0] =
246                         ((frame->can_id & CAN_EFF_MASK) >> 25);
247                 bitmap[1] =
248                         ((frame->can_id & CAN_EFF_MASK) >> 18) << 25    |
249                         3 << 23                                         |
250                         ((frame->can_id & CAN_EFF_MASK) & 0x3ffff) << 7 |
251                         (!!(frame->can_id & CAN_RTR_FLAG)) << 6         |
252                         0 << 4                                          |
253                         frame->can_dlc & 0xf;
254                 memcpy(&bitmap[2], &frame->data, frame->can_dlc);
255                 start = 27;
256                 end = 64 + 8*frame->can_dlc;
257         } else {
258                 // bit 31                              0
259                 // [0] |.............sIIIIIIIIIIIRE0DLC4| s = SOF, I = ID (11 bits), R = RTR, E = IDE, DLC4 = DLC
260                 // [1] |00000000111111112222222233333333| Data bytes, MSB first
261                 // [2] |44444444555555556666666677777777|
262                 bitmap[0] =
263                         (frame->can_id << 7) |
264                         (!!(frame->can_id & CAN_RTR_FLAG)) << 6 |
265                         0 << 4                                  |
266                         frame->can_dlc & 0xf;
267                 memcpy(&bitmap[1], &frame->data, frame->can_dlc);
268                 start = 13;
269                 end = 32 + 8*frame->can_dlc;
270         }
271         crc = calc_bitmap_crc(bitmap, start, end);
272         write_crc_to_bitmap(crc, bitmap, frame);
273         end += 15;
274
275         while (start < end) {
276                 mask = basemask >> (start & 0x1f);
277                 while (1) {
278                         ones = ones ? mask : 0;
279                         uint32_t chunk = (bitmap[start >> 5] & mask) ^ ones;
280                         //printf("start=%d  bitmap=0x%08x  mask=0x%08x  ones=0x%08x  chunk=0x%08x\n", start, bitmap[start >> 5], mask, ones, chunk);
281                         if (chunk) {
282                                 unsigned change = __builtin_clz(chunk);
283                                 start = start & ~0x1f | change;
284                                 basemask = 0xf8000000;
285                         } else {
286                                 unsigned oldstart = start;
287                                 start += __builtin_popcount(mask);
288                                 mask = (oldstart & 0x1f) ? basemask << (-oldstart & 0x1f) : 0;
289                                 //printf("oldstart=%d  shl=%d  mask=0x%08x\n", oldstart, -oldstart & 0x1f, mask);
290                                 if (mask && start < end)
291                                         continue;
292                                 if (start <= end && !mask) {
293                                         stuffed++;
294                                         basemask = 0xf0000000;
295                                         //printf("stuffed %d\n", !ones);
296                                 }
297                         }
298                         break;
299                 }
300                 ones = !ones;
301         }
302         //printf ("STUFFED %d BITS\n", stuffed);
303         return stuffed;
304 }
305
306 unsigned calc_frame_txtime_us(struct can_frame *frame) {
307         return calc_stuff_bits(frame) +
308                 1 +             /* SOF */
309                 11 +            /* ID A */
310                 ((frame->can_id & CAN_EFF_FLAG) ?
311                  1 +            /* SRR */
312                  1 +            /* IDE */
313                  18 +           /* ID B */
314                  1 +            /* RTR */
315                  2              /* r1, r0 */
316                  :
317                  1 +            /* rtr */
318                  2) +           /* ide, r0 */
319                 4 +             /* dlc */
320                 8*frame->can_dlc +
321                 15 +            /* CRC */
322                 3 +             /* CRC del, ACK, ACK del */
323                 7;              /* EOF */
324 }
325
326 void msg_info_print(FILE *f, struct msg_info *mi)
327 {
328         struct timespec diff;
329         void *local = talloc_new (NULL);
330         static long num = 0;
331         char sent[64], received[64];
332
333         if (!f)
334                 return;
335
336         sprint_canframe(sent, &mi->sent, true);
337         sprint_canframe(received, &mi->received, true);
338
339 #define S(ts) tstamp_str(local, &ts)
340 #define DIFF(a, b) (timespec_subtract(&diff, &b, &a), S(diff))
341
342         switch (num_interfaces) {
343         case 2:
344                 fprintf(f, "%ld: %s %s -> %s (%s) %s = %s (%s) %d\n",
345                         num, S(mi->ts_sent), sent, S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
346                         DIFF(mi->ts_sent, mi->ts_rx_final_kern),
347                         DIFF(mi->ts_sent, mi->ts_rx_final),
348                         mi->tx_time_us);
349                 break;
350         case 3:
351                 fprintf(f, "%ld: %s %s -> %s (%s) -> %s (%s) %s = %s (%s), %s (%s) %d\n",
352                         num, S(mi->ts_sent), sent,
353                         S(mi->ts_rx_onwire_kern), S(mi->ts_rx_onwire),
354                         S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
355                         DIFF(mi->ts_sent, mi->ts_rx_onwire_kern),
356                         DIFF(mi->ts_sent, mi->ts_rx_onwire),
357                         DIFF(mi->ts_rx_onwire_kern, mi->ts_rx_final_kern),
358                         DIFF(mi->ts_rx_onwire, mi->ts_rx_final),
359                         mi->tx_time_us);
360                 break;
361         }
362 #undef S
363 #undef DIFF
364         num++;
365         talloc_free (local);
366 }
367
368 /* Subtract the `struct timespec' values X and Y, storing the result in
369    RESULT.  Return 1 if the difference is negative, otherwise 0.  */
370
371 int timespec_subtract (struct timespec *result, struct timespec *x, struct timespec *yy)
372 {
373         struct timespec ylocal = *yy, *y = &ylocal;
374         /* Perform the carry for the later subtraction by updating Y. */
375         if (x->tv_nsec < y->tv_nsec) {
376                 int nsec = (y->tv_nsec - x->tv_nsec) / 1000000000 + 1;
377                 y->tv_nsec -= 1000000000 * nsec;
378                 y->tv_sec += nsec;
379         }
380         if (x->tv_nsec - y->tv_nsec > 1000000000) {
381                 int nsec = (x->tv_nsec - y->tv_nsec) / 1000000000;
382                 y->tv_nsec += 1000000000 * nsec;
383                 y->tv_sec -= nsec;
384         }
385
386         /* Compute the time remaining to wait.
387            `tv_nsec' is certainly positive. */
388         result->tv_sec = x->tv_sec - y->tv_sec;
389         result->tv_nsec = x->tv_nsec - y->tv_nsec;
390
391         /* Return 1 if result is negative. */
392         return x->tv_sec < y->tv_sec;
393 }
394
395 void dbg_print_timespec(char *msg, struct timespec *tv)
396 {
397
398         printf("%s sec=%ld nsec=%ld\n", msg, tv->tv_sec, tv->tv_nsec);
399 }
400
401 static inline void calc_msg_latencies(struct msg_info *mi)
402 {
403         struct timespec diff;
404         switch (num_interfaces) {
405         case 3:
406                 if (opt.userhist)
407                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_rx_onwire);
408                 else
409                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_rx_onwire_kern);
410                 break;
411         case 2:
412                 if (opt.userhist)
413                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_sent);
414                 else
415                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_sent);
416                 break;
417         default:
418                 return;
419         }
420         mi->lat_measured_us = diff.tv_sec * 1000000 + diff.tv_nsec/1000;
421         mi->tx_time_us = calc_frame_txtime_us(&mi->received);
422 }
423
424 void set_sched_policy_and_prio(int policy, int rtprio)
425 {
426         struct sched_param scheduling_parameters;
427         int maxprio=sched_get_priority_max(policy);
428         int minprio=sched_get_priority_min(policy);
429
430         if((rtprio < minprio) || (rtprio > maxprio))
431                 error(1, 0, "The priority for requested policy is out of <%d, %d> range\n",
432                       minprio, maxprio);
433
434         scheduling_parameters.sched_priority = rtprio;
435
436         if (0 != pthread_setschedparam(pthread_self(), policy, &scheduling_parameters))
437                 error(1, errno, "pthread_setschedparam error");
438 }
439
440 void term_handler(int signum)
441 {
442         finish_flag = 1;
443 }
444
445 static inline int sock_get_if_index(int s, const char *if_name)
446 {
447         struct ifreq ifr;
448         MEMSET_ZERO(ifr);
449
450         strcpy(ifr.ifr_name, if_name);
451         if (ioctl(s, SIOCGIFINDEX, &ifr) < 0)
452                 error(1, errno, "SIOCGIFINDEX '%s'", if_name);
453         return ifr.ifr_ifindex;
454 }
455
456 static inline get_tstamp(struct timespec *ts)
457 {
458         clock_gettime(CLOCK_REALTIME, ts);
459 }
460
461
462 int trace_fd = -1;
463 int marker_fd = -1;
464
465 int init_ftrace()
466 {
467 #ifdef FTRACE
468         char *debugfs;
469         char path[256];
470         FILE *f;
471
472         debugfs = "/sys/kernel/debug";
473         if (debugfs) {
474                 strcpy(path, debugfs);
475                 strcat(path,"/tracing/tracing_on");
476                 trace_fd = open(path, O_WRONLY);
477                 if (trace_fd >= 0)
478                         write(trace_fd, "1", 1);
479
480                 strcpy(path, debugfs);
481                 strcat(path,"/tracing/trace_marker");
482                 marker_fd = open(path, O_WRONLY);
483
484                 strcpy(path, debugfs);
485                 strcat(path,"/tracing/set_ftrace_pid");
486                 f = fopen(path, "w");
487                 fprintf(f, "%d\n", getpid());
488                 fclose(f);
489                 system("echo function_graph > /sys/kernel/debug/tracing/current_tracer");
490                 system("echo can_send > /sys/kernel/debug/tracing/set_graph_function");
491                 system("echo > /sys/kernel/debug/tracing/trace");
492                 system("echo 1 > /sys/kernel/debug/tracing/tracing_enabled");
493         }
494 #endif  /* FTRACE */
495 }
496
497 static inline void trace_on()
498 {
499         if (trace_fd >= 0)
500                 write(trace_fd, "1", 1);
501 }
502
503 static inline void trace_off(int ret)
504 {
505         if (marker_fd >= 0) {
506                 char marker[100];
507                 sprintf(marker, "write returned %d\n", ret);
508                 write(marker_fd, marker, strlen(marker));
509         }
510         if (trace_fd >= 0)
511                 write(trace_fd, "0", 1);
512 }
513
514 static inline void msg_info_free(struct msg_info *mi)
515 {
516         mi->id = -1;
517 }
518
519 static inline bool msg_info_used(struct msg_info *mi)
520 {
521         return mi->id != -1;
522 }
523
524 int send_frame(int socket)
525 {
526         struct can_frame frame;
527         struct msg_info *mi;
528         int ret;
529         static int curr_msg = -1;
530         int i;
531         uint16_t idx;
532
533         MEMSET_ZERO(frame);
534         i = curr_msg+1;
535         while (msg_info_used(&msg_infos[i]) && i != curr_msg) {
536                 i++;
537                 if (i >= MAX_INFOS)
538                         i = 0;
539         }
540         if (i == curr_msg)
541                 error(1, 0, "Msg info table is full! Probably, many packets were lost.");
542         else
543                 curr_msg = i;
544
545         frame.can_id = opt.id;
546         if (opt.length < 2)
547                 error(1, 0, "Length < 2 is not yet supported");
548         frame.can_dlc = opt.length;
549         idx = curr_msg;
550         memcpy(frame.data, &idx, sizeof(idx));
551         mi = frame2info(&frame);
552
553         mi->id = frame.can_id;
554         mi->length = frame.can_dlc;
555         get_tstamp(&mi->ts_sent);
556         mi->sent = frame;
557
558         trace_on();
559         ret = write(socket, &frame, sizeof(frame));
560         trace_off(ret);
561
562         if (ret == -1 || num_interfaces == 1)
563                 msg_info_free(mi);
564         return ret;
565 }
566
567 static inline send_and_check(int s)
568 {
569         int ret;
570         ret = send_frame(s);
571         if (ret != sizeof(struct can_frame)) {
572 /*              if (ret == -1 && errno == ENOBUFS && opt.period_us == 0 && !opt.oneattime) { */
573 /*                      stats.enobufs++; */
574 /*                      /\* Ignore this error - pfifo_fast qeuue is full *\/ */
575 /*              } else */
576                         error(1, errno, "send_frame (line %d)", __LINE__);
577         } else {
578                 count++;
579                 msg_in_progress++;
580         }
581 }
582
583 static inline void get_next_timeout(struct timespec *timeout)
584 {
585         struct timespec now;
586         static struct timespec last = {-1, 0 };
587
588         clock_gettime(CLOCK_MONOTONIC, &now);
589
590         if (last.tv_sec == -1)
591                 last = now;
592         if (opt.period_us != 0) {
593                 last.tv_sec += opt.period_us/1000000;
594                 last.tv_nsec += (opt.period_us%1000000)*1000;
595                 while (last.tv_nsec >= 1000000000) {
596                         last.tv_nsec -= 1000000000;
597                         last.tv_sec++;
598                 }
599                 if (timespec_subtract(timeout, &last, &now) /* is negative */) {
600                         stats.overrun++;
601                         memset(timeout, 0, sizeof(*timeout));
602                 }
603         } else if (opt.timeout_ms != 0) {
604                 timeout->tv_sec = opt.timeout_ms/1000;
605                 timeout->tv_nsec = (opt.timeout_ms%1000)*1000000;
606         } else
607                 error(1, 0, "Timeout and period cannot be both zero");
608 }
609
610 void receive(int s, struct can_frame *frame, struct timespec *ts_kern, struct timespec *ts_user)
611 {
612         char ctrlmsg[CMSG_SPACE(sizeof(struct timeval)) + CMSG_SPACE(sizeof(__u32))];
613         struct iovec iov;
614         struct msghdr msg;
615         struct cmsghdr *cmsg;
616         struct sockaddr_can addr;
617         int nbytes;
618         static uint64_t dropcnt = 0;
619
620         iov.iov_base = frame;
621         msg.msg_name = &addr;
622         msg.msg_iov = &iov;
623         msg.msg_iovlen = 1;
624         msg.msg_control = &ctrlmsg;
625
626         /* these settings may be modified by recvmsg() */
627         iov.iov_len = sizeof(*frame);
628         msg.msg_namelen = sizeof(addr);
629         msg.msg_controllen = sizeof(ctrlmsg);
630         msg.msg_flags = 0;
631
632         nbytes = recvmsg(s, &msg, 0);
633         if (nbytes < 0)
634                 error(1, errno, "recvmsg");
635
636         if (nbytes < sizeof(struct can_frame))
637                 error(1, 0, "recvmsg: incomplete CAN frame\n");
638
639         get_tstamp(ts_user);
640         MEMSET_ZERO(*ts_kern);
641         for (cmsg = CMSG_FIRSTHDR(&msg);
642              cmsg && (cmsg->cmsg_level == SOL_SOCKET);
643              cmsg = CMSG_NXTHDR(&msg,cmsg)) {
644                 if (cmsg->cmsg_type == SO_TIMESTAMPNS)
645                         *ts_kern = *(struct timespec *)CMSG_DATA(cmsg);
646                 else if (cmsg->cmsg_type == SO_RXQ_OVFL)
647                         dropcnt += *(__u32 *)CMSG_DATA(cmsg);
648         }
649
650 }
651
652 void process_tx(int s)
653 {
654         error(1, 0, "%s: not implemented", __FUNCTION__);
655 }
656
657 void process_on_wire_rx(int s)
658 {
659         struct timespec ts_kern, ts_user, ts_diff;
660         struct can_frame frame;
661         struct msg_info *mi;
662         receive(s, &frame, &ts_kern, &ts_user);
663         mi = frame2info(&frame);
664         if (msg_info_used(mi)) {
665                 mi->ts_rx_onwire_kern = ts_kern;
666                 mi->ts_rx_onwire = ts_user;
667         } else
668                 stats.invalid_frame++;
669 }
670
671
672 void process_final_rx(int s)
673 {
674         struct timespec ts_kern, ts_user, ts_diff;
675         struct can_frame frame;
676         struct msg_info *mi;
677         int ret;
678
679         receive(s, &frame, &ts_kern, &ts_user);
680         mi = frame2info(&frame);
681         mi->ts_rx_final_kern = ts_kern;
682         mi->ts_rx_final = ts_user;
683         mi->received = frame;
684
685         calc_msg_latencies(mi);
686
687         histogram_add(&histogram, mi->lat_measured_us);
688         histogram_add(&histogram_gw, mi->lat_measured_us - mi->tx_time_us);
689
690         ret = write(completion_pipe[1], &mi, sizeof(mi));
691         if (ret == -1)
692                 error(1, errno, "completion_pipe write");
693 }
694
695 void *measure_thread(void *arg)
696 {
697         int s, i, ret;
698         struct pollfd pfd[3];
699         struct timespec timeout;
700         struct sockaddr_can addr;
701         sigset_t set;
702         int consecutive_timeouts = 0;
703
704         MEMSET_ZERO(pfd);
705
706         for (i=0; i<num_interfaces; i++) {
707                 if ((s = socket(PF_CAN, SOCK_RAW, CAN_RAW)) < 0)
708                         error(1, errno, "socket");
709
710                 addr.can_family = AF_CAN;
711                 addr.can_ifindex = sock_get_if_index(s, opt.interface[i]);
712
713                 if (i == 0) {   /* TX socket */
714                         /* disable default receive filter on this RAW socket */
715                         /* This is obsolete as we do not read from the socket at all, but for */
716                         /* this reason we can remove the receive list in the Kernel to save a */
717                         /* little (really a very little!) CPU usage.                          */
718                         if (setsockopt(s, SOL_CAN_RAW, CAN_RAW_FILTER, NULL, 0) == -1)
719                                 error(1, errno, "SOL_CAN_RAW");
720                 }
721
722                 if (bind(s, (struct sockaddr *)&addr, sizeof(addr)) < 0)
723                         error(1, errno, "bind");
724
725                 const int timestamp_on = 1;
726                 if (setsockopt(s, SOL_SOCKET, SO_TIMESTAMPNS,
727                                &timestamp_on, sizeof(timestamp_on)) < 0)
728                         error(1, errno, "setsockopt SO_TIMESTAMP");
729
730                 const int dropmonitor_on = 1;
731                 if (setsockopt(s, SOL_SOCKET, SO_RXQ_OVFL,
732                                &dropmonitor_on, sizeof(dropmonitor_on)) < 0)
733                         error(1, errno, "setsockopt SO_RXQ_OVFL not supported by your Linux Kernel");
734
735                 pfd[i].fd = s;
736                 if (i == 0)
737                         pfd[i].events = POLLIN | POLLERR | ((opt.period_us == 0 && !opt.oneattime) ? POLLOUT : 0);
738                 else
739                         pfd[i].events = POLLIN;
740         }
741
742         set_sched_policy_and_prio(SCHED_FIFO, 40);
743
744 #define SEND() send_and_check(pfd[0].fd)
745
746         if (opt.oneattime)
747                 SEND();
748
749         get_tstamp(&stats.tic);
750
751         while (!finish_flag &&
752                (opt.count == 0 || count < opt.count || msg_in_progress != 0)) {
753
754                 get_next_timeout(&timeout);
755                 //printf("ppoll"); fflush(stdout);
756                 ret = ppoll(pfd, num_interfaces, &timeout, NULL);
757                 //printf("=%d\n", ret);
758                 switch (ret) {
759                 case -1: // Error
760                         if (!INTERRUPTED_SYSCALL(errno))
761                                 error(1, errno, "ppoll");
762                         break;
763                 case 0: // Timeout
764                         if (opt.period_us) {
765                                 if (opt.count == 0 || count < opt.count) {
766                                         SEND();
767                                 }
768                         } else {
769                                 /* Lost message - send a new one */
770                                 stats.timeouts++;
771                                 consecutive_timeouts++;
772                                 if (consecutive_timeouts < 10)
773                                         SEND();
774                                 else /* Something is really broken */
775                                         finish_flag = 1;
776                         }
777                         break;
778                 default: // Event
779                         if (pfd[0].revents & (POLLIN|POLLERR)) {
780                                 process_tx(pfd[0].fd);
781                         }
782                         if (pfd[0].revents & POLLOUT) {
783                                 if (opt.count == 0 || count < opt.count)
784                                         SEND();
785                         }
786                         pfd[0].revents = 0;
787
788                         if (num_interfaces == 3 && pfd[1].revents & POLLIN) {
789                                 process_on_wire_rx(pfd[1].fd);
790                                 pfd[1].revents = 0;
791                         }
792                         if (num_interfaces == 3 && pfd[1].revents & ~POLLIN)
793                                 error(1, 0, "Unexpected pfd[1].revents: 0x%04x\n", pfd[1].revents);
794
795                         i = (num_interfaces == 2) ? 1 : 2;
796                         if (pfd[i].revents & POLLIN) {
797                                 consecutive_timeouts = 0;
798                                 process_final_rx(pfd[i].fd);
799                                 msg_in_progress--;
800                                 pfd[i].revents = 0;
801                                 if ((opt.count == 0 || count < opt.count) &&
802                                     opt.oneattime) {
803                                         SEND();
804                                 }
805                         }
806                         if (pfd[i].revents & ~POLLIN)
807                                 error(1, 0, "Unexpected pfd[%d].revents: 0x%04x\n", pfd[i].revents);
808                 }
809         }
810
811         get_tstamp(&stats.tac);
812
813         for (i=0; i<num_interfaces; i++)
814                 close(pfd[i].fd);
815
816         return NULL;
817 }
818
819 struct poptOption optionsTable[] = {
820         { "device", 'd', POPT_ARG_ARGV, &opt.interface, 'd', "Interface to use. Must be given two times (tx, rx) or three times (tx, rx1, rx2)", "interface" },
821         { "count",  'c', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.count,   0,   "The count of messages to send, zero corresponds to infinity", "num"},
822         { "id",     'i', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.id,      0,   "CAN ID of sent messages", "id"},
823         { "period", 'p', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.period_us, 0, "Period for sending messages or zero (default) to send as fast as possible", "us"},
824         { "timeout",'t', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.timeout_ms,0, "Timeout when period is zero", "ms"},
825         { "oneattime",'o', POPT_ARG_NONE,                         &opt.oneattime,0,  "Send the next message only when the previous was finally received"},
826         { "verbose",'v', POPT_ARG_NONE,                           NULL, 'v',         "Send the next message only when the previous was finally received"},
827         { "name",   'n', POPT_ARG_STRING,                         &opt.name, 0,      "Prefix of the generated files"},
828         { "length", 'l', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.length, 0,    "The length of generated messages", "bytes"},
829         { "userhist", 'u', POPT_ARG_NONE,                         &opt.userhist, 0,  "Generate histogram from userspace timestamps"},
830         { "quiet",  'q', POPT_ARG_NONE,                           &opt.quiet, 0,     "Do not print progress and statistics"},
831         POPT_AUTOHELP
832         { NULL, 0, 0, NULL, 0 }
833 };
834
835 int parse_options(int argc, const char *argv[])
836 {
837         int c;
838         poptContext optCon;   /* context for parsing command-line options */
839         void *local = talloc_new (NULL);
840
841         optCon = poptGetContext(NULL, argc, argv, optionsTable, 0);
842         //poptSetOtherOptionHelp(optCon, "[OPTIONS]* <port>");
843
844         /* Now do options processing */
845         while ((c = poptGetNextOpt(optCon)) >= 0) {
846                 switch (c) {
847                 case 'd':
848                         num_interfaces++;
849                         break;
850                 }
851         }
852         if (c < -1)
853                 error(1, 0, "%s: %s\n",
854                       poptBadOption(optCon, POPT_BADOPTION_NOALIAS),
855                       poptStrerror(c));
856
857         if (num_interfaces < 1 || num_interfaces > 3)
858                 error(1, 0, "-d option must only be given one, two or three times");
859
860         if (opt.oneattime && opt.period_us)
861                 error(1, 0, "oneattime and period cannot be specified at the same time");
862
863         if (opt.name) {
864                 char *f = talloc_asprintf(local, "%s-msgs.txt", opt.name);
865                 opt.f_msgs = fopen(f, "w");
866                 if (!opt.f_msgs)
867                         error(1, errno, "fopen: %s", f);
868         }
869
870         if (opt.name) {
871                 char *f = talloc_asprintf(local, "%s-hist-raw.txt", opt.name);
872                 opt.f_hist = fopen(f, "w");
873                 if (!opt.f_hist)
874                         error(1, errno, "fopen: %s", f);
875         }
876
877         if (opt.name) {
878                 char *f = talloc_asprintf(local, "%s-hist.txt", opt.name);
879                 opt.f_hist_gw = fopen(f, "w");
880                 if (!opt.f_hist_gw)
881                         error(1, errno, "fopen: %s", f);
882         }
883
884         if (opt.name) {
885                 char *f = talloc_asprintf(local, "%s-stat.txt", opt.name);
886                 opt.f_stat = fopen(f, "w");
887                 if (!opt.f_stat)
888                         error(1, errno, "fopen: %s", f);
889         }
890
891         poptFreeContext(optCon);
892         talloc_free(local);
893         return 0;
894 }
895
896 void print_progress()
897 {
898         if (! opt.quiet) {
899                 if (num_interfaces > 1)
900                         printf("\rSent %5d, in progress %5d", count, msg_in_progress);
901                 else
902                         printf("\rSent %5d", count);
903                 fflush(stdout);
904         }
905 }
906
907 int main(int argc, const char *argv[])
908 {
909         pthread_t thread;
910         sigset_t set;
911         int ret, i;
912
913         parse_options(argc, argv);
914
915         mlockall(MCL_CURRENT | MCL_FUTURE);
916
917         signal(SIGINT, term_handler);
918         signal(SIGTERM, term_handler);
919
920         for (i=0; i<MAX_INFOS; i++)
921                 msg_infos[i].id = -1;
922
923         histogram_init(&histogram, 5000000, 1);
924         histogram_init(&histogram_gw, 5000000, 1);
925
926         ret = pipe(completion_pipe);
927         if (ret == -1)
928                 error(1, errno, "pipe");
929         ret = fcntl(completion_pipe[1], F_SETFL, O_NONBLOCK);
930         if (ret == -1)
931                 error(1, errno, "pipe fcntl");
932
933         init_ftrace();
934         if (getenv("LATESTER_CONTROL_HACKBENCH")) {
935                 char cmd[1000];
936                 sprintf(cmd, "ssh -x -a -S $HOME/.ssh/cangw-connection root@192.168.2.3 'kill -CONT -%s'",
937                         getenv("LATESTER_CONTROL_HACKBENCH"));
938                 printf("Running: %s\n", cmd);
939                 system(cmd);
940         }
941
942         pthread_create(&thread, 0, measure_thread, NULL);
943
944         struct timespec next, now, diff, allsent = {0,0};
945         clock_gettime(CLOCK_MONOTONIC, &next);
946         int completed = 0;
947         while (!finish_flag && (opt.count == 0 || completed < opt.count)) {
948                 struct pollfd pfd[1];
949                 pfd[0].fd = completion_pipe[0];
950                 pfd[0].events = POLLIN;
951                 ret = poll(pfd, 1, 100);
952                 if (ret == -1 && !INTERRUPTED_SYSCALL(errno))
953                         error(1, errno, "poll main");
954                 if (ret > 0 && (pfd[0].revents & POLLIN)) {
955                         struct msg_info *mi;
956                         int ret;
957                         ret = read(completion_pipe[0], &mi, sizeof(mi));
958                         if (ret < sizeof(mi))
959                                 error(1, errno, "read completion returned %d", ret);
960                         msg_info_print(opt.f_msgs, mi);
961                         msg_info_free(mi);
962                         completed++;
963                 }
964
965                 clock_gettime(CLOCK_MONOTONIC, &now);
966                 if (timespec_subtract(&diff, &next, &now)) {
967                         print_progress();
968                         next.tv_nsec += 100000000;
969                         while (next.tv_nsec >= 1000000000) {
970                                 next.tv_nsec -= 1000000000;
971                                 next.tv_sec++;
972                         }
973                 }
974                 if (opt.count != 0 && count >= opt.count) {
975                         if (allsent.tv_sec == 0)
976                                 allsent = now;
977                         timespec_subtract(&diff, &now, &allsent);
978                         if (diff.tv_sec >= 1)
979                                 finish_flag = 1;
980                 }
981         }
982         print_progress();
983         if (!opt.quiet)
984                 printf("\n");
985
986         stats.lost = msg_in_progress;
987
988         pthread_join(thread, NULL);
989
990         if (getenv("LATESTER_CONTROL_HACKBENCH")) {
991                 char cmd[1000];
992                 sprintf(cmd, "ssh -x -a -S $HOME/.ssh/cangw-connection root@192.168.2.3 'kill -STOP -%s'",
993                         getenv("LATESTER_CONTROL_HACKBENCH"));
994                 printf("Running: %s\n", cmd);
995                 system(cmd);
996         }
997
998         close(completion_pipe[0]);
999         close(completion_pipe[1]);
1000
1001         histogram_fprint(&histogram, opt.f_hist);
1002         histogram_fprint(&histogram_gw, opt.f_hist_gw);
1003         if (opt.f_hist)
1004                 fclose(opt.f_hist);
1005         if (opt.f_hist_gw)
1006                 fclose(opt.f_hist_gw);
1007         if (opt.f_msgs)
1008                 fclose(opt.f_msgs);
1009
1010         if (opt.f_stat) {
1011                 fprintf(opt.f_stat, "cmdline='");
1012                 for (i=0; i<argc; i++)
1013                         fprintf(opt.f_stat, "%s%s", argv[i], i < argc-1 ? " " : "");
1014                 fprintf(opt.f_stat, "'\n");
1015
1016                 timespec_subtract(&diff, &stats.tac, &stats.tic);
1017                 fprintf(opt.f_stat, "duration=%s # seconds\n", tstamp_str(NULL, &diff));
1018         
1019                 fprintf(opt.f_stat, "sent=%d\n", count);
1020                 fprintf(opt.f_stat, "overrun=%d\n", stats.overrun);
1021                 if (stats.overrun && !opt.quiet)
1022                         printf("overrun=%d\n", stats.overrun);
1023                 fprintf(opt.f_stat, "enobufs=%d\n", stats.enobufs);
1024                 if (stats.enobufs && !opt.quiet)
1025                         printf("enobufs=%d\n", stats.enobufs);
1026                 fprintf(opt.f_stat, "lost=%d\n", stats.lost);
1027                 if (stats.lost && !opt.quiet)
1028                         printf("lost=%d\n", stats.lost);
1029                 fprintf(opt.f_stat, "timeouts=%d\n", stats.timeouts);
1030                 if (stats.timeouts && !opt.quiet)
1031                         printf("timeouts=%d\n", stats.timeouts);
1032                 fprintf(opt.f_stat, "invalid_frame=%d\n", stats.timeouts);
1033                 if (stats.timeouts && !opt.quiet)
1034                         printf("invalid_frame=%d\n", stats.timeouts);
1035
1036                 fclose(opt.f_stat);
1037         }
1038
1039         return 0;
1040 }