latester/latester.c

   1 /*******************************************************************************/
   2 /* CAN latency tester                                                          */
   3 /* Copyright (C) 2010, 2011, 2012, 2013, 2014 Michal Sojka, DCE FEE CTU Prague */
   4 /* License: GPLv2                                                              */
   5 /*******************************************************************************/
   6
   7 #define _GNU_SOURCE
   8 #include <ctype.h>
   9 #include <errno.h>
  10 #include <error.h>
  11 #include <fcntl.h>
  12 #include <math.h>
  13 #include <net/if.h>
  14 #include <poll.h>
  15 #include <popt.h>
  16 #include <pthread.h>
  17 #include <semaphore.h>
  18 #include <sched.h>
  19 #include <signal.h>
  20 #include <stdbool.h>
  21 #include <stdint.h>
  22 #include <stdio.h>
  23 #include <stdlib.h>
  24 #include <string.h>
  25 #include <sys/ioctl.h>
  26 #include <sys/mman.h>
  27 #include <sys/socket.h>
  28 #include <sys/stat.h>
  29 #include <sys/time.h>
  30 #include <sys/types.h>
  31 #include <talloc.h>
  32 #include <unistd.h>
  33
  34 #include "canframelen.h"
  35 #include <linux/can.h>
  36 #include <linux/can/raw.h>
  37
  38 #include "histogram.h"
  39
  40 //#define FTRACE
  41
  42 #ifndef DEBUG
  43 #define dbg(level, fmt, arg...) do {} while (0)
  44 #else
  45 #define dbg(level, fmt, arg...) do { if (level <= DEBUG) { printf("candping: " fmt, ## arg); } } while (0)
  46 #endif
  47
  48 #define INTERRUPTED_SYSCALL(errno) (errno == EINTR || errno == ERESTART)
  49
  50 #define MEMSET_ZERO(obj) memset(&(obj), 0, sizeof(obj))
  51
  52 /* Global variables */
  53 volatile sig_atomic_t finish_flag = 0;  /* Threads should terminate. */
  54 sem_t finish_sem;               /* Thread signals a termination */
  55
  56 /* Command line options */
  57 struct options {
  58         char **interface;
  59         canid_t id;
  60         unsigned period_us;
  61         unsigned timeout_ms;
  62         unsigned count;
  63         unsigned oneattime;
  64         char *name;
  65         int length;
  66         int userhist;
  67         int quiet;
  68
  69         /* Temporary variables */
  70         FILE *f_msgs;
  71         FILE *f_hist;
  72         FILE *f_hist_gw;
  73         FILE *f_stat;
  74 };
  75
  76 struct options opt = {
  77         .id = 10,
  78         .period_us = 0,
  79         .timeout_ms = 1000,
  80         .length = 2,
  81 };
  82
  83 struct {
  84         unsigned enobufs;
  85         unsigned overrun;
  86         unsigned lost;
  87         struct timespec tic, tac;
  88         unsigned timeouts;
  89         unsigned invalid_frame;
  90 } stats;
  91
  92 int num_interfaces = 0;
  93 int count = 0;                  /* Number of sent messages */
  94 unsigned msg_in_progress = 0;
  95 int completion_pipe[2];
  96
  97 struct msg_info {
  98         canid_t id;
  99         uint8_t length;
 100         struct timespec ts_sent, ts_sent_kern;
 101         struct timespec ts_rx_onwire, ts_rx_onwire_kern;
 102         struct timespec ts_rx_final, ts_rx_final_kern;
 103         struct can_frame sent, received;
 104         unsigned lat_measured_us, tx_time_us;
 105 };
 106
 107 #define MAX_INFOS 10000
 108 struct msg_info msg_infos[MAX_INFOS];
 109
 110 struct histogram histogram, histogram_gw;
 111
 112 void sprint_canframe(char *buf , struct can_frame *cf, int sep) {
 113         /* documentation see lib.h */
 114
 115         int i,offset;
 116         int dlc = (cf->can_dlc > 8)? 8 : cf->can_dlc;
 117
 118         if (cf->can_id & CAN_ERR_FLAG) {
 119                 sprintf(buf, "%08X#", cf->can_id & (CAN_ERR_MASK|CAN_ERR_FLAG));
 120                 offset = 9;
 121         } else if (cf->can_id & CAN_EFF_FLAG) {
 122                 sprintf(buf, "%08X#", cf->can_id & CAN_EFF_MASK);
 123                 offset = 9;
 124         } else {
 125                 sprintf(buf, "%03X#", cf->can_id & CAN_SFF_MASK);
 126                 offset = 4;
 127         }
 128
 129         if (cf->can_id & CAN_RTR_FLAG) /* there are no ERR frames with RTR */
 130                 sprintf(buf+offset, "R");
 131         else
 132                 for (i = 0; i < dlc; i++) {
 133                         sprintf(buf+offset, "%02X", cf->data[i]);
 134                         offset += 2;
 135                         if (sep && (i+1 < dlc))
 136                                 sprintf(buf+offset++, ".");
 137                 }
 138 }
 139
 140 static inline uint16_t frame_index(struct can_frame *frame)
 141 {
 142         uint16_t idx;
 143         if (frame->can_dlc >= 2) {
 144                 memcpy(&idx, frame->data, sizeof(idx));
 145                 if (idx >= MAX_INFOS)
 146                         error(1, 0, "%s idx too high", __FUNCTION__);
 147         } else {
 148
 149                 error(1, 0, "%s error", __FUNCTION__);
 150         }
 151         return idx;
 152 }
 153
 154 static inline struct msg_info *frame2info(struct can_frame *frame)
 155 {
 156         return &msg_infos[frame_index(frame)];
 157 }
 158
 159 static inline char *tstamp_str(const void *ctx, struct timespec *tstamp)
 160 {
 161         return talloc_asprintf(ctx, "%ld.%06ld",
 162                                tstamp->tv_sec, tstamp->tv_nsec/1000);
 163 }
 164
 165 int timespec_subtract (struct timespec *result, struct timespec *x, struct timespec *yy);
 166
 167 void msg_info_print(FILE *f, struct msg_info *mi)
 168 {
 169         struct timespec diff, routing_delay, tx_time;
 170         void *local = talloc_new (NULL);
 171         static long num = 0;
 172         char sent[64], received[64];
 173
 174         if (!f)
 175                 return;
 176
 177         sprint_canframe(sent, &mi->sent, true);
 178         sprint_canframe(received, &mi->received, true);
 179
 180 #define S(ts) tstamp_str(local, &ts)
 181 #define DIFF(a, b) (timespec_subtract(&diff, &b, &a), S(diff))
 182
 183         switch (num_interfaces) {
 184         case 2:
 185                 fprintf(f, "%ld: %s %s -> %s (%s) %s = %s (%s) %d\n",
 186                         num, S(mi->ts_sent), sent, S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
 187                         DIFF(mi->ts_sent, mi->ts_rx_final_kern),
 188                         DIFF(mi->ts_sent, mi->ts_rx_final),
 189                         mi->tx_time_us);
 190                 break;
 191         case 3:
 192                 tx_time.tv_sec = 0;
 193                 tx_time.tv_nsec = mi->tx_time_us*1000;
 194                 timespec_subtract(&routing_delay, &mi->ts_rx_final_kern, &mi->ts_rx_onwire_kern);
 195                 timespec_subtract(&routing_delay, &routing_delay, &tx_time);
 196
 197                 fprintf(f, "%ld: %s %s -> %s (%s) -> %s (%s) %s = %s (%s), %s (%s) %d %s\n",
 198                         num, S(mi->ts_sent), sent,
 199                         S(mi->ts_rx_onwire_kern), S(mi->ts_rx_onwire),
 200                         S(mi->ts_rx_final_kern), S(mi->ts_rx_final), received,
 201                         DIFF(mi->ts_sent, mi->ts_rx_onwire_kern),
 202                         DIFF(mi->ts_sent, mi->ts_rx_onwire),
 203                         DIFF(mi->ts_rx_onwire_kern, mi->ts_rx_final_kern),
 204                         DIFF(mi->ts_rx_onwire, mi->ts_rx_final),
 205                         mi->tx_time_us,
 206                         S(routing_delay));
 207                 break;
 208         }
 209 #undef S
 210 #undef DIFF
 211         num++;
 212         talloc_free (local);
 213 }
 214
 215 /* Subtract the `struct timespec' values X and Y, storing the result in
 216    RESULT.  Return 1 if the difference is negative, otherwise 0.  */
 217
 218 int timespec_subtract (struct timespec *result, struct timespec *x, struct timespec *yy)
 219 {
 220         struct timespec ylocal = *yy, *y = &ylocal;
 221         /* Perform the carry for the later subtraction by updating Y. */
 222         if (x->tv_nsec < y->tv_nsec) {
 223                 int nsec = (y->tv_nsec - x->tv_nsec) / 1000000000 + 1;
 224                 y->tv_nsec -= 1000000000 * nsec;
 225                 y->tv_sec += nsec;
 226         }
 227         if (x->tv_nsec - y->tv_nsec > 1000000000) {
 228                 int nsec = (x->tv_nsec - y->tv_nsec) / 1000000000;
 229                 y->tv_nsec += 1000000000 * nsec;
 230                 y->tv_sec -= nsec;
 231         }
 232
 233         /* Compute the time remaining to wait.
 234            `tv_nsec' is certainly positive. */
 235         result->tv_sec = x->tv_sec - y->tv_sec;
 236         result->tv_nsec = x->tv_nsec - y->tv_nsec;
 237
 238         /* Return 1 if result is negative. */
 239         return x->tv_sec < y->tv_sec;
 240 }
 241
 242 void dbg_print_timespec(char *msg, struct timespec *tv)
 243 {
 244
 245         printf("%s sec=%ld nsec=%ld\n", msg, tv->tv_sec, tv->tv_nsec);
 246 }
 247
 248 static inline void calc_msg_latencies(struct msg_info *mi)
 249 {
 250         struct timespec diff;
 251         switch (num_interfaces) {
 252         case 3:
 253                 if (opt.userhist)
 254                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_rx_onwire);
 255                 else
 256                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_rx_onwire_kern);
 257                 break;
 258         case 2:
 259                 if (opt.userhist)
 260                         timespec_subtract(&diff, &mi->ts_rx_final, &mi->ts_sent);
 261                 else
 262                         timespec_subtract(&diff, &mi->ts_rx_final_kern, &mi->ts_sent);
 263                 break;
 264         default:
 265                 return;
 266         }
 267         mi->lat_measured_us = diff.tv_sec * 1000000 + diff.tv_nsec/1000;
 268         mi->tx_time_us = calc_frame_length(&mi->received);
 269 }
 270
 271 void set_sched_policy_and_prio(int policy, int rtprio)
 272 {
 273         struct sched_param scheduling_parameters;
 274         int maxprio=sched_get_priority_max(policy);
 275         int minprio=sched_get_priority_min(policy);
 276
 277         if((rtprio < minprio) || (rtprio > maxprio))
 278                 error(1, 0, "The priority for requested policy is out of <%d, %d> range\n",
 279                       minprio, maxprio);
 280
 281         scheduling_parameters.sched_priority = rtprio;
 282
 283         if (0 != pthread_setschedparam(pthread_self(), policy, &scheduling_parameters))
 284                 error(1, errno, "pthread_setschedparam error");
 285 }
 286
 287 void term_handler(int signum)
 288 {
 289         finish_flag = 1;
 290 }
 291
 292 static inline int sock_get_if_index(int s, const char *if_name)
 293 {
 294         struct ifreq ifr;
 295         MEMSET_ZERO(ifr);
 296
 297         strcpy(ifr.ifr_name, if_name);
 298         if (ioctl(s, SIOCGIFINDEX, &ifr) < 0)
 299                 error(1, errno, "SIOCGIFINDEX '%s'", if_name);
 300         return ifr.ifr_ifindex;
 301 }
 302
 303 static inline void get_tstamp(struct timespec *ts)
 304 {
 305         clock_gettime(CLOCK_REALTIME, ts);
 306 }
 307
 308
 309 int trace_fd = -1;
 310 int marker_fd = -1;
 311
 312 void init_ftrace()
 313 {
 314 #ifdef FTRACE
 315         char *debugfs;
 316         char path[256];
 317         FILE *f;
 318
 319         debugfs = "/sys/kernel/debug";
 320         if (debugfs) {
 321                 strcpy(path, debugfs);
 322                 strcat(path,"/tracing/tracing_on");
 323                 trace_fd = open(path, O_WRONLY);
 324                 if (trace_fd >= 0)
 325                         write(trace_fd, "1", 1);
 326
 327                 strcpy(path, debugfs);
 328                 strcat(path,"/tracing/trace_marker");
 329                 marker_fd = open(path, O_WRONLY);
 330
 331                 strcpy(path, debugfs);
 332                 strcat(path,"/tracing/set_ftrace_pid");
 333                 f = fopen(path, "w");
 334                 fprintf(f, "%d\n", getpid());
 335                 fclose(f);
 336                 system("echo function_graph > /sys/kernel/debug/tracing/current_tracer");
 337                 system("echo can_send > /sys/kernel/debug/tracing/set_graph_function");
 338                 system("echo > /sys/kernel/debug/tracing/trace");
 339                 system("echo 1 > /sys/kernel/debug/tracing/tracing_enabled");
 340         }
 341 #endif  /* FTRACE */
 342 }
 343
 344 static inline void trace_on()
 345 {
 346         if (trace_fd >= 0)
 347                 write(trace_fd, "1", 1);
 348 }
 349
 350 static inline void trace_off(int ret)
 351 {
 352         if (marker_fd >= 0) {
 353                 char marker[100];
 354                 sprintf(marker, "write returned %d\n", ret);
 355                 write(marker_fd, marker, strlen(marker));
 356         }
 357         if (trace_fd >= 0)
 358                 write(trace_fd, "0", 1);
 359 }
 360
 361 static inline void msg_info_free(struct msg_info *mi)
 362 {
 363         mi->id = -1;
 364 }
 365
 366 static inline bool msg_info_used(struct msg_info *mi)
 367 {
 368         return mi->id != -1;
 369 }
 370
 371 int send_frame(int socket)
 372 {
 373         struct can_frame frame;
 374         struct msg_info *mi;
 375         int ret;
 376         static int curr_msg = -1;
 377         int i;
 378         uint16_t idx;
 379
 380         MEMSET_ZERO(frame);
 381         i = curr_msg+1;
 382         while (msg_info_used(&msg_infos[i]) && i != curr_msg) {
 383                 i++;
 384                 if (i >= MAX_INFOS)
 385                         i = 0;
 386         }
 387         if (i == curr_msg)
 388                 error(1, 0, "Msg info table is full! Probably, many packets were lost.");
 389         else
 390                 curr_msg = i;
 391
 392         frame.can_id = opt.id;
 393         if (opt.length < 2)
 394                 error(1, 0, "Length < 2 is not yet supported");
 395         frame.can_dlc = opt.length;
 396         idx = curr_msg;
 397         memcpy(frame.data, &idx, sizeof(idx));
 398         mi = frame2info(&frame);
 399
 400         mi->id = frame.can_id;
 401         mi->length = frame.can_dlc;
 402         get_tstamp(&mi->ts_sent);
 403         mi->sent = frame;
 404
 405         trace_on();
 406         ret = write(socket, &frame, sizeof(frame));
 407         trace_off(ret);
 408
 409         if (ret == -1 || num_interfaces == 1)
 410                 msg_info_free(mi);
 411         return ret;
 412 }
 413
 414 static inline void send_and_check(int s)
 415 {
 416         int ret;
 417         ret = send_frame(s);
 418         if (ret != sizeof(struct can_frame)) {
 419 /*              if (ret == -1 && errno == ENOBUFS && opt.period_us == 0 && !opt.oneattime) { */
 420 /*                      stats.enobufs++; */
 421 /*                      /\* Ignore this error - pfifo_fast qeuue is full *\/ */
 422 /*              } else */
 423                         error(1, errno, "send_frame (line %d)", __LINE__);
 424         } else {
 425                 count++;
 426                 msg_in_progress++;
 427         }
 428 }
 429
 430 static inline void get_next_timeout(struct timespec *timeout)
 431 {
 432         struct timespec now;
 433         static struct timespec last = {-1, 0 };
 434
 435         clock_gettime(CLOCK_MONOTONIC, &now);
 436
 437         if (last.tv_sec == -1)
 438                 last = now;
 439         if (opt.period_us != 0) {
 440                 last.tv_sec += opt.period_us/1000000;
 441                 last.tv_nsec += (opt.period_us%1000000)*1000;
 442                 while (last.tv_nsec >= 1000000000) {
 443                         last.tv_nsec -= 1000000000;
 444                         last.tv_sec++;
 445                 }
 446                 if (timespec_subtract(timeout, &last, &now) /* is negative */) {
 447                         stats.overrun++;
 448                         memset(timeout, 0, sizeof(*timeout));
 449                 }
 450         } else if (opt.timeout_ms != 0) {
 451                 timeout->tv_sec = opt.timeout_ms/1000;
 452                 timeout->tv_nsec = (opt.timeout_ms%1000)*1000000;
 453         } else
 454                 error(1, 0, "Timeout and period cannot be both zero");
 455 }
 456
 457 void receive(int s, struct can_frame *frame, struct timespec *ts_kern, struct timespec *ts_user)
 458 {
 459         char ctrlmsg[CMSG_SPACE(sizeof(struct timeval)) + CMSG_SPACE(sizeof(__u32))];
 460         struct iovec iov;
 461         struct msghdr msg;
 462         struct cmsghdr *cmsg;
 463         struct sockaddr_can addr;
 464         int nbytes;
 465         static uint64_t dropcnt = 0;
 466
 467         iov.iov_base = frame;
 468         msg.msg_name = &addr;
 469         msg.msg_iov = &iov;
 470         msg.msg_iovlen = 1;
 471         msg.msg_control = &ctrlmsg;
 472
 473         /* these settings may be modified by recvmsg() */
 474         iov.iov_len = sizeof(*frame);
 475         msg.msg_namelen = sizeof(addr);
 476         msg.msg_controllen = sizeof(ctrlmsg);
 477         msg.msg_flags = 0;
 478
 479         nbytes = recvmsg(s, &msg, 0);
 480         if (nbytes < 0)
 481                 error(1, errno, "recvmsg");
 482
 483         if (nbytes < sizeof(struct can_frame))
 484                 error(1, 0, "recvmsg: incomplete CAN frame\n");
 485
 486         get_tstamp(ts_user);
 487         MEMSET_ZERO(*ts_kern);
 488         for (cmsg = CMSG_FIRSTHDR(&msg);
 489              cmsg && (cmsg->cmsg_level == SOL_SOCKET);
 490              cmsg = CMSG_NXTHDR(&msg,cmsg)) {
 491                 if (cmsg->cmsg_type == SO_TIMESTAMPNS)
 492                         memcpy(ts_kern, CMSG_DATA(cmsg), sizeof(struct timespec));
 493                 else if (cmsg->cmsg_type == SO_RXQ_OVFL) {
 494                         uint32_t ovfl;
 495                         memcpy(&ovfl, CMSG_DATA(cmsg), sizeof(ovfl));
 496                         dropcnt += ovfl;
 497                 }
 498         }
 499
 500 }
 501
 502 void process_tx(int s)
 503 {
 504         error(1, 0, "%s: not implemented", __FUNCTION__);
 505 }
 506
 507 void process_on_wire_rx(int s)
 508 {
 509         struct timespec ts_kern, ts_user;
 510         struct can_frame frame;
 511         struct msg_info *mi;
 512         receive(s, &frame, &ts_kern, &ts_user);
 513         mi = frame2info(&frame);
 514         if (msg_info_used(mi)) {
 515                 mi->ts_rx_onwire_kern = ts_kern;
 516                 mi->ts_rx_onwire = ts_user;
 517         } else
 518                 stats.invalid_frame++;
 519 }
 520
 521
 522 void process_final_rx(int s)
 523 {
 524         struct timespec ts_kern, ts_user;
 525         struct can_frame frame;
 526         struct msg_info *mi;
 527         int ret;
 528
 529         receive(s, &frame, &ts_kern, &ts_user);
 530         mi = frame2info(&frame);
 531         mi->ts_rx_final_kern = ts_kern;
 532         mi->ts_rx_final = ts_user;
 533         mi->received = frame;
 534
 535         calc_msg_latencies(mi);
 536
 537         histogram_add(&histogram, mi->lat_measured_us);
 538         histogram_add(&histogram_gw, mi->lat_measured_us - mi->tx_time_us);
 539
 540         ret = write(completion_pipe[1], &mi, sizeof(mi));
 541         if (ret == -1)
 542                 error(1, errno, "completion_pipe write");
 543 }
 544
 545 void *measure_thread(void *arg)
 546 {
 547         int s, i, ret;
 548         struct pollfd pfd[3];
 549         struct timespec timeout;
 550         struct sockaddr_can addr;
 551         int consecutive_timeouts = 0;
 552
 553         MEMSET_ZERO(pfd);
 554
 555         for (i=0; i<num_interfaces; i++) {
 556                 if ((s = socket(PF_CAN, SOCK_RAW, CAN_RAW)) < 0)
 557                         error(1, errno, "socket");
 558
 559                 addr.can_family = AF_CAN;
 560                 addr.can_ifindex = sock_get_if_index(s, opt.interface[i]);
 561
 562                 if (i == 0) {   /* TX socket */
 563                         /* disable default receive filter on this RAW socket */
 564                         /* This is obsolete as we do not read from the socket at all, but for */
 565                         /* this reason we can remove the receive list in the Kernel to save a */
 566                         /* little (really a very little!) CPU usage.                          */
 567                         if (setsockopt(s, SOL_CAN_RAW, CAN_RAW_FILTER, NULL, 0) == -1)
 568                                 error(1, errno, "SOL_CAN_RAW");
 569                 }
 570
 571                 if (bind(s, (struct sockaddr *)&addr, sizeof(addr)) < 0)
 572                         error(1, errno, "bind");
 573
 574                 const int timestamp_on = 1;
 575                 if (setsockopt(s, SOL_SOCKET, SO_TIMESTAMPNS,
 576                                &timestamp_on, sizeof(timestamp_on)) < 0)
 577                         error(1, errno, "setsockopt SO_TIMESTAMP");
 578
 579                 const int dropmonitor_on = 1;
 580                 if (setsockopt(s, SOL_SOCKET, SO_RXQ_OVFL,
 581                                &dropmonitor_on, sizeof(dropmonitor_on)) < 0)
 582                         error(1, errno, "setsockopt SO_RXQ_OVFL not supported by your Linux Kernel");
 583
 584                 pfd[i].fd = s;
 585                 if (i == 0)
 586                         pfd[i].events = POLLIN | POLLERR | ((opt.period_us == 0 && !opt.oneattime) ? POLLOUT : 0);
 587                 else
 588                         pfd[i].events = POLLIN;
 589         }
 590
 591         set_sched_policy_and_prio(SCHED_FIFO, 40);
 592
 593 #define SEND() send_and_check(pfd[0].fd)
 594
 595         if (opt.oneattime)
 596                 SEND();
 597
 598         get_tstamp(&stats.tic);
 599
 600         while (!finish_flag &&
 601                (opt.count == 0 || count < opt.count || msg_in_progress != 0)) {
 602
 603                 get_next_timeout(&timeout);
 604                 //printf("ppoll"); fflush(stdout);
 605                 ret = ppoll(pfd, num_interfaces, &timeout, NULL);
 606                 //printf("=%d\n", ret);
 607                 switch (ret) {
 608                 case -1: // Error
 609                         if (!INTERRUPTED_SYSCALL(errno))
 610                                 error(1, errno, "ppoll");
 611                         break;
 612                 case 0: // Timeout
 613                         if (opt.period_us) {
 614                                 if (opt.count == 0 || count < opt.count) {
 615                                         SEND();
 616                                 }
 617                         } else {
 618                                 /* Lost message - send a new one */
 619                                 stats.timeouts++;
 620                                 consecutive_timeouts++;
 621                                 if (consecutive_timeouts < 10)
 622                                         SEND();
 623                                 else /* Something is really broken */
 624                                         finish_flag = 1;
 625                         }
 626                         break;
 627                 default: // Event
 628                         if (pfd[0].revents & (POLLIN|POLLERR)) {
 629                                 process_tx(pfd[0].fd);
 630                         }
 631                         if (pfd[0].revents & POLLOUT) {
 632                                 if (opt.count == 0 || count < opt.count)
 633                                         SEND();
 634                         }
 635                         pfd[0].revents = 0;
 636
 637                         if (num_interfaces == 3 && pfd[1].revents & POLLIN) {
 638                                 process_on_wire_rx(pfd[1].fd);
 639                                 pfd[1].revents = 0;
 640                         }
 641                         if (num_interfaces == 3 && pfd[1].revents & ~POLLIN)
 642                                 error(1, 0, "Unexpected pfd[1].revents: 0x%04x\n", pfd[1].revents);
 643
 644                         i = (num_interfaces == 2) ? 1 : 2;
 645                         if (pfd[i].revents & POLLIN) {
 646                                 consecutive_timeouts = 0;
 647                                 process_final_rx(pfd[i].fd);
 648                                 msg_in_progress--;
 649                                 pfd[i].revents = 0;
 650                                 if ((opt.count == 0 || count < opt.count) &&
 651                                     opt.oneattime) {
 652                                         SEND();
 653                                 }
 654                         }
 655                         if (pfd[i].revents & ~POLLIN)
 656                                 error(1, 0, "Unexpected pfd[%d].revents: 0x%04x\n", i, pfd[i].revents);
 657                 }
 658         }
 659
 660         get_tstamp(&stats.tac);
 661
 662         for (i=0; i<num_interfaces; i++)
 663                 close(pfd[i].fd);
 664
 665         return NULL;
 666 }
 667
 668 struct poptOption optionsTable[] = {
 669         { "device", 'd', POPT_ARG_ARGV, &opt.interface, 'd', "Interface to use. Must be given two times (tx, rx) or three times (tx, rx1, rx2)", "interface" },
 670         { "count",  'c', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.count,   0,   "The count of messages to send, zero corresponds to infinity", "num"},
 671         { "id",     'i', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.id,      0,   "CAN ID of sent messages", "id"},
 672         { "period", 'p', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.period_us, 0, "Period for sending messages or zero (default) to send as fast as possible", "us"},
 673         { "timeout",'t', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.timeout_ms,0, "Timeout when period is zero", "ms"},
 674         { "oneattime",'o', POPT_ARG_NONE,                         &opt.oneattime,0,  "Send the next message only when the previous was finally received"},
 675         { "verbose",'v', POPT_ARG_NONE,                           NULL, 'v',         "Send the next message only when the previous was finally received"},
 676         { "name",   'n', POPT_ARG_STRING,                         &opt.name, 0,      "Prefix of the generated files"},
 677         { "length", 'l', POPT_ARG_INT|POPT_ARGFLAG_SHOW_DEFAULT,  &opt.length, 0,    "The length of generated messages", "bytes"},
 678         { "userhist", 'u', POPT_ARG_NONE,                         &opt.userhist, 0,  "Generate histogram from userspace timestamps"},
 679         { "quiet",  'q', POPT_ARG_NONE,                           &opt.quiet, 0,     "Do not print progress and statistics"},
 680         POPT_AUTOHELP
 681         { NULL, 0, 0, NULL, 0 }
 682 };
 683
 684 int parse_options(int argc, const char *argv[])
 685 {
 686         int c;
 687         poptContext optCon;   /* context for parsing command-line options */
 688         void *local = talloc_new (NULL);
 689
 690         optCon = poptGetContext(NULL, argc, argv, optionsTable, 0);
 691         //poptSetOtherOptionHelp(optCon, "[OPTIONS]* <port>");
 692
 693         /* Now do options processing */
 694         while ((c = poptGetNextOpt(optCon)) >= 0) {
 695                 switch (c) {
 696                 case 'd':
 697                         num_interfaces++;
 698                         break;
 699                 }
 700         }
 701         if (c < -1)
 702                 error(1, 0, "%s: %s\n",
 703                       poptBadOption(optCon, POPT_BADOPTION_NOALIAS),
 704                       poptStrerror(c));
 705
 706         if (num_interfaces < 1 || num_interfaces > 3)
 707                 error(1, 0, "-d option must only be given one, two or three times");
 708
 709         if (opt.oneattime && opt.period_us)
 710                 error(1, 0, "oneattime and period cannot be specified at the same time");
 711
 712         if (opt.name) {
 713                 char *f = talloc_asprintf(local, "%s-msgs.txt", opt.name);
 714                 opt.f_msgs = fopen(f, "w");
 715                 if (!opt.f_msgs)
 716                         error(1, errno, "fopen: %s", f);
 717         }
 718
 719         if (opt.name) {
 720                 char *f = talloc_asprintf(local, "%s-hist-raw.txt", opt.name);
 721                 opt.f_hist = fopen(f, "w");
 722                 if (!opt.f_hist)
 723                         error(1, errno, "fopen: %s", f);
 724         }
 725
 726         if (opt.name) {
 727                 char *f = talloc_asprintf(local, "%s-hist.txt", opt.name);
 728                 opt.f_hist_gw = fopen(f, "w");
 729                 if (!opt.f_hist_gw)
 730                         error(1, errno, "fopen: %s", f);
 731         }
 732
 733         if (opt.name) {
 734                 char *f = talloc_asprintf(local, "%s-stat.txt", opt.name);
 735                 opt.f_stat = fopen(f, "w");
 736                 if (!opt.f_stat)
 737                         error(1, errno, "fopen: %s", f);
 738         }
 739
 740         poptFreeContext(optCon);
 741         talloc_free(local);
 742         return 0;
 743 }
 744
 745 void print_progress()
 746 {
 747         if (! opt.quiet) {
 748                 if (num_interfaces > 1)
 749                         printf("\rSent %5d, in progress %5d", count, msg_in_progress);
 750                 else
 751                         printf("\rSent %5d", count);
 752                 fflush(stdout);
 753         }
 754 }
 755
 756 int main(int argc, const char *argv[])
 757 {
 758         pthread_t thread;
 759         int ret, i;
 760
 761         parse_options(argc, argv);
 762
 763         mlockall(MCL_CURRENT | MCL_FUTURE);
 764
 765         signal(SIGINT, term_handler);
 766         signal(SIGTERM, term_handler);
 767
 768         for (i=0; i<MAX_INFOS; i++)
 769                 msg_infos[i].id = -1;
 770
 771         histogram_init(&histogram, 5000000, 1);
 772         histogram_init(&histogram_gw, 5000000, 1);
 773
 774         ret = pipe(completion_pipe);
 775         if (ret == -1)
 776                 error(1, errno, "pipe");
 777         ret = fcntl(completion_pipe[1], F_SETFL, O_NONBLOCK);
 778         if (ret == -1)
 779                 error(1, errno, "pipe fcntl");
 780
 781         init_ftrace();
 782         if (getenv("LATESTER_CONTROL_HACKBENCH")) {
 783                 char cmd[1000];
 784                 sprintf(cmd, "ssh -x -a -S $HOME/.ssh/cangw-connection root@192.168.2.3 'kill -CONT -%s'",
 785                         getenv("LATESTER_CONTROL_HACKBENCH"));
 786                 printf("Running: %s\n", cmd);
 787                 system(cmd);
 788         }
 789
 790         pthread_create(&thread, 0, measure_thread, NULL);
 791
 792         struct timespec next, now, diff, allsent = {0,0};
 793         clock_gettime(CLOCK_MONOTONIC, &next);
 794         int completed = 0;
 795         while (!finish_flag && (opt.count == 0 || completed < opt.count)) {
 796                 struct pollfd pfd[1];
 797                 pfd[0].fd = completion_pipe[0];
 798                 pfd[0].events = POLLIN;
 799                 ret = poll(pfd, 1, 100);
 800                 if (ret == -1 && !INTERRUPTED_SYSCALL(errno))
 801                         error(1, errno, "poll main");
 802                 if (ret > 0 && (pfd[0].revents & POLLIN)) {
 803                         struct msg_info *mi;
 804                         int ret;
 805                         ret = read(completion_pipe[0], &mi, sizeof(mi));
 806                         if (ret < sizeof(mi))
 807                                 error(1, errno, "read completion returned %d", ret);
 808                         msg_info_print(opt.f_msgs, mi);
 809                         msg_info_free(mi);
 810                         completed++;
 811                 }
 812
 813                 clock_gettime(CLOCK_MONOTONIC, &now);
 814                 if (timespec_subtract(&diff, &next, &now)) {
 815                         print_progress();
 816                         next.tv_nsec += 100000000;
 817                         while (next.tv_nsec >= 1000000000) {
 818                                 next.tv_nsec -= 1000000000;
 819                                 next.tv_sec++;
 820                         }
 821                 }
 822                 if (opt.count != 0 && count >= opt.count) {
 823                         if (allsent.tv_sec == 0)
 824                                 allsent = now;
 825                         timespec_subtract(&diff, &now, &allsent);
 826                         if (diff.tv_sec >= 1)
 827                                 finish_flag = 1;
 828                 }
 829         }
 830         print_progress();
 831         if (!opt.quiet)
 832                 printf("\n");
 833
 834         stats.lost = msg_in_progress;
 835
 836         pthread_join(thread, NULL);
 837
 838         if (getenv("LATESTER_CONTROL_HACKBENCH")) {
 839                 char cmd[1000];
 840                 sprintf(cmd, "ssh -x -a -S $HOME/.ssh/cangw-connection root@192.168.2.3 'kill -STOP -%s'",
 841                         getenv("LATESTER_CONTROL_HACKBENCH"));
 842                 printf("Running: %s\n", cmd);
 843                 system(cmd);
 844         }
 845
 846         close(completion_pipe[0]);
 847         close(completion_pipe[1]);
 848
 849         histogram_fprint(&histogram, opt.f_hist);
 850         histogram_fprint(&histogram_gw, opt.f_hist_gw);
 851         if (opt.f_hist)
 852                 fclose(opt.f_hist);
 853         if (opt.f_hist_gw)
 854                 fclose(opt.f_hist_gw);
 855         if (opt.f_msgs)
 856                 fclose(opt.f_msgs);
 857
 858         if (opt.f_stat) {
 859                 fprintf(opt.f_stat, "cmdline='");
 860                 for (i=0; i<argc; i++)
 861                         fprintf(opt.f_stat, "%s%s", argv[i], i < argc-1 ? " " : "");
 862                 fprintf(opt.f_stat, "'\n");
 863
 864                 timespec_subtract(&diff, &stats.tac, &stats.tic);
 865                 fprintf(opt.f_stat, "duration=%s # seconds\n", tstamp_str(NULL, &diff));
 866
 867                 fprintf(opt.f_stat, "sent=%d\n", count);
 868                 fprintf(opt.f_stat, "overrun=%d\n", stats.overrun);
 869                 if (stats.overrun && !opt.quiet)
 870                         printf("overrun=%d\n", stats.overrun);
 871                 fprintf(opt.f_stat, "enobufs=%d\n", stats.enobufs);
 872                 if (stats.enobufs && !opt.quiet)
 873                         printf("enobufs=%d\n", stats.enobufs);
 874                 fprintf(opt.f_stat, "lost=%d\n", stats.lost);
 875                 if (stats.lost && !opt.quiet)
 876                         printf("lost=%d\n", stats.lost);
 877                 fprintf(opt.f_stat, "timeouts=%d\n", stats.timeouts);
 878                 if (stats.timeouts && !opt.quiet)
 879                         printf("timeouts=%d\n", stats.timeouts);
 880                 fprintf(opt.f_stat, "invalid_frame=%d\n", stats.timeouts);
 881                 if (stats.timeouts && !opt.quiet)
 882                         printf("invalid_frame=%d\n", stats.timeouts);
 883
 884                 fclose(opt.f_stat);
 885         }
 886
 887         return 0;
 888 }