]> rtime.felk.cvut.cz Git - frescor/ffmpeg.git/blob - libavformat/aviobuf.c
bypass internal buffer for "large" packets
[frescor/ffmpeg.git] / libavformat / aviobuf.c
1 /*
2  * Buffered I/O for ffmpeg system
3  * Copyright (c) 2000,2001 Fabrice Bellard
4  *
5  * This library is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU Lesser General Public
7  * License as published by the Free Software Foundation; either
8  * version 2 of the License, or (at your option) any later version.
9  *
10  * This library is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * Lesser General Public License for more details.
14  *
15  * You should have received a copy of the GNU Lesser General Public
16  * License along with this library; if not, write to the Free Software
17  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18  */
19 #include "avformat.h"
20 #include "avio.h"
21 #include <stdarg.h>
22
23 #define IO_BUFFER_SIZE 32768
24
25 int init_put_byte(ByteIOContext *s,
26                   unsigned char *buffer,
27                   int buffer_size,
28                   int write_flag,
29                   void *opaque,
30                   int (*read_packet)(void *opaque, uint8_t *buf, int buf_size),
31                   int (*write_packet)(void *opaque, uint8_t *buf, int buf_size),
32                   int (*seek)(void *opaque, offset_t offset, int whence))
33 {
34     s->buffer = buffer;
35     s->buffer_size = buffer_size;
36     s->buf_ptr = buffer;
37     s->write_flag = write_flag;
38     if (!s->write_flag) 
39         s->buf_end = buffer;
40     else
41         s->buf_end = buffer + buffer_size;
42     s->opaque = opaque;
43     s->write_packet = write_packet;
44     s->read_packet = read_packet;
45     s->seek = seek;
46     s->pos = 0;
47     s->must_flush = 0;
48     s->eof_reached = 0;
49     s->error = 0;
50     s->is_streamed = 0;
51     s->max_packet_size = 0;
52     s->update_checksum= NULL;
53     return 0;
54 }
55                   
56
57 #ifdef CONFIG_ENCODERS
58 static void flush_buffer(ByteIOContext *s)
59 {
60     if (s->buf_ptr > s->buffer) {
61         if (s->write_packet && !s->error){
62             int ret= s->write_packet(s->opaque, s->buffer, s->buf_ptr - s->buffer);
63             if(ret < 0){
64                 s->error = ret;
65             }
66         }
67         if(s->update_checksum){
68             s->checksum= s->update_checksum(s->checksum, s->checksum_ptr, s->buf_ptr - s->checksum_ptr);
69             s->checksum_ptr= s->buffer;
70         }
71         s->pos += s->buf_ptr - s->buffer;
72     }
73     s->buf_ptr = s->buffer;
74 }
75
76 void put_byte(ByteIOContext *s, int b)
77 {
78     *(s->buf_ptr)++ = b;
79     if (s->buf_ptr >= s->buf_end) 
80         flush_buffer(s);
81 }
82
83 void put_buffer(ByteIOContext *s, const unsigned char *buf, int size)
84 {
85     int len;
86
87     while (size > 0) {
88         len = (s->buf_end - s->buf_ptr);
89         if (len > size)
90             len = size;
91         memcpy(s->buf_ptr, buf, len);
92         s->buf_ptr += len;
93
94         if (s->buf_ptr >= s->buf_end) 
95             flush_buffer(s);
96
97         buf += len;
98         size -= len;
99     }
100 }
101
102 void put_flush_packet(ByteIOContext *s)
103 {
104     flush_buffer(s);
105     s->must_flush = 0;
106 }
107 #endif //CONFIG_ENCODERS
108
109 offset_t url_fseek(ByteIOContext *s, offset_t offset, int whence)
110 {
111     offset_t offset1;
112
113     if (whence != SEEK_CUR && whence != SEEK_SET)
114         return -EINVAL;
115     
116 #ifdef CONFIG_ENCODERS
117     if (s->write_flag) {
118         if (whence == SEEK_CUR) {
119             offset1 = s->pos + (s->buf_ptr - s->buffer);
120             if (offset == 0)
121                 return offset1;
122             offset += offset1;
123         }
124         offset1 = offset - s->pos;
125         if (!s->must_flush && 
126             offset1 >= 0 && offset1 < (s->buf_end - s->buffer)) {
127             /* can do the seek inside the buffer */
128             s->buf_ptr = s->buffer + offset1;
129         } else {
130             if (!s->seek)
131                 return -EPIPE;
132             flush_buffer(s);
133             s->must_flush = 1;
134             s->buf_ptr = s->buffer;
135             s->seek(s->opaque, offset, SEEK_SET);
136             s->pos = offset;
137         }
138     } else 
139 #endif //CONFIG_ENCODERS
140     {
141         if (whence == SEEK_CUR) {
142             offset1 = s->pos - (s->buf_end - s->buffer) + (s->buf_ptr - s->buffer);
143             if (offset == 0)
144                 return offset1;
145             offset += offset1;
146         }
147         offset1 = offset - (s->pos - (s->buf_end - s->buffer));
148         if (offset1 >= 0 && offset1 <= (s->buf_end - s->buffer)) {
149             /* can do the seek inside the buffer */
150             s->buf_ptr = s->buffer + offset1;
151         } else {
152             if (!s->seek)
153                 return -EPIPE;
154             s->buf_ptr = s->buffer;
155             s->buf_end = s->buffer;
156             if (s->seek(s->opaque, offset, SEEK_SET) == (offset_t)-EPIPE)
157                 return -EPIPE;
158             s->pos = offset;
159         }
160         s->eof_reached = 0;
161     }
162     return offset;
163 }
164
165 void url_fskip(ByteIOContext *s, offset_t offset)
166 {
167     url_fseek(s, offset, SEEK_CUR);
168 }
169
170 offset_t url_ftell(ByteIOContext *s)
171 {
172     return url_fseek(s, 0, SEEK_CUR);
173 }
174
175 int url_feof(ByteIOContext *s)
176 {
177     return s->eof_reached;
178 }
179
180 int url_ferror(ByteIOContext *s)
181 {
182     return s->error;
183 }
184
185 #ifdef CONFIG_ENCODERS
186 void put_le32(ByteIOContext *s, unsigned int val)
187 {
188     put_byte(s, val);
189     put_byte(s, val >> 8);
190     put_byte(s, val >> 16);
191     put_byte(s, val >> 24);
192 }
193
194 void put_be32(ByteIOContext *s, unsigned int val)
195 {
196     put_byte(s, val >> 24);
197     put_byte(s, val >> 16);
198     put_byte(s, val >> 8);
199     put_byte(s, val);
200 }
201
202 /* IEEE format is assumed */
203 void put_be64_double(ByteIOContext *s, double val)
204 {
205     union {
206         double d;
207         uint64_t ull;
208     } u;
209     u.d = val;
210     put_be64(s, u.ull);
211 }
212
213 void put_strz(ByteIOContext *s, const char *str)
214 {
215     if (str)
216         put_buffer(s, (const unsigned char *) str, strlen(str) + 1);
217     else
218         put_byte(s, 0);
219 }
220
221 void put_le64(ByteIOContext *s, uint64_t val)
222 {
223     put_le32(s, (uint32_t)(val & 0xffffffff));
224     put_le32(s, (uint32_t)(val >> 32));
225 }
226
227 void put_be64(ByteIOContext *s, uint64_t val)
228 {
229     put_be32(s, (uint32_t)(val >> 32));
230     put_be32(s, (uint32_t)(val & 0xffffffff));
231 }
232
233 void put_le16(ByteIOContext *s, unsigned int val)
234 {
235     put_byte(s, val);
236     put_byte(s, val >> 8);
237 }
238
239 void put_be16(ByteIOContext *s, unsigned int val)
240 {
241     put_byte(s, val >> 8);
242     put_byte(s, val);
243 }
244
245 void put_tag(ByteIOContext *s, const char *tag)
246 {
247     while (*tag) {
248         put_byte(s, *tag++);
249     }
250 }
251 #endif //CONFIG_ENCODERS
252
253 /* Input stream */
254
255 static void fill_buffer(ByteIOContext *s)
256 {
257     int len;
258
259     /* no need to do anything if EOF already reached */
260     if (s->eof_reached)
261         return;
262
263     if(s->update_checksum){
264         s->checksum= s->update_checksum(s->checksum, s->checksum_ptr, s->buf_end - s->checksum_ptr);
265         s->checksum_ptr= s->buffer;
266     }
267
268     len = s->read_packet(s->opaque, s->buffer, s->buffer_size);
269     if (len <= 0) {
270         /* do not modify buffer if EOF reached so that a seek back can
271            be done without rereading data */
272         s->eof_reached = 1;
273     if(len<0)
274         s->error= len;
275     } else {
276         s->pos += len;
277         s->buf_ptr = s->buffer;
278         s->buf_end = s->buffer + len;
279     }
280 }
281
282 unsigned long get_checksum(ByteIOContext *s){
283     s->checksum= s->update_checksum(s->checksum, s->checksum_ptr, s->buf_ptr - s->checksum_ptr);
284     s->update_checksum= NULL;
285     return s->checksum;
286 }
287
288 void init_checksum(ByteIOContext *s, unsigned long (*update_checksum)(unsigned long c, const uint8_t *p, unsigned int len), unsigned long checksum){
289     s->update_checksum= update_checksum;
290     if(s->update_checksum){
291         s->checksum= s->update_checksum(checksum, NULL, 0);
292         s->checksum_ptr= s->buf_ptr;
293     }
294 }
295
296 /* NOTE: return 0 if EOF, so you cannot use it if EOF handling is
297    necessary */
298 /* XXX: put an inline version */
299 int get_byte(ByteIOContext *s)
300 {
301     if (s->buf_ptr < s->buf_end) {
302         return *s->buf_ptr++;
303     } else {
304         fill_buffer(s);
305         if (s->buf_ptr < s->buf_end)
306             return *s->buf_ptr++;
307         else
308             return 0;
309     }
310 }
311
312 /* NOTE: return URL_EOF (-1) if EOF */
313 int url_fgetc(ByteIOContext *s)
314 {
315     if (s->buf_ptr < s->buf_end) {
316         return *s->buf_ptr++;
317     } else {
318         fill_buffer(s);
319         if (s->buf_ptr < s->buf_end)
320             return *s->buf_ptr++;
321         else
322             return URL_EOF;
323     }
324 }
325
326 int get_buffer(ByteIOContext *s, unsigned char *buf, int size)
327 {
328     int len, size1;
329
330     size1 = size;
331     while (size > 0) {
332         len = s->buf_end - s->buf_ptr;
333         if (len > size)
334             len = size;
335         if (len == 0) {
336             if(size > s->buffer_size && !s->update_checksum){
337                 len = s->read_packet(s->opaque, buf, size);
338                 if (len <= 0) {
339                     /* do not modify buffer if EOF reached so that a seek back can
340                     be done without rereading data */
341                     s->eof_reached = 1;
342                     if(len<0)
343                         s->error= len;
344                     break;
345                 } else {
346                     s->pos += len;
347                     size -= len;
348                     buf += len;
349                     s->buf_ptr = s->buffer;
350                     s->buf_end = s->buffer/* + len*/;
351                 }
352             }else{
353                 fill_buffer(s);
354                 len = s->buf_end - s->buf_ptr;
355                 if (len == 0)
356                     break;
357             }
358         } else {
359             memcpy(buf, s->buf_ptr, len);
360             buf += len;
361             s->buf_ptr += len;
362             size -= len;
363         }
364     }
365     return size1 - size;
366 }
367
368 int get_partial_buffer(ByteIOContext *s, unsigned char *buf, int size)
369 {
370     int len;
371     
372     if(size<0)
373         return -1;
374
375     len = s->buf_end - s->buf_ptr;
376     if (len == 0) {
377         fill_buffer(s);
378         len = s->buf_end - s->buf_ptr;
379     }
380     if (len > size)
381         len = size;
382     memcpy(buf, s->buf_ptr, len);
383     s->buf_ptr += len;
384     return len;
385 }
386
387 unsigned int get_le16(ByteIOContext *s)
388 {
389     unsigned int val;
390     val = get_byte(s);
391     val |= get_byte(s) << 8;
392     return val;
393 }
394
395 unsigned int get_le32(ByteIOContext *s)
396 {
397     unsigned int val;
398     val = get_byte(s);
399     val |= get_byte(s) << 8;
400     val |= get_byte(s) << 16;
401     val |= get_byte(s) << 24;
402     return val;
403 }
404
405 uint64_t get_le64(ByteIOContext *s)
406 {
407     uint64_t val;
408     val = (uint64_t)get_le32(s);
409     val |= (uint64_t)get_le32(s) << 32;
410     return val;
411 }
412
413 unsigned int get_be16(ByteIOContext *s)
414 {
415     unsigned int val;
416     val = get_byte(s) << 8;
417     val |= get_byte(s);
418     return val;
419 }
420
421 unsigned int get_be32(ByteIOContext *s)
422 {
423     unsigned int val;
424     val = get_byte(s) << 24;
425     val |= get_byte(s) << 16;
426     val |= get_byte(s) << 8;
427     val |= get_byte(s);
428     return val;
429 }
430
431 double get_be64_double(ByteIOContext *s)
432 {
433     union {
434         double d;
435         uint64_t ull;
436     } u;
437
438     u.ull = get_be64(s);
439     return u.d;
440 }
441
442 char *get_strz(ByteIOContext *s, char *buf, int maxlen)
443 {
444     int i = 0;
445     char c;
446
447     while ((c = get_byte(s))) {
448         if (i < maxlen-1)
449             buf[i++] = c;
450     }
451     
452     buf[i] = 0; /* Ensure null terminated, but may be truncated */
453
454     return buf;
455 }
456
457 uint64_t get_be64(ByteIOContext *s)
458 {
459     uint64_t val;
460     val = (uint64_t)get_be32(s) << 32;
461     val |= (uint64_t)get_be32(s);
462     return val;
463 }
464
465 /* link with avio functions */
466
467 #ifdef CONFIG_ENCODERS
468 static int url_write_packet(void *opaque, uint8_t *buf, int buf_size)
469 {
470     URLContext *h = opaque;
471     return url_write(h, buf, buf_size);
472 }
473 #else
474 #define url_write_packet NULL
475 #endif //CONFIG_ENCODERS
476
477 static int url_read_packet(void *opaque, uint8_t *buf, int buf_size)
478 {
479     URLContext *h = opaque;
480     return url_read(h, buf, buf_size);
481 }
482
483 static int url_seek_packet(void *opaque, int64_t offset, int whence)
484 {
485     URLContext *h = opaque;
486     return url_seek(h, offset, whence);
487     //return 0;
488 }
489
490 int url_fdopen(ByteIOContext *s, URLContext *h)
491 {
492     uint8_t *buffer;
493     int buffer_size, max_packet_size;
494
495     
496     max_packet_size = url_get_max_packet_size(h);
497     if (max_packet_size) {
498         buffer_size = max_packet_size; /* no need to bufferize more than one packet */
499     } else {
500         buffer_size = IO_BUFFER_SIZE;
501     }
502     buffer = av_malloc(buffer_size);
503     if (!buffer)
504         return -ENOMEM;
505
506     if (init_put_byte(s, buffer, buffer_size, 
507                       (h->flags & URL_WRONLY || h->flags & URL_RDWR), h,
508                       url_read_packet, url_write_packet, url_seek_packet) < 0) {
509         av_free(buffer);
510         return AVERROR_IO;
511     }
512     s->is_streamed = h->is_streamed;
513     s->max_packet_size = max_packet_size;
514     return 0;
515 }
516
517 /* XXX: must be called before any I/O */
518 int url_setbufsize(ByteIOContext *s, int buf_size)
519 {
520     uint8_t *buffer;
521     buffer = av_malloc(buf_size);
522     if (!buffer)
523         return -ENOMEM;
524
525     av_free(s->buffer);
526     s->buffer = buffer;
527     s->buffer_size = buf_size;
528     s->buf_ptr = buffer;
529     if (!s->write_flag) 
530         s->buf_end = buffer;
531     else
532         s->buf_end = buffer + buf_size;
533     return 0;
534 }
535
536 /* NOTE: when opened as read/write, the buffers are only used for
537    reading */
538 int url_fopen(ByteIOContext *s, const char *filename, int flags)
539 {
540     URLContext *h;
541     int err;
542
543     err = url_open(&h, filename, flags);
544     if (err < 0)
545         return err;
546     err = url_fdopen(s, h);
547     if (err < 0) {
548         url_close(h);
549         return err;
550     }
551     return 0;
552 }
553
554 int url_fclose(ByteIOContext *s)
555 {
556     URLContext *h = s->opaque;
557     
558     av_free(s->buffer);
559     memset(s, 0, sizeof(ByteIOContext));
560     return url_close(h);
561 }
562
563 URLContext *url_fileno(ByteIOContext *s)
564 {
565     return s->opaque;
566 }
567
568 #ifdef CONFIG_ENCODERS
569 /* XXX: currently size is limited */
570 int url_fprintf(ByteIOContext *s, const char *fmt, ...)
571 {
572     va_list ap;
573     char buf[4096];
574     int ret;
575
576     va_start(ap, fmt);
577     ret = vsnprintf(buf, sizeof(buf), fmt, ap);
578     va_end(ap);
579     put_buffer(s, buf, strlen(buf));
580     return ret;
581 }
582 #endif //CONFIG_ENCODERS
583
584 /* note: unlike fgets, the EOL character is not returned and a whole
585    line is parsed. return NULL if first char read was EOF */
586 char *url_fgets(ByteIOContext *s, char *buf, int buf_size)
587 {
588     int c;
589     char *q;
590
591     c = url_fgetc(s);
592     if (c == EOF)
593         return NULL;
594     q = buf;
595     for(;;) {
596         if (c == EOF || c == '\n')
597             break;
598         if ((q - buf) < buf_size - 1)
599             *q++ = c;
600         c = url_fgetc(s);
601     }
602     if (buf_size > 0)
603         *q = '\0';
604     return buf;
605 }
606
607 /* 
608  * Return the maximum packet size associated to packetized buffered file
609  * handle. If the file is not packetized (stream like http or file on
610  * disk), then 0 is returned.
611  * 
612  * @param h buffered file handle
613  * @return maximum packet size in bytes
614  */
615 int url_fget_max_packet_size(ByteIOContext *s)
616 {
617     return s->max_packet_size;
618 }
619
620 #ifdef CONFIG_ENCODERS
621 /* buffer handling */
622 int url_open_buf(ByteIOContext *s, uint8_t *buf, int buf_size, int flags)
623 {
624     return init_put_byte(s, buf, buf_size, 
625                          (flags & URL_WRONLY || flags & URL_RDWR),
626                          NULL, NULL, NULL, NULL);
627 }
628
629 /* return the written or read size */
630 int url_close_buf(ByteIOContext *s)
631 {
632     put_flush_packet(s);
633     return s->buf_ptr - s->buffer;
634 }
635
636 /* output in a dynamic buffer */
637
638 typedef struct DynBuffer {
639     int pos, size, allocated_size;
640     uint8_t *buffer;
641     int io_buffer_size;
642     uint8_t io_buffer[1];
643 } DynBuffer;
644
645 static int dyn_buf_write(void *opaque, uint8_t *buf, int buf_size)
646 {
647     DynBuffer *d = opaque;
648     int new_size, new_allocated_size;
649     
650     /* reallocate buffer if needed */
651     new_size = d->pos + buf_size;
652     new_allocated_size = d->allocated_size;
653     if(new_size < d->pos || new_size > INT_MAX/2)
654         return -1;
655     while (new_size > new_allocated_size) {
656         if (!new_allocated_size)
657             new_allocated_size = new_size;
658         else
659             new_allocated_size += new_allocated_size / 2 + 1;    
660     }
661     
662     if (new_allocated_size > d->allocated_size) {
663         d->buffer = av_realloc(d->buffer, new_allocated_size);
664         if(d->buffer == NULL)
665              return -1234;
666         d->allocated_size = new_allocated_size;
667     }
668     memcpy(d->buffer + d->pos, buf, buf_size);
669     d->pos = new_size;
670     if (d->pos > d->size)
671         d->size = d->pos;
672     return buf_size;
673 }
674
675 static int dyn_packet_buf_write(void *opaque, uint8_t *buf, int buf_size)
676 {
677     unsigned char buf1[4];
678     int ret;
679
680     /* packetized write: output the header */
681     buf1[0] = (buf_size >> 24);
682     buf1[1] = (buf_size >> 16);
683     buf1[2] = (buf_size >> 8);
684     buf1[3] = (buf_size);
685     ret= dyn_buf_write(opaque, buf1, 4);
686     if(ret < 0)
687         return ret;
688
689     /* then the data */
690     return dyn_buf_write(opaque, buf, buf_size);
691 }
692
693 static int dyn_buf_seek(void *opaque, offset_t offset, int whence)
694 {
695     DynBuffer *d = opaque;
696
697     if (whence == SEEK_CUR)
698         offset += d->pos;
699     else if (whence == SEEK_END)
700         offset += d->size;
701     if (offset < 0 || offset > 0x7fffffffLL)
702         return -1;
703     d->pos = offset;
704     return 0;
705 }
706
707 static int url_open_dyn_buf_internal(ByteIOContext *s, int max_packet_size)
708 {
709     DynBuffer *d;
710     int io_buffer_size, ret;
711     
712     if (max_packet_size) 
713         io_buffer_size = max_packet_size;
714     else
715         io_buffer_size = 1024;
716         
717     if(sizeof(DynBuffer) + io_buffer_size < io_buffer_size)
718         return -1;
719     d = av_malloc(sizeof(DynBuffer) + io_buffer_size);
720     if (!d)
721         return -1;
722     d->io_buffer_size = io_buffer_size;
723     d->buffer = NULL;
724     d->pos = 0;
725     d->size = 0;
726     d->allocated_size = 0;
727     ret = init_put_byte(s, d->io_buffer, io_buffer_size, 
728                         1, d, NULL, 
729                         max_packet_size ? dyn_packet_buf_write : dyn_buf_write, 
730                         max_packet_size ? NULL : dyn_buf_seek);
731     if (ret == 0) {
732         s->max_packet_size = max_packet_size;
733     }
734     return ret;
735 }
736
737 /*
738  * Open a write only memory stream.
739  * 
740  * @param s new IO context
741  * @return zero if no error.
742  */
743 int url_open_dyn_buf(ByteIOContext *s)
744 {
745     return url_open_dyn_buf_internal(s, 0);
746 }
747
748 /*
749  * Open a write only packetized memory stream with a maximum packet
750  * size of 'max_packet_size'.  The stream is stored in a memory buffer
751  * with a big endian 4 byte header giving the packet size in bytes.
752  * 
753  * @param s new IO context
754  * @param max_packet_size maximum packet size (must be > 0) 
755  * @return zero if no error.
756  */
757 int url_open_dyn_packet_buf(ByteIOContext *s, int max_packet_size)
758 {
759     if (max_packet_size <= 0)
760         return -1;
761     return url_open_dyn_buf_internal(s, max_packet_size);
762 }
763
764 /* 
765  * Return the written size and a pointer to the buffer. The buffer
766  *  must be freed with av_free(). 
767  * @param s IO context
768  * @param pointer to a byte buffer
769  * @return the length of the byte buffer
770  */
771 int url_close_dyn_buf(ByteIOContext *s, uint8_t **pbuffer)
772 {
773     DynBuffer *d = s->opaque;
774     int size;
775
776     put_flush_packet(s);
777
778     *pbuffer = d->buffer;
779     size = d->size;
780     av_free(d);
781     return size;
782 }
783 #endif //CONFIG_ENCODERS