Fix bugs in previous commit that caused FTBFS in synfig and ETL FTBFS with older...
[synfig.git] / synfig-core / tags / synfig_0_61_03 / synfig-core / src / modules / mod_libavcodec / libavcodec / utils.c
1 /*
2  * utils for libavcodec
3  * Copyright (c) 2001 Fabrice Bellard.
4  *
5  * This library is free software; you can redistribute it and/or
6  * modify it under the terms of the GNU Lesser General Public
7  * License as published by the Free Software Foundation; either
8  * version 2 of the License, or (at your option) any later version.
9  *
10  * This library is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * Lesser General Public License for more details.
14  *
15  * You should have received a copy of the GNU Lesser General Public
16  * License along with this library; if not, write to the Free Software
17  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
18  */
19  
20 /**
21  * @file utils.c
22  * utils.
23  */
24  
25 #include "avcodec.h"
26 #include "dsputil.h"
27 #include "mpegvideo.h"
28
29 void *av_mallocz(unsigned int size)
30 {
31     void *ptr;
32     
33     ptr = av_malloc(size);
34     if (!ptr)
35         return NULL;
36     memset(ptr, 0, size);
37     return ptr;
38 }
39
40 char *av_strdup(const char *s)
41 {
42     char *ptr;
43     int len;
44     len = strlen(s) + 1;
45     ptr = av_malloc(len);
46     if (!ptr)
47         return NULL;
48     memcpy(ptr, s, len);
49     return ptr;
50 }
51
52 /**
53  * realloc which does nothing if the block is large enough
54  */
55 void *av_fast_realloc(void *ptr, unsigned int *size, unsigned int min_size)
56 {
57     if(min_size < *size) 
58         return ptr;
59     
60     *size= min_size + 10*1024;
61
62     return av_realloc(ptr, *size);
63 }
64
65
66 /* allocation of static arrays - do not use for normal allocation */
67 static unsigned int last_static = 0;
68 static char*** array_static = NULL;
69 static const unsigned int grow_static = 64; // ^2
70 void *__av_mallocz_static(void** location, unsigned int size)
71 {
72     unsigned int l = (last_static + grow_static) & ~(grow_static - 1);
73     void *ptr = av_mallocz(size);
74     if (!ptr)
75         return NULL;
76
77     if (location)
78     {
79         if (l > last_static)
80             array_static = av_realloc(array_static, l);
81         array_static[last_static++] = (char**) location;
82         *location = ptr;
83     }
84     return ptr;
85 }
86 /* free all static arrays and reset pointers to 0 */
87 void av_free_static(void)
88 {
89     if (array_static)
90     {
91         unsigned i;
92         for (i = 0; i < last_static; i++)
93         {
94             av_free(*array_static[i]);
95             *array_static[i] = NULL;
96         }
97         av_free(array_static);
98         array_static = 0;
99     }
100     last_static = 0;
101 }
102
103 /* cannot call it directly because of 'void **' casting is not automatic */
104 void __av_freep(void **ptr)
105 {
106     av_free(*ptr);
107     *ptr = NULL;
108 }
109
110 /* encoder management */
111 AVCodec *first_avcodec;
112
113 void register_avcodec(AVCodec *format)
114 {
115     AVCodec **p;
116     p = &first_avcodec;
117     while (*p != NULL) p = &(*p)->next;
118     *p = format;
119     format->next = NULL;
120 }
121
122 typedef struct InternalBuffer{
123     int last_pic_num;
124     uint8_t *base[4];
125     uint8_t *data[4];
126 }InternalBuffer;
127
128 #define INTERNAL_BUFFER_SIZE 32
129
130 int avcodec_default_get_buffer(AVCodecContext *s, AVFrame *pic){
131     int i;
132     const int width = s->width;
133     const int height= s->height;
134     InternalBuffer *buf;
135     
136     assert(pic->data[0]==NULL);
137     assert(INTERNAL_BUFFER_SIZE > s->internal_buffer_count);
138
139     if(s->internal_buffer==NULL){
140         s->internal_buffer= av_mallocz(INTERNAL_BUFFER_SIZE*sizeof(InternalBuffer));
141     }
142 #if 0
143     s->internal_buffer= av_fast_realloc(
144         s->internal_buffer, 
145         &s->internal_buffer_size, 
146         sizeof(InternalBuffer)*FFMAX(99,  s->internal_buffer_count+1)/*FIXME*/
147         );
148 #endif
149      
150     buf= &((InternalBuffer*)s->internal_buffer)[s->internal_buffer_count];
151
152     if(buf->base[0]){
153         pic->age= pic->coded_picture_number - buf->last_pic_num;
154         buf->last_pic_num= pic->coded_picture_number;
155     }else{
156         int align, h_chroma_shift, v_chroma_shift;
157         int w, h, pixel_size;
158         
159         avcodec_get_chroma_sub_sample(s->pix_fmt, &h_chroma_shift, &v_chroma_shift);
160         switch(s->pix_fmt){
161         case PIX_FMT_RGB555:
162         case PIX_FMT_RGB565:
163         case PIX_FMT_YUV422:
164             pixel_size=2;
165             break;
166         case PIX_FMT_RGB24:
167         case PIX_FMT_BGR24:
168             pixel_size=3;
169             break;
170         case PIX_FMT_RGBA32:
171             pixel_size=4;
172             break;
173         default:
174             pixel_size=1;
175         }
176         
177         if(s->codec_id==CODEC_ID_SVQ1) align=63;
178         else                           align=15;
179     
180         w= (width +align)&~align;
181         h= (height+align)&~align;
182     
183         if(!(s->flags&CODEC_FLAG_EMU_EDGE)){
184             w+= EDGE_WIDTH*2;
185             h+= EDGE_WIDTH*2;
186         }
187         
188         buf->last_pic_num= -256*256*256*64;
189
190         for(i=0; i<3; i++){
191             const int h_shift= i==0 ? 0 : h_chroma_shift;
192             const int v_shift= i==0 ? 0 : v_chroma_shift;
193
194             pic->linesize[i]= pixel_size*w>>h_shift;
195
196             buf->base[i]= av_mallocz((pic->linesize[i]*h>>v_shift)+16); //FIXME 16
197             if(buf->base[i]==NULL) return -1;
198             memset(buf->base[i], 128, pic->linesize[i]*h>>v_shift);
199         
200             if(s->flags&CODEC_FLAG_EMU_EDGE)
201                 buf->data[i] = buf->base[i];
202             else
203                 buf->data[i] = buf->base[i] + (pic->linesize[i]*EDGE_WIDTH>>v_shift) + (EDGE_WIDTH>>h_shift);
204         }
205         pic->age= 256*256*256*64;
206         pic->type= FF_BUFFER_TYPE_INTERNAL;
207     }
208
209     for(i=0; i<4; i++){
210         pic->base[i]= buf->base[i];
211         pic->data[i]= buf->data[i];
212     }
213     s->internal_buffer_count++;
214
215     return 0;
216 }
217
218 void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
219     int i;
220     InternalBuffer *buf, *last, temp;
221
222     assert(pic->type==FF_BUFFER_TYPE_INTERNAL);
223     assert(s->internal_buffer_count);
224
225     buf = NULL; /* avoids warning */
226     for(i=0; i<s->internal_buffer_count; i++){ //just 3-5 checks so is not worth to optimize
227         buf= &((InternalBuffer*)s->internal_buffer)[i];
228         if(buf->data[0] == pic->data[0])
229             break;
230     }
231     assert(i < s->internal_buffer_count);
232     s->internal_buffer_count--;
233     last = &((InternalBuffer*)s->internal_buffer)[s->internal_buffer_count];
234
235     temp= *buf;
236     *buf= *last;
237     *last= temp;
238
239     for(i=0; i<3; i++){
240         pic->data[i]=NULL;
241 //        pic->base[i]=NULL;
242     }
243 //printf("R%X\n", pic->opaque);
244 }
245
246 enum PixelFormat avcodec_default_get_format(struct AVCodecContext *s, enum PixelFormat * fmt){
247     return fmt[0];
248 }
249
250 void avcodec_get_context_defaults(AVCodecContext *s){
251     s->bit_rate= 800*1000;
252     s->bit_rate_tolerance= s->bit_rate*10;
253     s->qmin= 2;
254     s->qmax= 31;
255     s->mb_qmin= 2;
256     s->mb_qmax= 31;
257     s->rc_eq= "tex^qComp";
258     s->qcompress= 0.5;
259     s->max_qdiff= 3;
260     s->b_quant_factor=1.25;
261     s->b_quant_offset=1.25;
262     s->i_quant_factor=-0.8;
263     s->i_quant_offset=0.0;
264     s->error_concealment= 3;
265     s->error_resilience= 1;
266     s->workaround_bugs= FF_BUG_AUTODETECT;
267     s->frame_rate_base= 1;
268     s->frame_rate = 25;
269     s->gop_size= 50;
270     s->me_method= ME_EPZS;
271     s->get_buffer= avcodec_default_get_buffer;
272     s->release_buffer= avcodec_default_release_buffer;
273     s->get_format= avcodec_default_get_format;
274     s->me_subpel_quality=8;
275     
276     s->intra_quant_bias= FF_DEFAULT_QUANT_BIAS;
277     s->inter_quant_bias= FF_DEFAULT_QUANT_BIAS;
278 }
279
280 /**
281  * allocates a AVCodecContext and set it to defaults.
282  * this can be deallocated by simply calling free() 
283  */
284 AVCodecContext *avcodec_alloc_context(void){
285     AVCodecContext *avctx= av_mallocz(sizeof(AVCodecContext));
286     
287     if(avctx==NULL) return NULL;
288     
289     avcodec_get_context_defaults(avctx);
290     
291     return avctx;
292 }
293
294 /**
295  * allocates a AVPFrame and set it to defaults.
296  * this can be deallocated by simply calling free() 
297  */
298 AVFrame *avcodec_alloc_frame(void){
299     AVFrame *pic= av_mallocz(sizeof(AVFrame));
300     
301     return pic;
302 }
303
304 int avcodec_open(AVCodecContext *avctx, AVCodec *codec)
305 {
306     int ret;
307
308     if(avctx->codec)
309         return -1;
310
311     avctx->codec = codec;
312     avctx->codec_id = codec->id;
313     avctx->frame_number = 0;
314     if (codec->priv_data_size > 0) {
315         avctx->priv_data = av_mallocz(codec->priv_data_size);
316         if (!avctx->priv_data) 
317             return -ENOMEM;
318     } else {
319         avctx->priv_data = NULL;
320     }
321     ret = avctx->codec->init(avctx);
322     if (ret < 0) {
323         av_freep(&avctx->priv_data);
324         return ret;
325     }
326     return 0;
327 }
328
329 int avcodec_encode_audio(AVCodecContext *avctx, uint8_t *buf, int buf_size, 
330                          const short *samples)
331 {
332     int ret;
333
334     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)samples);
335     avctx->frame_number++;
336     return ret;
337 }
338
339 int avcodec_encode_video(AVCodecContext *avctx, uint8_t *buf, int buf_size, 
340                          const AVFrame *pict)
341 {
342     int ret;
343
344     ret = avctx->codec->encode(avctx, buf, buf_size, (void *)pict);
345     
346     emms_c(); //needed to avoid a emms_c() call before every return;
347
348     avctx->frame_number++;
349     return ret;
350 }
351
352 /** 
353  * decode a frame. 
354  * @param buf bitstream buffer, must be FF_INPUT_BUFFER_PADDING_SIZE larger then the actual read bytes
355  * because some optimized bitstream readers read 32 or 64 bit at once and could read over the end
356  * @param buf_size the size of the buffer in bytes
357  * @param got_picture_ptr zero if no frame could be decompressed, Otherwise, it is non zero
358  * @return -1 if error, otherwise return the number of
359  * bytes used. 
360  */
361 int avcodec_decode_video(AVCodecContext *avctx, AVFrame *picture, 
362                          int *got_picture_ptr,
363                          uint8_t *buf, int buf_size)
364 {
365     int ret;
366     
367     ret = avctx->codec->decode(avctx, picture, got_picture_ptr, 
368                                buf, buf_size);
369
370     emms_c(); //needed to avoid a emms_c() call before every return;
371     
372     if (*got_picture_ptr)                           
373         avctx->frame_number++;
374     return ret;
375 }
376
377 /* decode an audio frame. return -1 if error, otherwise return the
378    *number of bytes used. If no frame could be decompressed,
379    *frame_size_ptr is zero. Otherwise, it is the decompressed frame
380    *size in BYTES. */
381 int avcodec_decode_audio(AVCodecContext *avctx, int16_t *samples, 
382                          int *frame_size_ptr,
383                          uint8_t *buf, int buf_size)
384 {
385     int ret;
386
387     ret = avctx->codec->decode(avctx, samples, frame_size_ptr, 
388                                buf, buf_size);
389     avctx->frame_number++;
390     return ret;
391 }
392
393 int avcodec_close(AVCodecContext *avctx)
394 {
395     if (avctx->codec->close)
396         avctx->codec->close(avctx);
397     av_freep(&avctx->priv_data);
398     avctx->codec = NULL;
399     return 0;
400 }
401
402 AVCodec *avcodec_find_encoder(enum CodecID id)
403 {
404     AVCodec *p;
405     p = first_avcodec;
406     while (p) {
407         if (p->encode != NULL && p->id == id)
408             return p;
409         p = p->next;
410     }
411     return NULL;
412 }
413
414 AVCodec *avcodec_find_encoder_by_name(const char *name)
415 {
416     AVCodec *p;
417     p = first_avcodec;
418     while (p) {
419         if (p->encode != NULL && strcmp(name,p->name) == 0)
420             return p;
421         p = p->next;
422     }
423     return NULL;
424 }
425
426 AVCodec *avcodec_find_decoder(enum CodecID id)
427 {
428     AVCodec *p;
429     p = first_avcodec;
430     while (p) {
431         if (p->decode != NULL && p->id == id)
432             return p;
433         p = p->next;
434     }
435     return NULL;
436 }
437
438 AVCodec *avcodec_find_decoder_by_name(const char *name)
439 {
440     AVCodec *p;
441     p = first_avcodec;
442     while (p) {
443         if (p->decode != NULL && strcmp(name,p->name) == 0)
444             return p;
445         p = p->next;
446     }
447     return NULL;
448 }
449
450 AVCodec *avcodec_find(enum CodecID id)
451 {
452     AVCodec *p;
453     p = first_avcodec;
454     while (p) {
455         if (p->id == id)
456             return p;
457         p = p->next;
458     }
459     return NULL;
460 }
461
462 void avcodec_string(char *buf, int buf_size, AVCodecContext *enc, int encode)
463 {
464     const char *codec_name;
465     AVCodec *p;
466     char buf1[32];
467     char channels_str[100];
468     int bitrate;
469
470     if (encode)
471         p = avcodec_find_encoder(enc->codec_id);
472     else
473         p = avcodec_find_decoder(enc->codec_id);
474
475     if (p) {
476         codec_name = p->name;
477         if (!encode && enc->codec_id == CODEC_ID_MP3) {
478             if (enc->sub_id == 2)
479                 codec_name = "mp2";
480             else if (enc->sub_id == 1)
481                 codec_name = "mp1";
482         }
483     } else if (enc->codec_name[0] != '\0') {
484         codec_name = enc->codec_name;
485     } else {
486         /* output avi tags */
487         if (enc->codec_type == CODEC_TYPE_VIDEO) {
488             snprintf(buf1, sizeof(buf1), "%c%c%c%c", 
489                      enc->codec_tag & 0xff,
490                      (enc->codec_tag >> 8) & 0xff,
491                      (enc->codec_tag >> 16) & 0xff,
492                      (enc->codec_tag >> 24) & 0xff);
493         } else {
494             snprintf(buf1, sizeof(buf1), "0x%04x", enc->codec_tag);
495         }
496         codec_name = buf1;
497     }
498
499     switch(enc->codec_type) {
500     case CODEC_TYPE_VIDEO:
501         snprintf(buf, buf_size,
502                  "Video: %s%s",
503                  codec_name, enc->mb_decision ? " (hq)" : "");
504         if (enc->codec_id == CODEC_ID_RAWVIDEO) {
505             snprintf(buf + strlen(buf), buf_size - strlen(buf),
506                      ", %s",
507                      avcodec_get_pix_fmt_name(enc->pix_fmt));
508         }
509         if (enc->width) {
510             snprintf(buf + strlen(buf), buf_size - strlen(buf),
511                      ", %dx%d, %0.2f fps",
512                      enc->width, enc->height, 
513                      (float)enc->frame_rate / enc->frame_rate_base);
514         }
515         if (encode) {
516             snprintf(buf + strlen(buf), buf_size - strlen(buf),
517                      ", q=%d-%d", enc->qmin, enc->qmax);
518         }
519         bitrate = enc->bit_rate;
520         break;
521     case CODEC_TYPE_AUDIO:
522         snprintf(buf, buf_size,
523                  "Audio: %s",
524                  codec_name);
525         switch (enc->channels) {
526             case 1:
527                 strcpy(channels_str, "mono");
528                 break;
529             case 2:
530                 strcpy(channels_str, "stereo");
531                 break;
532             case 6:
533                 strcpy(channels_str, "5:1");
534                 break;
535             default:
536                 sprintf(channels_str, "%d channels", enc->channels);
537                 break;
538         }
539         if (enc->sample_rate) {
540             snprintf(buf + strlen(buf), buf_size - strlen(buf),
541                      ", %d Hz, %s",
542                      enc->sample_rate,
543                      channels_str);
544         }
545         
546         /* for PCM codecs, compute bitrate directly */
547         switch(enc->codec_id) {
548         case CODEC_ID_PCM_S16LE:
549         case CODEC_ID_PCM_S16BE:
550         case CODEC_ID_PCM_U16LE:
551         case CODEC_ID_PCM_U16BE:
552             bitrate = enc->sample_rate * enc->channels * 16;
553             break;
554         case CODEC_ID_PCM_S8:
555         case CODEC_ID_PCM_U8:
556         case CODEC_ID_PCM_ALAW:
557         case CODEC_ID_PCM_MULAW:
558             bitrate = enc->sample_rate * enc->channels * 8;
559             break;
560         default:
561             bitrate = enc->bit_rate;
562             break;
563         }
564         break;
565     default:
566         av_abort();
567     }
568     if (encode) {
569         if (enc->flags & CODEC_FLAG_PASS1)
570             snprintf(buf + strlen(buf), buf_size - strlen(buf),
571                      ", pass 1");
572         if (enc->flags & CODEC_FLAG_PASS2)
573             snprintf(buf + strlen(buf), buf_size - strlen(buf),
574                      ", pass 2");
575     }
576     if (bitrate != 0) {
577         snprintf(buf + strlen(buf), buf_size - strlen(buf), 
578                  ", %d kb/s", bitrate / 1000);
579     }
580 }
581
582 unsigned avcodec_version( void )
583 {
584   return LIBAVCODEC_VERSION_INT;
585 }
586
587 unsigned avcodec_build( void )
588 {
589   return LIBAVCODEC_BUILD;
590 }
591
592 /* must be called before any other functions */
593 void avcodec_init(void)
594 {
595     static int inited = 0;
596
597     if (inited != 0)
598         return;
599     inited = 1;
600
601     dsputil_static_init();
602 }
603
604 /**
605  * Flush buffers, should be called when seeking or when swicthing to a different stream.
606  */
607 void avcodec_flush_buffers(AVCodecContext *avctx)
608 {
609     if(avctx->codec->flush)
610         avctx->codec->flush(avctx);
611 }
612
613 void avcodec_default_free_buffers(AVCodecContext *s){
614     int i, j;
615
616     if(s->internal_buffer==NULL) return;
617     
618     for(i=0; i<INTERNAL_BUFFER_SIZE; i++){
619         InternalBuffer *buf= &((InternalBuffer*)s->internal_buffer)[i];
620         for(j=0; j<4; j++){
621             av_freep(&buf->base[j]);
622             buf->data[j]= NULL;
623         }
624     }
625     av_freep(&s->internal_buffer);
626     
627     s->internal_buffer_count=0;
628 }
629
630 char av_get_pict_type_char(int pict_type){
631     switch(pict_type){
632     case I_TYPE: return 'I'; 
633     case P_TYPE: return 'P'; 
634     case B_TYPE: return 'B'; 
635     case S_TYPE: return 'S'; 
636     case SI_TYPE:return 'i'; 
637     case SP_TYPE:return 'p'; 
638     default:     return '?';
639     }
640 }
641
642 int av_reduce(int *dst_nom, int *dst_den, int64_t nom, int64_t den, int64_t max){
643     int exact=1, sign=0;
644     int64_t gcd, larger;
645
646     assert(den != 0);
647
648     if(den < 0){
649         den= -den;
650         nom= -nom;
651     }
652     
653     if(nom < 0){
654         nom= -nom;
655         sign= 1;
656     }
657     
658     for(;;){ //note is executed 1 or 2 times 
659         gcd = ff_gcd(nom, den);
660         nom /= gcd;
661         den /= gcd;
662     
663         larger= FFMAX(nom, den);
664     
665         if(larger > max){
666             int64_t div= (larger + max - 1) / max;
667             nom =  (nom + div/2)/div;
668             den =  (den + div/2)/div;
669             exact=0;
670         }else 
671             break;
672     }
673     
674     if(sign) nom= -nom;
675     
676     *dst_nom = nom;
677     *dst_den = den;
678     
679     return exact;
680 }
681
682 int64_t av_rescale(int64_t a, int b, int c){
683     uint64_t h, l;
684     assert(c > 0);
685     assert(b >=0);
686     
687     if(a<0) return -av_rescale(-a, b, c);
688     
689     h= a>>32;
690     if(h==0) return a*b/c;
691     
692     l= a&0xFFFFFFFF;
693     l *= b;
694     h *= b;
695
696     l += (h%c)<<32;
697
698     return ((h/c)<<32) + l/c;
699 }