v 容器(Container)
v 容器就是一种文件(封装)格式，比如flv、mkv、ts、mp4、rmvb、avi等。包含下面5种流以及文件头信息。
v 流(Stream)
v 是一种视频数据信息的传输方式，5种流：音频，视频，字幕，附件，数据。
v 帧(Frame) 代表一幅静止的图像，分为I帧，P帧，B帧。
v 编解码器(Codec)
v 是对视频进行压缩或者解压缩，CODEC =CODE（编码） +DECODE（解码）
v 复用/解复用(mux/demux)
v 把不同的流按照某种容器的规则放入容器，这种行为叫做复用(mux)
把不同的流从某种容器中解析出来，这种行为叫做解复用(demux)
v 码率和帧率是视频文件的最重要的基本特征，对于他们的特有设置会决定视频质量。如果我们知道码率和时长那么可以很容易计算出输出文件的大小。
v 帧率：帧率也叫帧频率，帧率是视频文件中每一秒的帧数，肉眼想看到连续移动图像至少需要15帧。
v 码率：比特率(也叫码率，数据率)是一个确定整体视频/音频质量的参数，秒为单位处理的字节数，码率和视频质量成正比，在视频文件中中比特率用bps来表达。
转码流程
v FFmpeg的名称来自MPEG视频编码标准，前面的“FF”代表“Fast Forward”，FFmpeg是一套可以用来音视频采集、音视频格式转换，编码解码，视频截图，加水印等的开源计算机程序。可以轻易地实现多种视频格式之间的相互转换。
v FFmpeg的用户有Google，Facebook，Youtube，VLC,优酷，爱奇艺，土豆，Mplayer，射手播放器，暴风影音，KMPlayer，QQ影音，格式工厂，狸窝视频转换器，暴风转码等。
v FFmpeg的开发是基于Linux操作系统，但是可以在大多数操作系统中编译和使用。(在vs2010中编译不了，因为vs2010支持的是C89(不支持C99) ，ffmpeg使用的是C99，vs2013/2015可以编译)
v FFmpeg一共包含8个库：
v 1、avcodec：编解码（最重要的库）。
v 2、avformat：封装格式处理。
v 3、avfilter：滤镜特效处理。
v 4、avdevice：各种设备的输入输出。
v 5、avutil：工具库（大部分库都需要这个库的支持）。
v 6、postproc：后加工。
v 7、swresample：音频采样数据格式转换。
v 8、swscale：视频像素数据格式转换
v FFmpeg一共包含四个主要程序：
v 1、ffmpeg：是一个命令行工具，用来对视音频文件转换格式，也支持对电视卡实时编码；
ffmpeg -i input.flv -c:v libx264 -c:a libfaac -b:v 800k -b:a 100k -r 25 -ar 48000 -s 1280x720 -f flv out.flv
v 2、ffsever：是一个HTTP多媒体实时广播流服务器，支持时光平移
v 3、ffplay：是一个简单的播放器，使用ffmpeg 库解析和解码，通过SDL显示；
ffplay input.avi
该命令将播放当前文件夹下
的input.avi文件
v 4、ffprobe：探测分析视音频文件
ffprobe -i input -print_format json -show_format -show_streams -show_frames
v 官网：
v http://ffmpeg.org/download.html
v https://ffmpeg.zeranoe.com/builds/
v Linux下编译很简单 ./configure && make && make install
v Windows下使用MinGW的gcc toolchain进行编译，没有pdb，无法进行调试
v Windows下可以使用vs2013/2015版本编译
v configure的时候可以指定配置，开启或关闭一些选项，启用外部的编解码库等
./configure --enable-shared --enable-version3 --enable-gpl --enable-nonfree --enable-libfdk_aac --enable-libmp3lame --enable-zlib --enable-libspeex --enable-libx264 --prefix=/usr/lib/buildwin64ffmpeg
学习研究ffmpeg推荐在linux下，编译调试都方便(试了vs2015也不错，有个老外有个开源工程都集成好了)。
v 可用的bit流 ：ffmpeg –bsfs
v 可用的编解码器：ffmpeg –codecs
v 可用的解码器：ffmpeg –decoders
v 可用的编码器：ffmpeg –encoders
v 可用的过滤器：ffmpeg –filters
v 可用的视频格式：ffmpeg –formats
v 可用的声道布局：ffmpeg –layouts
v 可用的license：ffmpeg –L
v 可用的像素格式：ffmpeg –pix_fmts
v 可用的协议：ffmpeg -protocals
v 改变视频的分辨率 -s 1280x720
v 改变视频的帧率 -r 15
v 改变音频的采样率 -ar 44100
v 改变视音频的码率 -b:v 1000k -b:a 80k
v 设置输出格式 -f flv(mpegts/hls/mp4)
v 设置视音频编码格式 -c:v libx264 –c:a libfaac
v 指定视音频不转码 -c copy -c:a copy –c:v copy
v 设置处理开始时间 -ss HH:MM:SS
v 设置处理结束时间 -to HH:MM:SS
v 不要视频或者音频 –vn –an
v 设置关键帧间隔
-force_key_frames "expr:gte(t,n_forced*1)"
ffmpeg截取视频
v ffmpeg -i %s -ss %02d:%02d:%02d -to %02d:%02d:%02d -c copy -f %s %s -y
v 示例：
ffmpeg –i input.flv –ss 00:10:00 –to 00:20:00 –c copy –f flv jiequ.flv –y
v 说明：
v -i 指定输入
v -ss 指定截取的开始时间
v -to指定截取的结束时间
v 可以用两种方式指定时间，一种是用时分秒指定、中间用冒号分离HH:MM:SS，另一种是直接用秒数指定
v –c copy即音视频编码采用直接复制的方式，不进行转码
v -f flv 指定输出格式为flv，这里的flv可以替换为mp4，ts，hls等，后面接着输出文件名
v -y即如果文件存在，直接覆盖写
ffmpeg合并视频
v 把文件名都输出到一个文件，如下放到join.txt，格式是file+空格+文件名+换行+……
v ffmpeg -f concat -i %s -c copy -f %s %s –y
v 示例：
v ffmpeg -f concat -i join.txt -c copy -f flv join.flv –y
v 注：只适用于相同编解码参数音视频的合并(不同的得转码可以用filter合并)
ffmpeg转封装
v ffmpeg -i %s -c copy -f %s %s -y
v 示例：ffmpeg -i input.flv -c copy -f mp4 output.mp4 -y
这个比较简单,直接指定不转码，输出格式和文件名就好了。
v 其中转hls有一些额外的参数可供选择
v -hls_time 指定切片时长，默认值为2
v -hls_list_size 指定m3u8中ts切片数量的最大值，点播可以配置一个很大的数(最大可配值INT_MAX)，即都保存，直播可以酌情配置
v -hls_segment_filename 指定ts切片的名字
v 示例：
v ffmpeg -i input.flv -c copy -hls_time 10 -hls_list_size 10000000 -hls_segment_filename hongyun_%d.ts -f hls hongyun.m3u8
ffmpeg转码
v ffmpeg -i %s -c:v %s -c:a %s -ar %s -b:v %s -b:a %s -f %s %s -y
v 示例：
v ffmpeg -i input.flv -c:v h264 -c:a libmp3lame -ar 44100 -b:v 1000k -b:a 80k -f flv output.flv –y
v 说明：
v -c:v指定视频编码格式
v -c:a指定音频编码格式
v -ar 指定音频采样率
v -b:v 指定视频码率
v -b:a 指定音频码率
v 注：转换过程中可能会遇到一些问题，ffmpeg会给出提示信息，我们可以根据提示信息进行进一步转码
v
v 这种情况我们加上 -bsf:v h264_mp4toannexb 应该就可以了
ffmpeg 混屏（画中画）
v ffmpeg混屏主要用到的filter中视频相关的有scale、pad、overlay；音频相关的是amix
v ffmpeg -i rtmp://10.111.22.210/live/livestream6 -i xx.flv -i rtmp://10.111.22.210/live/livestream5 -i rtmp://10.121.22.210/live/livestream7 -filter_complex "[0:v]scale=300:200,pad=600:400:0:0[left];[1:v]scale=300:200[right];[left][right]overlay=300:0[up];[2:v]scale=300:200[down]; [up][down]overlay=0:200[downleft];[3:v]scale=300:200[downright];[downleft][downright]overlay=300:200;amix=inputs=4" -c:v h264 -c:a libfaac -f flv rtmp://192.168.11.168/live/livestream
v 命令中首先指定了4路输入；然后按一下步骤进行操作：
v 1.指定第一路流的视频([0:v])作为输入，进行比例变换(scale=300:200)、并填充视频(pad=600:400:0:0),输出为[left]；
v 2.指定第二路流的视频([1:v])为输入进行比例变换(scale=300:200)，输出为[right];
v 3.把[right]叠加到[left]上([left][right]overlay)，并指定位置，坐标为(300:0）,输出为[up]；
v 4.指定第三路流的视频([2:v]) 为输入进行比例变换(scale=300:200),输出为[down]；
v 5. 把[down] 叠加到[up] 上([up][down]overlay)并指定位置，坐标为(0:200),输出为 [downleft]；
v 6.指定第四路流的视频([3:v])为输入进行比例变换(scale=300:200)，输出为[downright];
v 7. 把[downright]叠加到[downleft]上([downleft][downright]overlay) 并指定位置,坐标为(300:200),这里我们不指定输出了(当然也可以指定)，因为滤镜链如果没有指定输入或输出，则默认使用前面的滤镜链的输出为输入，并输出给后面的滤镜链做输入。
v 8. amix=inputs=4，对音频进行混流，这里我们指定混4路音频
ffmpeg中很多框架都是基于函数指针，有点类似于C++的基类，有几个重要的结构体，下面介绍下
几个重要的结构体
v AVFormatContext 封装格式上下文结构体，也是统领全局的结构体，保存了视频文件封装格式相关信息。
v AVInputFormat 每种作为输入的封装格式（例如FLV, MKV, MP4, AVI）对应一个该结构体。
v AVOutputFormat 每种作为输出的封装格式（例如FLV, MKV, MP4, AVI）对应一个该结构体。
v AVStream 视频文件中每个视频（音频）流对应一个该结构体。
v AVCodecContext 编码器上下文结构体，保存了视频（音频）编解码相关信息。
v AVCodec 每种视频（音频）编解码器(例如H.264解码器)对应一个该结构体。
v AVPacket 存储一帧压缩编码数据。
v AVFrame 存储一帧解码后像素（采样）数据。
v AVIOContext 管理输入输出数据的结构体
AVFormatContext
v AVFormatContext中几个重要的成员
v struct AVInputFormat *iformat; 输入的封装格式(Demuxing only)
v struct AVOutputFormat *oformat;输入的封装格式(Muxing only)
v unsigned int nb_streams; 输入/出视频的AVStream 个数
v AVStream **streams; 输入/出视频的AVStream []数组
v duration ：输入视频的时长（以微秒为单位）（ Demuxing only ）
v bit_rate ：输入视频的码率。
AVInputFormat
v AVInputFormat中几个重要的成员
v const char *name; 封装格式名称
v const char *long_name ；封装格式的长名称
v const char *extensions; 封装格式的扩展名
v 一些封装格式处理的接口函数。
v int (*read_probe)(AVProbeData *);
v int (*read_header)(struct AVFormatContext *);
v int (*read_packet)(struct AVFormatContext *, AVPacket *pkt);
v int (*read_close)(struct AVFormatContext *);
v int (*read_seek)(struct AVFormatContext *, int stream_index, int64_t timestamp, int flags);
AVInputFormat例子
v AVInputFormat ff_flv_demuxer = {
.name = "flv",
.long_name = NULL_IF_CONFIG_SMALL("FLV (Flash Video)"),
.priv_data_size = sizeof(FLVContext),
.read_probe = flv_probe,
.read_header = flv_read_header,
.read_packet = flv_read_packet,
.read_seek = flv_read_seek,
.read_close = flv_read_close,
.extensions = "flv",
.priv_class = &flv_class,
};
AVOutputFormat
v AVOutputFormat中几个重要的成员
v const char *name; 封装格式名称
v const char *long_name ；封装格式的长名称
v const char *extensions; 封装格式的扩展名
v 一些封装格式处理的接口函数。
v int (*write_header)(struct AVFormatContext *);
v int (*write_packet)(struct AVFormatContext *, AVPacket *pkt);
v int (*write_trailer)(struct AVFormatContext *);
AVOutputFormat例子
v AVOutputFormat ff_flv_muxer = {
.name = "flv",
.long_name = NULL_IF_CONFIG_SMALL("FLV (Flash Video)"),
.mime_type = "video/x-flv",
.extensions = "flv",
.priv_data_size = sizeof(FLVContext),
.audio_codec = CONFIG_LIBMP3LAME ? AV_CODEC_ID_MP3 : AV_CODEC_ID_ADPCM_SWF,
.video_codec = AV_CODEC_ID_FLV1,
.write_header = flv_write_header,
.write_packet = flv_write_packet,
.write_trailer = flv_write_trailer,
.codec_tag = (const AVCodecTag* const []) { flv_video_codec_ids, flv_audio_codec_ids, 0},
.flags = AVFMT_GLOBALHEADER | AVFMT_VARIABLE_FPS |
AVFMT_TS_NONSTRICT,
.priv_class = &flv_muxer_class,
};
AVStream
v AVStream中几个重要的成员
v int index; /**< stream index in AVFormatContext */
v int id;
v AVCodecContext *codec; 该流对应的AVCodecContext
v AVRational time_base; 该流的时基
v AVRational r_frame_rate; 该流的帧率
AVCodecContext
v AVCodecContext中几个重要的成员
v const struct AVCodec *codec; 编解码器的AVCodec
v int width, height; 图像的宽高（只针对视频）
v enum AVPixelFormat pix_fmt; 像素格式（只针对视频）
v int sample_rate; 采样率（只针对音频）
v int channels; 声道数（只针对音频）
v enum AVSampleFormat sample_fmt; 采样格式（只针对音频）
AVCodec
v AVCodec中几个重要的成员
v const char *name; 编解码器名称
v const char *long_name; 编解码器长名称
v enum AVMediaType type; 编解码器类型
v enum AVCodecID id; 编解码器ID
v 一些编解码的接口函数
v int (*init)(AVCodecContext *);
v int (*encode2)(AVCodecContext *avctx, AVPacket *avpkt, const AVFrame *frame, int *got_packet_ptr);
v int (*decode)(AVCodecContext *, void *outdata, int *outdata_size, AVPacket *avpkt);
v int (*close)(AVCodecContext *);
AVCodec例子
v AVCodec ff_h264_decoder = {
.name = "h264",
.long_name = NULL_IF_CONFIG_SMALL("H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),
.type = AVMEDIA_TYPE_VIDEO,
.id = AV_CODEC_ID_H264,
.priv_data_size = sizeof(H264Context),
.init = ff_h264_decode_init,
.close = h264_decode_end,
.decode = h264_decode_frame,
.profiles = NULL_IF_CONFIG_SMALL(ff_h264_profiles),
.priv_class = &h264_class,
};
v AVCodec ff_libx264_encoder = {
.name = "libx264",
.long_name = NULL_IF_CONFIG_SMALL("libx264 H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10"),
.type = AVMEDIA_TYPE_VIDEO,
.id = AV_CODEC_ID_H264,
.priv_data_size = sizeof(X264Context),
.init = X264_init,
.encode2 = X264_frame,
.close = X264_close,
.capabilities = AV_CODEC_CAP_DELAY | AV_CODEC_CAP_AUTO_THREADS,
.priv_class = &x264_class,
.defaults = x264_defaults,
.init_static_data = X264_init_static,
.caps_internal = FF_CODEC_CAP_INIT_THREADSAFE |
FF_CODEC_CAP_INIT_CLEANUP,
};
AVPacket
v AVPacket中几个重要的成员
v int64_t pts; 显示时间戳
v int64_t dts; 解码时间戳
v uint8_t *data; 压缩编码数据
v int size; 压缩编码数据大小
v int stream_index; 所属的AVStream
v int flags; 1关键帧
AVFrame
v AVFrame中几个重要的成员
v uint8_t *data[AV_NUM_DATA_POINTERS]; 解码后的图像像素数据（音频采样数据）。
v int linesize[AV_NUM_DATA_POINTERS]; 对视频来说是图像中一行像素的大小；对音频来说是整个音
v 频帧的大小。
v int width, height; 图像的宽高（只针对视频）。
v int key_frame; 是否为关键帧（只针对视频） 。
v enum AVPictureType pict_type; 帧类型（只针对视频） 。例如I，P，B。
AVIOContext
v AVIOContext中几个重要的成员
v unsigned char *buffer; /**< Start of the buffer. */
v int buffer_size; /**< Maximum buffer size */
v unsigned char *buf_ptr; /**< Current position in the buffer */
v unsigned char *buf_end; /**< End of the data, may be less than buffer+buffer_size if the read function returned less data than requested, e.g. for streams where no more data has been received yet. */
v void *opaque; /**< A private pointer, passed to the read/write/seek/... functions. */
v int (*read_packet)(void *opaque, uint8_t *buf, int buf_size);
v int (*write_packet)(void *opaque, uint8_t *buf, int buf_size);
v int64_t (*seek)(void *opaque, int64_t offset, int whence);
v int64_t pos; /**< position in the file of the current buffer */
v AVIOContext中几个重要的成员
v 在解码的情况下，buffer用于存储ffmpeg读入的数据。例如打开一个视频文件的时候，先把数据从硬盘读入buffer，然后在送给解码器用于解码。
v 其中opaque指向了URLContext。
v typedef struct URLContext {
v const AVClass *av_class; /**< information for av_log(). Set by url_open(). */
v const struct URLProtocol *prot;
v void *priv_data;
v char *filename; /**< specified URL */
v int flags;
v ……
v } URLContext;
URLProtocol
v typedef struct URLProtocol {
v const char *name;
v int (*url_open)( URLContext *h, const char *url, int flags);
v int (*url_open2)(URLContext *h, const char *url, int flags, AVDictionary **options);
v int (*url_accept)(URLContext *s, URLContext **c);
v int (*url_handshake)(URLContext *c);
v int (*url_read)( URLContext *h, unsigned char *buf, int size);
v int (*url_write)(URLContext *h, const unsigned char *buf, int size);
v int64_t (*url_seek)( URLContext *h, int64_t pos, int whence);
v int (*url_close)(URLContext *h);
v int (*url_read_pause)(URLContext *h, int pause);
v int64_t (*url_read_seek)(URLContext *h, int stream_index,
v int64_t timestamp, int flags);
v int (*url_get_file_handle)(URLContext *h);
v int (*url_get_multi_file_handle)(URLContext *h, int **handles,
v int *numhandles);
v int (*url_shutdown)(URLContext *h, int flags);
v …..
v } URLProtocol;
URLProtocol例子
v const URLProtocol ff_file_protocol = {
v .name = "file",
v .url_open = file_open,
v .url_read = file_read,
v .url_write = file_write,
v .url_seek = file_seek,
v .url_close = file_close,
v .url_get_file_handle = file_get_handle,
v .url_check = file_check,
v .url_delete = file_delete,
v .url_move = file_move,
v .priv_data_size = sizeof(FileContext),
v .priv_data_class = &file_class,
v .url_open_dir = file_open_dir,
v .url_read_dir = file_read_dir,
v .url_close_dir = file_close_dir,
v .default_whitelist = "file,crypto"
v };
const URLProtocol ff_tcp_protocol = {
.name = "tcp",
.url_open = tcp_open,
.url_accept = tcp_accept,
.url_read = tcp_read,
.url_write = tcp_write,
.url_close = tcp_close,
.url_get_file_handle = tcp_get_file_handle,
.url_shutdown = tcp_shutdown,
.priv_data_size = sizeof(TCPContext),
.flags = URL_PROTOCOL_FLAG_NETWORK,
.priv_data_class = &tcp_class,
};
|
|
|
ffmpeg.c转码大概流程
v 比较不错的资源
官网文档：http://ffmpeg.org/documentation.html
官网wiki : https://trac.ffmpeg.org/wiki
雷霄骅(leixiaohua1020)的专栏(一个广院工科生的视音频技术笔记)：http://blog.csdn.net/leixiaohua1020
其他资源。。。
最后，缅怀雷博，感谢雷博！！！