移动应用统计的基本原理及 UMID 方案解析

1. 基本概念

根据能否追踪到单个独立的设备, 可以将一个统计系统分为可区分统计（Discriminative Statistics）和不可区分统计（Non-Discriminative Statistics）。友盟提供的是可区分统计，也就是会利用一个身份标识符（Unique ID，以后简称 ID）长期追踪单个设备的数据。作为对比，早期的网站统计都是不可区分统计，例如页面访问次数，独立 IP 数等；现代的网站统计都是基于 Cookie 或硬件指纹的可区分统计。由于智能设备提供了足够多的硬件指纹和计算能力，友盟从第一天开始就专注于可区分统计。

大多数移动统计的 ID 都是通过系统 ID 生成的，包括但不限于 IMEI、MAC、Android ID。最著名的 ID 莫过于 UDID， 迫于隐私的压力，苹果最终废弃了 UDID 和 MAC 地址。

大多数网站统计都是基于 Cookie的，因此是暂态ID（Temporal ID）。OpenUDID 就是一个典型的暂态ID。

苹果的 IDFA 和 IDFV 都是系统ID，但是他们同时也是暂态ID。

由于可区分统计涉及到用户隐私，因此友盟在计算中使用的都不是系统 ID ，而是自己的 UMID。友盟不会向第三方[1]提供包含原始 ID 或 UMID 的数据，而是提供聚合后的结果。UMID 既不是系统ID也不是暂态ID，它是一个在不断演化的ID解决方案。本文将会解释友盟为什么要设计 UMID，又为何要不断地改进这个方案。

2. ID质量

进行可区分统计的基础是确立一个可靠的身份标识符，这看上去是一个很简单的事情，只需要选择一个ID，或者人为构造一个类Cookie ID，就可以完成独立用户量、留存等分析。但遗憾的是，除了苹果已经废除的UDID，几乎没有一个接近完美的ID。

为了方便讨论，首先忽略假数据的存在，假设每个设备都有一个真实的身份标识X。可区分统计的目标是选择一个合适的身份标识I，使得基于I的统计结果尽可能地和 X 一致。

首先，我们引入两个概念ID冲突（Collision）和ID漂移（Jitter）。

ID冲突

对于某个设备集合（Device Cohort），在某个时间段内，总是可以测量 X 和 I 的数量，用 Count(X) 和 Count (I) 来表示。如果在足够短的时间内

Count(X) > Count(I)

我们称 I 是一个存在冲突的 ID。

ID漂移

对于某个设备集合（Device Cohort），在某个时间段内，总是可以测量 X 和 I 的数量，用 Count(X) 和 Count (I) 来表示。如果在足够长的时间内

Count(X) < Count(I)

则我们称 I 是一个存在漂移的 ID。

Android 设备的IMEI 就是一个存在严重冲突的 ID，根据我们的估算，其冲突率大于 3%。这是因为很多山寨机的IMEI 是相同的。

Android 设备的 MAC 也是一个存在冲突的ID，因为很多山寨机的MAC也是相同的。此外，MAC还是一个典型的存在严重漂移的 ID，这是因为 Android 的源代码中有一段随机生成MAC  地址后24位的代码被滥用了（参考阅读: MAC地址漂移的问题）。

定性分析

接下来，我们可以定性分析一下ID冲突和漂移对统计数据的影响：

当一个ID仅存在冲突的时候，利用这个ID统计的DAU和安装都会被低估，但是有可能会高估留存。但是这些影响都是温和的，例如5% 的ID冲突仅仅会导致DAU至多被低估 5%，而对留存的影响几乎可以忽略。

当一个ID仅存在漂移的时候，利用这个ID统计的DAU和安装都会被高估，同时会影响留存。当漂移较大的时候，对统计指标的影响是剧烈的。例如，一个每日漂移为5%的ID，可能会造成DAU被高估2%，但是会每天造成5%的虚假安装（这是因为漂移会影响所有用户，包括不活跃用户），同时这些虚假安装的留存在短期内偏高，但是长期留存则偏低（短期内没有漂移的时候就会偏高，时间长了，漂移了就会偏低）。任何类Cookie的ID都会有类似的性质，因此传统的网站统计正在全面转向更为可靠的设备指纹。

当一个ID既存在冲突又存在漂移的时候，利用这个ID统计出来的DAU和安装是完全不可靠的。以MAC地址为例，存在漂移的这部分设备的MAC地址会频繁变化，因此会制造大量的虚假安装，同时留存率非常低。对于用户量不大的应用而言，选择存在这类ID的后果是灾难性的。

综上所述，当ID的漂移和冲突足够小的时候，他们对可区分统计的影响都是可以忽略的。当这些误差不可忽略的时候，ID的冲突造成的影响是温和的，而ID的漂移则会严重干扰安装和留存统计。

3. ID选择

iOS平台

随着苹果废弃UDID、MAC地址, 并且通过在iOS7上对剪贴板限制导致OpenUDID无法在不同应用间共享，标志着设备ID的控制权回到了苹果手中，也表明了苹果对用户隐私保护的决心。

在后iOS7时代，ID的选择是再清楚不过的，业内通用的ID主要是IDFA（即广告标示符，advertisingIdentifier）和IDFV（即vendor标示符，identifierForVendor）。IDFA适用于对外的广告推广、交叉推荐等跨应用的用户追踪；IDFV适用于用户在应用内的行为追踪。

当然，对于移动统计平台而言，必须要保证统计的兼容性和容错性。这也是为什么我们一直强调的是使用一个不断优化的UMID解决方案，而不是任何一个具体的ID。

Android平台

对于Android平台，由于系统生态的开放性，ID的选择也一直是一个头疼的问题。

（1）单一ID

如前文所述，IMEI和MAC都不是最好的ID。特别是MAC地址，几乎是一个不可用的ID。

（2）组合ID

有些开发者会选择使用多个ID合并成一个组合ID，例如

CID = MD5( imei+mac+android_id)

利用前面的分析不难得出，组合ID将会极大地降低冲突，但是会放大漂移。对于组合ID而言，任何一个源ID的漂移都会造成它的漂移。

开发者应该尽量避免CID，一定要使用也需要避免使用MAC地址。如果已经在使用CID，那么请确保在下一个版本把CID当作一个Cookie ID持久化，只有在Cookie丢失的情况下才重新生成CID。这样的策略可以尽量保证ID的延续性，同时缓解漂移造成的影响。

4. 友盟的ID方案

UMID

由于UMID还在演化之中，这里只能简单地解释UMID的生命周期。UMID是一个极度保守的ID，当一个设备被分配了某个UMID以后，友盟会尽量保证这个UMID不会发生变化。因此，UMID的生成策略受到了友盟历史数据的限制，最重要的设计目标是确保稳定性和数据一致性。友盟会持续地监控冲突和漂移，并且会尽量降低漂移，将冲突控制在合理的范围内。正如世界上没有永动机一样，UMID并不是一个完美的ID。

Prime Radiant

为进一步的提高ID质量，友盟推出了全新的SDK。这个版本的SDK从设计到发布用了差不多一年，内部代号是 Prime Radiant，来自阿西莫夫的科幻小说。通过Prime Radiant提供的新特性，友盟将能更好地监控ID信号源的质量，并且能够根据实际的数据来调整策略，充分利用设备ID和暂态ID的优势和劣势。Prime Radiant 还充分利用了智能设备的计算能力，利用密码学手段来提高数据质量和可靠性。

正是得益于Prime Radiant 测试阶段的数据，友盟才能精确地对各类ID的质量进行定量分析。本文的很多结论都离不开这些数据。对于关心数据质量和数据安全的开发者，建议升级友盟新版SDK 进行体验、测评。

新版本SDK的下载地址:

iOS 统计SDK

Android统计SDK

移动应用统计的基本原理及 UMID 方案解析