Facebook公布了用于打击在平台上创建假帐户的工具，Facebook表示，它拥有一种由人工智能驱动的新方法，称为深度实体分类（Deep Entity Classification，简称DEC），这种方法被证明特别有效。
 
DEC是一个机器学习模型，它不仅会将来自可疑账号的活动考虑在内，而且还会评估所有来自周围的信息，包括可疑账号的交互账户和浏览页面行为。Facebook称，通过这种方法，他们已经将垃圾邮件和诈骗账号的数量减少了27%。
 
截止到目前，DEC已经帮助Facebook识别了超65亿个虚假账号，这些虚假账号都是骗子和其他恶意行为者在去年创建或试图创建的。在这些账号中，绝大多数实际上都是在创建账号的过程中就被发现了，即使是那些被通过的账号，往往也会在用户举报之前就被Facebook的自动系统发现。
 
不过，Facebook估算，目前该平台上所有的28.9亿月度活跃用户中，约有5%是属于Facebook认为违反其服务条款的虚假账号。
 
这就是DEC的用武之地。它采用复杂而全面的方法来分析用户行为，每个配置文件包含大约20,000个功能。例如，它将分析那些可能是伪造的帐户向其它用户发送的好友请求，而不仅仅是怀疑帐户本身，目的是打击恶意行为者模仿真实行为。Facebook表示，随着时间的推移，至少是在Facebook的自动系统看来，精明的垃圾邮件发送者在伪装成为真实用户方面会越来越高明。DEC应该通过深入研究与之交互的帐户在平台上的行为来改变这一局面。
 
随着2020年美国总统大选的不断临近，DEC对Facebook来说是至关重要的。推广垃圾邮件和试图欺骗用户只是Facebook虚假账号问题的一个方面。这家公司已经承认，来自伊朗、俄罗斯和其他地方的外国势力致力于利用社交平台影响新闻报道、投票行为和其他整体选举事务。随着时间的推移，这些操作则会变得越来越复杂。
 
去年，Facebook和Twitter就关闭了一个庞大的虚假账号网络，这些虚假账号利用人工智能工具生成真实的个人资料照片，他们在社交媒体平台上推动着支持特朗普的消息传播。由于照片是通过神经网络生成的，所以很难识别出是否为假照片。DEC的到来无疑为Facebook带来得力助手，不过这家公司承认，这套解决方案还需要不断改进从而确保其能有效应对垃圾邮件发送者不断变化的策略。