「Attentional Factorization Machines」- 论文摘要

FM能够发现二阶组合特征,但是所有特征的权重都是一样的,这会阻碍FM的效果,因为不是所有的特征都是有用的,例如有些无用的特征进行组合会引入噪声,降低FM的效果。本文提出了AFM模型,通过引入attention机制,学习交互特征的重要程度。

「Deep Interest Network for Click-Through Rate Prediction」- 论文摘要

目前深度学习已经运用在点击率预测上了,在这些方法中,首先将大规模稀疏输入特征映射到低维嵌入向量中,然后按照分组方式变换为定长向量,最后连接在一起馈入多层感知器(MLP)以学习非线性关系 特征。 通过这种方式,无论候选广告是什么,用户特征都被压缩成一个固定长度的表示向量。但是 使用定长的向量会带来瓶颈,这将会使 Embedding&MLP方法从历史信息中捕获用户的多样化的兴趣带来困难

「PNN for User Response Prediction」- 论文摘要

现在推荐系统,网络搜索和在线广告的数据大多是分类的,并包含多个字段,有一个典型的方法将他们转化成高维稀疏二进制特征表示就是通过one-hot编码。对于这些高维稀疏的特征,传统模型可能会限制它们从数据中挖掘浅层模式的能力,即低阶组合特征,另一方面,像深度神经网络这样的深度模型由于巨大的特征空间而不能直接应用于高维输入 所以本文提出了PNN这个模型,其中的embedding层学习种类特征的分布式表示,product层捕获种类特征之间的交互特征(学习fi

「DeepFM:A Factorization-Machine based Neural Network for CTR Prediction」- 论文摘要

  1. FM提取低阶组合特征,Deep提取高阶组合特征。不需要进行预训练以及人工特征工程。
  2. 共享feature embedding。FM和Deep共享输入和feature embedding。不但使得训练更快,而且使得训练更加准确。

「DNN for YouTube Recommendations」- 论文阅读

YouTube代表了目前规模最大,最复杂的行业推荐系统之一。 在本文中,我们从较高的角度描述了该系统,并着重讨论了深度学习带来的显着性能提升。 

本文根据经典的两阶段信息检索二分法进行了拆分:

首先,我们详细介绍了深层候选生成模型,然后描述了一个单独的深度排名模型。 我

们还提供从设计,迭代和维护庞大的推荐系统中获得的实践经验和见解,这些建议系统具有巨大的面向用户的影响。

tensorflow2.x 报错 Could not load dynamic library 'cudart64_101.dll'

默认的tensorflow pip包包含TF的CPU和GPU版本。 在以前的TF版本中,未找到CUDA库会发出错误并引发异常,而现在库会从动力学上搜索正确的CUDA版本,如果找不到,则会发出警告(开头的W代表 对于警告,错误具有E(对于致命错误则为F),并退回到仅CPU模式。实际上,警告之后,错误消息也作为信息消息写在日志中(请注意,如果警告级别更高, 最低日志级别(默认),您可能看不到信息消息。

分类算法-多层感知机 Multi-layer Perceptron

生物神经网络具有相互连接的神经元,神经元带有接受输入信号的树突,然后基于这些输入,它们通过轴突向另一个神经元产生输出信号。

使用人工神经网络(Artificial Neural NetworkANN)来模拟这个过程,称为神经网络。