1.Transformer背景介绍
2.Transfromer整体架构
3.Transformer输入部分
4.Transfromer的编码器
5.Transfromer的解码器
6.Transformer输出部分
7.Transfromer其他部分
1.GPT-1 和 Bert
2.GPT-2
3.GPT-3
Transformer在深度学习环境下背景：
17年自Attention is all you need提出后，开始在NLP（自然语言处理）领域大放异彩
20年后，开始在CV领域发光，到现在基本一统天下了
其在NLP和CV领域下的许多分类、分割、检测等任务下均刷榜
总结一下Transformer模型。
从论文本身来看，其最大的创新在于提出的注意力机制，即多头注意力层，并嵌入到一个模块化可堆叠的模型结构中。一开始Transformer被用于机器翻译，但它也能够用在几乎所有的NLP任务上。自它之后，整个深度学习重心开始转向NLP方面。
4..InstructGPT和ChatGPT
1.VIT
2.Clip与DallE-1
3.DiffusionModel和DallE-2
2022-12-21 16:28:33
17.48MB
1
机器学习凸优化，379页pdf，Convex Optimization for Machine Learning
介绍了凸优化，这是一个可以在计算机上高效解决的强大且易于处理的优化问题。本书的目标是帮助读者理解什么是凸优化，以及如何将其应用于更广泛的实际场景，特别是机器学习。
2022-12-21 09:27:44
9MB
1
为了维系优质客户与企业之间良好的合作关系，实现企业盈利的最大化，构建基于机器学习算法的优质客户识别模型。在电力客户管理数据库中采集待识别的客户信息，并统一客户信息的格式。分别从信用度、合作时间以及资金运转能力等方面，设置优质客户判断标准。利用机器学习算法，得出客户的价值评估结果，并按照权重值分别与设置的判断标准做匹配，从而得出优质客户的识别结果。为了验证识别模型的应用效果设计实验，并得出实验结论：应用优质客户识别模型后，电力企业的总盈利额提高了3.69%。
2022-12-20 16:12:52
1.62MB
1
PYTHON机器学习——KNN（k近邻算法）
代码实现
首先，导入需要用到的包
import numpy as np
import matplotlib.pyplot as plt
初始化模拟数据集和对应的分类
data_x=[[1.15,2.34],
[1.55,2.47],
[3.78,4.98],
[3.34,4.56],
[2.22,2.34]]
data_y=[1,1,0,0,1]
X_train=np.array(data_x)
Y_train=np.array(data_y)
画图看一下两类数据在图上的分布情况
2022-12-20 14:20:33
44KB
1