Henry Stark and John Woods -- Probability and random processes with applications to signal processing Third Edition

项目介绍： 赛题名称：Linking Writing Processes to Writing Quality 背景：研究作者的写作过程和作品质量之间的关系，使用键盘日志数据来预测写作质量。 目标：预测写作的整体质量，探索写作方式对作文结果的影响。 数据处理： 数据集介绍：包含约5000份用户输入日志，涉及键盘和鼠标点击，每篇作文评分0到6分。 数据集文件：train_logs.csv、test_logs.csv、train_scores.csv、sample_submission.csv。 数据准备：涉及读取训练数据、提取特征、计算新特征、聚合操作等。 模型搭建： 使用的模型：CatBoost，一种基于对称决策树的GBDT框架，特别擅长处理类别型特征。 模型介绍：CatBoost由Yandex开发，旨在解决梯度偏差和预测偏移问题，提高算法准确性和泛化能力。 实验结果： 实验结果的展示：提供了实验结果的图表（图7），赛题最后的排名参考文末最后的部分。 ### 项目介绍 #### 1.1 赛题及背景介绍 Kaggle上的“Linking Writing Processes to Writing Quality”是一项聚焦于探究作者写作过程与其作品质量之间关系的数据挖掘竞赛。这一研究方向旨在理解作者在创作过程中的行为特征如何影响最终作品的质量。通常情况下，传统的写作评估方法主要侧重于评估作品的最终成果，而很少考虑作者在创作过程中的具体行为及其背后的心理活动。通过数据分析手段，我们可以尝试捕捉这些细微的动作，如停顿模式、时间分配等，并分析它们与写作质量的关系。 #### 1.2 项目要求 该竞赛的主要目标是预测文本作品的整体质量，并探讨不同的写作方式如何影响写作结果。通过对作者的键盘日志数据进行分析，参赛者需建立模型来预测写作质量，并进一步研究不同写作技巧和习惯是否会对最终的作品评价产生显著影响。这对于改进写作教学方法、提升学生写作技能具有重要意义。 ### 数据处理 #### 2.1 数据集介绍 本赛题提供的数据集包含了大约5000份用户的输入日志，这些日志记录了用户在键盘和鼠标上的交互行为，同时还包括了每篇作文的评分（0到6分）。数据集中包含了以下四个主要文件： - `train_logs.csv`：训练集的日志数据。 - `test_logs.csv`：测试集的日志数据。 - `train_scores.csv`：训练集中作文的得分信息。 - `sample_submission.csv`：提交格式示例。 #### 2.2 数据准备 数据准备阶段主要包括读取训练数据、特征提取、新特征计算以及数据聚合等步骤。这些步骤对于构建高质量的模型至关重要。例如，从键盘日志中提取出的特征可能包括击键频率、停顿时间、回删次数等，这些都可能是影响写作质量的关键因素。 #### 2.3 特征工程 特征工程是数据处理中极其重要的一步，它直接关系到模型的表现。在本赛题中，可以从以下几个方面入手： 1. **击键行为特征**：统计每个用户的击键频率、平均击键间隔等。 2. **停顿模式特征**：分析用户在写作过程中的停顿模式，如长时间停顿的次数或时长。 3. **编辑行为特征**：考察用户是否有频繁的回删操作，以及回删后的重写行为。 4. **上下文相关特征**：结合文本内容分析，比如词汇多样性、语法结构复杂度等。 ### 模型搭建 #### 3.1 使用模型介绍 本赛题中使用的模型为CatBoost，这是一种基于对称决策树的梯度提升框架。CatBoost由Yandex公司开发，其设计目的是为了更好地处理分类变量，并解决梯度提升中常见的梯度偏差和预测偏移问题。相较于其他梯度提升框架，CatBoost在处理类别特征时具有更高的准确性和更好的泛化能力。 #### 3.2 模型代码部分 CatBoost的实现通常需要安装相应的Python库。在模型训练阶段，可以利用CatBoost的内置函数来进行模型训练和参数调整。例如，可以通过设置不同的超参数（如学习率、树深度等）来优化模型性能。此外，还可以采用交叉验证技术来评估模型的泛化能力。 ### 实验结果 #### 4.1 实验结果的展示 根据竞赛的要求，参赛者需要提供实验结果的图表展示，以便直观地呈现模型的预测效果。这些图表通常包括模型的训练损失曲线、验证损失曲线、特征重要性分析等。通过这些图表，可以清晰地了解模型的学习过程以及哪些特征对预测结果贡献最大。 #### 4.2 赛题排名 赛题最后的成绩排名会在比赛结束后公布，这不仅是对参赛者能力的一种认可，也为其他研究人员提供了宝贵的参考价值。成绩排名反映了模型在测试集上的表现，从而间接证明了所选特征的有效性和模型的泛化能力。 ### 总结 “Linking Writing Processes to Writing Quality”竞赛不仅是一次技术挑战，更是一个探索写作过程与作品质量之间深层次联系的机会。通过细致的数据分析和建模工作，参赛者们能够揭示出写作过程中的关键行为特征，并将其转化为可量化的指标，进而预测作品的整体质量。这项研究不仅有助于提高个人的写作技能，还可能为教育领域带来革命性的变化，促进更加有效的写作教学方法的发展。

本书是关于概率论和随机过程的经典教材，为许多国外论文所引用，也是浙江大学信息与通信工程专业考博的参考教材。这本书是第3版，虽然第4版已出版，但从网上读者的反馈来看还不如第三版，而且翻译得不令人满意（查看评论），所以相比之下，这本英文第3版更显得弥足珍贵，希望对大家学习有帮助。 这本书的格式是“DjVu”，大家用google搜索一下“WinDjView”就可以找到对应的阅读工具。我曾试着把它转换为PDF，但是转换后的文件都非常大，所以还是保留了它原来的格式。

This book is an outgrowth of lectures in Mathematics 240, "Applied Stochastic Processes," which I have taught a number of times at Duke University. The majority of the students in the course are graduate students from departments other than mathematics, including computer science, economics, business, biological sciences, psychology, physics, statistics, and engineering. There have also been graduate students from the mathematics department as well as some advanced undergraduates. The mathematical background of the students varies greatly, and the particular areas of stochastic processes that are relevant for their research also vary greatly.

弱收敛余经验过程是概率统计专业博士生的必修课程，也是经典书籍。

通过卡尔曼滤波进行有效GP回归 基于两篇论文的存储库，其中包含相对于同类项目的简单实现代码： [1] A.Carron，M.Todescato，R.Carli，L.Schenato，G.Pillonetto，机器学习遇到了Kalman Filtering ，《 2016年第55届决策与控制会议论文集》，第4594-4599页。 [2] M.Todescato，A.Carron，R.Carli，G.Pillonetto，L.Schenato，通过卡尔曼滤波的有效时空高斯回归，ArXiv：1705.01485，已提交JMLR。 PS。 该代码尽管基于上述论文中使用的代码，但与之稍有不同。 它是它的后来的改进和简化版本。 而且，此处仍未提供[2]中介绍的用于实现自适应方法的代码。 文件内容是很容易解释的（有关每个文件的简要介绍，请参考相应的帮助）： main.m：包含主程序 plotResul

手语是听力障碍人士交流的媒介。 它使用手势而不是声音来传达意义。 它结合了手的形状、手、手臂或身体的方向和运动、面部表情和唇形来传达信息。 不同类型的项目是针对聋哑人、听力障碍的人进行的。 提出了一种用于手语识别的具有计算机人机界面的系统。 但是该项目存在全国范围内的差异。 该项目的主要思想是设计一个系统，用于在任何公共场所与外界进行交流，从而无需在公共场所进行口译。 在那个项目中，我们需要以数字符号的印度手语为数据库形式的孤立图像。 普通相机可用于获取此数字符号。 主成分分析 (PCA) 用于预处理，其中删除冗余和不需要的数据。

EWM100_EN_Col92_FV_Part_A4 - Extended Warehouse Management Processes

Probability and Random Processes with Application to Signal Processing，经典的信号处理教程，英文原版，非扫描版，带部分书签

TextBook : Adventures Stochastic Processes by Resnick