CNN框架中,如何对其模型的超参数进行自动化获取一直是一个重要问题。提出一种基于改进的贝叶斯优化算法的CNN超参数优化方法。该方法使用改进的汤普森采样方法作为采集函数,利用改进的马尔可夫链蒙特卡罗算法加速训练高斯代理模型。该方法可以在超参数空间不同的CNN框架下进行超参数优化。利用CIFAR-10、MRBI和SVHN测试集对算法进行性能测试,实验结果表明,改进后的CNN超参数优化算法比同类超参数优化算法具有更好的性能。
1
贝叶斯算法图像分类matlab代码GP-EST:GP-UCB的统一算法和改进的可能性 这是使用高斯过程假设进行贝叶斯优化算法的matlab演示。 该算法在以下内容中有完整描述 在强盗环境中使用高斯过程进行优化估计(Zi Wang,Bolei Zhou,Stefanie Jegelka),在国际人工智能与统计会议(AISTATS)中,2016年。 可以在上找到该论文。 要运行代码,请先安装Carl Rasmussen和Hannes Nickisch()的gpml工具箱。 有关如何运行算法的完整说明,请参见gpo_example.m。 在本文中,除了进行综合功能的实验外,我们还进行了与用于轨迹优化的初始化调整和用于图像分类的参数调整有关的实验。 轨迹优化实验基于Drake工具箱中的Airplane2D示例,位于。 图像分类实验遵循NIPS 2014中的论文“使用位置数据库学习场景识别的深度特征(Zhou等人)”。所有数据集均可在线获得。
2022-01-10 17:12:11 6KB 系统开源
1
吉布斯采样matlab代码多线性高斯过程 存储库中提供了“欧洲研究网络系统标识(ERNSI)2018”的,其中清楚地演示了所建议的方法。 如何使用 所提出算法的源代码是用Matlab实现的。 该代码是实验1的实现。但是,可以轻松地使其适应实验2和Fed-batch实验。 它包含4个文件: 对应于所提出的算法。 是包含3个嵌套函数的多线性GP的实现:1)期望最大化,2)吉布斯采样,3)网格搜索优化。 是通过算法4中的交叉验证选择的带有lambda的L1正则化。 是L1正规化,具有lambda的经验选择。 该代码是众所周知的。 代码中使用的变量和函数与本文中定义的变量和函数一致。
2022-01-08 10:45:11 479KB 系统开源
1
多任务高斯过程matlab代码多任务高斯过程 (MTGP) 实现了 Bonilla 等人的多任务模型 [1] 作者 埃德温诉博尼利亚 要求 你需要在你的 matlab 路径中有 gpml matlab 包。 您可以在以下位置下载它 请注意,这是 gpml 软件包的旧版本,因为较新的版本似乎不支持向后兼容性,而 MTGP 基于日期为 2006-03-29 的版本。 主要内容 learn_mtgp.m :学习 MTGP 模型。 它使用 gpml 包中包含的最小化功能。 nmargl_mtgp :MTGP 模型的边际似然及其梯度 alpha_mtgp.m :计算 MTGP 模型中预测的数据结构 predict_mtgp_all_tasks.m:对 MTGP 模型中的所有任务进行预测 toy_example.m:如何使用包的玩具示例 参考 [1] Edwin V. Bonilla、Kian Ming A. Chai 和 Christopher KI Williams。 多任务高斯过程预测。 神经信息处理系统进展 20:NIPS'08。
2021-12-22 17:58:53 14KB 系统开源
1
GP-EnKF 利用集合卡尔曼滤波器估计,在线数据的归纳点实现高斯过程回归。 在线高斯过程回归和学习的集成卡尔曼滤波代码(Fusion 2018)。
2021-12-21 17:01:04 22KB Python
1
高斯过程模型的自动变分推断。 论文“高斯过程模型的自动变分推论”的代码。 如果您使用任何代码,请引用: Nguyen,电视和Bonilla,EV,高斯过程模型的自动变分推理,在NIPS 2014中。 请参见src / demoFull.m和src / demoMixture.m ,以获取有关如何使用代码分别对具有完整高斯分布和高斯分布混合的回归模型进行推理的示例。 该代码还包括其他模型的实现:二进制分类,多分类,扭曲的高斯过程和对数高斯考克斯过程。 有关详细信息,请参见src / likelihood目录。 这些模型的预测也可以在src / prediction中实现。 要尝试新模型,只需在签名后实现一个新的似然函数: logllh = newFunction(y,f,hyp) 在哪里 y : N x P vector of observations (each colu
2021-12-16 16:52:27 712KB MATLAB
1
这是高斯过程回归的代码,没用到gmpl工具箱的那种,希望能对大家有用!这是高斯过程回归的代码,没用到gmpl工具箱的那种,希望能对大家有用!
2021-12-15 21:21:23 1KB 高斯过程回归 GPR Gaussian process
1
DNNGP 中Python的深度神经网络高斯过程的实现 包含一个演示MNIST培训和评估的Jupyter笔记本。 还添加了“近似”功能,可使用近似线性化内核。 关于此的更多细节将在以后 目前尚未针对速度进行优化,但更多用于实验。 也计划在Pytorch中实施
2021-12-12 20:57:18 7KB JupyterNotebook
1
高斯过程回归的直观教程 ,女王大学的,加拿大金斯敦 笔记本可以在以下位置执行 笔记本的: @misc{wang2020intuitive, title={An Intuitive Tutorial to Gaussian Processes Regression}, author={Jie Wang}, year={2020}, eprint={2009.10862}, archivePrefix={arXiv}, primaryClass={stat.ML} } 本教程的读者是想使用GP但又不适应GP的人。 在阅读完教科书《高斯机器学习过程》 [ ]的前两章后,我发生了这种情况。 由于难以理解该理论,因此GP的使用与使用它之间存在差距。 当我在线阅读教科书和观看教程视频时,我可以毫无困难地跟随大多数人。 内容对我来说很有意义。 但是,即
2021-12-12 11:01:33 32.01MB JupyterNotebook
1
该脚本是一个包含随机预测算法“GAUSSIAN PROCESS REGRESSION”的函数。 它还包含一些协方差函数: - 1: 母 3/2 - 2: 母 5/2 - 3:神经网络- 4:定期- 5:平方指数。 - 6: Matern + 平方指数- 7: Matern 3/2 + 神经网络高斯过程回归先验知识是 U、观测值 F、协方差(数字)COV、评估变量 X、所选协方差函数 O_cov 的超参数和噪声因子 Oy。
2021-12-07 13:50:10 2KB matlab
1