GAN网络

基本概念GAN(Generative Adversarial Network)生成对抗网络,由生成器G(Generator)和判别器(Discriminator)组成。生成器努力生成数据以通过判别器,判别器努力判别出生成数据的真假,最后它俩收敛。这个模型很有想象力,像是结对进化,像是二人关系,像是阴

循环神经网络RNN

1. NLP基本概念词向量NLP需要把一个词,映射到向量空间中去,相似词在形似的空间上 ,形成词库、词林、词网。根据大量文本形成知识库,根据知识库去检索新的句子。如情感词汇库:根据词汇库可以计算相似度One-Hot将所有词映进词向量空间,有多少个词就有多少个维度;维度太高,如果套用深度模型,其复杂度

几种卷积神经网络

1. LeNet采用5*5的卷积核,没有使用paddingSubsampling采样等价于pooling如何看待第2次卷积?得到1张图,需要6组5*5的卷积核;选在16租主要的数据,形成16个通道的输出。每一张输出,都是前边6组的卷积聚合5 * 5 * 6 * 16 = 2400个参数注: 3维的卷

卷积神经网络CNN

1. 简介历史:=> LeNet(1998) => DeepLearing概念提出(2006) => AlexNet(2012-8层) 第一个使用价值 => VGG(2014-19层) => GoogleNet(2014-22层) => ResNet(2015

决策树与随机森林笔记

1. 信息熵信息熵熵是随机变量不确定性的度量。设X是一个取有限个值的离散随机变量,其分布为:P(X = xi) = pi , i = 1,2,3..n则随机变量X的熵定义为:表示为一种变量的期望,概率小,信息越大。对于二项分布:H(X) = -plnp - (1-p)ln(1-p),图像如下:当概

梯度下降理论

1. 基础无约束优化无约束优化当x属于欧几里得空间,属于无约束优化;当x不属于欧几里得空间,有约束优化;局部最小与驻点所有优化办法,都是没有办法取得全局最小值的,所以优化的目标就是找局部最小值。局部最小:f(x)在其邻域内最小;驻点:(stationary point),一阶导数为0的点;驻点未必是

聚类笔记

计算距离的时候,可以增加系数;1. 前言聚类算法本不在计划内,那为什么又学习它了呢,最主要的是看到了在任意多边形K均分案例中的应用,而这个应用也正是目前工作所需要的。相比于前边几个算法,聚类算法会好理解一些。下边先来看看聚类的几个基本概念。设X为n个样本,每个样本m个特征的样本集合(m×n矩阵)。距

编译基本概念

简介参考1、参考2概念可以把 SQL 文本解析成 AST,然后你再遍历 AST 拿到你需要的信息。概念上,首先要区分语言分析器(Parser)和语法解析器(Grammar)两个概念。Parser是自动机和机器语言领域的概念,传统意义上,Parser生成的是一个抽象语法树;Grammar的工作是去理解

向量求导

1. 向量求导方向导数对向量的每个方向进行求导Df(x)[L]指的是f(x)在L方向的导数Hessian 海塞矩阵二阶向量导数然后在对v求内积对于每一行而言:向量求导示例以二次型为例,利用求导定义,注意这里tv,t是标量,v是向量(方向)2. 矩阵求导矩阵方向导数方向导数本质是内积在矩阵上上相同的这

主成分分析PCA笔记

1. 前言PCA的目的:数据的变量之间可能存在相关性,以致增加了分析的难度,于是就考虑用不相关的变量来代替相关的变量,并要求能够保留数据中的大部分信息。由于变化之后的变量数量减少,维度降低,PCA本质上是一种降维方法,其他如NFM、t-SNE(mp -> m2)、umap。参考假设原数据为X,

C语言网络编程

linux异步网络编程基于epoll的网络编程实践从整体看,就是将epoll与socket进行了整合,途中红框为epoll相关的内容,黑框为socket。socket先经过socket()创建套接字,这时候要将套接字的fd设置为非阻塞的形式接着调用bind(),将套接字绑定ip地址与端口。从别的代码

隐马尔科夫模型笔记

1.前言隐马尔科夫模型有些不同,不论感知机、逻辑回归还是SVM,它们都是用数学公式来建模,但HMM却是采用了图的方式来建模,而且这个图很有想象力。它可以想象成在看似没有关系的现实世界背后,隐藏着一个存在关系的规律世界。在因果律的基础上,增加了概率表现的想法。它的模型可以描述为(这个网络也被成为贝叶斯

EM算法笔记

1. 前言这一节来学习EM算法,想学习EM算法需要先了解极大似然估计(使似然函数取得最大值时参数估计)。在统计学习方法中说道,EM就是含有隐变量的概率模型参数的极大似然估计法。EM与极大似然估计一样,都是对参数进行计算的一种算法;隐变量不是未知的,未知是你不知道它存在,而隐变量是你知道它存在,只是不

SVM数学基础

0. 前言本文将SVM中涉及的几个数据概念进行详细的探讨,包括拉格朗日乘子法、KKT条件、对偶问题、核技巧等。1. 拉格朗日乘子法参考引例x2 y = 3上的点,到原点的最短距离。在极值点处,圆与曲线相切;圆的梯度与曲线的梯度向量平行;梯度向量平行,数学符号表示为:定义变形F被成为拉格朗日函数。引申

MQTT服务器

前言看完了MQTT协议,想做个简单的实验,于是一顿搜索。初看发现了EMQX(emqttd)、Mosquitto开源实现,后对比发现MQTT Broker真是一个大宝藏,它要解决以下几个问题:连接管理 => Reactor、Golang CSP权限管理协议的解析与应答 => 通信协议数据的

支持向量机笔记

1. 前言想着短时间快速看完整本的统计学习,目前而言,实现这个目标不太现实。想着与其降低质量看全,不如保证质量少看。在这样一种策略下,计划对:SVM、隐马尔科夫链、条件随机场、PCA、LSA等5中模型进行学习。在这个过程中,会涉及一些不懂的概念,凿穿它们。这里是第一个模型SVM。原视频定义问题SVM

MQTT协议介绍

1. 简介MQTT是建立在TCP/IP基础上的应用层协议,通过发布订阅的方式传输消息,在IOT领域有着广泛的应用。下边来介绍一些MQTT。参考:hivemq、mqtt简易入门MQTT是CS架构,基本角色是Server与Client,MQTT的Server成为MQTT Breaker;MQTT的Cli

AIoT领域探索

1. 前言按计划,从系统探索的角度,应该到了IOT系统,从算法上,到了机器学习、深度学习,而这两部分结合在一起,正是AIOT领域。它是AI + IOT的结合,既包含着物联网,又包含着人工智能,给感知赋予智能,是多么美好的事啊,这里就它进行初步的探索。预计包括:市场情况应用场景技术架构2. 市场概况这

几种管理系统对比

1. 简介去年年初做过一个竞品分析,主要是对施工建筑企业相关的管理软件,这里继续探索一下企业中用到的系统。参考:关于PLM、ERP、APS、MES几种信息系统的数据集成、MESPLMProduct Lifecycle Management,产品生命周期管理。定位是对产品全生命周期的管理,现实中一般用

表单系统梳理

1. 前言前边工作流引擎中提到表单,在工作中也做过类似的功能,这里对表单系统进行梳理。表单系统的特点如下:可配置,通过前端页面拖拽创建一个新表单基本的功能(一般表单项、验证等)比较简单,进阶的功能(下拉框的链表、子表单、公式)就需要好好设计了。分布式录入,使用上一般是多人对表单进行录入集中式存储与统
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×