经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
大数据/云/AI:HadoopApache PigApache KafkaApache StormImpalaZookeeperSASTensorFlow人工智能基础Apache KylinopenstackFlinkMapReduce
 大数据/云/AI

pytorch_pretrained_bert如何将tensorflow模型转化为pytorch模型

pytorch_pretrained_bert将tensorflow模型转化为pytorch模型 BERT仓库里的模型是TensorFlow版本的,需要进行相应的转换才能在pytorch中使用 在Google BERT仓库里下载需要的模型,这里使用的是中文预训练模型(chinese_L-12...[2021/6/7]

Celery异步任务

情景: 用户发起request,并等待response返回。在本些views中,可能需要执行一段耗时的程序,那么用户就会等待很长时间,造成不好的用户体验,比如发送邮件、手机验证码等。 使用celery后,情况就不一样了。 解决: 将耗时的程序放到celery中执行。 Celery 是一个包...[2021/6/7]

NLP实战高手课 给你一整套从开发到部署的落地经验

NLP (自然语言处理) 被誉为人工智能皇冠上的明珠,它在电商、翻译、金融、智能硬件、医疗等各个行业已经有了越来越广泛的应用。NLP 已经迎来了属于它的黄金时代,各个企业对 NLP 工程师的需求也越来越多。   由于 NLP 本身的复杂性,仅仅会调用几个开源框架,调一调参数,显然是...[2021/6/7]

信息熵和条件熵

引言 今天在逛论文时突然看到信息熵这个名词,我啪的一下就记起来了,很快啊!!这不是我大一第一节信息资源管理概论课讲到的第一个专业名词吗,信息熵我可熟了,章口就来,信息熵是负熵 .......淦,负熵又是啥。好家伙,一整门课的知识都还给老师了,只记得老师给我们大肆推荐的《JinPingMei》.....[2021/6/7]

Tensorflow与RNN、双向LSTM等的踩坑记录及解决

Tensorflow与RNN、双向LSTM等的踩坑记录及解决

1、tensorflow(不定长)文本序列读取与解析 tensorflow读取csv时需要指定各列的数据类型。 但是对于RNN这种接受序列输入的模型来说,一条序列的长度是不固定。这时如果使用csv存储序列数据,应当首先将特征序列拼接成一列。 例如两条数据序列,第一项是标签,之后是特征序列...[2021/5/31]

3、环境搭建-Linux上hadoop的全分布配置

安装配置hadoop和jdk 配置/usr/local rc/hadoop/etc/hadoop/下的四个文件 hdfs-site.xml <configuration> <property> <!-- DFS的名称节点在本地文件系统位置 --> &l...[2021/5/31]

Pytorch多卡训练

前一篇博客利用Pytorch手动实现了LeNet-5,因为在训练的时候,机器上的两张卡只用到了一张,所以就想怎么同时利用起两张显卡来训练我们的网络,当然LeNet这种层数比较低而且用到的数据集比较少的神经网络是没有必要两张卡来训练的,这里只是研究怎么调用两张卡。 现有方法 在网络上查找了多卡训...[2021/5/31]

基于1588PTP精密时钟同步(时间同步服务)技术介绍

基于1588PTP精密时钟同步(时间同步服务)技术介绍 基于1588PTP精密时钟同步(时间同步服务)技术介绍 京准电子科技官微——ahjzsz  1.1.           P...[2021/5/31]

AI入门与项目实战(基础概念) - ys-fullStack

AI入门与项目实战(基础概念) - ys-fullStack

一、概念 1、人工智能、机器学习、深度学习 (1)人工智能; (2)机器学习(从数据中自动分析获得的模型,并利用模型对未知数据进行预测)是人工智能的一个实现途径,即选择合适的算法对模型训练; (3)深度学习是机器学习的一个方法发展而来。 2、人工智能三要素:数据、算法、计算力; 3、...[2021/5/31]

大数据开发-Flink-窗口全解析

Flink窗口背景 Flink认为Batch是Streaming的一个特例,因此Flink底层引擎是一个流式引擎,在上面实现了流处理和批处理。而Window就是从Streaming到Batch的桥梁。通俗讲,Window是用来对一个无限的流设置一个有限的集合,从而在有界的数据集上进行操作的一种机...[2021/5/31]

1、大数据 Hadoop配置和单机Hadoop系统配置

#查看服务器ip ip add #设置主机名称 hostnamectl set-hostname master bash #查看 hostname #绑定ip vi /etc/hosts 添加 服务器IP地址 master #查看 h状态 systemctl status hd...[2021/5/31]

最优传输算法——Benamou Brenier算法

Benamou Brenier算法 Brief 是一种连续数值方法,将最优传输问题转化为一个容易处理的\(d+1\)维凸变分问题。我们将会用Wa erstein测地线的理论描述它(相比于找到映射,这个方法是找到测地曲线\(\mu_t\))。 另外两个经典的连续方法是: Angenent-...[2021/5/24]

深入浅出图神经网络 第2章 神经网络基础 读书笔记

第2章 神经网络基础 2.1 机器学习基本概念 2.1.1 机器学习的分类 机器学习有以下几种常见的分类方法: 根据训练数据是否有标签可分为: 监督学习:训练数据中每个样本都有标签,通过标签指导模型进行训练 无监督学习:训练数据完全没有标签,算法从数据中发现约束关系,如数据之间的关联等,典型...[2021/5/24]

深入浅出图神经网络 第3章 卷积神经网络 读书笔记

深入浅出图神经网络 第3章 卷积神经网络 读书笔记

第3章 卷积神经网络 卷积神经网络CNN是目前应用最广泛的模型之一,具有局部连接、权值共享等特点,是一种深层前馈神经网络。 3.1 卷积与池化 卷积与池化是CNN中的两个核心操作。 3.1.1 信号处理中的卷积 题外话:因为这部分的核心知识应该是属于《信号与系统》这门课程的,但...我没学...[2021/5/24]

AI技术内参,干货密集度相当高

AI技术内参,干货密集度相当高

今天的人工智能,犹如一百年前的电,正在给人类带来同样巨大,甚至更加精彩的变化。   这是一个属于人工智能的时代。人工智能正在渗透到各行各业,并且离我们越来越近,新的时代中,我们应 该如何利用好新武器?   为你系统剖析人工智能核心技术,精讲人工智能国际顶级学术会议核...[2021/5/24]

数据标准化

1 为何需要标准化 有的数据,不同维度的数量级差别较大,导致有的维度会主导整个分析过程。如下图所示: 该图的数据维度\(d=30\),样本量\(n=40\),上面的图是对原始数据做PCA后,第一个PC在各个维度上的权重的平行坐标图,下面的图则是对数据做标准化之后的情况。可以发现,在原始数据...[2021/5/24]

强化学习建模之前必须思考的问题

强化学习是智能体与环境的交互,通过交互信息来感知环境,从而调整自己的行为,选择出最好的结果。 【相当于人做了多次的探索,把最后的劳动成果以状态值函数、动作状态对值函数等方式表达出来。对人学习过程的简单模拟】 需要思考的问题: 研究什么问题,与环境中的什么东西相关? 哪些行为可以影响到环境...[2021/5/24]

最大期望算法(Expectation-Maximization algorithm,EM)

最大期望算法(Expectation-Maximization algorithm,EM) 最大期望算法(Expectation-Maximization algorithm,EM) 一、EM算法的广义步骤 二、先写出EM的公式 三、其收敛性的证明 四、公式推导方法1 4.1 E-M步骤公...[2021/5/24]

友盟+《小程序用户增长白皮书》:线下或是小程序重要的增长点

友盟+近日发布了《小程序用户增长白皮书》,白皮书总结了友盟+在小程序统计分析和精细化运营方面的方法论、解决方案和成功案例,以下为白皮书的部分内容: 移动互联网已经进入存量市场,移动设备数、用户数、用户时长都处于存量市场竞争。2020年新应用上线做到腰部以上活跃度的难度已经非常大,用户整体呈下降...[2021/5/24]

我国北斗三号卫星的创新和技术特点

我国北斗三号卫星的创新和技术特点 我国北斗三号卫星的创新和技术特点 京准电子科技官微——ahjzsz       北斗三号首批组网卫星以“一箭双星”方式在西昌卫星发射中心发射升空,卫星成功入轨,标志着我国北斗系统拉开全球组网的序幕。    相对于北...[2021/5/24]

Jupyter Notebook 对虚拟环境的访问

本文写作时间:2021 年 5 月 前言: Jupyter Notebook 默认并不支持 Conda,无法访问虚拟环境中的资源,自然也无法切换不同的虚拟环境运行笔记。通过插件 nb_conda 可以添加对 Conda 环境的支持。 官方对于 nb_conda 的描述是:Provides C...[2021/5/24]

大数据开发-Flink-1.13新特性

介绍 大概4月,Flink1.13就发布了,参加 了Flink1.13 的Meetup,收获还是挺多,从大的方面讲就是FlingSql的改进和优化,资源调度管理方面的优化,以及流批一体Flink在运行时与DataStream API的优化,另外就是State backend 模块的优化,本篇文章...[2021/5/24]

深入浅出图神经网络 第4章 表示学习 读书笔记

第4章 表示学习 在第2章的时候提到了机器学习的第一步就是提取特征。而表示学习就是自动地从数据中学习特征,并直接用于后续的任务。 4.1 表示学习 4.1.1 表示学习的意义 表示学习要回答3个问题: 如何判断一个表示比另一个表示更好? 如何挖掘这些表示? 使用什么样的目标去得到一个好的表示...[2021/5/24]

深入浅出图神经网络 第1章 图的概述 读书笔记

写在前面 之前为了应付课程Project对GNN的学习就是半路出家,全靠网上的博客。所以现在对于一些GNN底层最基本的东西还不是很清楚,觉得理应学明白一点。之前就对《深入浅出图神经网络》一书有所耳闻,看了网上的一些评论认为这本书的内容还是偏浅偏简单,我认为权当一个引子作为学习GNN的第一步也没什...[2021/5/17]

大数据开发-Flink-数据流DataStream和DataSet

Flink主要用来处理数据流,所以从抽象上来看就是对数据流的处理,正如前面大数据开发-Flink-体系结构 && 运行架构提到写Flink程序实际上就是在写DataSource、Transformation、Sink. DataSource是程序的数据源输入,可以...[2021/5/17]

0902-用GAN生成动漫头像

0902-用GAN生成动漫头像

0902-用GAN生成动漫头像 目录一、概述二、代码结构三、model.py3.1 生成器3.2 判别器四、参数配置五、数据处理六、训练七、随机生成图片八、训练模型并测试 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511....[2021/5/17]

人工智能基础课,通俗易懂的入门

人工智能成了当下新时代的必修课,每个人都需要一些AI知识来升级自己,才能与时代同行。   对于大多数的新手来说,如何入手人工智能其实都是一头雾水,比如到底需要哪些数学基础、是否要有工程 经验、对于深度学习框架应该关注什么等等。   王天一教授与你分享他对人工智能的理...[2021/5/17]

中文NER的那些事儿2. 多任务,对抗迁移学习详解&代码实现

中文NER的那些事儿2. 多任务,对抗迁移学习详解&代码实现

第一章我们简单了解了NER任务和基线模型Bert-Bilstm-CRF基线模型详解&代码实现,这一章按解决问题的方法来划分,我们聊聊多任务学习,和对抗迁移学习是如何优化实体识别中边界模糊,垂直领域标注样本少等问题的。Github-DSXiangLi/ChineseNER中提供了bert_...[2021/5/17]

多标签多分类相关

一、单标签多分类 1、单标签二分类算法原理 单标签二分类这种问题是我们最常见的算法问题,主要是指label 标签的取值只有两种,并且算法中只有一个需要预测的label标签; 直白来讲就是每个实例的可能类别只有两种(A or B);此时的分类 算法其实是在构建一个分类线将数据划分为两个类...[2021/5/17]

主成分分析简介

主成分分析简介

本文主要介绍总体及样本的主成分的概念,如何可视化,以及一些最基本的性质。 1 总体的主成分 考虑\(x\sim (\mu,\Sigma)\),其中\(\Sigma\)可分解为\(\Sigma=\Gamma\Lambda\Gamma''\),\(\Gamma=(\eta_1,\ldots,\et...[2021/5/17]

基于MXNET框架的线性回归从零实现(房价预测为例)

1、基于MXNET框架的线性回归从零实现例子    下面博客是基于MXNET框架下的线性回归从零实现,以一个简单的房屋价格预测作为例子来解释线性回归的基本要素。这个应用的目标是预测一栋房子的售出价格(元)。   为了简单起见,这里我们假设价格只取决于房屋状况的两个因素,即面积(平方米)和房龄(...[2021/5/10]

0901-生成对抗网络GAN的原理简介

0901-生成对抗网络GAN的原理简介 目录一、GAN 概述二、GAN 的网络结构三、通过一个举例具体化 GAN四、GAN 的设计细节 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511.html 一、GAN 概述 GAN...[2021/5/10]

实时计算框架:Flink集群搭建与运行机制

一、Flink概述 1、基础简介 Flink是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。Flink被设计在所有常见的集群环境中运行,以内存执行速度和任意规模来执行计算。主要特性包括:批流一体化、精密的状态管理、事件时间支持以及精确一次的状态一致性保障等。Flink不仅可以运...[2021/5/10]

0803-PyTorch的Debug指南

0803-PyTorch的Debug指南 目录一、ipdb 介绍二、ipdb 的使用三、在 PyTorch 中 Debug四、 通过PyTorch实现项目中容易遇到的问题五、第八章总结 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14...[2021/5/7]

0502-计算图

0502-计算图 目录一、手动计算梯度二、利用 torch 进行反向传播求梯度三、在前向传播中利用动态图特性构建计算图四、variable 的 grad 属性和 backward函数 的 grad_variables 参数的区别五、计算图特点小结 pytorch完整教程目录:https: w...[2021/5/6]

python对BP神经网络实现

python对BP神经网络实现 一、概念理解 开始之前首先了解一下BP神经网络,BP的英文是back propagationd的意思,它是一种按误差反向传播(简称误差反传)训练的多层前馈网络,其算法称为BP算法。 它的基本思想是梯度下降法,利用梯度搜索技术,期望使网络的实际输出值和期望输出值的...[2021/5/6]

0603-常用的神经网络层

0603-常用的神经网络层 目录一、图像相关层二、激活函数2.1 ReLU 函数2.2 通过Sequential 构建前馈传播网络2.3 通过 ModuleList 构建前馈传播网络三、循环神经网络层四、损失函数 pytorch完整教程目录:https: www.cnblogs.com/ni...[2021/5/6]

深度学习01-线性回归入门

在学习了河北工业大学刘老师的课程与台湾大学李宏毅老师的课程后,自己在kaggle 找了一个简单的随机线性回归的数据集来实践:https: www.kaggle.com/andonian random-linear-regre ion 使用的是MSE(均方误差)作为损失函数,看着好像是最小二乘法...[2021/5/6]

0607-参数初始化策略

0607-参数初始化策略 目录一、参数初始化策略概述二、利用 nn.init 初始化三、直接初始化 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511.html 一、参数初始化策略概述 深度学习中,一个好的参数初始化策略可...[2021/5/6]

0608-nn和autograd的区别

0608-nn和autograd的区别 目录一、nn 和 autograd 的区别二、Function 和 Module 在实际中使用的情况 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511.html 一、nn 和 aut...[2021/5/6]

0609-搭建ResNet网络

0609-搭建ResNet网络 目录一、ResNet 网络概述二、利用 torch 实现 ResNet34 网络三、torchvision 中的 resnet34网络调用四、第六章总结 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14...[2021/5/6]

推荐系统模型之 DeepFM

推荐系统模型之 DeepFM

推荐系统模型之 DeepFM Preliminary 在一些推荐系统中,为了追求总点击次数最大化,会根据点击率 (click-through rate, CTR) 来排序返回给用户的商品列表;而在广告推荐的场景中,商品顺序是通过"点击率 x 单次点击收益" (CTR x bid) 来给定的。因此...[2021/5/6]

0701-数据处理

0701-数据处理 目录一、概述二、加载自定义数据集三、利用 torchvision 工具处理数据集四、ImageFolder 的使用——处理数据集五、DataLoader 的使用——批加载数据六、处理损坏图片七、数据采样 pytorch完整教程目录:https: www.cnblogs.c...[2021/5/6]

0101-数学优化

0101-数学优化

0101-数学优化 目录一、知识点罗列1.1 概述1.2 应用1.3 求解优化问题二、已解决疑难点2.1 为什么线性函数不满足线性函数定义 一、知识点罗列 1.1 概述 优化问题: \[minimize\quad f_0(x) \subject\,to\quad f_i(x) \l...[2021/5/6]

深度学习03-sklearn.LinearRegression 源码学习

在上次的代码重写中使用了sklearn.LinearRegre ion 类进行了线性回归之后猜测其使用的是常用的梯度下降+反向传播算法实现,所以今天来学习它的源码实现。但是在看到源码的一瞬间突然有种怀疑人生的感觉,我是谁?我在哪?果然大佬的代码只能让我膜拜。 在一目十行地看完代码之后,我发现了...[2021/5/6]

中文NER的那些事儿1. Bert-Bilstm-CRF基线模型详解&代码实现

中文NER的那些事儿1. Bert-Bilstm-CRF基线模型详解&代码实现

这个系列我们来聊聊序列标注中的中文实体识别问题,第一章让我们从当前比较通用的基准模型Bert+Bilstm+CRF说起,看看这个模型已经解决了哪些问题还有哪些问题待解决。以下模型实现和评估脚本,详见 Github-DSXiangLi/ChineseNER NER问题抽象 实体识别需要从文本中抽...[2021/5/6]

0703-可视化工具tensorboard和visdom

0703-可视化工具tensorboard和visdom 目录一、可视化工具概述二、TensorBoard三、Visdom3.1 visdom 概述3.2 visdom 的常用操作3.3 visdom.line 可视化和 update 操作3.4 visdom.image(images) 可视化...[2021/5/6]

0704-使用GPU加速_cuda

0704-使用GPU加速_cuda

0704-使用GPU加速_cuda 目录一、CPU 和 GPU 数据相互转换二、使用 GPU 的注意事项三、设置默认 GPU四、GPU 之间的切换 pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511.html 一、CPU 和...[2021/5/6]

0705-深度网络模型持久化

0705-深度网络模型持久化

0705-深度网络模型持久化 目录一、持久化概述二、tensor 对象的保存和加载三、Module 对象的保存和加载四、Optimizer 对象的保存和加载五、所有对象集合的保存和加载六、第七章总结 pytorch完整教程目录:https: www.cnblogs.com/nickchen1...[2021/5/6]

0801-深度学习程序架构设计

0801-深度学习程序架构设计 目录一、程序架构设计二、文件组织结构三、关于 __init__.py pytorch完整教程目录:https: www.cnblogs.com/nickchen121/p/14662511.html 前几章已经把 pytorch 的大部分基础知识讲的很详细了...[2021/5/6]

462
2
记录数:1925 页数:1/3912345678910下一页尾页
加载更多
 友情链接: NPS