NextChat介绍 One-Click to get a well-designed cro -platform ChatGPT web UI, with GPT3, GPT4 & Gemini Pro support. 一键免费部署你的跨平台私人 ChatGPT 应用, 支持 GP...[2024/8/26]

在自然语言处理（NLP）中，Transformer 模型是一个非常重要的里程碑，它通过自注意力（self-attention）机制极大地提高了处理序列数据的能力。在 Transformer 模型中，词嵌入（Word Embedding）是输入层的关键部分，负责将离散的单词转换成连续的向量表示，以...[2024/8/26]

本文是【训练LLM系列】的第一篇，主要重点介绍NanoGPT代码以及中文、英文预训练实践。最新版参见我的知乎：https: zhuanlan.zhihu.com/p/716442447 除跑通原始NanoGPT代码之外，分别使用了《红楼梦》、四大名著和几十本热门网络小说，进行了字符级、自行训练...[2024/8/26]

开心一刻 昨天发了一条朋友圈：酒吧有什么好去的，上个月在酒吧当服务员兼职，一位大姐看上了我，说一个月给我 10 万，要我陪她去上海，我没同意 朋友评论道：你没同意，为什么在上海？ 我回复到：上个月没同意 前情回顾 关于 DataX，官网有很详细的介绍，鄙人不才，也写过几篇文章 异构数...[2024/8/26]

1.SavedModel和HDF5加载TensorFlow模型 为了加载一个TensorFlow模型，我们首先需要明确模型的格式。TensorFlow支持多种模型格式，但最常见的两种是SavedModel和HDF5（对于Keras模型）。这里，我将分别给出加载这两种模型格式的示例代码。 1.1加...[2024/8/20]

SimpleRAG介绍 SimpleRAG是基于WPF与Semantic Kernel实现的一个简单的RAG应用，可用于学习与理解如何使用Semantic Kernel构建RAG应用。 GitHub地址：https: github.com/Ming-jiayou/SimpleRAG 主要功能 ...[2024/8/19]

上一章我们聊了标准化的Prompt生成方案DSPy，但DSPy还是更多依赖few-shot的Prompt编写范式，在纯任务描述型指令上的优化效果有限。这一章我们就重点关注描述性指令优化。我们先简单介绍下结构化Prompt编写，再聊聊从结构化多角度进行Prompt最优化迭代的算法方案UniProm...[2024/8/19]

我们用到的大模型基本把政治类信息、犯罪相关信息都已屏蔽。但是，黑客依旧可以使用提示词诱导和提示词注入的方式对大模型进行攻击。 1、提示词诱导 如果直接让AI提供犯罪过程，AI会直接拒绝。虽然AI对于大部分知识了然于心，但因为经过了人工指令微调，一些伤害性、犯罪性的言论已经被屏蔽。 但黑客会通...[2024/8/19]

论文提出了一种创新的自监督异常检测框架RealNet，集成了三个核心组件：可控制强度的扩散异常合成（SDAS）、异常感知特征选择（AFS）和重构残差选择（RRS）。这些组件通过协同作用，使RealNet能够有效地利用大规模预训练模型来进行异常检测，同时保持计算开销在合理的低范围内。RealNe...[2024/8/19]

我们想要解决的问题 让我们深入一个现实场景： 设想你负责汇总多个销售点系统产生的大量数据。这些数据需要被实时处理并在高级分析仪表板上展示，以提供全面的洞察。 在数据处理领域，速度至关重要。ClickHouse 作为速度之王， 它从不减速且异常迅速。其在并发处理方面的高效性以及成本效益使其成...[2024/8/19]

作者：王振亚 编者语： 自微软发布GraphRAG之后，相关解读文层出不穷，其中不乏优秀的内容。比如前段时间转载薛明同学的《微软GraphRAG框架源码解读》让大家快速对GraphRAG的开源代码有了快速的认识。这次我们分享一下来自蚂蚁技术同学王振亚的对GraphRAG如何提升LLM总...[2024/8/7]

在 AI 时代，DataOps 2.0 代表了一种全新的数据管理和操作模式，通过自动化数据管道、实时数据处理和跨团队协作，DataOps 2.0 能够加速数据分析和决策过程。它融合了人工智能和机器学习技术，使得数据的获取、清洗和分析更加高效，推动企业在快速变化的市场中保持竞争优势。 另一方面，...[2024/8/7]

最近在给我们的客户私有化部署我们的TorchV系统，客户给的资源足够充裕，借此机会记录下部署千问72B模型的过程，分享给大家！ 一、基础信息 操作系统：Ubuntu 22.04.3 LTS GPU: A800(80GB) * 8 内存：1TB 二、软件信息 Python:...[2024/8/7]

参考： https: www.cnblogs.com/devilmaycry812839668/p/17813337.html The Actor-Mimic and expert DQN training curves for 100 training epochs for each ...[2024/8/7]

最近跟身边的程序员老杆子讨论需求时，惊奇的发现，他居然没使用AI编程助手。一时间有2个想法从大脑闪过，然后心里还带了一丝轻蔑： AI编程助手这么好的东西，你居然不用。 作为老程序员，你居然不跟上时代步伐，在想啥呢。 不过确实有一些老杆子是用过AI编程助手，又选择了放弃，具体啥原因，我们来聊...[2024/8/7]

本文介绍在Anaconda环境中，下载并配置Python中机器学习、深度学习常用的新版tensorflow库的方法。 在之前的两篇文章Python TensorFlow深度学习回归代码：DNNRegre or与Python TensorFlow深度神经网络回归：keras.Sequential...[2024/8/7]

机器学习中，常常见到两个函数名称：sigmoid和softmax。 前者在神经网络中反复出现，也被称为神经元的激活函数； 后者则出现在很多分类算法中，尤其是多分类的场景，用来判断哪种分类结果的概率更大。 本文主要介绍这两个函数的定义，形态，在算法中的作用，以及两个函数之间的联系。 1. sig...[2024/8/7]

更多精彩内容请关注微信公众号 ‘优化与算法’ 前言 在数学优化中，分数规划是线性分式规划的推广。分数规划中的目标函数是两个函数的比值，这两个函数通常是非线性的。要优化的比值通常描述系统的某种效率。 1. Concave-convex FP问题 1.1 基本形式 一维问题。符号说明：用R表示实...[2024/7/31]

X-Stream论文：《X-Stream: Edge-centric Graph Proce ing using Streaming Partitions》 前面通过文章《论文图谱当如是：Awesome-Graphs用200篇图系统论文打个样》向大家介绍了论文图谱项目Awesome-G...[2024/7/31]

1 ambari + bigtop 构建大数据基础平台 1.1 参考： 1.2 参考 amabri bigtop 打包部署 2 ambari+bigtop编译、打包、部署 2.0 基础环境准备 2.1 ambari编译 2.2 ambari-metrics编译 2.3 bigtop...[2024/7/31]

Naiad论文：《Naiad: A Timely Dataflow System》 前面通过文章《论文图谱当如是：Awesome-Graphs用200篇图系统论文打个样》向大家介绍了论文图谱项目Awesome-Graphs，并分享了Google的Pregel、OSDI''12的Powe...[2024/7/31]

一、说明 在大数据处理和分析中 Apache Kafka 已经成为了一个核心组件。然而在生产环境中部署 Kafka 时，安全性是一个必须要考虑的重要因素。SASL（简单认证与安全层）和 SCRAM（基于密码的认证机制的盐化挑战响应认证机制）提供了一种方法来增强 Kafka 集群的安全性。 ...[2024/7/29]

这几年科技变革太快，AI更是飞速发展，作为一名IT老兵，使用过的搜索引擎也是一换再换。这不，刚消停了一段时间的OpenAI又丢出一个炸弹SearchGPT，直接跟谷歌掀桌子了。 1、谷歌搜索的无奈 早年只能用用百度搜索或者其余小众搜索，虽说有不少广告，搜索到的东西也不够精准，只能忍着了。 后...[2024/7/29]

1.概述 在构建大数据分析系统的过程中，我们面对着海量、多源的数据挑战，如何有效地解决这些零散数据的分析问题一直是大数据领域研究的核心关注点。大数据分析处理平台作为应对这一挑战的利器，致力于整合当前主流的各种大数据处理分析框架和工具，以实现对数据的全面挖掘和深入分析。本篇博客笔者将为大家介绍如何...[2024/7/29]

前言： 学习ComfyUI是一场持久战，而 ComfyUI Impact 是一个庞大的模块节点库，内置许多非常实用且强大的功能节点 ，例如检测器、细节强化器、预览桥、通配符、Hook、图片发送器、图片接收器等等。通过这些节点的组合运用，我们可以实现的工作有很多，例如自动人脸检测和优化修复、区域...[2024/7/29]

目录一、前言二、环境准备三、安装设置四、下载模型并运行五、配置 open-webui写在结尾 一、前言 自 OpenAi 发布 ChatGPT 对话性大语言模型，AI 这两年发展迎来爆发，国内外也衍生了大量的语言模型开放给公众使用。为了可以让更多人接触到AI，让本地化部署更加轻便快捷，于是就...[2024/7/23]

阅读翻译Mathematics for Machine Learning之2.7 Linear Mappings 关于： 首次发表日期：2024-07-23 Mathematics for Machine Learning官方链接： https: mml-book.com ChatGPT和KI...[2024/7/23]

前几章我们讨论了RLHF的样本构建优化和训练策略优化，这一章我们讨论两种不同的RL训练方案，分别是基于过程训练，和使用弱Teacher来监督强Student 循序渐进：PRM & ORM Solving math word problems with proce and outco...[2024/7/23]

最近Mem0横空出世，官方称之为PA的记忆层，The memory layer for Personalized AI，有好事者还称这个是RAG的替代者，Mem0究竟为何物，背后的原理是什么，我们今天来一探究竟。 Mem0 介绍 开源地址： https: github.com/mem0ai/m...[2024/7/22]

搬迁说明 之前在 CSDN 上发文章，一直想着努力发一些好的文章出来！这篇文章在 2024-04-17 10:11:55 已在 CSDN 发布 写在前面 其他显卡环境也可以！但是最少要有8GB的显存，不然很容易爆。 如果有多显卡的话，单机多卡也是很好的方案！！！ 背景介绍 目前借到一台算法...[2024/7/22]

1. 每个人都应该拥抱AI 随着AI的飞速发展，把我们带到了一个全新的时代。在这个时代，AI将逐步渗透到各个方面，比如：自动驾驶、智能家居、医疗诊断、大模型等等。每个人都应该积极拥抱AI，让AI给我们提效。 2. AI不是取代人类，而是辅助人类 许多人担心AI会取代人类的工作，非常焦虑，事实上...[2024/7/22]

这两年，随着人工智能（AI）和计算能力的发展，AI应用的落地速度大大加快。以ChatGPT为代表的AI应用迅速火遍全球，成为打工人的常用工具。紧接着，多模态、AI Agent等各种高大尚的名词也逐渐进入大众视野，吸引了大量关注。那么，到底什么是AI Agent？下文半支烟将带你详细了解这个概念。...[2024/7/19]

1. RNN（Recurrent Neural Network） 时间轴 1986年，RNN 模型首次由 David Rumelhart 等人提出，旨在处理序列数据。 关键技术 循环结构 序列处理 长短时记忆网络（LSTM）和门控循环单元（GRU） 核心原理 RNN 通过循环结构让网络记住...[2024/7/17]

目录openStack核心组件的工作流程1. Keystone1.1 User1.2 Credentials1.3 Authentication1.4 Token1.5 Project1.6 Service1.7 Endpoint1.8 Role1.9 keystone综述2. glance2...[2024/7/17]

为视觉语言多模态模型进行偏好优化 训练模型使得它能够理解并预测人类偏好是一项比较复杂的任务。诸如 SFT (Supervised finetuning) 的传统的方法一般都需要耗费较大成本，因为这些算法需要对数据打上特定的标签。而偏好优化 (Preference Optimization) 作为...[2024/7/17]

从DDPM到DDIM (一) 现在网络上关于DDPM和DDIM的讲解有很多，但无论什么样的讲解，都不如自己推到一边来的痛快。笔者希望就这篇文章，从头到尾对扩散模型做一次完整的推导。 DDPM是一个双向马尔可夫模型，其分为扩散过程和采样过程。 扩散过程是对于图片不断加噪的过程，每一步添加少量的...[2024/7/17]

图像增强方法在数字图像处理中占有重要地位，它能够有效提高图像的视觉效果，增强图像的细节信息，从而在医学、遥感、工业检测等多个领域发挥重要作用 1. 空间域增强方法 空间域增强方法是通过直接对图像像素进行操作来实现图像增强的技术。以下是几种常见的空间域增强方法： 1.1 直方图均衡化 直方...[2024/7/15]

论文标题：Segment Angthing 论文作者： Alexander Kirillov  Eric Mintun  Nikhila Ravi  Hanzi Mao... 论文地址：2304.02643 (arxiv.org) 声明：小编翻译论文仅为学习...[2024/7/13]

目录Kolla-ansible部署openStack1. 简介2. 环境准备3. 部署3.1 基础环境配置3.1.1 配置主机名，所有节点操作，这里以openstack01为例3.1.2 添加hosts3.1.3 配置免密登录3.1.4 关闭防火墙以及selinux3.1.5 设置yum源3.1...[2024/7/13]

题目描述 有一张n个节点的无向图，对于所有 (i,j)，判断 i 和 j 之间是否存在哈密顿路径 1<=n<=24 哈密顿路径：经过每个点恰好一次 乐乐乐乐乐 考虑暴力：\(dp[i][j][st]\)表示从\(i\)开始到\(j\)的经过的点的状态\(st\)(\(st\)状...[2024/7/13]

1. 预备知识 1.1 参考椭球 地球表面是一个凸凹不平的表面，而对于地球测量而言，地表是一个无法用数学公式表达的曲面，这样的曲面不能作为测量和制图的基准面。假想一个扁率极小的椭圆，绕地球体短轴旋转所形成的规则椭球体称之为地球椭球体。 地球椭球体与地球形体非常接近，是一个形状规则的数学表面，在...[2024/7/12]

论文基于实验验证，为数据需求预测这一问题提供了比较有用的建议，详情可以直接看看Conclusion部分。 来源：晓飞的算法工程笔记 公众号 论文: How Much More Data Do I Need? Estimating Requirements for Downstream T...[2024/7/12]

前言： ControlNet_aux库包含大量的图片预处理节点，功能丰富，适用于图像分割、边缘检测、姿势检测、深度图处理等多种预处理方式。掌握这些节点的使用是利用ControlNet的关键，本篇文章将帮助您理解和学会使用这些节点。 目录 一、安装方法 二、模型下载 三、Segmento...[2024/7/11]

作者：来自 vivo 互联网服务器团队-Leng Jianyu、Huang Haitao HBase是一款开源高可靠性、扩展性、高性能和灵活性的分布式非关系型数据库，本文围绕数据库选型以及使用HBase的痛点展开，从四个方面对HBase的使用进行优化，取得了一些不错效果。 一、业务简介 ...[2024/7/11]

两个月前，微软发布了GraphRAG的论文《From Local to Global: A Graph RAG Approach to Query-Focused Summarization》，基于知识图谱技术改进查询聚焦摘要（QFS）任务的问答，我也在之前的文章《Vector | Grap...[2024/7/11]

yolov5正样本筛选原理 正样本全称是anchor正样本，正样本所指的对象是anchor box，即先验框。 先验框：从YOLO v2开始吸收了Faster RCNN的优点，设置了一定数量的预选框，使得模型不需要直接预测物体尺度与坐标，只需要预测先验框到真实物体的偏移，降低了预测难度。 ...[2024/7/11]

技术债 技术债可能来源于多种原因，比如时间压力、资源限制、技术选型不当等。它可以表现为代码中的临时性修补、未能彻底解决的设计问题、缺乏文档或测试覆盖等。虽然技术债可以帮助快速推进项目进度，但长期来看，它会增加软件维护的成本和风险，降低系统的稳定性和可维护性。 今天，我们将专注于其中一部分问题：...[2024/7/8]

Stable Diffusion是2022年发布的深度学习文字到图像生成模型，它既能免费使用，又能部署在本地端，又有非常多的模型可以直接套用，在使用体验上比Midjourney和DALL-E更加强大。 Stable Diffusion使用的模型有下列几大类，对照模型网站 https: civit...[2024/7/8]

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 不要轻易使用 For 循环 For 循环，老铁们在编程中经常用到的一个基本结构，特别是在处理列表、字典这类数据结构时。但是，这东西真的是个双刃剑。虽然看起来挺直白，一用...[2024/7/8]

背景 PDF（Portable Document Format）是一种广泛用于文档交换的文件格式，由Adobe Systems开发。它具有跨平台性、固定布局和易于打印等特点，因此在商业、学术和个人领域广泛应用。然而，PDF文件的解析一直是一个具有挑战性的问题，因为其内部结构的复杂性和多样性，使得...[2024/7/8]