NextChat介绍 One-Click to get a well-designed cro -platform ChatGPT web UI, with GPT3, GPT4 & Gemini Pro support. 一键免费部署你的跨平台私人 ChatGPT 应用, 支持 GP...[2024/8/26]

在自然语言处理（NLP）中，Transformer 模型是一个非常重要的里程碑，它通过自注意力（self-attention）机制极大地提高了处理序列数据的能力。在 Transformer 模型中，词嵌入（Word Embedding）是输入层的关键部分，负责将离散的单词转换成连续的向量表示，以...[2024/8/26]

本文是【训练LLM系列】的第一篇，主要重点介绍NanoGPT代码以及中文、英文预训练实践。最新版参见我的知乎：https: zhuanlan.zhihu.com/p/716442447 除跑通原始NanoGPT代码之外，分别使用了《红楼梦》、四大名著和几十本热门网络小说，进行了字符级、自行训练...[2024/8/26]

SimpleRAG介绍 SimpleRAG是基于WPF与Semantic Kernel实现的一个简单的RAG应用，可用于学习与理解如何使用Semantic Kernel构建RAG应用。 GitHub地址：https: github.com/Ming-jiayou/SimpleRAG 主要功能 ...[2024/8/19]

上一章我们聊了标准化的Prompt生成方案DSPy，但DSPy还是更多依赖few-shot的Prompt编写范式，在纯任务描述型指令上的优化效果有限。这一章我们就重点关注描述性指令优化。我们先简单介绍下结构化Prompt编写，再聊聊从结构化多角度进行Prompt最优化迭代的算法方案UniProm...[2024/8/19]

我们用到的大模型基本把政治类信息、犯罪相关信息都已屏蔽。但是，黑客依旧可以使用提示词诱导和提示词注入的方式对大模型进行攻击。 1、提示词诱导 如果直接让AI提供犯罪过程，AI会直接拒绝。虽然AI对于大部分知识了然于心，但因为经过了人工指令微调，一些伤害性、犯罪性的言论已经被屏蔽。 但黑客会通...[2024/8/19]

论文提出了一种创新的自监督异常检测框架RealNet，集成了三个核心组件：可控制强度的扩散异常合成（SDAS）、异常感知特征选择（AFS）和重构残差选择（RRS）。这些组件通过协同作用，使RealNet能够有效地利用大规模预训练模型来进行异常检测，同时保持计算开销在合理的低范围内。RealNe...[2024/8/19]

作者：王振亚 编者语： 自微软发布GraphRAG之后，相关解读文层出不穷，其中不乏优秀的内容。比如前段时间转载薛明同学的《微软GraphRAG框架源码解读》让大家快速对GraphRAG的开源代码有了快速的认识。这次我们分享一下来自蚂蚁技术同学王振亚的对GraphRAG如何提升LLM总...[2024/8/7]

在 AI 时代，DataOps 2.0 代表了一种全新的数据管理和操作模式，通过自动化数据管道、实时数据处理和跨团队协作，DataOps 2.0 能够加速数据分析和决策过程。它融合了人工智能和机器学习技术，使得数据的获取、清洗和分析更加高效，推动企业在快速变化的市场中保持竞争优势。 另一方面，...[2024/8/7]

最近在给我们的客户私有化部署我们的TorchV系统，客户给的资源足够充裕，借此机会记录下部署千问72B模型的过程，分享给大家！ 一、基础信息 操作系统：Ubuntu 22.04.3 LTS GPU: A800(80GB) * 8 内存：1TB 二、软件信息 Python:...[2024/8/7]

参考： https: www.cnblogs.com/devilmaycry812839668/p/17813337.html The Actor-Mimic and expert DQN training curves for 100 training epochs for each ...[2024/8/7]

最近跟身边的程序员老杆子讨论需求时，惊奇的发现，他居然没使用AI编程助手。一时间有2个想法从大脑闪过，然后心里还带了一丝轻蔑： AI编程助手这么好的东西，你居然不用。 作为老程序员，你居然不跟上时代步伐，在想啥呢。 不过确实有一些老杆子是用过AI编程助手，又选择了放弃，具体啥原因，我们来聊...[2024/8/7]

机器学习中，常常见到两个函数名称：sigmoid和softmax。 前者在神经网络中反复出现，也被称为神经元的激活函数； 后者则出现在很多分类算法中，尤其是多分类的场景，用来判断哪种分类结果的概率更大。 本文主要介绍这两个函数的定义，形态，在算法中的作用，以及两个函数之间的联系。 1. sig...[2024/8/7]

更多精彩内容请关注微信公众号 ‘优化与算法’ 前言 在数学优化中，分数规划是线性分式规划的推广。分数规划中的目标函数是两个函数的比值，这两个函数通常是非线性的。要优化的比值通常描述系统的某种效率。 1. Concave-convex FP问题 1.1 基本形式 一维问题。符号说明：用R表示实...[2024/7/31]

X-Stream论文：《X-Stream: Edge-centric Graph Proce ing using Streaming Partitions》 前面通过文章《论文图谱当如是：Awesome-Graphs用200篇图系统论文打个样》向大家介绍了论文图谱项目Awesome-G...[2024/7/31]

1 ambari + bigtop 构建大数据基础平台 1.1 参考： 1.2 参考 amabri bigtop 打包部署 2 ambari+bigtop编译、打包、部署 2.0 基础环境准备 2.1 ambari编译 2.2 ambari-metrics编译 2.3 bigtop...[2024/7/31]

Naiad论文：《Naiad: A Timely Dataflow System》 前面通过文章《论文图谱当如是：Awesome-Graphs用200篇图系统论文打个样》向大家介绍了论文图谱项目Awesome-Graphs，并分享了Google的Pregel、OSDI''12的Powe...[2024/7/31]

这几年科技变革太快，AI更是飞速发展，作为一名IT老兵，使用过的搜索引擎也是一换再换。这不，刚消停了一段时间的OpenAI又丢出一个炸弹SearchGPT，直接跟谷歌掀桌子了。 1、谷歌搜索的无奈 早年只能用用百度搜索或者其余小众搜索，虽说有不少广告，搜索到的东西也不够精准，只能忍着了。 后...[2024/7/29]

前言： 学习ComfyUI是一场持久战，而 ComfyUI Impact 是一个庞大的模块节点库，内置许多非常实用且强大的功能节点 ，例如检测器、细节强化器、预览桥、通配符、Hook、图片发送器、图片接收器等等。通过这些节点的组合运用，我们可以实现的工作有很多，例如自动人脸检测和优化修复、区域...[2024/7/29]

目录一、前言二、环境准备三、安装设置四、下载模型并运行五、配置 open-webui写在结尾 一、前言 自 OpenAi 发布 ChatGPT 对话性大语言模型，AI 这两年发展迎来爆发，国内外也衍生了大量的语言模型开放给公众使用。为了可以让更多人接触到AI，让本地化部署更加轻便快捷，于是就...[2024/7/23]

阅读翻译Mathematics for Machine Learning之2.7 Linear Mappings 关于： 首次发表日期：2024-07-23 Mathematics for Machine Learning官方链接： https: mml-book.com ChatGPT和KI...[2024/7/23]

前几章我们讨论了RLHF的样本构建优化和训练策略优化，这一章我们讨论两种不同的RL训练方案，分别是基于过程训练，和使用弱Teacher来监督强Student 循序渐进：PRM & ORM Solving math word problems with proce and outco...[2024/7/23]

最近Mem0横空出世，官方称之为PA的记忆层，The memory layer for Personalized AI，有好事者还称这个是RAG的替代者，Mem0究竟为何物，背后的原理是什么，我们今天来一探究竟。 Mem0 介绍 开源地址： https: github.com/mem0ai/m...[2024/7/22]

搬迁说明 之前在 CSDN 上发文章，一直想着努力发一些好的文章出来！这篇文章在 2024-04-17 10:11:55 已在 CSDN 发布 写在前面 其他显卡环境也可以！但是最少要有8GB的显存，不然很容易爆。 如果有多显卡的话，单机多卡也是很好的方案！！！ 背景介绍 目前借到一台算法...[2024/7/22]

1. 每个人都应该拥抱AI 随着AI的飞速发展，把我们带到了一个全新的时代。在这个时代，AI将逐步渗透到各个方面，比如：自动驾驶、智能家居、医疗诊断、大模型等等。每个人都应该积极拥抱AI，让AI给我们提效。 2. AI不是取代人类，而是辅助人类 许多人担心AI会取代人类的工作，非常焦虑，事实上...[2024/7/22]

这两年，随着人工智能（AI）和计算能力的发展，AI应用的落地速度大大加快。以ChatGPT为代表的AI应用迅速火遍全球，成为打工人的常用工具。紧接着，多模态、AI Agent等各种高大尚的名词也逐渐进入大众视野，吸引了大量关注。那么，到底什么是AI Agent？下文半支烟将带你详细了解这个概念。...[2024/7/19]

1. RNN（Recurrent Neural Network） 时间轴 1986年，RNN 模型首次由 David Rumelhart 等人提出，旨在处理序列数据。 关键技术 循环结构 序列处理 长短时记忆网络（LSTM）和门控循环单元（GRU） 核心原理 RNN 通过循环结构让网络记住...[2024/7/17]

为视觉语言多模态模型进行偏好优化 训练模型使得它能够理解并预测人类偏好是一项比较复杂的任务。诸如 SFT (Supervised finetuning) 的传统的方法一般都需要耗费较大成本，因为这些算法需要对数据打上特定的标签。而偏好优化 (Preference Optimization) 作为...[2024/7/17]

从DDPM到DDIM (一) 现在网络上关于DDPM和DDIM的讲解有很多，但无论什么样的讲解，都不如自己推到一边来的痛快。笔者希望就这篇文章，从头到尾对扩散模型做一次完整的推导。 DDPM是一个双向马尔可夫模型，其分为扩散过程和采样过程。 扩散过程是对于图片不断加噪的过程，每一步添加少量的...[2024/7/17]

图像增强方法在数字图像处理中占有重要地位，它能够有效提高图像的视觉效果，增强图像的细节信息，从而在医学、遥感、工业检测等多个领域发挥重要作用 1. 空间域增强方法 空间域增强方法是通过直接对图像像素进行操作来实现图像增强的技术。以下是几种常见的空间域增强方法： 1.1 直方图均衡化 直方...[2024/7/15]

论文标题：Segment Angthing 论文作者： Alexander Kirillov  Eric Mintun  Nikhila Ravi  Hanzi Mao... 论文地址：2304.02643 (arxiv.org) 声明：小编翻译论文仅为学习...[2024/7/13]

题目描述 有一张n个节点的无向图，对于所有 (i,j)，判断 i 和 j 之间是否存在哈密顿路径 1<=n<=24 哈密顿路径：经过每个点恰好一次 乐乐乐乐乐 考虑暴力：\(dp[i][j][st]\)表示从\(i\)开始到\(j\)的经过的点的状态\(st\)(\(st\)状...[2024/7/13]

1. 预备知识 1.1 参考椭球 地球表面是一个凸凹不平的表面，而对于地球测量而言，地表是一个无法用数学公式表达的曲面，这样的曲面不能作为测量和制图的基准面。假想一个扁率极小的椭圆，绕地球体短轴旋转所形成的规则椭球体称之为地球椭球体。 地球椭球体与地球形体非常接近，是一个形状规则的数学表面，在...[2024/7/12]

论文基于实验验证，为数据需求预测这一问题提供了比较有用的建议，详情可以直接看看Conclusion部分。 来源：晓飞的算法工程笔记 公众号 论文: How Much More Data Do I Need? Estimating Requirements for Downstream T...[2024/7/12]

前言： ControlNet_aux库包含大量的图片预处理节点，功能丰富，适用于图像分割、边缘检测、姿势检测、深度图处理等多种预处理方式。掌握这些节点的使用是利用ControlNet的关键，本篇文章将帮助您理解和学会使用这些节点。 目录 一、安装方法 二、模型下载 三、Segmento...[2024/7/11]

两个月前，微软发布了GraphRAG的论文《From Local to Global: A Graph RAG Approach to Query-Focused Summarization》，基于知识图谱技术改进查询聚焦摘要（QFS）任务的问答，我也在之前的文章《Vector | Grap...[2024/7/11]

yolov5正样本筛选原理 正样本全称是anchor正样本，正样本所指的对象是anchor box，即先验框。 先验框：从YOLO v2开始吸收了Faster RCNN的优点，设置了一定数量的预选框，使得模型不需要直接预测物体尺度与坐标，只需要预测先验框到真实物体的偏移，降低了预测难度。 ...[2024/7/11]

技术债 技术债可能来源于多种原因，比如时间压力、资源限制、技术选型不当等。它可以表现为代码中的临时性修补、未能彻底解决的设计问题、缺乏文档或测试覆盖等。虽然技术债可以帮助快速推进项目进度，但长期来看，它会增加软件维护的成本和风险，降低系统的稳定性和可维护性。 今天，我们将专注于其中一部分问题：...[2024/7/8]

Stable Diffusion是2022年发布的深度学习文字到图像生成模型，它既能免费使用，又能部署在本地端，又有非常多的模型可以直接套用，在使用体验上比Midjourney和DALL-E更加强大。 Stable Diffusion使用的模型有下列几大类，对照模型网站 https: civit...[2024/7/8]

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 不要轻易使用 For 循环 For 循环，老铁们在编程中经常用到的一个基本结构，特别是在处理列表、字典这类数据结构时。但是，这东西真的是个双刃剑。虽然看起来挺直白，一用...[2024/7/8]

背景 PDF（Portable Document Format）是一种广泛用于文档交换的文件格式，由Adobe Systems开发。它具有跨平台性、固定布局和易于打印等特点，因此在商业、学术和个人领域广泛应用。然而，PDF文件的解析一直是一个具有挑战性的问题，因为其内部结构的复杂性和多样性，使得...[2024/7/8]

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 抱个拳，送个礼 在现代自然语言处理（NLP）领域，Transformer 模型的出现带来了革命性的变化。它极大地提升了语言模型的性能和效率，而自注意力机制是其中的核心...[2024/7/3]

〇、写在前面 本应用基于开源UI框架PyDracula进行开发，除去最基本的UI框架外，所有功能的前后端实现都由我个人开发完成，但也有部分UI（如开关控件和进度条）是参考其他大佬的分享。 这个应用是我的本科毕业设计，但因为个人能力不足，姑且只能使用Python+PySide6开发。 开发这个...[2024/7/3]

1、前言 在6.28/29的稀土掘金开发者大会RAG专场上，我们公司CEO员外代表TorchV分享了我们在《RAG在企业应用中落地的难点与创新》 其中最后分享了两个观点： AI在应用场景落地时有三个特点：功能小、质量高、价值大   如果说做产品是把一横做好的话，那么去做...[2024/7/3]

论文主要处理Vision Transformer中的性能问题，采用推理速度不同的级联模型进行速度优化，搭配层级间的特征复用和自注意力关系复用来提升准确率。从实验结果来看，性能提升不错 来源：晓飞的算法工程笔记 公众号 论文: Not All Images are Worth 16x16 ...[2024/7/3]

Avalonia是什么？ Avalonia是一个跨平台的UI框架，专为.NET开发打造，提供灵活的样式系统，支持Windows、macOS、Linux、iOS、Android及WebA embly等多种平台。它已成熟并适合生产环境，被Schneider Electric、Unity、JetBra...[2024/7/3]

什么是VAE？ VAE，即变分自编码器（Variational Autoencoder），是一种生成模型，它通过学习输入数据的潜在表示来重构输入数据。 在Stable Diffusion 1.4 或 1.5 模型中，通过VAE对模型进行部分更新，以提升模型渲染眼睛的能力。通过这种更新，模型在生...[2024/7/3]

大家在stable diffusion webUI中可能看到过hypernetwork这个词，那么hypernetwork到底是做什么用的呢？ 简单点说，hypernetwork模型是用于修改样式的小型神经网络。 什么是 Stable Diffusion 中的hypernetwork？ Hy...[2024/7/1]

HumanEval 是一个用于评估大型语言模型 (LLM) 在代码生成任务中的参考基准，因为它使得对紧凑的函数级代码片段的评估变得容易。然而，关于其在评估 LLM 编程能力方面的有效性越来越多的担忧，主要问题是HumanEval 中的任务太简单，可能不能代表真实世界的编程任务。相比于 Human...[2024/7/1]

前言 对于后端程序员来说，编写SQL代码是日常工作中不可或缺的一部分。然而，随着数据复杂性的增加，如何高效、准确地编写SQL查询成为了新的挑战。幸运的是，SQL Translator的出现为后端程序员提供了一个强大的工具，将自然语言查询转换为精确的SQL代码，极大地提高了工作效率。 SQL Tr...[2024/7/1]