生成模型

生成模型之高斯判别分析（GDA)和贝叶斯

生成模型与判别模型的区别判别模型的学习算法学习给定x下的条件分布p(y|x; θ)， 例如，Logistic Regression（对数几率回归）将p(y|x; θ)建模为，g是sigmoid函数。考虑一个分类问题，基于动物的某些特征想…

图像处理之《基于端到端哈希生成模型的鲁棒无覆盖图像隐写》论文精读

一、文章摘要近年来，无覆盖隐写算法因其完全抵抗隐写分析算法的能力而引起了越来越多的研究关注。然而，现有的算法在面对几何攻击和非几何攻击时，无法达到同样的鲁棒性平衡。此外，现有的方法大多需要在隐写图像的同时传输一些辅…

生成模型经典算法-VAEGAN（含Python源码例程）

生成模型文章目录生成模型1. 概述2. 生成模型典型结构-VAE&GAN2.1 VAE2.1.1 简介2.1.2 模型处理流程 2.2 GAN2.2.1 简介 2.2.2 生成对抗网络要点2.2.3 生成对抗网络的训练准则2.2.4 生成对抗网络模型处理流程 3.生成模型和判别模型在AIGC中的应用3.1 生成模型在AIGC中的应…

【AI视野·今日CV 计算机视觉论文速览第281期】Tue, 2 Jan 2024

AI视野今日CS.CV 计算机视觉论文速览 Tue, 2 Jan 2024 Totally 95 papers 👉上期速览✈更多精彩请移步主页 Daily Computer Vision Papers Refining Pre-Trained Motion Models Authors Xinglong Sun, Adam W. Harley, Leonidas J. Guibas考虑到在视频中手动注释运…

PyTorch深度学习实战（37）——CycleGAN详解与实现

PyTorch深度学习实战（37）——CycleGAN详解与实现 0. 前言1. CycleGAN 基本原理2. CycleGAN 模型分析3. 实现 CycleGAN小结系列链接 0. 前言 CycleGAN 是一种用于图像转换的生成对抗网络(Generative Adversarial Network, GAN)，可以在不需要配…

2023年及以后语言、视觉和生成模型的发展和展望

一、简述在过去的十年里，研究人员都在追求类似的愿景——帮助人们更好地了解周围的世界，并帮助人们更好地了解周围的世界。把事情做完。我们希望建造功能更强大的机器，与人们合作完成各种各样的任务。各种任务。复杂的信息搜寻任务。创造性任务，例如创作音乐、绘制新图片或…

朴素贝叶斯模型（naive bayes）

朴素贝叶斯模型（naive bayes）注：本博客为周志华老师《机器学习》的读书笔记，但同时也参考了李航老师的《统计学习》方法，以及其他资料（见参考文献），虽有自己的理解，但博客…

【自然语言处理】【大模型】ChatGLM-6B模型结构代码解析(单机版)

ChatGLM-6B模型结构代码解析(单机版) 本文介绍ChatGLM-6B的模型结构，代码来自https://huggingface.co/THUDM/chatglm-6b/blob/main/modeling_chatglm.py。相关博客【自然语言处理】【大模型】ChatGLM-6B模型结构代码解析(单机版) 【自然语言处理】【大模型】BL…

Diffusion：通过扩散和逆扩散过程生成图像的生成式模型

在当今人工智能大火的时代，AIGC 可以帮助用户完成各种任务。作为 AIGC 主流模型的 DDPM，也时常在各种论文中被提起。DDPM 本质就是一种扩散模型，可以用来生成图片或者为图片去噪。扩散模型定义了一个扩散的马尔科夫过程，每一步逐…

Stable diffusion 简介

Stable diffusion 是 CompVis、Stability AI、LAION、Runway 等公司研发的一个文生图模型，将 AI 图像生成提高到了全新高度，其效果和影响不亚于 Open AI 发布 ChatGPT。Stable diffusion 没有单独发布论文，而是基于 CVPR 2022 Oral —— 潜扩…

【AI视野·今日NLP 自然语言处理论文速览第六十七期】Mon, 1 Jan 2024

AI视野今日CS.NLP 自然语言处理论文速览 Mon, 1 Jan 2024 Totally 42 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers Principled Gradient-based Markov Chain Monte Carlo for Text Generation Authors Li Du, Afra Amini, Lucas…

监督学习：生成模型和判别模型

生成模型与判别模型 http://blog.csdn.net/zouxy09 一直在看论文的过程中遇到这个问题，折腾了不少时间，然后是下面的一点理解，不知道正确否。若有错误，还望各位前辈不吝指正，以免小弟一错再错。在此谢过。一、决策函…

【safetensor】Debug

更多信息详见我的另一篇文档: 介绍加载权重错误从本地加载 stable-diffusion 时， model_id D:\code\git_diffusion_repo\sd\stable-diffusion-v1-5 pipe StableDiffusionPipeline.from_pretrained(model_id, torch_dtypetorch.float16, revision"fp16&…

【VQ-VAE论文精读+代码实战】Neural Discrete Representation Learning

【VQ-VAE论文精读+代码实战】Neural Discrete Representation Learning 0、前言Abstract1.Introduction(提出现有方法的问题并说明有哪些贡献)2 Related Work（提出现有相关离散VAEs的方法的问题，简单介绍本文方法。）3 VQ-VAE（重头戏）3.1 Discrete Latent variables3.2 Lea…

文献学习-28-Endora: 用于内镜仿真的视频生成模型

Endora : Video Generation Models as Endoscopy Simulators Authors: Chenxin Li, Hengyu Liu, Yifan Liu, Brandon Y. Feng, Wuyang Li, Xinyu Liu, Zhen Chen, Jing Shao, Yixuan Yuan Keywords: Medical Generative AI Video Generation Endoscopy Abstract 生成模型有…

【AI视野·今日NLP 自然语言处理论文速览第五十二期】Wed, 11 Oct 2023

AI视野今日CS.NLP 自然语言处理论文速览 Wed, 11 Oct 2023 Totally 81 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression Author…

GANs和Diffusion模型（3）

接GANs和Diffusion模型（2） 扩散(Diffusion)模型生成学习三重困难(Trilemma) 指生成学习(genrative learning)的模型都需要满足三个需求： 高质量的采样(High Quality Samples)：模型应该能生成非常高质量的采样快速采样(Fast S…

葫芦书笔记----生成模型

图去书里看。生成模型生成模型就是要让机器找到产生数据的概率分布P(x)P(x)P(x). 变分自编码器基础知识 ###简述VAE的基本思想，以及它时如何用变分推断方法进行训练的？ 详细： 自编码器（AE）：标准的A…

生成模型 | 三维重建(3D reconstruction)调研及总结【20231219更新版】

本文是关于三维重建的论文调研，主要集中于基于图片到3d的模型，其中期刊会议标志如下： [🤖 ICCV 2023 ] 1.3D综述系列 2019_Image-based 3D Object Reconstruction: State-of-the-Art and Trends in the Deep Learning Era 论文地…

AIGC实战——GPT(Generative Pre-trained Transformer)

AIGC实战——GPT 0. 前言1. GPT 简介2. 葡萄酒评论数据集3. 注意力机制3.1 查询、键和值3.2 多头注意力3.3 因果掩码 4. Transformer4.1 Transformer 块4.2 位置编码 5. 训练GPT6. GPT 分析6.1 生成文本6.2 注意力分数小结系列链接 0. 前言注意力机制能够用于构建先进的文本…

深度学习：生成模型的创新应用与未来展望，引领科技新潮流！

在人工智能的浪潮中，深度学习正以其强大的学习和表示能力，不断推动着各个领域的进步。其中，深度学习在生成模型中的应用尤为引人注目，它不仅为我们提供了生成全新、类似数据的能力，更为多个领域带来了革命性的变革。 …

Shape-E：文字到3D的生成模型试用

文章目录 Shape-E：文字到3D的生成模型试用项目介绍项目地址项目使用试用Text to 3DImage to 3D 总结 Shape-E：文字到3D的生成模型试用项目介绍 Shape-E是一个生成3D模型的工具，可以通过输入文字或者上传图片生成3D模型。该模型的项目地址是…

AIGC实战——扩散模型(Diffusion Model)

AIGC实战——扩散模型 0. 前言1. 去噪扩散概率模型1.1 Flowers 数据集1.2 正向扩散过程1.3 重参数化技巧1.4 扩散规划1.5 逆向扩散过程2. U-Net 去噪模型2.1 U-Net 架构2.2 正弦嵌入2.3 ResidualBlock2.4 DownBlocks 和 UpBlocks3. 训练扩散模型4. 去噪扩散概率模型的采样

生成模型（自编码器、VAE、GAN）

文章目录自编码器Autoencoder潜在表示（latent representation）VAE迁移学习生成对抗网络GAN李沐论文精读摘要导言相关工作Adversarial net简单总结精读挖坑（上课内容来自Manolis Kellis教授（MIT计算生物学主任）的课…

VAE模型（详细推导+实例代码）

文章目录 EM算法思路E步M步直观感觉 GMM模型VAEVAE思想从GMM到VAE公式推导重参数VAE神经网络另一个视角的VAE思想为什么引入encoder为什么要重参数噪声与重建 Discrete VAE 本文会从EM算法，GMM模型一步一步的的推导，在过渡到VAE模型，如果有熟…

机器学习（三）：生成模型与判别模型、准确率,召回率,F值

生成模型与判别模型监督学习方法分为生成方法和判别方法。所学到的模型分别称为生成模型和判别模型。生成方法由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型： 这样的方法之所以称为生成方法，是因为…

【AI视野·今日NLP 自然语言处理论文速览第七十八期】Wed, 17 Jan 2024

AI视野今日CS.NLP 自然语言处理论文速览 Wed, 17 Jan 2024 (showing first 100 of 163 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers Deductive Closure Training of Language Models for Coherence, Accur…

AIGC实战——归一化流模型(Normalizing Flow Model)

AIGC实战——归一化流模型 0. 前言1. 归一化流模型1.1 归一化流模型基本原理1.2 变量变换1.3 雅可比行列式1.4 变量变换方程 2. RealNVP2.1 Two Moons 数据集2.2 耦合层2.3 通过耦合层传递数据2.4 堆叠耦合层2.5 训练 RealNVP 模型 3. RealNVP 模型分析4. 其他归一化流模型4.1 …

训练t5和bart（1）

出现问题 UnboundLocalError: cannot access local variable sentencepiece_model_pb2 where it is not associated with a value 安装 pip install protobuf

【AI视野·今日Robot 机器人论文速览第六十五期】Mon, 30 Oct 2023

AI视野今日CS.Robotics 机器人学论文速览 Mon, 30 Oct 2023 Totally 18 papers 👉上期速览✈更多精彩请移步主页 Daily Robotics Papers Gen2Sim: Scaling up Robot Learning in Simulation with Generative Models Authors Pushkal Katara, Zhou Xian, Katerina F…

AIGC实战 - 使用变分自编码器生成面部图像

AIGC实战 - 使用变分自编码器生成面部图像 0. 前言1. 数据集分析2. 训练变分自编码器2.1 变分自编码器架构2.2 变分自编码器分析 3. 生成新的面部图像4. 潜空间算术5. 人脸变换小结系列链接 0. 前言在自编码器和变分自编码器上，我们都仅使用具有两个维度的潜空间。…

NLP实践——LLM生成过程中防止重复循环

NLP实践——LLM生成过程中防止重复 1. 准备工作2. 问题分析3. 创建processor3.1 防止重复生成的processor3.2 防止数字无规则循环的processor 4. 使用本文介绍如何使用LogitsProcessor避免大模型在生成过程中出现重复的问题。 1. 准备工作首先实例化一个大模型，…

机器学习-白板推导系列(三十)-生成模型(Generative Model)

机器学习-白板推导系列(三十)-生成模型(Generative Model) 30.1 生成模型的定义前面所详细描述的模型以浅层的机器学习为主。本章将承上启下引出后面深度机器学习的部分。本小节，主要讲述的是什么是生成模型，它是不是只是生成样本，生成数据…

Flow-based models(NICE)；流模型+NICE+代码实现

参考： 李宏毅春季机器学习NICE: Non-linear Independent Components Estimationhttps://github.com/gmum/nice_pytorch 文章目录大致思想数学预备知识Jacobian矩阵行列式以及其几何意义Change of Variable Theorem Flow-based modelNICE理论代码大致思想 Flow-B…

多模态——使用stable-video-diffusion将图片生成视频

多模态——使用stable-video-diffusion将图片生成视频 0. 内容简介1. 运行环境2. 模型下载3. 代码梳理3.1 修改yaml文件中的svd路径3.2 修改DeepFloyDataFiltering的vit路径3.3 修改open_clip的clip路径3.4 代码总体结构 4. 资源消耗5. 效果预览 0. 内容简介近期，…