网站编号：138

网站URL：https://spaces.ac.cn

最后点入：2024-06-11 02:43:21 · 加入时间：2023-04-26 21:42:26

网站关键词(60个字符):
科学空间、 科学FM、 数学、 科普、 机器学习、 深度学习、 模型、 优化、 自然语言处理、 NLP、 天文、 量子、 费曼、 路径积分、 对称、

网站描述词(9个字符):
渴望成为一个小飞侠

关于spaces.ac.cn说明：
spaces.ac.cn由网友主动性提交被看嘛收录网整理收录的，看嘛收录网仅提供spaces.ac.cn的基础信息并免费向大众网友展示，spaces.ac.cn的是IP地址：8.130.21.162 [中国北京北京 阿里云]，spaces.ac.cn的百度权重为1、百度手机权重为1、百度收录为36448条、360收录为3570条、搜狗收录为0条、谷歌收录为0条、百度来访流量大约在121之间、百度手机端来访流量大约在100之间、spaces.ac.cn的备案号是粤ICP备09093259号、备案人叫苏剑林、被百度收录的关键词有127个、手机端关键词有18个、迄今为止已经创建15年2个月7天。

下载地址: txt下载、docx下载、pdf下载、rar下载、zip下载

本页地址: https://www.kmphb.net/links/138.html

SEO信息	百度来访IP：121 | 移动端来访IP：100 | 出站链接：10 | 站内链接：243
IP网速：	IP地址：8.130.21.162 [中国北京北京 阿里云] | 网速：186毫秒
ALEXA排名	世界排名：- | 预估IP：- | 预估PV：-
备案信息	粤ICP备09093259号 | 名称：苏剑林 | 已创建：15年2个月7天

收录	百度	360	搜狗	谷歌
查询	36448	3570	0	0

电脑关键词	手机关键词	页面友好	首页位置	索引	近期收录
127	18	电脑端优秀	1	0	2

协议类型HTTP/2.0 200 OK 页面类型text/html; charset=UTF-8 服务器类型nginx 是否压缩是 原网页大小66630 压缩后大小15528 压缩比76.7%

科 学 空 间 | S c i e n t i f i c S p a c e s S E A R C H M E N U 打 赏 公 式 天 象 链 接 时 光 博 览 归 档 C A T E G O R I E S 千 奇 百 怪 天 文 探 索 数 学 研 究 物 理 化 学 信 息 时 代 生 物 自 然 图 片 摄 影 问 题 百 科 生 活 / 情 感 资 源 共 享 N E W P O S T S 重 温 S S M （ 二 ） ： H i P P O 的 一 些 . . . T r a n s f o r m e r 升 级 之 路 ： 1 . . . 重 温 S S M （ 一 ） ： 线 性 系 统 和 H i P . . . 缓 存 与 效 果 的 极 限 拉 扯 ： 从 M H A 、 M . . . C o o l P a p e r s 更 新 ： 简 单 搭 . . . 以 蒸 馏 的 名 义 ： “ 从 去 噪 自 编 码 器 到 生 . . . 生 成 扩 散 模 型 漫 谈 （ 二 十 四 ） ： 少 走 捷 . . . 生 成 扩 散 模 型 漫 谈 （ 二 十 三 ） ： 信 噪 比 . . . 生 成 扩 散 模 型 漫 谈 （ 二 十 二 ） ： 信 噪 比 . . . T r a n s f o r m e r 升 级 之 路 ： 1 . . . C O M M E N T S 想 过 好 日 子 的 瓜 娃 子 : 谢 谢 苏 神 ， 我 明 白 了 您 的 意 思 ， 我 觉 得 我 个 人 还 是 觉 得 原 论 文 里 面 的 思 . . . 苏 剑 林 : $ z $ 本 身 已 经 有 来 自 A u t o e n c o d e r 的 梯 度 来 ， 所 以 它 关 于 . . . 苏 剑 林 : 1 、 M L A 跟 L o R A 没 什 么 关 系 ， 不 建 议 从 L o R A 角 度 理 解 M L A . . . 苏 剑 林 : 一 般 来 说 ， $ n $ 越 大 ， $ g _ n ( t ) $ 描 述 的 信 号 越 高 频 ， 也 就 是 . . . 苏 剑 林 : 正 交 基 的 范 围 是 $ [ 0 , 1 ] $ ， 函 数 的 定 义 域 也 是 $ [ 0 , 1 ] $ ， . . . 苏 剑 林 : 一 般 的 正 交 基 就 是 定 义 在 指 定 区 间 内 的 ， 比 如 勒 让 德 基 就 是 $ [ 1 , . . . 苏 剑 林 : 这 是 定 义 啊 ， $ \ \ b a r _ t = \ \ a l p h a _ . . . 苏 剑 林 : C o o l P a p e r s 全 站 的 代 码 不 能 开 源 。 如 果 你 只 想 看 检 索 部 分 . . . 苏 剑 林 : $ g _ n ( s ) $ 不 需 要 正 交 ， 后 面 也 没 用 到 这 一 点 ， 而 是 需 要 将 $ . . . 苏 剑 林 : 二 次 函 数 $ a x ^ 2 + b x + c \ \ , ( a > 0 ) $ 的 最 小 . . . U S E R L O G I N 登 录 科 学 空 间 | S c i e n t i f i c S p a c e s 登 录 打 赏 公 式 天 象 链 接 时 光 博 览 归 档 渴 望 成 为 一 个 小 飞 侠 欢 迎 订 阅 个 性 邮 箱 天 象 信 息 观 测 I S S L a T e X 关 于 博 主 欢 迎 访 问 “ 科 学 空 间 ” ， 这 里 将 与 您 共 同 探 讨 自 然 科 学 ， 回 味 人 生 百 态 ； 也 期 待 大 家 的 分 享 ～ 千 奇 百 怪 E v e r y t h i n g 天 文 探 索 A s t r o n o m y 数 学 研 究 M a t h e m a t i c s 物 理 化 学 P h y c h e m 信 息 时 代 B i g D a t a 生 物 自 然 B i o l o g y 图 片 摄 影 P h o t o g r a p h 问 题 百 科 Q u e s t i o n s 生 活 / 情 感 L i f e F e e l i n g 资 源 共 享 R e s o u r c e s 千 奇 百 怪 天 文 探 索 数 学 研 究 物 理 化 学 信 息 时 代 生 物 自 然 图 片 摄 影 问 题 百 科 生 活 / 情 感 资 源 共 享 感 谢 国 家 天 文 台 L A M O S T 项 目 之 “ 宇 宙 驿 站 ” 提 供 网 络 空 间 和 数 据 库 资 源 ! 感 谢 国 家 天 文 台 崔 辰 州 博 士 等 人 的 多 方 努 力 和 技 术 支 持 ！ 科 学 空 间 致 力 于 知 识 分 享 ， 所 以 欢 迎 您 转 载 本 站 文 章 ， 但 转 载 本 站 内 容 必 须 遵 循 署 名 非 商 业 用 途 保 持 一 致 的 创 作 共 用 协 议 。 参 与 科 学 空 间 为 了 保 证 你 的 利 益 ， 推 荐 你 注 册 为 本 站 会 员 。 同 时 欢 迎 通 过 邮 件 或 留 言 进 行 交 流 、 建 议 或 反 馈 科 学 空 间 的 问 题 。 会 员 注 册 会 员 登 录 查 看 全 站 文 章 归 档 页 5 J u n 重 温 S S M （ 二 ） ： H i P P O 的 一 些 遗 留 问 题 B y 苏 剑 林 | 2 0 2 4 0 6 0 5 | 2 2 0 1 位 读 者 | 引 用 书 接 上 文 ， 在 上 一 篇 文 章 《 重 温 S S M （ 一 ） ： 线 性 系 统 和 H i P P O 矩 阵 》 中 ， 我 们 详 细 讨 论 了 H i P P O 逼 近 框 架 其 H i P P O 矩 阵 的 推 导 ， 其 原 理 是 通 过 正 交 函 数 基 来 动 态 地 逼 近 一 个 实 时 更 新 的 函 数 ， 其 投 影 系 数 的 动 力 学 正 好 是 一 个 线 性 系 统 ， 而 如 果 以 正 交 多 项 式 为 基 ， 那 么 线 性 系 统 的 核 心 矩 阵 我 们 可 以 解 析 地 求 解 出 来 ， 该 矩 阵 就 称 为 H i P P O 矩 阵 。 当 然 ， 上 一 篇 文 章 侧 重 于 H i P P O 矩 阵 的 推 导 ， 并 没 有 对 它 的 性 质 做 进 一 步 分 析 ， 此 外 诸 如 “ 如 何 离 散 化 以 应 用 于 实 际 数 据 ” 、 “ 除 了 多 项 式 基 外 其 他 基 是 否 也 可 以 解 析 求 解 ” 等 问 题 也 没 有 详 细 讨 论 到 。 接 下 来 我 们 将 补 充 探 讨 相 关 问 题 。 离 散 格 式 假 设 读 者 已 经 阅 读 并 理 解 上 一 篇 文 章 的 内 容 ， 那 么 这 里 我 们 就 不 再 进 行 过 多 的 铺 垫 。 在 上 一 篇 文 章 中 ， 我 们 推 导 出 了 两 类 线 性 O D E 系 统 ， 分 别 是 ： \ \ b e g i n & \ \ t e x t \ \ q u a d x ( t ) = A x ( t ) + B u ( t ) \ \ l a b e l \ \ \ \ [ 5 p t ] & \ \ t e x t \ \ q u a d x ( t ) = \ \ f r a c x ( t ) + \ \ f r a c u ( t ) \ \ l a b e l \ \ e n d 其 中 $ A , B $ 是 与 时 间 $ t $ 无 关 的 常 数 矩 阵 ， H i P P O 矩 阵 主 要 指 矩 阵 $ A $ 。 在 这 一 节 中 ， 我 们 讨 论 这 两 个 O D E 的 离 散 化 。 点 击 阅 读 全 文 . . . 分 类 ： 数 学 研 究     标 签 ： 线 性 , 差 分 , R N N , 梯 度 , s s m 阅 读 全 文 2 评 论 2 9 M a y T r a n s f o r m e r 升 级 之 路 ： 1 8 、 R o P E 的 底 数 设 计 原 则 B y 苏 剑 林 | 2 0 2 4 0 5 2 9 | 1 9 5 8 5 位 读 者 | 引 用 我 们 知 道 ， 在 R o P E 中 频 率 的 计 算 公 式 为 $ \ \ t h e t a _ i = b ^ $ ， 底 数 $ b $ 默 认 值 为 1 0 0 0 0 。 目 前 L o n g C o n t e x t 的 主 流 做 法 之 一 是 ， 先 在 $ b = 1 0 0 0 0 $ 上 用 短 文 本 预 训 练 ， 然 后 调 大 $ b $ 并 在 长 文 本 微 调 ， 其 出 发 点 是 《 T r a n s f o r m e r 升 级 之 路 ： 1 0 、 R o P E 是 一 种 β 进 制 编 码 》 里 介 绍 的 N T K R o P E ， 它 本 身 有 较 好 长 度 外 推 性 ， 换 用 更 大 的 $ b $ 再 微 调 相 比 不 加 改 动 的 微 调 ， 起 始 损 失 更 小 ， 收 敛 也 更 快 。 该 过 程 给 人 的 感 觉 是 ： 调 大 $ b $ 完 全 是 因 为 “ 先 短 后 长 ” 的 训 练 策 略 ， 如 果 一 直 都 用 长 文 本 训 练 似 乎 就 没 必 要 调 大 $ b $ 了 ？ 上 周 的 论 文 《 B a s e o f R o P E B o u n d s C o n t e x t L e n g t h 》 试 图 回 答 这 个 问 题 ， 它 基 于 一 个 期 望 性 质 研 究 了 $ b $ 的 下 界 ， 由 此 指 出 更 大 的 训 练 长 度 本 身 就 应 该 选 择 更 大 的 底 数 ， 与 训 练 策 略 无 关 。 整 个 分 析 思 路 颇 有 启 发 性 ， 接 下 来 我 们 一 起 来 品 鉴 一 番 。 点 击 阅 读 全 文 . . . 分 类 ： 信 息 时 代     标 签 ： 不 等 式 , a t t e n t i o n , 位 置 编 码 , r o p e 阅 读 全 文 7 评 论 2 4 M a y 重 温 S S M （ 一 ） ： 线 性 系 统 和 H i P P O 矩 阵 B y 苏 剑 林 | 2 0 2 4 0 5 2 4 | 6 7 6 5 位 读 者 | 引 用 前 几 天 ， 笔 者 看 了 几 篇 介 绍 S S M （ S t a t e S p a c e M o d e l ） 的 文 章 ， 才 发 现 原 来 自 己 从 未 认 真 了 解 过 S S M ， 于 是 打 算 认 真 去 学 习 一 下 S S M 的 相 关 内 容 ， 顺 便 开 了 这 个 新 坑 ， 记 录 一 下 学 习 所 得 。 S S M 的 概 念 由 来 已 久 ， 但 这 里 我 们 特 指 深 度 学 习 中 的 S S M ， 一 般 认 为 其 开 篇 之 作 是 2 0 2 1 年 的 S 4 ， 不 算 太 老 ， 而 S S M 最 新 最 火 的 变 体 大 概 是 去 年 的 M a m b a 。 当 然 ， 当 我 们 谈 到 S S M 时 ， 也 可 能 泛 指 一 切 线 性 R N N 模 型 ， 这 样 R W K V 、 R e t N e t 还 有 此 前 我 们 在 《 G o o g l e 新 作 试 图 “ 复 活 ” R N N ： R N N 能 否 再 次 辉 煌 ？ 》 介 绍 过 的 L R U 都 可 以 归 入 此 类 。 不 少 S S M 变 体 致 力 于 成 为 T r a n s f o r m e r 的 竞 争 者 ， 尽 管 笔 者 并 不 认 为 有 完 全 替 代 的 可 能 性 ， 但 S S M 本 身 优 雅 的 数 学 性 质 也 值 得 学 习 一 番 。 尽 管 我 们 说 S S M 起 源 于 S 4 ， 但 在 S 4 之 前 ， S S M 有 一 篇 非 常 强 大 的 奠 基 之 作 《 H i P P O : R e c u r r e n t M e m o r y w i t h O p t i m a l P o l y n o m i a l P r o j e c t i o n s 》 （ 简 称 H i P P O ） ， 所 以 本 文 从 H i P P O 开 始 说 起 。 点 击 阅 读 全 文 . . . 分 类 ： 数 学 研 究     标 签 ： 微 分 方 程 , 线 性 , R N N , s s m 阅 读 全 文 2 3 评 论 1 3 M a y 缓 存 与 效 果 的 极 限 拉 扯 ： 从 M H A 、 M Q A 、 G Q A 到 M L A B y 苏 剑 林 | 2 0 2 4 0 5 1 3 | 2 0 3 7 0 位 读 者 | 引 用 前 几 天 ， 幻 方 发 布 的 D e e p S e e k V 2 引 起 了 大 家 的 热 烈 讨 论 。 首 先 ， 最 让 人 哗 然 的 是 1 块 钱 1 0 0 万 t o k e n 的 价 格 ， 普 遍 比 现 有 的 各 种 竞 品 A P I 便 宜 了 两 个 数 量 级 ， 以 至 于 有 人 调 侃 “ 这 个 价 格 哪 怕 它 输 出 乱 码 ， 我 也 会 认 为 这 个 乱 码 是 一 种 艺 术 ” ； 其 次 ， 从 模 型 的 技 术 报 告 看 ， 如 此 便 宜 的 价 格 背 后 的 关 键 技 术 之 一 是 它 新 提 出 的 M L A （ M u l t i h e a d L a t e n t A t t e n t i o n ） ， 这 是 对 G Q A 的 改 进 ， 据 说 能 比 G Q A 更 省 更 好 ， 也 引 起 了 读 者 的 广 泛 关 注 。 接 下 来 ， 本 文 将 跟 大 家 一 起 梳 理 一 下 从 M H A 、 M Q A 、 G Q A 到 M L A 的 演 变 历 程 ， 并 着 重 介 绍 一 下 M L A 的 设 计 思 路 。 M H A M H A （ M u l t i H e a d A t t e n t i o n ） ， 也 就 是 多 头 注 意 力 ， 是 开 山 之 作 《 A t t e n t i o n i s a l l y o u n e e d 》 所 提 出 的 一 种 A t t e n t i o n 形 式 ， 可 以 说 它 是 当 前 主 流 L L M 的 基 础 工 作 。 在 数 学 上 ， 多 头 注 意 力 M H A 等 价 于 多 个 独 立 的 单 头 注 意 力 的 拼 接 ， 假 设 输 入 的 （ 行 ） 向 量 序 列 为 $ \ \ b o l d s y m b o l _ 1 , \ \ b o l d s y m b o l _ 2 , \ \ c d o t s , \ \ b o l d s y m b o l _ l $ ， 其 中 $ \ \ b o l d s y m b o l _ i \ \ i n \ \ m a t h b b ^ d $ ， 那 么 M H A 可 以 形 式 地 记 为 点 击 阅 读 全 文 . . . 分 类 ： 信 息 时 代     标 签 ： 优 化 , 语 言 模 型 , 生 成 模 型 , a t t e n t i o n 阅 读 全 文 4 4 评 论 7 M a y C o o l P a p e r s 更 新 ： 简 单 搭 建 了 一 个 站 内 检 索 系 统 B y 苏 剑 林 | 2 0 2 4 0 5 0 7 | 9 4 8 2 位 读 者 | 引 用 自 从 《 更 便 捷 的 C o o l P a p e r s 打 开 方 式 ： C h r o m e 重 定 向 扩 展 》 之 后 ， C o o l P a p e r s 有 两 次 比 较 大 的 变 化 ， 一 次 是 引 入 了 v e n u e 分 支 ， 逐 步 收 录 了 一 些 会 议 历 年 的 论 文 集 ， 如 I C L R 、 I C M L 等 ， 这 部 分 是 动 态 人 工 扩 充 的 ， 欢 迎 有 心 仪 的 会 议 的 读 者 提 更 多 需 求 ； 另 一 次 就 是 本 文 的 主 题 ， 前 天 新 增 加 的 站 内 检 索 功 能 。 本 文 将 简 单 介 绍 一 下 新 增 功 能 ， 并 对 搭 建 站 内 检 索 系 统 的 过 程 做 个 基 本 总 结 。 简 介 在 C o o l P a p e r s 的 首 页 ， 我 们 看 到 搜 索 入 口 ： C o o l P a p e r s （ 2 0 2 4 . 0 5 . 0 7 ） 点 击 阅 读 全 文 . . . 分 类 ： 信 息 时 代 , 生 活 / 情 感     标 签 ： 网 站 , 论 文 阅 读 全 文 1 8 评 论 1 M a y 以 蒸 馏 的 名 义 ： “ 从 去 噪 自 编 码 器 到 生 成 模 型 ” 重 现 江 湖 B y 苏 剑 林 | 2 0 2 4 0 5 0 1 | 1 2 3 3 4 位 读 者 | 引 用 今 天 我 们 分 享 一 下 论 文 《 S c o r e i d e n t i t y D i s t i l l a t i o n : E x p o n e n t i a l l y F a s t D i s t i l l a t i o n o f P r e t r a i n e d D i f f u s i o n M o d e l s f o r O n e S t e p G e n e r a t i o n 》 ， 顾 名 思 义 ， 这 是 一 篇 探 讨 如 何 更 快 更 好 地 蒸 馏 扩 散 模 型 的 新 论 文 。 即 便 没 有 做 过 蒸 馏 ， 大 家 应 该 也 能 猜 到 蒸 馏 的 常 规 步 骤 ： 随 机 采 样 大 量 输 入 ， 然 后 用 扩 散 模 型 生 成 相 应 结 果 作 为 输 出 ， 用 这 些 输 入 输 出 作 为 训 练 数 据 对 ， 来 监 督 训 练 一 个 新 模 型 。 然 而 ， 众 所 周 知 作 为 教 师 的 原 始 扩 散 模 型 通 常 需 要 多 步 （ 比 如 1 0 0 0 步 ） 迭 代 才 能 生 成 高 质 量 输 出 ， 所 以 且 不 论 中 间 训 练 细 节 如 何 ， 该 方 案 的 一 个 显 著 缺 点 是 生 成 训 练 数 据 太 费 时 费 力 。 此 外 ， 蒸 馏 之 后 的 学 生 模 型 通 常 或 多 或 少 都 有 效 果 损 失 。 有 没 有 方 法 能 一 次 性 解 决 这 两 个 缺 点 呢 ？ 这 就 是 上 述 论 文 试 图 要 解 决 的 问 题 。 点 击 阅 读 全 文 . . . 分 类 ： 数 学 研 究 , 信 息 时 代     标 签 ： 生 成 模 型 , 梯 度 , 扩 散 , 去 噪 阅 读 全 文 1 7 评 论 2 3 A p r 生 成 扩 散 模 型 漫 谈 （ 二 十 四 ） ： 少 走 捷 径 ， 更 快 到 达 B y 苏 剑 林 | 2 0 2 4 0 4 2 3 | 1 3 7 8 0 位 读 者 | 引 用 如 何 减 少 采 样 步 数 同 时 保 证 生 成 质 量 ， 是 扩 散 模 型 应 用 层 面 的 一 个 关 键 问 题 。 其 中 ， 《 生 成 扩 散 模 型 漫 谈 （ 四 ） ： D D I M = 高 观 点 D D P M 》 介 绍 的 D D I M 可 谓 是 加 速 采 样 的 第 一 次 尝 试 。 后 来 ， 《 生 成 扩 散 模 型 漫 谈 （ 五 ） ： 一 般 框 架 之 S D E 篇 》 、 《 生 成 扩 散 模 型 漫 谈 （ 五 ） ： 一 般 框 架 之 O D E 篇 》 等 所 介 绍 的 工 作 将 扩 散 模 型 与 S D E 、 O D E 联 系 了 起 来 ， 于 是 相 应 的 数 值 积 分 技 术 也 被 直 接 用 于 扩 散 模 型 的 采 样 加 速 ， 其 中 又 以 相 对 简 单 的 O D E 加 速 技 术 最 为 丰 富 ， 我 们 在 《 生 成 扩 散 模 型 漫 谈 （ 二 十 一 ） ： 中 值 定 理 加 速 O D E 采 样 》 也 介 绍 过 一 例 。 这 篇 文 章 我 们 介 绍 另 一 个 特 别 简 单 有 效 的 加 速 技 巧 — — S k i p T u n i n g ， 出 自 论 文 《 T h e S u r p r i s i n g E f f e c t i v e n e s s o f S k i p T u n i n g i n D i f f u s i o n S a m p l i n g 》 ， 准 确 来 说 它 是 配 合 已 有 的 加 速 技 巧 使 用 ， 来 一 步 提 高 采 样 质 量 ， 这 就 意 味 着 在 保 持 相 同 采 样 质 量 的 情 况 下 ， 它 可 以 进 一 步 压 缩 采 样 步 数 ， 从 而 实 现 加 速 。 点 击 阅 读 全 文 . . . 分 类 ： 信 息 时 代     标 签 ： 微 分 方 程 , 生 成 模 型 , 扩 散 阅 读 全 文 9 评 论 1 7 A p r 生 成 扩 散 模 型 漫 谈 （ 二 十 三 ） ： 信 噪 比 与 大 图 生 成 （ 下 ） B y 苏 剑 林 | 2 0 2 4 0 4 1 7 | 1 5 4 8 6 位 读 者 | 引 用 上 一 篇 文 章 《 生 成 扩 散 模 型 漫 谈 （ 二 十 二 ） ： 信 噪 比 与 大 图 生 成 （ 上 ） 》 中 ， 我 们 介 绍 了 通 过 对 齐 低 分 辨 率 的 信 噪 比 来 改 进 n o i s e s c h e d u l e ， 从 而 改 善 直 接 在 像 素 空 间 训 练 的 高 分 辨 率 图 像 生 成 （ 大 图 生 成 ） 的 扩 散 模 型 效 果 。 而 这 篇 文 章 的 主 角 同 样 是 信 噪 比 和 大 图 生 成 ， 但 做 到 了 更 加 让 人 惊 叹 的 事 情 — — 直 接 将 训 练 好 低 分 辨 率 图 像 的 扩 散 模 型 用 于 高 分 辨 率 图 像 生 成 ， 不 用 额 外 的 训 练 ， 并 且 效 果 和 推 理 成 本 都 媲 美 直 接 训 练 的 大 图 模 型 ！ 这 个 工 作 出 自 最 近 的 论 文 《 U p s a m p l e G u i d a n c e : S c a l e U p D i f f u s i o n M o d e l s w i t h o u t T r a i n i n g 》 ， 它 巧 妙 地 将 低 分 辨 率 模 型 上 采 样 作 为 引 导 信 号 ， 并 结 合 了 C N N 对 纹 理 细 节 的 平 移 不 变 性 ， 成 功 实 现 了 免 训 练 高 分 辨 率 图 像 生 成 。 思 想 探 讨 我 们 知 道 ， 扩 散 模 型 的 训 练 目 标 是 去 噪 （ D e n o i s e ， 也 是 D D P M 的 第 一 个 D ） 。 按 我 们 的 直 觉 ， 去 噪 这 个 任 务 应 该 是 分 辨 率 无 关 的 ， 换 句 话 说 ， 理 想 情 况 下 低 分 辨 率 图 像 训 练 的 去 噪 模 型 应 该 也 能 用 于 高 分 辨 率 图 像 去 噪 ， 从 而 低 分 辨 率 的 扩 散 模 型 应 该 也 能 直 接 用 于 高 分 辨 率 图 像 生 成 。 点 击 阅 读 全 文 . . . 分 类 ： 信 息 时 代     标 签 ： 无 监 督 , 生 成 模 型 , 扩 散 , 信 噪 比 阅 读 全 文 1 2 评 论 1 2 3 4 . . . 1 5 1 » 关 于 站 长 苏 剑 林 | B o J o n e ， 科 学 空 间 博 主 ， 【 数 学 、 天 文 、 理 论 物 理 、 写 作 、 阅 读 、 计 算 机 、 中 国 象 棋 、 厨 房 】 爱 好 者 （ 但 不 专 业 ） . . . . . . 目 前 3 1 岁 ， 还 在 单 调 递 增 。 希 望 能 一 直 在 此 分 享 科 学 之 美 ～ 你 也 许 会 关 心 ： 科 学 空 间 | S c i e n t i f i c S p a c e s 介 绍 科 学 空 间 Q Q 交 流 群 ： 6 7 7 2 9 4 3 5 科 学 空 间 微 信 交 流 群 ： s p a c e s _ a c _ c n 常 见 问 题 集 ： 《 科 学 空 间 F A Q 》 智 能 搜 索 支 持 整 句 搜 索 ！ 网 站 自 动 使 用 结 巴 分 词 进 行 分 词 ， 并 结 合 n g r a m s 排 序 算 法 给 出 合 理 的 搜 索 结 果 。 热 门 标 签 生 成 模 型 a t t e n t i o n 模 型 语 言 模 型 优 化 网 站 概 率 转 载 微 分 方 程 天 象 深 度 学 习 积 分 p y t h o n 分 析 无 监 督 梯 度 力 学 节 日 几 何 文 本 生 成 数 论 矩 阵 G A N 生 活 扩 散 最 新 文 章 重 温 S S M （ 二 ） ： H i P P O 的 一 些 遗 留 问 题 T r a n s f o r m e r 升 级 之 路 ： 1 8 、 R o P . . . 重 温 S S M （ 一 ） ： 线 性 系 统 和 H i P P O 矩 阵 缓 存 与 效 果 的 极 限 拉 扯 ： 从 M H A 、 M Q A 、 G Q . . . C o o l P a p e r s 更 新 ： 简 单 搭 建 了 一 个 站 . . . 以 蒸 馏 的 名 义 ： “ 从 去 噪 自 编 码 器 到 生 成 模 型 ” 重 现 江 湖 生 成 扩 散 模 型 漫 谈 （ 二 十 四 ） ： 少 走 捷 径 ， 更 快 到 达 生 成 扩 散 模 型 漫 谈 （ 二 十 三 ） ： 信 噪 比 与 大 图 生 成 （ 下 ） 生 成 扩 散 模 型 漫 谈 （ 二 十 二 ） ： 信 噪 比 与 大 图 生 成 （ 上 ） T r a n s f o r m e r 升 级 之 路 ： 1 7 、 多 模 态 . . . 最 近 评 论 想 过 好 日 子 的 瓜 娃 子 : 谢 谢 苏 神 ， 我 明 白 了 您 的 意 思 ， 我 觉 得 我 个 人 还 是 觉 得 原 论 文 里 面 的 思 路 好 理 解 一 点 。 但 是 我 还 有 一 个 疑 惑 . . . 苏 剑 林 : $ z $ 本 身 已 经 有 来 自 A u t o e n c o d e r 的 梯 度 来 ， 所 以 它 关 于 编 码 表 的 梯 度 可 以 适 当 降 低 ， 而 $ z . . . 苏 剑 林 : 1 、 M L A 跟 L o R A 没 什 么 关 系 ， 不 建 议 从 L o R A 角 度 理 解 M L A ， M L A 纯 粹 是 G Q A 的 一 般 化 ， 所 . . . 苏 剑 林 : 一 般 来 说 ， $ n $ 越 大 ， $ g _ n ( t ) $ 描 述 的 信 号 越 高 频 ， 也 就 是 说 越 大 的 $ n $ 描 述 的 是 越 震 荡 的 高 . . . 苏 剑 林 : 正 交 基 的 范 围 是 $ [ 0 , 1 ] $ ， 函 数 的 定 义 域 也 是 $ [ 0 , 1 ] $ ， 你 先 认 真 看 一 下 推 导 逻 辑 。 通 过 变 量 . . . 苏 剑 林 : 一 般 的 正 交 基 就 是 定 义 在 指 定 区 间 内 的 ， 比 如 勒 让 德 基 就 是 $ [ 1 , 1 ] $ 内 ， 你 想 拓 展 到 $ [ 0 , T ] . . . 苏 剑 林 : 这 是 定 义 啊 ， $ \ \ b a r _ t = \ \ a l p h a _ 1 \ \ c d o t s \ \ a l p h a _ . . . 苏 剑 林 : C o o l P a p e r s 全 站 的 代 码 不 能 开 源 。 如 果 你 只 想 看 检 索 部 分 ， 本 文 已 经 说 了 ， 检 索 系 统 的 后 端 是 . . . 苏 剑 林 : $ g _ n ( s ) $ 不 需 要 正 交 ， 后 面 也 没 用 到 这 一 点 ， 而 是 需 要 将 $ g _ n ( s ) $ 表 示 为 正 交 函 数 $ . . . 苏 剑 林 : 二 次 函 数 $ a x ^ 2 + b x + c \ \ , ( a > 0 ) $ 的 最 小 值 点 是 $ x = \ \ f r a c { . . . 友 情 链 接 C o o l P a p e r s 数 学 研 发 S e a t o p X i a o x i a 积 分 表 网 络 版 丝 路 博 傲 p h 4 n t a s y 饭 特 稀 数 学 之 家 有 趣 天 文 奇 观 b s k y T w i s t e d W g o d w e i y a n g A I 柠 檬 王 登 科 D K 博 客 E S O N 枫 之 羽 M a t h o r s b l o g 孙 云 增 的 博 客 c o d i n g z u o 博 科 园 孔 皮 皮 的 博 客 运 鹏 的 博 客 j i m i n g . s i t e O m e g a X Y Z B l o g b y E a c l s 申 请 链 接 本 站 采 用 创 作 共 用 版 权 协 议 ， 要 求 署 名 、 非 商 业 用 途 和 保 持 一 致 。 转 载 本 站 内 容 必 须 也 遵 循 “ 署 名 非 商 业 用 途 保 持 一 致 ” 的 创 作 共 用 协 议 。 © 2 0 0 9 2 0 2 4 S c i e n t i f i c S p a c e s . A l l r i g h t s r e s e r v e d . T h e m e b y l a o g u i . P o w e r e d b y T y p e c h o . 备 案 号 : 粤 I C P 备 0 9 0 9 3 2 5 9 号 1 / 2 。

做上本站友情链接,在您站上点击一次,即可自动秒收录并自动排在本站第一位！
<a href="https://www.kmphb.net/" target="_blank">看嘛收录网</a>