-
【课程总结】day24（上）：大模型三阶段训练方法(LLaMa Factory)
前言 本章我们将通过 LLaMA-Factory 具体实践大模型训练的三个阶段，包括：预训练、监督微调和偏好纠正。 大模型训练回顾 训练目标 训练一个医疗大模型 训练过程实施 准备训练框架 LLaMA Factory是一款开源低...
-
Stable Diffusion【Pony模型】【2.5D模型】：细腻画质&可爱韩版风格的大模型Speciosa 2.5D
大家好我是安琪！！！ Stable Diffusion是一款前沿的AI图像生成技术，它能够根据提示词创造出极具艺术感的图像。本文将探讨如何利用Stable Diffusion的图生图功能和局部重绘（手涂蒙版）技术，为您的艺术创作带来全新的创意和个性化表达...
-
Dreambooth-Stable-Diffusion 使用教程
Dreambooth-Stable-Diffusion 使用教程 Dreambooth-Stable-DiffusionImplementation of Dreambooth (https://arxiv.org/abs/2208.12242 by...
-
没有算力？我发现一个白PIAO 4090 GPU的机会
最近发现京东云在推他们的GPU算力平台，竟然被我发现一个白嫖的机会，花9块9，可以用两天英伟达4090，太爽了。 不知道是不是他们的一个BUG，反正现在亲测有效。我是凌晨1点买的，原以为是第二天凌晨1点就到期了，没想到是第二天晚上12点才到期，应该是他们...
-
开源模型应用落地-qwen2-7b-instruct-LoRA微调&模型合并-LLaMA-Factory-单机多卡-RTX 4090双卡（六）
一、前言 本篇文章将使用LLaMA-Factory去合并微调后的模型权重，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。 二、术语介绍 2.1. LoRA微调 LoRA (Low-Ra...
-
掌握 Llama 3.1：轻松本地部署与远程使用的全攻略
前言: Llama 3.1 是 Meta（Facebook 的母公司）发布的一系列最先进的开源大语言模型。Llama 3.1 系列包括 8B（80 亿参数）、70B（700 亿参数）和 405B（4050 亿参数）模型。其中，405B 是 Meta 迄...
-
Datawhale Al夏令营 AIGC方向 task2
1、代码解读 1.1、安装 Data-Juicer 和 DiffSynth-Studio # 安装 Data-Juicer 和 DiffSynth-Studio !pip install simple-aesthetics-predictor # 安...
-
使用llama factory对语言模型微调，重塑自我认知，并部署于ollama上
本文记录了从环境部署到微调模型、效果测试并部署的全过程。 一 环境 如果使用autodl租赁服务器则不需要如下步骤，但是请注意llama_factory需要python、cuda等版本满足： 首先请确报你已经安装好了conda工具...
-
小白教程：Unsloth 打造属于自己的中文版Llama3
在定制化业务场景中，如果利用专属数据集，经过微调的大模型能够在多种任务上与GPT-4媲美，并支持本地部署，保护隐私，同时还能降低运算成本。最新推出的Llama3，作为当前性能最强的开源基础大模型，非常适用于自然语言处理、机器翻译、文本生成、问答系统、聊天机...
-
Datawhale X 魔塔AI夏令营 ——从零入门AI生图原理&实践_task 1
一. 基础知识 1.1 文生图发展历史 1.2 文生图基础知识 文生图主要以SD系列基础模型为主，以及在其基础上微调的lora模型和人物基础模型等。 1.2.1 文生图流程图 1. 输入提示词 ...
-
【深度学习】LLaMA-Factory 大模型微调工具, 大模型GLM-4-9B Chat ，微调与部署 (2)
文章目录 数据准备 chat 评估模型 导出模型 部署 总结 资料： https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md https:...
-
从头开始微调Llama 3.1模型
在今天的科技专栏中，我们将深入探讨如何微调Llama 3.1模型，以使其更好地适应您的特定领域数据。微调大型语言模型（如Llama）的主要目的是为了在特定领域的数据上表现更好，从而生成更符合您需求的输出。以下是我们将要介绍的五个主要步骤： 安装必要的软...
-
【史上最强的AIGC的使用场景和具体案例分析】
AIGC（Artificial Intelligence in Game Creation）是一种利用人工智能技术辅助游戏开发的方法。它可以用于游戏中的各个方面，包括游戏设计、关卡设计、角色设计、AI行为设计等。 以下是一些AIGC的使用场景和具体案例...
-
Datawhale X 魔搭 AI夏令营第四期 AIGC方向 学习笔记（一）
本期主要任务是了解AI文生图的原理并进行相关实践 下面是对baseline部分代码的功能介绍： 安装Data-juicere和DiffSynth-Studio !pip install simple-aesthetics-predictor !pip...
-
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task 1笔记
引言 本笔记可以作为学习手册的扩充版本，也是一份快速上手的指南。灰色的备注部分包含了关于步骤的详细解释和扩展内容，建议你可以先跳过这些备注，等完成所有步骤后再回头查阅。 第一步：搭建代码环境 1.1 申请阿里云PAI-DSW 阿里云PAI-D...
-
ComfyUI系列教程(1)--Stable Diffusion基本原理
1.Stable Diffusion文生图基本原理 1.1Stable Diffusion原理介绍 文生图主要基于Stable Diffusion大模型进行。SD的基本结构图如下图所示，主要包括3个部分。其中1是CLIP图像文本对，将图...
-
Lag-Llama 开源项目实战指南
Lag-Llama 开源项目实战指南 lag-llamaLag-Llama: Towards Foundation Models for Probabilistic Time Series Forecasting项目地址:https://gitcode...
-
LLAMA Factory: 简洁高效的大语言模型训练平台
LLAMA Factory: 简洁高效的大语言模型训练平台 LLaMA-Factory易于使用的LLM微调框架（LLaMA, BLOOM, Mistral, 百川， Qwen, ChatGLM）。项目地址:https://gitcode.com/gh_...
-
LLaMA-Factory全面指南：从训练到部署
项目背景与概述 LLaMA-Factory项目目标 LLaMA-Factory项目是一个专注于大模型训练、微调、推理和部署的开源平台。其主要目标是提供一个全面且高效的解决方案，帮助研究人员和开发者快速实现大模型的定制化需求。具体来说，LLaMA-F...
-
【机器学习】Google开源大模型Gemma2：原理、微调训练及推理部署实战
目录 一、引言 二、模型简介 2.1 Gemma2概述 2.2 Gemma2 模型架构 三、训练与推理 3.1 Gemma2 模型训练 3.1.1 下载基座模型 3.1.2 导入依赖库 3.1.3 量化配置 3.1.4 分词器和模型实...
-
【Qwen2微调实战】Lora微调Qwen2-7B-Instruct实践指南
系列篇章? No. 文章 1 【Qwen部署实战】探索Qwen-7B-Chat：阿里云大型语言模型的对话实践 2 【Qwen2部署实战】Qwen2初体验：用Transformers打造智能聊天机器人 3 【Qwen2部署实战】探索Qw...
-
Chinese-LLaMA-Alpaca-3 项目使用教程
Chinese-LLaMA-Alpaca-3 项目使用教程 Chinese-LLaMA-Alpaca-3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs developed from Meta Llama 3项目地址:https:/...
-
Datawhale X 魔搭 AI夏令营第四期 | AIGC文生图——可图Kolors-LoRA风格故事 Task1笔记
Hi，大家好，我是半亩花海。最近在尝试学习AIGC的内容，并报名参加了Datawhale举办的2024年AI第四期夏令营，主要学习内容是从零入门AI生图原理和实践。本次活动基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”进而开展的项目实践学习，很适...
-
开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory（五）
一、前言 本篇文章将使用LLaMA-Factory去高效微调QWen2系列模型，通过阅读本文，您将能够更好地掌握这些关键技术，理解其中的关键技术要点，并应用于自己的项目中。 二、术语介绍 2.1. LoRA微调 LoRA (Low...
-
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记
不用写一行代码，只需要跟着步骤点点点，就可以完成task01！ 本笔记可视作学习手册速通指南的扩充版本。 灰色的备注是关于该步骤的解释和拓展，可以先跳过，等走完所有步骤再回头看！ 第一步 搭建代码环境 1.1 阿里云PAI-DSW申请...
-
Huatuo Llama Med Chinese 教程
Huatuo Llama Med Chinese 教程 Huatuo-Llama-Med-ChineseRepo for BenTsao [original name: HuaTuo (华驼 ], Instruction-tuning Large La...
-
Stable Diffusion之最全详细图解
Stable Diffusion是一种生成模型，用于生成高质量的图像。这种模型基于扩散过程，能够逐步将噪声转换为清晰的图像。以下是关于Stable Diffusion的详细图解，涵盖其原理、模型结构、训练过程及应用示例。 一、Stable Diffusi...
-
记一次：Datawhale AI夏令营-第四期-魔塔-AIGC-Task01
前言：随着AI时代的来临，本人也想深入的了解一下不被时代淘汰（紧追）正好看见有夏令营这方面的，顺便来参加一下学习一下。 学习任务目录 一、赛事环境准备 二、跑通 “可图Kolors-LoRA风格故事挑战赛” 一、赛事环境准备 0、夏令营介绍...
-
Datawhale AI夏令营第四期 魔搭-AIGC方向 task01笔记
目录 赛题内容 可图Kolors-LoRA风格故事挑战赛 baseline要点讲解(请配合Datawhale速通教程食用 Step1 设置算例及比赛账号的报名和授权 Step2 进行赛事报名并创建PAI实例 Step3 执行basel...
-
内容数字化的革命：AIGC的现状与未来
本文将聚焦设计师群体，看看被AI赋能的内容数字化工具如何帮助内容设计师们减负提效。 目前内容设计师团队正在经历的痛点有如下几条： 这些痛点，是我们在与品牌内容设计师团队沟通时，获得的一手声音。跨行业来看，多产品SKU的ToC品牌内容设计师们，对内容...
-
本地部署私人知识库的大模型！Llama 3 + RAG！
在今天的的教程中，我们将打造更加个性化的大模型，可以定制搭载私人知识库的本地大模型！ 我们探讨Meta AI 的尖端 Llama 3 语言模型构建强大的检索增强生成 （RAG） 来实现。通过利用 Llama 3 和 RAG 技术的功能，我们将创建一个应用...
-
深度探索：Dreambooth与Stable Diffusion的梦幻交织
深度探索：Dreambooth与Stable Diffusion的梦幻交织 项目介绍 梦想启航，艺术与技术的碰撞——Dreambooth for Stable Diffusion。这一项目巧妙地结合了当下热门的人工智能领域两大神器：Stable Dif...
-
Stable Diffusion如何训练属于自己的Lora模型
Stable Diffusion如何训练属于自己的Lora模型 前面（Stable diffusion的本地部署以及使用）介绍了那么多，相信你一定对Stable Diffusion有了一定的认知，那么你是否也在想：我下载的都是别人训练的模型，那我该怎么...
-
AI写作革命：PyTorch如何助力人工智能走向深度创新
身为专注于人工智能研究的学者，我十分热衷于分析"AI写稿"与"PyTorch"这两项领先技术。面对日益精进的人工智能科技，"AI写作"已不再是天方夜谭；而"PyTorch"如璀璨明珠般耀眼，作为深度学习领域的尖端工具，正有力地推进着人工智能化进程。于此篇文...
-
Stable Diffusion教程|练丹师是如何炼丹的Lora模型训练
前言 还记得我们之前就讲过学习SD成为炼丹师不？那么今天就来手把手教大家炼丹，看看同一个角色或某种风格的小模型是如何制作出来的。 目录 1 炼丹介绍 2 环境准备 3 Lora模型训练 **一、**炼丹介绍 什么是炼丹？ 早在学习SD地第...
-
AI绘画；（Stable Diffusion进阶篇：模型训练）
前言 在上一篇笔记中学习了解了一部分关于Stable Diffusion的运行原理，今天就来接着学习下Stable Diffusion关于微调训练方面的知识点。 今天没多少废话，因为我下午要去玩PTCG！让我们冲冲冲 整理和输出教程属实不易，觉得这...
-
部署微调框架LLaMA-Factory
LLaMA Factory 1.我们在ChatGLM3的github官方页面上能看到对LLaMA-Factory的推荐 2.LLaMA Factory github链接 hiyouga/LLaMA-Factory: Unify Efficien...
-
最强大模型 Llama 3.1-405B 架构设计剖析
—1— 最强大模型 Llama 3.1-405B 简介 在历经了两天的提前“泄露风波”后，Llama 3.1 终于正式揭开面纱，由官方对外公布。 新版 Llama 3.1 将其上下文处理能力扩展至 128K，推出了 8B、70B 及 405B 三个不...
-
Stable Diffusion 深入浅出,一看就会
Stable Diffusion 是一个基于深度学习的图像生成模型，旨在生成高质量的图像。下面是一个 Stable Diffusion 入门案例教程，旨在帮助您快速入门 Stable Diffusion。 安装 Stable Diffusion 首先，...
-
如何定量分析 Llama 3，大模型系统工程师视角的 Transformer 架构
读完全文后，你将获得回答以下问题的能力（参考答案，请见最后一章节）： Llama 3 技术博客说 70B 模型、最长序列 8K、15T Tokens，训练了 640w GPU 时，这发挥了 H100 理论算力（989TFlops）的百分之多少?...
-
【机器学习】机器学习与医疗健康在疾病预测中的融合应用与性能优化新探索
文章目录 引言 第一章：机器学习在医疗健康中的应用 1.1 数据预处理 1.1.1 数据清洗 1.1.2 数据归一化 1.1.3 特征工程 1.2 模型选择 1.2.1 逻辑回归 1.2.2 决策树 1.2.3 随机森林 1.2...
-
山大软院创新实训之大模型篇（二）——Llama Factory微调Qwen实践
山大软院创新实训之大模型篇（二）——Llama Factory微调Qwen实践 LLaMA Factory 是一个用于微调和部署 LLaMA (Large Language Model Applications 模型的框架。它旨在简化大语言模型的使用...
-
LLama-Factory使用教程
本文是github项目llama-factory的使用教程 注意，最新的llama-factory的github中训练模型中，涉及到本文中的操作全部使用了.yaml配置。 新的.yaml的方式很简洁但不太直观，本质上是一样的。新的readme中的.yam...
-
Stable Diffusion：质量高&画风清新&细节丰富的二次元大模型二次元插图
今天和大家分享一个基于Pony模型训练的二次元模型：二次元插图。关于该模型有4个不同的分支版本。 1.5版本：loar模型，推荐底模型niji-动漫二次元4.5。 xl版本：SDXL模型版本 mix版本：光影减弱，减少SDXL版本色调偏暖有种...
-
LLM大模型实战项目--基于Stable Diffusion的电商平台虚拟试衣
本文详细讲解LLM大模型实战项目，基于Stable Diffusion的电商平台虚拟试衣 一、项目介绍 二、阿里PAI平台介绍 三、阿里云注册及开通PAI 四、PAI_DSW环境搭建 五、SD+LORA模型微调 一、项目介绍 ...
-
【07】LLaMA-Factory微调大模型——微调模型导出与微调参数分析
上文介绍了如何对微调后的模型进行使用与简单评估。本文将介绍对微调后的模型进行导出的过程。 一、llama-3微调后的模型导出 首先进入虚拟环境，打开LLaMA-Factory的webui页面 conda activate GLM cd LLaMA-F...
-
使用LLaMA-Factory对Llama3-8B-Chinese-Chat进行微调
文章目录 模型及数据： 模型下载 数据 LLaMA-Factory启动 拉取代码 启动webui 模型训练 数据导入 数据预览 设置模型路径 配置参数及参数的保存 开始训练 过程观察 加载模型、对话 模型导出、再次加载...
-
Stable Diffusion【真人模型】：SD1.5人像模型新高度，超级逼真的AI真人模型：AWPortaint
今天和大家分享一个基于SD1.5基础模型训练的人像大模型AWPortrait。该模型在真人写实摄影方面效果超级逼真，能够模拟在真实摄影中的光影效果、皮肤纹理质感、甚至是人物的表情和妆容。 目前最新的版本是V1.4，在V1.3版本的基础上升级而来，对大模型...
-
深度解读AIGC技术背后的算法原理
深度解读AIGC技术背后的算法原理 欢迎光临未来的文字工厂：AIGC的奇妙世界 想象力的火花：AIGC技术如何让创作焕发新生 从零到英雄：AIGC背后的核心算法简史 拨开云雾见青天：解密AIGC的算法基础 语言模型：词与句的舞蹈编排师 深...
-
【爆】Stable Diffusion【真人模型】：全网最真实的亚洲女性大模型
模型v1下载：XXMix_9realisticSDXL-Checkpoint-展夜枭-LiblibAI 环境要求： gpu：12G+ 最好16G+ python：3.10 cuda：11.8 一、介绍 XXMix_9realisticSDXL是...