-
【04】LLaMA-Factory微调大模型——数据准备
在上文【03】LLaMA-Factory微调大模型——多模型部署中完成了Qwen2、GLM-4、LLaMA3-8B-Chinese-Chat三个模型的部署，本文则进行数据准备，为后续的微调模型提供高质量、格式规范的数据支撑。 一、数据格式 LLaMA-...
-
Datawhale X 魔搭 AI夏令营第四期AIGC方向的实践学习
学习简介 从零入门AI生图原理&实践 是 Datawhale 2024 年 AI 夏令营第四期的学习活动（“AIGC”方向），基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”开展的实践学习—— 适合想 入门并实践 AIGC文生图、工作...
-
隆重推出Llama 3.1：Meta最新一代强大模型
猫头虎是谁？ 大家好，我是 猫头虎，别名猫头虎博主，擅长的技术领域包括云原生、前端、后端、运维和AI。我的博客主要分享技术教程、bug解决思路、开发工具教程、前沿科技资讯、产品评测图文、产品使用体验图文、产品优点推广文稿、产品横测对比文稿，以及线下技术...
-
LLaMA-Factory 大模型微调超简单，从零开始玩转大模型微调
目录 LLaMA-Factory 大模型微调超简单，从零开始开始玩转大模型微调 为什么要使用LLaMA-Factory进行微调？ 如何使用LLaMA-Factory进行微调？ 安装 启动 数据准备 Alpaca 格式 指令监督微调数据集...
-
Llama 3.1用了1.6万个英伟达H100 GPU，耗费......
目录 Llama 3.1发布简介 Llama 3.1模型规模与训练 大模型企业发展面临的问题与困境 算力和能耗算力方面 数据和资金方面 技术和人才方面 Llama 3.1发布简介 当地时间 2024年 7月 23号，Meta 公司发布...
-
AI领域的《猫鼠游戏》，盘点那些打假“AI内容”的强大产品，这款检测器已经突破400万用户
莱昂纳多扮演的小弗兰克在《猫鼠游戏》中凭借着高超的假币伪造技术骗过了一众警察。现实中，AI领域的《猫鼠游戏》正在上演，一场有关人工制作内容和 AI 生成内容的判定成为越来越重要的议题。 Human or AI，这是一个问题。 本文介绍了 GPTZero 这...
-
一直爆料OpenAI「草莓」的账号，竟然是个智能体？斯坦福系创企「炒作」AgentQ
当炒作出了「泼天的流量」，已经没人关心产品厉不厉害了。 最近，OpenAI 的秘密项目「Q*」一直受到了圈内人士的广泛关注。上个月，以它为前身、代号为「草莓（Strawberry）」的项目又被曝光了。据推测，该项目能够提供高级推理能力。 最近几天，关于这个...
-
Datawhale X 魔搭 AI夏令营第四期 | AIGC文生图——可图Kolors-LoRA风格故事 Task1笔记
Hi，大家好，我是半亩花海。最近在尝试学习AIGC的内容，并报名参加了Datawhale举办的2024年AI第四期夏令营，主要学习内容是从零入门AI生图原理和实践。本次活动基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”进而开展的项目实践学习，很适...
-
LLM（大语言模型）和AIGC入门学习路线图
01 — 学习路线图 基础了解 目标: 理解人工智能、机器学习、深度学习的基本概念。 资源: 在线课程（如Coursera, edX上的入门课程）、博客文章、YouTube视频。 专业知识 目标: 深入了解大型语言模型（如GPT-...
-
Datawhale X 魔搭 AI夏令营第四期AIGC task1
本期夏令营AIGC方向是通过参加可图Kolors-LoRA风格故事挑战赛https://tianchi.aliyun.com/competition/entrance/532254，学习并实践文生图AIGC、工作流搭建、LoRA微调等技术。 赛题内容...
-
AIGC前沿 | LivePortrait
0. 资源链接 论文超链接: LivePortrait 项目: https://github.com/KwaiVGI/LivePortrait 1. 背景动机 现有AIGC存在的问题 随着智能手机和其他录制设备的普及，人们越来越频繁地...
-
The Llama 3 Herd of Models 第8部分语音实验部分全文
第1,2,3部分，介绍、概览、预训练 第4部分，后训练 第5部分，结果 第6部分，推理 第7部分，视觉实验 8 Speech Experiments 我们进行了实验来研究将语音功能集成到Llama 3中的组合方法，类似于我们用于...
-
秒杀GPT-4、Devin，全球最强AI程序员来啦！
今年3月，AI初创公司Cognition发布的首个AI程序员Devin引起巨大轰动，它可以像人一样实现端到端的部署、调试、优化代码，几乎与编程相关的任务都能自动化完成。 今天，Cosine发布了同类产品Genie，但在权威测试平台SWE-Bench上的评分...
-
“Datawhale X 魔搭 AI夏令营”-AIGC文生图方向Task1笔记
前言 就自己学习过程对于Datawhale AI的夏令营第四期魔搭-AIGC文生图方向，做了个初级版教程，供小白参考，后期有机会也会通过自己的学习总结相关知识教程，期待和大家一起相互学习，共同进步！ 正文 第一步：报名参加赛事！ 点击赛事链接： ：天池平...
-
使用Llama-factory微调Llama3教程
一、登录OpenBayes进行注册登录 通过以下链接，新用户注册登录 OpenBayes ， 即可获得 四个小时 RTX 4090免费使用时长 ！！ 注册链接:https://openbayes.com/console/signup?r=zzl99_W...
-
Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task1笔记
不用写一行代码，只需要跟着步骤点点点，就可以完成task01！ 本笔记可视作学习手册速通指南的扩充版本。 灰色的备注是关于该步骤的解释和拓展，可以先跳过，等走完所有步骤再回头看！ 第一步 搭建代码环境 1.1 阿里云PAI-DSW申请...
-
Huatuo Llama Med Chinese 教程
Huatuo Llama Med Chinese 教程 Huatuo-Llama-Med-ChineseRepo for BenTsao [original name: HuaTuo (华驼 ], Instruction-tuning Large La...
-
Exponential Moving Average (EMA) in Stable Diffusion
1.Moving Average in Stable Diffusion (SMA&EMA 1.Moving average 2.移动平均值 3.How We Trained Stable Diffusion for Less than $5...
-
新增AI Copilot，DataEase开源数据可视化分析工具v2.9.0发布
2024年8月5日，人人可用的开源数据可视化分析工具DataEase正式发布v2.9.0版本。 这一版本的功能变动包括：导航栏新增Copilot入口，借助AI技术，通过自然语言交互实现即问即答，让数据分析更加直观和便捷；图表方面，对有图例的图表支持序列颜...
-
怎么使用Stable diffusion中的models
Stable diffusion中的models Stable diffusion model也可以叫做checkpoint model，是预先训练好的Stable diffusion权重，用于生成特定风格的图像。模型生成的图像类型取决于训练图像。...
-
Datawhale X 魔搭 AI夏令营 第四期魔搭-AIGC文生图方向Task1笔记
（赛题链接：可图Kolors-LoRA风格故事挑战赛_创新应用大赛_天池大赛） （学习链接：从零入门AI生图原理&实践） 速通指南 ...
-
Stable Diffusion之最全详细图解
Stable Diffusion是一种生成模型，用于生成高质量的图像。这种模型基于扩散过程，能够逐步将噪声转换为清晰的图像。以下是关于Stable Diffusion的详细图解，涵盖其原理、模型结构、训练过程及应用示例。 一、Stable Diffusi...
-
微调 Whisper 语音大模型
1.准备环境 #创建环境 conda create -n whisper python=3.10 -y source activate whisper #安装环境 conda install pytorch==2.1.0...
-
Datawhale AI夏令营第四期 魔搭-AIGC方向 task01笔记
目录 赛题内容 可图Kolors-LoRA风格故事挑战赛 baseline要点讲解(请配合Datawhale速通教程食用 Step1 设置算例及比赛账号的报名和授权 Step2 进行赛事报名并创建PAI实例 Step3 执行basel...
-
阿里开源新语音模型，比OpenAI的Whisper更好！
阿里巴巴在Qwen-Audio基础之上，开源了最新语音模型Qwen2-Audio。 Qwen2-Audio一共有基础和指令微调两个版本，支持使用语音向音频模型进行提问并识别内容以及语音分析。 例如，让一位女生说一段话，然后识别她的年纪或解读她的心情;发布一...
-
LLaMA-Factory
文章目录 一、关于 LLaMA-Factory 项目特色 性能指标 二、如何使用 1、安装 LLaMA Factory 2、数据准备 3、快速开始 4、LLaMA Board 可视化微调 5、构建 Docker CUDA 用户： 昇腾...
-
【项目记录】LLaMA-Factory + ModelScope 指令监督微调
LLaMA-Factory是大模型微调框架，内部集成了多种微调方法，可以直接调用。 具体做法可以从官方github上找到：https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md...
-
GPT-4o模仿人类声音，诡异尖叫引OpenAI研究员恐慌！32页技术报告出炉
【新智元导读】五颗草莓到底指什么?盼了一天一夜，OpenAI只发来一份32页安全报告。报告揭露:在少数情况下，GPT-4o会模仿你的声音说话，或者忽然大叫起来……事情变得有趣了。 昨天奥特曼率众人搞了一波「草莓暗示」的大阵仗，全网都在翘首以盼OpenAI的...
-
阿里开源新模型：超GPT-4o，数学能力全球第一！
阿里巴巴开源了最新数学模型Qwen2-Math，一共有基础和指令微调两种版本，包括1.5B、7B和72B三种参数。 根据阿里在主流数学基准测试显示，Qwen2-Math-72B指令微调版本的性能超过了GPT-4o、Cloude-3.5-Sonnet、Gem...
-
Llama 3.1 模型：从部署到微调的全方位应用手册
在人工智能的浪潮中，大型语言模型（LLMs）已成为推动技术进步的关键力量。随着Meta公司最新开源的Llama 3.1模型的问世，我们见证了开源AI领域的一大飞跃。Llama 3.1以其卓越的性能和广泛的应用潜力，为开发者和研究者提供了一个强大的工具，以探...
-
【人工智能AIGC技术开发】3.浅谈大话人工智能AIGC：几种AIGC底层技术的代码详解
为了更好地理解AIGC（AI Generated Content，人工智能生成内容）的底层技术，我们将详细介绍几种关键技术。这些技术包括深度学习、生成对抗网络（GANs）、变分自编码器（VAEs）和自回归模型（如Transformer和GPT）。 1....
-
Llama 3.1：开源语言模型的新里程碑
大家好，最近AI领域的新闻接踵而至，让人目不暇接。就在7月（23号）晚上，Meta发布了Llama 3.1系列模型，包括8B、70B参数的版本，以及此前提到过的400B参数模型（实际上是405B）。根据Meta官方公布的数据，Llama 3.1 405...
-
入职一年半，这个AI员工晋升为了国内首位AI架构师
你敢想，AI 已经不满足只做程序员了，如今又向架构师这一进阶职业发起挑战。 随着 AI 在研发领域的不断进化，能提供给工程师的助力越来越多，从原先单纯的编码加速器不断延展到架构理解、质量分析、安全扫描、测试生成等更多领域。同时结合 RAG 技术的不断落地应...
-
llama_fastertransformer对话问答算法模型
LLAMA 论文 https://arxiv.org/pdf/2302.13971.pdf 模型结构 LLAMA网络基于 Transformer 架构。提出了各种改进，并用于不同的模型，例如 PaLM。以下是与原始架构的主要区别： 预归一化。为了提高...
-
谷歌发布大模型数据筛选方法：效率提升13倍，算力降低10倍
随着GPT-4o、Gemini等多模态大模型的出现，对训练数据的需求呈指数级上升。无论是自然语言文本理解、计算机视觉还是语音识别，使用精心标注的数据集能带来显著的性能提升，同时大幅减少所需的训练数据量。 但目前多数模型的数据处理流程严重依赖于人工筛选，不仅...
-
AIGC核心剖析：NLP与生成模型的协同作用
目录 AIGC核心剖析：NLP与生成模型的协同作用 NLP的基础与挑战 生成模型的强大能力 NLP与生成模型的协同作用 1. 机器翻译 2. 文本摘要 3. 对话系统 结论 AIGC核心剖析：NLP与生成模型的协同作用 在人工智能...
-
OpenAI高层巨变：联创辞职总裁休假，网友：领导层成了空壳
刚刚，OpenAI高层大地震: 联创John Schulman辞职跑路，联创&总裁Greg Brockman长期休假，产品副总裁Peter Deng也被曝离职。 John Schulman（约翰·舒曼），长年领导OpenAI强化学习团队，被誉为“C...
-
Stable Diffusion 【模型推荐】没有最强，只有更强！高清画质！电影光效版SD1.5人像摄影大模型《他和她 2》
今天带来了一款SD1.5大模型——《他和她 2》电影光效版SD1.5人像摄影大模型。该模型经过家叔马丁Mr_M大佬的优化升级后，把SD1.5的影像光效推上了全新的高度！根据大佬的描述，该模型具有更强大的细节表现，更细腻的表面肌理，更逼真的高清画质，更绚丽的...
-
AI绘画；（Stable Diffusion进阶篇：模型训练）
前言 在上一篇笔记中学习了解了一部分关于Stable Diffusion的运行原理，今天就来接着学习下Stable Diffusion关于微调训练方面的知识点。 今天没多少废话，因为我下午要去玩PTCG！让我们冲冲冲 整理和输出教程属实不易，觉得这...
-
Meta发布Llama 3.1 405B模型：开源与闭源模型之争的新篇章
引言 在人工智能领域，开源与闭源模型之争一直是热点话题。近日，Meta发布了最新的Llama 3.1 405B模型，以其强大的性能和庞大的参数规模，成为了开源模型中的佼佼者。本文将详细介绍Llama 3.1 405B模型的性能、功能及其在开源领域的影响...
-
LLaMA-Factory：大语言模型微调框架（大模型）
简介： LLaMA-Factory 是一个国内北航开源的低代码大模型训练框架，专为大型语言模型（LLMs）的微调而设计 LLaMA-Factory：大语言模型微调框架 一、功能特点 LLaMA-Factory 是一个国内北航开源的低代码大模...
-
Stable Diffusion 深入浅出,一看就会
Stable Diffusion 是一个基于深度学习的图像生成模型，旨在生成高质量的图像。下面是一个 Stable Diffusion 入门案例教程，旨在帮助您快速入门 Stable Diffusion。 安装 Stable Diffusion 首先，...
-
Stable Diffusion教程：如何实现人脸一致
在AI绘画中，一直都有一个比较困难的问题，就是如何保证每次出图都是同一个人。今天就这个问题分享一些个人实践，大家和我一起来看看吧。 一. 有哪些实现方式 方式1：固定Seed种子值。 固定Seed种子值出来的图片人物确实可以做到一致，但Seed种子值...
-
The Llama 3 Herd of Models.Llama 3 模型第1,2,3部分全文
现代人工智能(AI 系统是由基础模型驱动的。本文提出了一套新的基础模型，称为Llama 3。它是一组语言模型，支持多语言、编码、推理和工具使用。我们最大的模型是一个密集的Transformer，具有405B个参数和多达128K个tokens...
-
Ubuntu部署Stable Diffusion WebUI应用
本文主要讲述Ubuntu部署Stable Diffusion WebUI应用的部署教程，及在部署过程中可能遇到的问题及解决方法。 1. 部署教程 本次安装教程使用的系统配置是: CPU ：10核，内存：220GB GPU ：L20，...
-
Ai绘画工具Stable Diffusion，手把手教你训练你的专属Lora模型，神级教程建议收藏！
哈喽，大家好，我是设计师阿威。 今天给大家带来的是Stable Diffusion训练Lora的教程，希望对大家有帮助。 一、硬件要求 我们知道Stable Diffusion WebUI对显卡要求比较高，同样Lora训练对显卡要求更高，所以要想训练...
-
生成式AI绘画背景下的伦理问题
摘 要 随着生成式人工智能（AIGC）技术的不断演进和普及，其应用领域已从科研领域的结构化模拟逐步扩展至人们的日常生活。当前，生成式AI科学的发展正进入一个以跨学科融合为特征的崭新阶段，其持续创新推动中发挥着强大动力作用。然而，...
-
LLaMA-Factory：手把手教你从零微调大模型！
引言 随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理（NLP）领域扮演着越来越重要的角色。然而，预训练的模型往往需要针对特定任务进行微调，以提高其在特定领域的性能。LLaMA-Factory作为一个高效、易用的微调工具，为广大开发者提...
-
AIGC——ControlNet模型的原理
简介 ControlNet旨在控制预训练的大型扩散模型，以支持额外的输入条件。ControlNet能够以端到端的方式学习特定任务的条件，即使在训练数据集很小的情况下（<50k），也能保持稳健性。此外，训练ControlNet的速度与微调扩散模型一...
-
【机器学习】机器学习与医疗健康在疾病预测中的融合应用与性能优化新探索
文章目录 引言 第一章：机器学习在医疗健康中的应用 1.1 数据预处理 1.1.1 数据清洗 1.1.2 数据归一化 1.1.3 特征工程 1.2 模型选择 1.2.1 逻辑回归 1.2.2 决策树 1.2.3 随机森林 1.2...