-
使用deepspeed继续训练LLAMA
目录 1. 数据训练配置 2. 模型载入 3. 优化器设置 4. DeepSpeed 设置 5. DeepSpeed 初始化 6. 模型训练 LLAMA 模型子结构： 1. 数据训练配置 利用 PyTorch 和 Transfo...
-
LLaMA 入门指南
LLaMA 入门指南 LLaMA 入门指南 LLaMA的简介 LLaMA模型的主要结构 Transformer架构 多层自注意力层 前馈神经网络 Layer Normalization和残差连接 LLaMA模型的变体 Base版本 La...
-
英伟达官宣AI聊天机器人，本地RTX显卡运行，这是要挑战OpenAI？
OpenAI 进军芯片领域，英伟达自己造聊天机器人，这是 Sam vs Jensen 的时代? 下载地址:https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/ 在这波 AI...
-
八项指标对比ChatGPT和文心一言
文章目录 前言 特定指标对比： 实际运用对比： 一、算力 二、训练时间 三、算法复杂度 四、模型结构 五、应用场景 六、性能指标 七、可解释性 八、迁移能力 ✍创作者：全栈弄潮儿 ? 个人主页： 全栈弄潮儿的个人主页 ?️ 个人...
-
【AIGC】Llama2-7B-Chat模型微调
环境 微调框架：LLaMA-Efficient-Tuning 训练机器：4*RTX3090TI (24G显存 python环境：python3.8, 安装requirements.txt依赖包 一、Lora微调 1、准备数据集 2、训...
-
【AIGC】DreamBooth:微调文本到图像扩散模型用于主题驱动的生成
前言 DreamBooth可以让我们使用一个很小的数据集微调文生图模型，然后基于文本提示词为我们训练的的主体替换不同的场景。 摘要 大型文本转图像模型在人工智能的发展中实现了显著的飞跃，能够从给定的文本提示中高质量和多样化地合成图像。然而，...
-
揭开向量索引概念的神秘面纱
自从ChatGPT公开发布以来，人们几乎没有一天不讨论LLM（大型语言模型）、RAG（检索增强生成：Retrieval Augmented Generation）和向量数据库的新内容。技术世界充斥着LLM的可能性，LLM被视为将改变我们生活的最新技术：...
-
为React开发人员释放ChatGPT的开发力量
React是一个用于构建用户界面的开源JavaScript库，如今已经成为Web开发的基石。随着React开发人员不断寻求提高生产力和简化工作流程的方法，由OpenAI公司开发的ChatGPT的生成式AI呈现出令人兴奋的发展前景。本文将深入研究Chat...
-
清华系2B模型杀出，性能吊打LLaMA-13B
2 月 1 日，面壁智能与清华大学自然语言处理实验室共同开源了系列端侧语言大模型 MiniCPM，主体语言模型 MiniCPM-2B 仅有 24 亿（2.4B）的非词嵌入参数量。 在综合性榜单上与 Mistral-7B 相近，在中文、数学、代码能力表现更...
-
GPT-4绝对性能暴涨74.4%！UIUC苹果华人团队提出CodeAct，用Python代码统一LLM智能体行动
一直以来，LLM智能体被众多业界AI大佬看好，甚至有望成为将人类从琐碎工作中解放出来的利器。 但是，它们该如何与世界进行最佳互动? 最近，来自UIUC和苹果的华人研究员，提出了一种全新的智能体框架——CodeAct。 它通过采用可执行的Python代码，来...
-
LLM是世界模型的新证据？ChatGPT能理解WiFi等物理信号，并猜出你的位置
大语言模型是否是世界模型? 大语言模型除了在数字世界完成如写作或翻译等任务，它们能否理解并处理物理世界中的信息并进而完成更广泛的任务呢? 最近来自香港科技大学（HKUST）、南洋理工大学(NTU 与加利福尼亚大学洛杉矶分校(UCLA 的研究者们提供了新的思...
-
大模型开车哪家强？普渡研究给指南：GPT-4真行啊
现在一句口令，就能指挥汽车了。 比如说声“我开会要迟到了”“我不想让我朋友等太久”等等，车就能理解，并且自动加速起来。 如果这次行程有不满意的，只需要给汽车提供反馈建议:“要在充分保障安全的前提下”，汽车的自动驾驶行为就会在下次行程中进行自我修正。 这是来...
-
ChatGPT与文心一言：智能回复与语言准确性的较量
在当今数字化时代，随着人们对智能化技术的需求不断增长，智能回复工具也成为了日常生活中不可或缺的一部分。ChatGPT和文心一言作为两个备受瞩目的智能回复工具，在智能回复、语言准确性以及知识库丰富度等方面各有卓越之处。 本文将对这两者进行全面比较，并深入探...
-
AIGC工具
1. 图转文 BLIP：输入图片，生成对图片的描述，用于制作训练模型的数据集工具 GitHub - salesforce/BLIP: PyTorch code for BLIP: Bootstrapping Language-Image Pre-tr...
-
AIGC内容分享(三十四)：AIGC+信息流广告
目录 AIGC发展概览 AIGC发展的重要里程碑事件 媒体平台AIGC功能 媒体平台AIGC功能-广点通 媒体平台AIGC功能 AIGC在广告各场景应用 AIGC在广告各场景应用—文生文 AIGC在广告各场景应用—文生图 视频生成...
-
用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程
近年来，大型语言模型（LLM）取得了显著的进步，然而大模型缺点之一是幻觉问题，即“一本正经的胡说八道”。其中RAG（Retrieval Augmented Generation，检索增强生成）是解决幻觉比较有效的方法。 本文，我们将深入研究使用trans...
-
【失业预告】生成式人工智能 (GAI)AIGC
文章目录 AIGC GAI AGI 应用 1. 计算机领域 2. 金融领域 3. 电商领域 4. C端娱乐 5. 游戏领域 6. 教育领域 7. 工业领域 8. 医疗领域 9. 法律领域 10. 农业/食品领域 11. 艺术/设计领域 来源...
-
【ScienceAI Weekly】AI+生物凝聚物初创公司宣布裁员15%；科技部明确科研中的AIGC红线；讯飞医疗递表港交所
AI for Science 的新成果、新动态、新视角—— 全球首家将生物分子凝聚体应用于药物发现的公司，宣布裁减 18 个职位 谷歌 DeepMind 发布 AlphaGeometry Evaxion Biotech 宣布用 AI 开发定制癌症疫苗...
-
【AIGC】Diffusers:训练扩散模型
前言 无条件图像生成是扩散模型的一种流行应用，它生成的图像看起来像用于训练的数据集中的图像。通常，通过在特定数据集上微调预训练模型来获得最佳结果。你可以在HUB找到很多这样的模型，但如果你找不到你喜欢的模型，你可以随时训练自己的模型！ 本教程将教您如何...
-
Stable Diffusion 使用lora-scripts WebUI训练LoRA模型
如果对代码使用有困难的小伙伴可以直接使用WebUI版的LoRA模块进行训练操作。不管是训练人物，场景，风格，还是服装都是一套通用的模式，仅仅是使用不同的数据集得到的结果不同。 文章目录 lora-scripts WebUI的安装 Lo...
-
AI视频年大爆发！Gen-2/Pika成时代爆款，2023年AI视频生成领域的现状全盘点
【新智元导读】2023年，也是AI视频元年。过去一年究竟有哪些爆款应用诞生，未来视频生成领域面临的难题还有哪些? 过去一年，AI视频领域我们见证了，Gen-2、Pika等爆款产品的诞生。 来自a16z的Justine Moore，详细盘点了人工智能视频生成...
-
AIGC从入门到精通
目录 1. 概述 2. 一键起飞 2.1 webui 2.2 基础用法 2.3 必装插件 2.4 Fooocus 2.5 diffusers 3 LoRA 3.1 原理 3.2 训练流程和准备 3.3 上手训练...
-
端到端纯视觉！OpenAI押注的人形机器人献艺拜年了
大过年的，OpenAI投资的人形机器人，通过最新视频拜年了（doge） 有俩人上来就表演了一个从货架取包裹，转身放进筐里: 镜头继续推进，旁边靠墙的两个机器人，在不停地将俄罗斯方块积木举起-丢下-再举起。 另一边，充好电的机器人，温柔地拔掉插销，微微半...
-
Stable Diffusion结构解析-以图像生成图像！
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习...
-
羊驼2:开放的基础和微调聊天模型--Llama 2论文阅读
论文地址：https://arxiv.org/pdf/2307.09288.pdfd 代码地址：GitHub - facebookresearch/llama-recipes: Examples and recipes for Llama 2 model...
-
GitHub Copilot 与 ChatGPT：哪种工具更适合软件开发？
GitHub Copilot 与 ChatGPT：哪种工具更适合软件开发？ 比较 ChatGPT 与 GitHub Copilot 编程语言 功能性 定制化 训练数据 上下文准确性 ChatGPT 与 GitHub Copilot：哪个更适...
-
AI新工具(20240203) 文心一言APP数字分身；HuggingChat Assistants等
文心一言APP数字分身-一键生成专属数字分身 文心一言数字分身是一项新功能，用户只需一张照片和录制三句语音，就能创建一个专属的数字分身。这个数字分身还支持个性化定义名称、声音、MBTI性格等，用户可以选择是否公开自己的数字分身。这个功能的上线大大缩短...
-
【AIGC】Diffusers:加载管道、模型和调度程序
前言 拥有一种使用扩散系统进行推理的简单方法对于?扩散器至关重要。扩散系统通常由多个组件组成，例如参数化模型、分词器和调度器，它们以复杂的方式进行交互。这就是为什么我们设计了 DiffusionPipeline，将整个扩散系统的复杂性包装成一个易于使用的...
-
详解各种LLM系列｜LLaMA 1 模型架构、预训练、部署优化特点总结
作者 | Sunnyyyyy 整理 | NewBeeNLP https://zhuanlan.zhihu.com/p/668698204 后台留言『交流』，加入 NewBee讨论组 LLaMA 是Meta在2...
-
AIGC 语言大模型研究报告
AIGC 研究报告 这份报告可以被划分为两大部分。 第一部分集中于ChatGPT的发展和运作原理，为了增强理解，我们将先探讨自然语言处理的历史发展。 第二部分主要聚焦于由大模型引领的新的研究领域，并深入介绍在每个领域中可以进行的具体研究工作及思...
-
如何使用AIGC进行图像生成和编辑
1.背景介绍 图像生成和编辑是计算机视觉领域的重要应用，随着人工智能技术的发展，AIGC(Artificial Intelligence Generative Convolutional 已经成为了图像生成和编辑的主流方法。在本文中，我们将详细介...
-
2023 亚马逊云科技中国峰会技术解读：算力、数据、AI，全面支撑 AIGC 与云上创新
编辑 | 宋慧 出品 | CSDN 云计算 亚马逊云科技每年在中国的顶级会议——2023亚马逊云科技中国峰会已经圆满落幕，今年峰会聚焦在AIGC与全球化等方面的议题，而支撑这些产品与服务的，则是亚马逊云科技十多年以来所探索、创新、积累的技术实力。在...
-
AIGC内容分享(五十七)：AIGC：合规引领探索之路
目录 引言 01 资质合规 02 内部合规管理体系及制度 03 互联网应用关键条款完善 04 外部商业合作 结语 引言 从GPT 3.5的问世、GPT4.0的革新到Google最近推出的Gemini系列原生多模态AI基础模型，生成式人...
-
stable diffusion微调总结
stable diffusion微调总结 stable diffusion 模型类别： SD SD2 SDXL SDXL LCM（潜在一致性模型） SDXL Distilled SDXL Turbo 安装accelerate 通过pip...
-
实战whisper：本地化部署通用语音识别模型
前言 Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一个多任务模型，可以执行多语言语音识别、语音翻译和语言识别。 这里呢，我将给出我的一些代码，来帮助你尽快实现【语音转文字】的服务部署...
-
llama/llama2论文解读
llama 摘要 llama在约1.4T的token上，训练出参数量7B到65B的模型，其模型规模如下 在仅使用开源数据集的情况下，llama-13B在多数benchmarks上与GPT-3效果相当；llama-65B也与最好的模型（Chin...
-
27｜从Midjourney开始，探索AI产品的用户体验
学到这里，这个课程终于到了尾声。过去的二十多讲里，我们围绕着文本、语音、视频、图像体验了大量的 AI 应用场景。不过在这些场景里，我们还只是通过撰写代码体验了 AI 的能力。那么，如果我们今天想通过学习到的这些知识，开发一个真正的 AI 应用，需要注意些什...
-
Stable Diffusion 【通用模型】：出图效果非常惊艳的Playground美学模型
大家好，我是程序员晓晓 之前我重点介绍过一个网站:PlaygroundAI。这是一个提供一个图像专业人士创建和编辑图像的网站，它整合了图像创建和社交网络的功能。 该网站模型提供了3个大类：Stable Diffusion V1.5、Stable Diff...
-
AI工具（20240116）：Copilot Pro，Fitten Code等
Copilot Pro Copilot Pro是微软推出的Copilot的付费增强版本,通过提供优先访问GPT-4等最新AI模型,大大提升用户的创造力和工作效率。该服务可与Microsoft 365订阅捆绑使用,支持在Word、Excel等Offic...
-
【AI绘画】Stable Diffusion扩散模型 + Consistency一致性模型 小白必看！！！！！
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） 1 GAN到Stable Diffusion的改朝换代 2 从DDPM到Stable Diffusion发展史...
-
全网最全stable diffusion模型讲解！快来！！小白必收藏！！
手把手教你入门绘图超强的AI绘画程序Stable Diffusion，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新Stable Diffusion保姆级教程资料包（文末可获取） AI模型最新展现出的图像生成能力远远超出人们的预期...
-
了解AIGC在图像识别和生成中的应用
1.背景介绍 在过去的几年里，人工智能(AI 已经成为了我们生活中的一部分，它在图像识别和生成方面的应用也非常广泛。在这篇文章中，我们将探讨一下AI生成式图像识别(AIGC 在图像识别和生成中的应用，以及其背后的核心概念和算法原理。 1. 背...
-
ChatGPT高效提问—基础知识（AIGC）
ChatGPT高效提问—基础知识 为了更好地学习AI和prompt相关知识，有必要了解AI领域的几个专业概念。 1.1 初识AIGC AIGC（artificial intelligence generated content）即人工智能生成的内...
-
玩LLM和StableDiffusion常说的LoRA到底是什么
论文地址：LoRA: Low-Rank Adaptation of Large Language Models LoRA是一种用于adapters和大模型迁移的技术,全称为Low-Rank Adaptation of Large Language M...
-
谷歌官宣TensorFlow-GNN 1.0发布！动态和交互采样，大规模构建图神经网络
2005年，划时代之作「The Graph Neural Network Model」的问世，将图神经网络带到每个人面前。 在此之前，科学家处理图数据的方式是，在数据预处理阶段，将图转换为一组「向量表示」。 而CNN的出现彻底改变这种信息丢失的弊端，近2...
-
Stable Diffusion 基本原理
1 Diffusion Model的运作过程 输入一张和我们所需结果图尺寸一致的噪声图像，通过Denoise模块逐步减少noise，最终生成我们需要的效果图。 图中Denoise模块虽然是同一个，但是它会根据不同step的输入图像和代表noise严重程...
-
无需RLHF显著提升GPT-4/Llama2性能，北大团队提出Aligner对齐新范式
背景 大语言模型（LLMs）虽展现出了强大的能力，但也可能产生不可预测和有害的输出，例如冒犯性回应、虚假信息和泄露隐私数据，给用户和社会造成伤害。确保这些模型的行为与人类意图和价值观相对齐，是一个紧迫的挑战。 尽管基于人类反馈的强化学习（RLHF）提供了...
-
斯坦福和OpenAI提出meta-prompting，最强零样本prompting技术诞生了
最新一代语言模型（尤其是 GPT-4、PaLM 和 LLaMa）已经成功拓展了自然语言处理和生成的边界。这些大规模模型可以解决许多不同任务，从写莎士比亚风格的十四行诗到总结复杂的医疗报告和解决竞赛级的编程问题。尽管这些模型可以解决多种多样的问题，但它们并...
-
抛弃编码器-解码器架构，用扩散模型做边缘检测效果更好，国防科大提出DiffusionEdge
现有的深度边缘检测网络通常基于包含了上下采样模块的编码器 - 解码器架构，以更好的提取多层次的特征，但这也限制了网络输出既准又细的边缘检测结果。 针对这一问题，一篇 AAAI 2024 上的论文给出了新的解决方案。 论文题目：DiffusionEd...
-
三个Agent顶个GPT-4，基于开源小模型的那种
真·“三个臭皮匠，顶个诸葛亮”—— 基于开源小模型的三个Agent协作，比肩GPT-4的工具调用效果！ 话不多说，直接来看两个系统执行记录。 用户表示自己是一个音乐爱好者，想探索不同的音乐流派以及音乐家。于是指定模型使用Deezer和Shazam的API...