-
AIGC初探：提示工程 Prompt Engineering
简介 提升工程是什么 提示工程（Prompt Engineering）是人工智能领域中的一个概念，特别是在自然语言处理（NLP）领域中。它是一种通过设计和优化输入提示来提高AI模型表现的方法。 对于基于转换器的大型语言模型（如OpenAI的GPT...
-
从模型、数据和框架三个视角出发，这里有份54页的高效大语言模型综述
大规模语言模型（LLMs）在很多关键任务中展现出显著的能力，比如自然语言理解、语言生成和复杂推理，并对社会产生深远的影响。然而，这些卓越的能力伴随着对庞大训练资源的需求（如下图左）和较长推理时延（如下图右）。因此，研究者们需要开发出有效的技术手段去解决其...
-
清华大学研发 LLM4VG 基准：用于评估 LLM 视频时序定位性能
12 月 29 日消息，大语言模型（LLM）的触角已经从单纯的自然语言处理，扩展到文本、音频、视频等多模态领域，而其中一项关键就是视频时序定位（Video Grounding，VG）。 VG 任务的目的基于给定查询（一句描述），然后在目标视频段中定位...
-
这是GPT-4变笨的新解释
变笨的本质是知识没进脑子。 自发布以来，曾被认为是世界上最强大的 GPT-4也经历了多场「信任危机」。 如果说今年早些时候那次「间歇式降智」与 OpenAI 重新设计 GPT-4架构有关，前段时间的「变懒」传闻就更搞笑了，有人测出只要告诉 GPT-4「现在...
-
白杨SEO：怎么用百度指数、微信指数、抖音指数等工具分析关键词流量趋势及发现用户需求？以ChatGPT、文心一言和AI绘画关键词举例
经常有人问我，怎么判断某个关键词有没有流量，流量有多少，流量趋势怎么样，这个关键词背后用户需求是什么等等。白杨SEO今天就再用目前互联网上主流的百度、微信、抖音三个指数工具以ChatGPT、文心一言和AI绘画这三个关键词来举例说明下。 图片在公众号白杨S...
-
人工智能生成内容AIGC是什么？
一、AIGC的概念和特点 AIGC是人工智能生成内容（Artificial Intelligence Generated Content）的简称，指的是利用人工智能技术，通过已有数据寻找规律，并通过预训练大模型、生成式对抗网络（GAN）等方法，自动生成各...
-
大模型幻觉问题无解？理论证明校准的LM必然会出现幻觉
大型语言模型（LLM）虽然在诸多下游任务上展现出卓越的能力，但其实际应用还存在一些问题。其中，LLM 的「幻觉（hallucination）」问题是一个重要缺陷。 幻觉是指由人工智能算法生成看似合理但却虚假或有误导性的响应。自 LLM 爆火以来，研究人员...
-
《我的世界》化身AI小镇，NPC居民角色扮演如同真人
注意看，这个方块人正在快速思考面前几位“不速之客”的身份。 原来她是遇到了危险，意识到这一点之后，她马上开始在脑海中搜索策略。 最终，她的方案是先逃跑然后寻求帮助，并马上付诸行动。 与此同时，对面的人也在进行着和她一样的思考…… 这样的一幅场景出现...
-
人工智能揭开拉斐尔名画的秘密：并非完全出自大师之手
12 月 31 日消息，最近，一个 人工智能神经网络在拉斐尔的一幅名画中发现了一个不同寻常之处：其中一幅面孔竟然不是出自拉斐尔本人之手。 这幅画名为《玫瑰圣母（Madonna della Rosa）》，长期以来，学者们一直对这幅画是否是拉斐尔原作争论不...
-
LLaMA模型论文《LLaMA: Open and Efficient Foundation Language Models》阅读笔记
文章目录 1. 简介 2.方法 2.1 预训练数据 2.2 网络架构 2.3 优化器 2.4 高效的实现 3.论文其余部分 4. 参考资料 1. 简介 LLaMA是meta在2023年2月开源的大模型，在这之后，很多开源模型都...
-
【AI绘画】探索艺术与技术的融合：AI绘画的新前景
AI绘画的新前景 1.AI绘画是把双刃剑 2.AI绘画的应用场景 3.AI绘画的技术 4.结语 随着人工智能（AI）技术的快速发展，AI绘画成为了艺术创作领域中备受关注的话题。传统的艺术创作方式受到了AI技术的冲击，为艺术家和观...
-
stable diffusion webui 教程：安装与入门
stable diffusion webui 安装与入门 原理简介 一、源码仓库 二、模型库地址 三、在 Windows 上自动安装步骤 安装Python 安装git 下载源代码 编辑 webui-user.bat 四、如何打开 五、依据文...
-
基础模型+机器人：现在已经走到哪一步了
机器人是一种拥有无尽可能性的技术，尤其是当搭配了智能技术时。近段时间创造了许多变革性应用的大模型有望成为机器人的智慧大脑，帮助机器人感知和理解这个世界并制定决策和进行规划。近日，CMU 的 Yonatan Bisk 和 Google DeepMind...
-
手把手教你通过PaddleHub快速实现输入中/英文本生成图像（Stable Diffusion）
近来，基于Diffusion的文图生成模型比较火，用户输入一句话，模型就可以生成一副对应的图像，还是很有意思的。本文记录了通过PaddleHub快速实现上述任务的过程，以供参考。 1、安装PaddlePaddle PaddleHub底层依赖于百度自研的...
-
一文通透位置编码：从标准位置编码、旋转位置编码RoPE到ALiBi、LLaMA 2 Long
前言 关于位置编码和RoPE 应用广泛，是很多大模型使用的一种位置编码方式，包括且不限于LLaMA、baichuan、ChatGLM等等 我之前在本博客中的另外两篇文章中有阐述过(一篇是关于LLaMA解读的，一篇是关于transformer从零实现...
-
AI绘图模型不会写字的难题，被阿里AnyText破解了
能准确写汉字的AI绘图工具，终于登场了! 包括中文在内一共支持四种语言，而且还能文字的位置还能任意指定。 从此，人们终于可以和AI绘图模型的“鬼画符”说再见了。 这款名为AnyText的绘图工具来自阿里巴巴，可以按照指定位置精准地向图中加入文字。 此前的绘...
-
每个开发者都应该知道的6个生成式AI框架和工具
译者 | 晶颜 审校 | 重楼 在快速发展的技术领域，生成式人工智能是一股革命性的力量，它改变了开发人员处理复杂问题和创新的方式。本文深入探讨了生成式AI的世界，揭示了对每个开发人员都必不可少的框架和工具。 一、LangChain 图片 LangCh...
-
LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于源词表的扩展、(init_model.py文件)实现过计算均值扩展模型、(prepare_pretr
LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件 实现基于源词表的扩展(中文标记的新词汇 进而实现持续预训练、(init_model.py文件 实现过计算均值来扩展模型的嵌入层以适应新的词汇表，然后保存扩展后的模型...
-
LLaMA, ChatGLM, BLOOM的参数高效微调实践
作者：回旋托马斯x（腾讯NLP算法工程师） 项目地址：https://zhuanlan.zhihu.com/p/635710004 1. 开源基座模型对比 大语言模型的训练分为两个阶段： （1）在海量文本语料上的无监督预训练，学习通用的语义表...
-
【大模型实践】基于文心一言的对话模型设计
文心一言（英文名：ERNIE Bot）是百度全新一代知识增强大语言模型，文心大模型家族的新成员，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感。文心一言从数万亿数据和数千亿知识中融合学习，得到预训练大模型，在此基础上采用有监督...
-
一个超强 Pytorch 操作！！
哈喽，我是小壮！ 这几天关于深度学习的内容，已经分享了一些。 另外，类似于numpy、pandas常用数据处理函数，在Pytorch中也是同样的重要，同样的有趣！！ Pytorch同样提供了许多用于数据处理和转换的函数。 今儿来看下，最重要的几个必会函数...
-
4、stable diffusion
github 安装anaconda环境 conda env create -f environment.yaml conda activate ldm 安装依赖 conda install pytorch==1.12.1 torchvision=...
-
聊聊拉长LLaMA的一些经验
Sequence Length是指LLM能够处理的文本的最大长度，越长，自然越有优势： 更强的记忆性。更多轮的历史对话被拼接到对话中，减少出现遗忘现象 长文本场景下体验更佳。比如文档问答、小说续写等 当今开源LLM中的当红炸子鸡——LLaMA...
-
Hugging Face使用Stable diffusion Diffusers Transformers Accelerate Pipelines VAE
Diffusers A library that offers an implementation of various diffusion models, including text-to-image models. 提供不同扩散模型的实现的库，代...
-
文心一言“拜师”了！金灿荣、王先进等成为首批“文心导师”
12月28日，由深度学习技术及应用国家工程研究中心主办的WAVE SUMMIT+深度学习开发者大会2023在北京召开。百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰现场公布了飞桨文心五载十届最新生态成果，文心一言最新用户规模破1亿，截至12月...
-
用户规模破亿！基于文心一言的创新应用已超4000个
?♂️ 个人主页：@艾派森的个人主页 ✍?作者简介：Python学习者 ? 希望大家多多支持，我们一起进步！? 如果文章对你有帮助的话， 欢迎评论 ?点赞?? 收藏 ?加关注+ 12月28日，由深度学习技术及应用国家工程研究中...
-
Stable Diffusion的结构要被淘汰了吗？详细解读谷歌最新大杀器VideoPoet
Diffusion Models视频生成-博客汇总 前言：视频生成领域长期被Stable Diffusion统治，大部分的方式都是在预训练的图片Stable Diffusion的基础上加入时间层，学习动态信息。虽然有CoDi《【NeurIPS...
-
100000000！文心一言披露最新用户规模
“文心一言用户规模突破1亿。” 12月28日，百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰在第十届WAVE SUMMIT深度学习开发者大会上宣布。会上，王海峰以《文心加飞桨，翩然赴星河》为题作了主旨演讲，分享了飞桨和文心的最新成果。...
-
SOLAR10.7B大模型屠榜HuggingFace 创新性拼接两个羊驼，高效集成
深度学习领域的新技术近日在HuggingFace的大模型排行榜中崭露头角，由Upstage AI提出的深度扩展方法（DUS）在SOLAR10.7B大模型上取得了令人瞩目的成绩。该技术通过创新性地拼接两个7B羊驼，并采用DUS方法删除中间层次，使得新模型不仅...
-
两只羊驼掐头去尾拼一起，屠榜HuggingFace
HuggingFace开源大模型排行榜，又被屠榜了。 前排被清一色的SOLAR 10.7B微调版本占据，把几周之前的各种Mixtral 8x7B微调版本挤了下去。 SOLAR大模型什么来头？ 相关论文刚刚上传到ArXiv，来自韩国公司Upstage A...
-
深度学习实战29-AIGC项目：利用GPT-2(CPU环境)进行文本续写与生成歌词任务
大家好，我是微学AI，今天给大家介绍一下深度学习实战29-AIGC项目：利用GPT-2(CPU环境 进行文本续写与生成歌词任务。在大家没有GPU算力的情况，大模型可能玩不动，推理速度慢，那么我们怎么才能跑去生成式的模型呢，我们可以试一下GPT-2完成一些简...
-
在自定义数据集上微调Alpaca和LLaMA
本文将介绍使用LoRa在本地机器上微调Alpaca和LLaMA，我们将介绍在特定数据集上对Alpaca LoRa进行微调的整个过程，本文将涵盖数据处理、模型训练和使用流行的自然语言处理库(如Transformers和hugs Face 进行评估。此外还将介...
-
用扩散模型监督NeRF，清华文生3D新方法成新SOTA
用文字合成3D图形的AI模型，又有了新的SOTA！ 近日，清华大学刘永进教授课题组提出了一种基于扩散模型的文生3D新方式。 无论是不同视角间的一致性，还是与提示词的匹配度，都比此前大幅提升。 图片 文生3D是3D AIGC的热点研究内容，得到了学术界和工...
-
字节具身智能新成果：用大规模视频数据训练GR-1，复杂任务轻松应对
最近 GPT 模型在 NLP 领域取得了巨大成功。GPT 模型首先在大规模的数据上预训练，然后在特定的下游任务的数据上微调。大规模的预训练能够帮助模型学习可泛化的特征，进而让其轻松迁移到下游的任务上。 但相比自然语言数据，机器人数据是十分稀缺的。而且机器...
-
谁能撼动Transformer统治地位？Mamba作者谈LLM未来架构
在大模型领域，一直稳站 C 位的 Transformer 最近似乎有被超越的趋势。 这个挑战者就是一项名为「Mamba」的研究，其在语言、音频和基因组学等多种模态中都达到了 SOTA 性能。在语言建模方面，无论是预训练还是下游评估，Mamba-3B 模...
-
文心一言用户规模破1亿 今年10月基础模型升级到4.0
在第十届WAVE SUMMIT深度学习开发者大会上，百度CTO兼深度学习技术及应用国家工程研究中心负责人王海峰，发表了《文心加飞桨，翩然赴星河》的主题演讲。 百度从2019年开始专注于预训练模型的研发，推出了文心大模型1.0。经过近四年的不断优化，百度在...
-
CVPR 2023 | 图像超分，结合扩散模型/GAN/部署优化，low-level任务，视觉AIGC系列
1、Activating More Pixels in Image Super-Resolution Transformer 基于Transformer的方法在低级别视觉任务中，如图像超分辨率，表现出了令人印象深刻的性能。Transformer的...
-
【AIGC】图片生成的原理与应用
前言 近两年 AI 发展非常迅速，其中的 AI 绘画也越来越火爆，AI 绘画在很多应用领域有巨大的潜力，AI 甚至能模仿各种著名艺术家的风格进行绘画。 目前比较有名商业化的 AI 绘画软件有 Midjourney、DALL·E2、以及百度出品...
-
百度CTO王海峰：文心一言用户规模破1亿
“文心一言用户规模突破1亿。”12月28日，百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰在第十届WAVE SUMMIT深度学习开发者大会上宣布。会上，王海峰以《文心加飞桨，翩然赴星河》为题作了主旨演讲，分享了飞桨和文心的最新成果。...
-
VC谈2024年AI发展趋势年:多模态模型主导、GPU短缺等
随着2023年的结束，VC们对过去一年围绕人工智能的巨大进展和伦理辩论进行了回顾。像Bing Chat和Google Bard这样的聊天机器人展示了令人印象深刻的自然语言能力，而生成式AI模型如DALL-E3和MidJourney V6则以其创造性的图像生...
-
数据闭环！DrivingGaussian：逼真环视数据，驾驶场景重建SOTA
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 北大王选计算机研究所的最新工作，提出了DrivingGaussian，一个高效、有效的动态自动驾驶场景框架。对于具有移动目标的复杂场景，首先使用增量静态3D高斯对整个...
-
大模型被偷家！CNN搞多模态不弱于Transfromer（腾讯&港中文）
本文经自动驾驶之心公众号授权转载，转载请联系出处。 腾讯AI实验室与港中文联合团队提出了一种新的CNN架构，图像识别精度和速度都超过了Transformer架构模型。 切换到点云、音频、视频等其他模态，也无需改变模型结构，简单预处理即可接近甚至超越SO...
-
带你从零开始入门AI绘画神器Stable Diffusion
一、本地部署 Stable diffusion 1. 前言 目前市面上比较权威，并能用于工作中的 AI 绘画软件其实就两款。一个叫 Midjourney（简称 MJ），另一个叫 Stable-Diffusion（简称 SD）。MJ 需要付费使用，而 S...
-
Llama2推理RTX3090胜过4090，延迟吞吐量占优，但被A800远远甩开
大型语言模型 (LLM 在学界和业界都取得了巨大的进展。但训练和部署 LLM 非常昂贵，需要大量的计算资源和内存，因此研究人员开发了许多用于加速 LLM 预训练、微调和推理的开源框架和方法。然而，不同硬件和软件堆栈的运行时性能可能存在很大差异，这使得选...
-
大模型+机器人，详尽的综述报告来了，多位华人学者参与
大模型的出色能力有目共睹，而如果将它们整合进机器人，则有望让机器人拥有一个更加智能的大脑，为机器人领域带来新的可能性，比如自动驾驶、家用机器人、工业机器人、辅助机器人、医疗机器人、现场机器人和多机器人系统。 预训练的大型语言模型（LLM）、大型视觉 -...
-
得物大模型平台，业务效果提升实践
一、背景 得物大模型训练与推理平台上线几个月后，我们与公司内部超过 10 个业务领域展开了全面的合作。在一些关键业务指标方面，取得了显著的成效，例如： 效率相关部门的合作，多维度打标总正确率取得 2 倍以上提升。利用大模型开辟了新的业务，提升了效...
-
什么？NeRF还能提升BEV泛化性能！首个BEV跨域开源代码并首次完成Sim2Real！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人总结 鸟瞰图(Bird eye's view, BEV 检测是一种通过融合多个环视摄像头来进行检测的方法。目前算法大部分算法都是在相同数据集训练并且评测，这导致了这些算法过...
-
百度文心一言，不做ChatGPT的中国翻版
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 3月16日，百度的文心一言终于正式邀请测试了。 据李彦宏介绍，文心一言可以实现文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成等。 通过观看直...
-
OpenAI首席执行官透露2024年ChatGPT最受欢迎的功能请求
OpenAI首席执行官Sam Altman在2024年揭示了ChatGPT制造商最常被请求的功能，其中包括人工通用智能、GPT-5语言模型以及更个性化的要求。这些请求是Altman在X（前身为Twitter）上向关注者提出的问题的回应，他询问他们希望Ope...
-
一文读懂常用的 “生成式 AI 库”
Hello folks，我是 Luga，今天我们继续来聊一下人工智能（AI）生态领域相关的技术 - GenerativeAI Library（生成式 AI 库） ，本文将继续聚焦在针对 Gen AI Library 的技术进行解析，使得大家能够了解 G...