-
LLaMA的解读与其微调：Alpaca-LoRA/Vicuna/BELLE/中文LLaMA/姜子牙/LLaMA 2
前言 近期，除了研究ChatGPT背后的各种技术细节 不断看论文(至少100篇，100篇目录见此：ChatGPT相关技术必读论文100篇 ，还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节 ...
-
[玩转AIGC]LLaMA2训练中文文章撰写神器（数据准备，数据处理，模型训练，模型推理）
目录 一、下载并加载中文数据集 二、中文数据集处理 1、数据格式 2、数据集处理之tokenizer训练格式 1）先将一篇篇文本拼凑到一起（只是简单的拼凑一起，用于训练tokenizer） 2）将数据集进行合并 3、数据集处理之模型（ll...
-
最新开源！更擅长推理的LLaMA大模型，支持中文
©PaperWeekly 原创 · 作者 | 李忠利 研究方向 | 自然语言处理 跟大家介绍一下自己最近训练的 LLaMA 模型——BiLLa: A Bilingual LLaMA with Enhanced Reasoning Abi...
-
基于llama-index对embedding模型进行微调
QA对话目前是大语言模型的一大应用场景，在QA对话中，由于大语言模型信息的滞后性以及不包含业务知识的特点，我们经常需要外挂知识库来协助大模型解决一些问题。在外挂知识库的过程中，embedding模型的召回效果直接影响到大模型的回答效果，因此，在许多场景下，...
-
LLM AutoEval:AI平台自动评估Google Colab中的LLM
在自然语言处理领域，语言模型的评估对于开发人员推动语言理解和生成的边界至关重要。LLM AutoEval是一款旨在简化和加速语言模型（LLMs）评估过程的工具，专为寻求快速高效评估LLM性能的开发者定制。 LLM AutoEval具有以下关键特点: 1....
-
基于AI的事件智能分析系统建设实践
一、背景 当前，随着虚拟化、云计算等新技术的广泛应用，企业数据中心内部IT基础设施规模成倍增长，计算机硬件和软件的规模不断的扩大，相应的计算机故障也频繁发生，一线运维人员迫切的需要更加专业、更加强大的运维工具。 在数据中心的日常运维工作中，一般是通过...
-
Midjourney Api使用
Midjourney 这个在人工智能绘图领域还是独树一帜的佼佼者。 Midjourney 擅长精美的绘图，无需复杂的步骤，只要简约地输入画图指令，它就能立刻为我们展示出相应的图像。无论是哪种物体或风格，Midjourney 都能以其绘画魔力轻松描绘。...
-
GitHub Copilot实战 Leetcode和Alpha Vantage API获取股票数据
GitHub Copilot 可以提升编码速度25%。 需要在 visual studio code 添加插件 GitHub Copilot 1. Base Python 创建数组和Person class # Create a li...
-
【AI实战】llama.cpp 量化部署 llama-33B
【AI实战】llama.cpp 量化部署 llama-33B llama.cpp 量化介绍 环境配置 安装 llama.cpp 拉取 llama.cpp 仓库代码 编译llama.cpp 生成量化版本模型 模型准备 将上述.pth模型权重...
-
python爬虫入门教程(非常详细),超级简单的Python爬虫教程
一、基础入门 1.1什么是爬虫 爬虫(spider，又网络爬虫 ，是指向网站/网络发起请求，获取资源后分析并提取有用数据的程序。 从技术层面来说就是 通过程序模拟浏览器请求站点的行为，把站点返回的HTML代码/JSON数据/二进制数据（图片、视频）...
-
手把手教你在云环境炼丹：Stable Diffusion LoRA 模型保姆级炼制教程
很多同学都想要自己的专属AI模型，但是大模型的训练比较费时费力，不太适合普通用户玩。AI开发者们也意识到了这个问题，所以就产生了微调模型，LoRA就是其中的一种。在AI绘画领域，只需要少量的一些图片，就可以训练出一个专属风格的LoRA模型，比如某人的脸、...
-
LLaMA-v2-Chat vs. Alpaca：应该在什么时候使用不同的人工智能模型？
译者 | 李睿 审校 | 重楼 如今，大型语言模型（LLM）正在彻底改变人们的工作和生活，从语言生成到图像字幕软件，再到友好的聊天机器人。这些人工智能模型为解决现实世界的问题提供了强大的工具，例如生成聊天响应或遵循复杂的指令。在这篇关于LLaMA v2的...
-
AIGC：阿里开源大模型通义千问部署与实战
1 引言 通义千问-7B（Qwen-7B）是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen-7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代...
-
爬虫数据采集基础
目录 浏览器插件 极简插件 fake_useragent模块 爬虫通讯原理 HTTP 和 HTTPS 请求 响应 会话和Cookies 无状态HTTP socket介绍 七层协议： 流程图 请求报文格式 使用socke...
-
AIGC：【LLM（七）】——Baichuan2：真开源可商用的中文大模型
文章目录 一.模型介绍 二.模型部署 2.1 CPU部署 2.2 GPU部署 三.模型推理 3.1 Chat 模型推理 3.2 Base 模型推理 四.模型量化 4.1 量化方法 4.2 在线量化 4.3 离线量化 4.4 量化效果...
-
Whisper OpenAI开源语音识别模型
介绍 Whisper 是一个自动语音识别（ASR，Automatic Speech Recognition）系统，OpenAI 通过从网络上收集了 68 万小时的多语言（98 种语言）和多任务（multitask）监督数据对 Whisper 进行了训练...
-
1、aigc图像相关
aigc图像相关 一、Diffusion webui 在autodl上部署一些问题 二、lora和kohyass （1）角色模型 （2）风格模型 （3）dreambooth （4）模型合并 （5）Lora加Adetail 其他 三、sd a...
-
使用LLaMA-Factory微调ChatGLM3
1、创建虚拟环境 略 2、部署LLaMA-Factory （1）下载LLaMA-Factory https://github.com/hiyouga/LLaMA-Factory （2）安装依赖 pip3 install -r requi...
-
【AI实战】llama.cpp量化cuBLAS编译；nvcc fatal:Value ‘native‘ is not defined for option ‘gpu-architecture‘
【AI实战】llama.cpp量化cuBLAS编译；nvcc fatal:Value 'native' is not defined for option 'gpu-architecture' llama.cpp量化介绍 llama.cpp 编...
-
Stable Diffusion - 图像反推 (Interrogate) 提示词算法 (BLIP 和 DeepBooru)
欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://spike.blog.csdn.net/article/details/131817599 图像反推 (Interrogate 功能，是指...
-
AIGC之GPT-4：GPT-4的简介(核心原理/意义/亮点/技术点/缺点/使用建议)、使用方法、案例应用(计算能力/代码能力/看图能力等)之详细攻略
AIGC之GPT-4：GPT-4的简介(核心原理/意义/亮点/技术点/缺点/使用建议 、使用方法、案例应用(计算能力/代码能力/看图能力等 之详细攻略 解读：在2022年11月横空出世的ChatGPT，打遍天下无敌手的时候，就知道会有这么一天，...
-
AI绘画：Lora模型训练完整流程！
关于AI绘画(基于Stable Diffusion Webui ，我之前已经写过三篇文章，分别是 软件安装，基本的使用方法，微调模型LoRA的使用。 整体来说还是比简单的，搞个别人的模型，搞个提示词就出图了。今天来一个有些难度的，自己训练一个LoRA微...
-
AIGC实战——自回归模型(Autoregressive Model)
AIGC实战——自回归模型 0. 前言 1. 长短期记忆网络基本原理 2. Recipes 数据集 3. 处理文本数据 3.1 文本与图像数据处理的差异 3.2 文本数据处理步骤 4. 构建 LSTM 模型 4.1 模型架构 4.2 LS...
-
爬虫技术——一篇全搞定！
目录： 目录 目录： 1. 爬虫介绍 1.1 爬虫是什么 1.2 爬虫步骤 1.3 爬虫分类 1.3.1 通用爬虫 1.3.2 聚焦爬虫 编辑 1.4 一些常见的反爬手段 2. Urllib 2.1 urllib库的使用 2...
-
AIGC（生成式AI）试用 6 -- 从简单到复杂
从简单到复杂，这样的一个用例该如何设计？ 之前浅尝试用，每次尝试也都是由浅至深、由简单到复杂。 一点点的“喂”给生成式AI主题，以测试和验证生成式AI的反馈。 AIGC（生成式AI）试用 1 -- 基本文本_Rolei_...
-
【ESP32接入国产大模型之文心一言】
1. 怎样接入文心一言 视频讲解： 【ESP32接入国产大模型之文心一言】 随着人工智能技术的不断发展，自然语言处理领域也得到了广泛的关注和应用。在这个领域中，文心一言作为一款强大的自然语言处理工具，具有许多重要的应用价值。...
-
精调训练中文LLaMA模型实战教程，民间羊驼模型
羊驼实战系列索引 博文1：本地部署中文LLaMA模型实战教程，民间羊驼模型博文2：本地训练中文LLaMA模型实战教程，民间羊驼模型博文3：精调训练中文LLaMA模型实战教程，民间羊驼模型（本博客） 简介 在学习完上篇【博文2：本地训练中文LLaM...
-
使用 OpenLLM 构建和部署大模型应用
本次分享主题为：使用 OpenLLM 快速构建和部署大语言模型的应用。OpenLLM 是一个开源的大语言模型（LLM）开发框架。它支持多种开源的 LLM 模型，并且具有内建的两个关键的 LLM 优化，能够优化内存使用。此外，它与 LangChain 和...
-
文心一言接入Promptulate，开发复杂LLM应用程序
简介 最近在尝试将文心一言的LLM能力接入Promptulate，故写了一篇博客记录一下，Promptulate 是 Promptulate AI 旗下的大语言模型自动化与应用开发框架，旨在帮助开发者通过更小的成本构建行业级的大模型应用，其包含了LLM...
-
[linux-sd-webui]api化之训练lora
lora的训练使用的文件是https://github.com/Akegarasu/lora-scripts lora训练是需要成对的文本图像对的，需要准备相应的训练数据。 1.训练数据准备 使用deepbooru/blip生成训练数据，建筑类建议使...
-
AIGC: 关于ChatGPT中Function Call的调用
Function Call 概念 关于 GPT 中API的function参数，提供了一些能力 这个函数调用是 Open AI 在2023年的6.13号发布的新能力 根据它的官方描述, 函数调用能力可以让模型输出一个请求调用函数的消息 其中包...
-
不用魔法，快速、手摸手上线Midjourney！【附源码】【示例】
首先来一波感谢： 感谢laf提供赞助，目前可以免费使用Midjourney进行开发和测试。 感谢白夜、米开朗基杨@sealos.io的耐心解答，让我对laf有了更多的使用与了解。 什么是laf？来了解下。 文末有【示例】 开始 废话不多说，进入正题。...
-
GPT-4V开源平替！清华浙大领衔，LLaVA、CogAgent等开源视觉模型大爆发
如今，GPT-4 Vision在语言理解和视觉处理方面展现出了非凡的能力。 然而，如果想在不影响性能的前提下，寻求具有成本效益的替代方案，开源方案就蕴藏着无限可能。 国外的一位开发者Youssef Hosni为大家奉上了三种GPT-4V的开源替代方案，可...
-
保姆级教程：从0到1使用Stable Diffusion XL训练LoRA模型 |【人人都是算法专家】
Rocky Ding 公众号：WeThinkIn 写在前面 【人人都是算法专家】栏目专注于分享Rocky在AI行业中对业务/竞赛/研究/产品维度的思考与感悟。欢迎大家一起交流学习? 大家好...
-
AIGC初探：提示工程 Prompt Engineering
简介 提升工程是什么 提示工程（Prompt Engineering）是人工智能领域中的一个概念，特别是在自然语言处理（NLP）领域中。它是一种通过设计和优化输入提示来提高AI模型表现的方法。 对于基于转换器的大型语言模型（如OpenAI的GPT...
-
Copilot AI 编程训练营第二天：1 小时 0 手写开发一个购物车系统
经过训练营第一天的学习，大家都已经能基本熟练的使用 GitHub Copilot 进行辅助编程啦。 第二天，是考验学习成果的一天，我们需要在 2 小时内，通过 GitHub Copilot 完全 0 代码开发一个购物车系统。 熟练使用的同学，大概 1...
-
Stable-diffusion WebUI API调用方法
写这篇文章的主要原因是工作中需要写一个用训练好的模型批量生图的脚本，开始是想用python直接加载模型，但后来发现webui的界面中有很多用起来比较方便的插件和参数，最终改成调用WebUI接口的方式来批量生图。 Stable-diffusion的webu...
-
stable diffusion webui 教程：安装与入门
stable diffusion webui 安装与入门 原理简介 一、源码仓库 二、模型库地址 三、在 Windows 上自动安装步骤 安装Python 安装git 下载源代码 编辑 webui-user.bat 四、如何打开 五、依据文...
-
LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于源词表的扩展、(init_model.py文件)实现过计算均值扩展模型、(prepare_pretr
LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件 实现基于源词表的扩展(中文标记的新词汇 进而实现持续预训练、(init_model.py文件 实现过计算均值来扩展模型的嵌入层以适应新的词汇表，然后保存扩展后的模型...
-
AI绘画：SDXL版ControlNet模型和使用方法！
SDXL是目前最强的AI绘画基础模型，直接加载模型，就可以生成不错的效果。但是它有一个致命的问题，就是不支持ControlNet。 在AI绘画中，ControlNet是一个非常重要的工具。有了它，就可以生成更加可控精准的图片。ControlNet的用途非...
-
nodejs文心一言API接入
需求 在nodejs里面接入文心一言API，官方调用步骤API介绍 - 千帆大模型平台 | 百度智能云文档 大致流程 创建应用——>API授权——>获取访问凭证——>调用接口 创建应用 注册账号创建应用 首先注册百度云智能账号...
-
ThinkPHP6 实现 百度文心一言 （千帆）API 智能AI开发
尝试过chat GPT的接入，现在也尝试下文心一言的接入测试。 参照百度云千帆大模型官方提供的API文档，选择了” ERNIE-Bot-turbo “ 模型创建chat，使用的hinkPHP6 进行api对接。 一、Demo图 只做了接口对接结果处理...
-
一文带你UI界面玩转ChatGLM以及Llama的微调
Lora微调的概念： lora是Low-Rank Adaptation的缩写，是微软的Hu等人于2021年挂在ArXiv上（后又发表在ICLR2022上）的一篇论文《LoRA: Low-Rank Adaptation of Large...
-
【Java干货教程】JSON，JSONObject，JSONArray类详解
一、定义 JSON：就是一种轻量级的数据交换格式，被广泛应用于WEB应用程序开发。JSON的简洁和清晰的层次结构，易于阅读和编写；同时也易于机器解析和生成，有效的提升网络传输效率；支持多种语言，很多流行的语言都对JSON格式有着很友好的支持。 JS...
-
AIGC盛行，带你轻松调用开发
文章目录 前言 一、?AIGC简介 二、?开通体验 开通模型获取API-KEY 三、?基于java实现调用 1.设置API-KEY 2.体验大语言模型 多轮对话演示 补充流式输出 3.体验通义千问VL 使用官方提供照片 本地文件 多轮对...
-
语音识别之百度语音试用和OpenAiGPT开源Whisper使用
0.前言: 本文作者亲自使用了百度云语音识别,腾讯云,java的SpeechRecognition语言识别包 和OpenAI近期免费开源的语言识别Whisper(真香警告 介绍了常见的语言识别实现原理 1.NLP 自然语言处理(人类语言处理 你好不同人...
-
SOLAR10.7B大模型屠榜HuggingFace 创新性拼接两个羊驼，高效集成
深度学习领域的新技术近日在HuggingFace的大模型排行榜中崭露头角，由Upstage AI提出的深度扩展方法（DUS）在SOLAR10.7B大模型上取得了令人瞩目的成绩。该技术通过创新性地拼接两个7B羊驼，并采用DUS方法删除中间层次，使得新模型不仅...
-
两只羊驼掐头去尾拼一起，屠榜HuggingFace
HuggingFace开源大模型排行榜，又被屠榜了。 前排被清一色的SOLAR 10.7B微调版本占据，把几周之前的各种Mixtral 8x7B微调版本挤了下去。 SOLAR大模型什么来头？ 相关论文刚刚上传到ArXiv，来自韩国公司Upstage A...
-
在自定义数据集上微调Alpaca和LLaMA
本文将介绍使用LoRa在本地机器上微调Alpaca和LLaMA，我们将介绍在特定数据集上对Alpaca LoRa进行微调的整个过程，本文将涵盖数据处理、模型训练和使用流行的自然语言处理库(如Transformers和hugs Face 进行评估。此外还将介...
-
人工智能 | Llama大模型：与AI伙伴合二为一，共创趣味交流体验
Llama 大模型介绍 我们介绍 LLaMA，这是一个基础语言模型的集合，参数范围从 7B 到 65B。我们在数万亿个Token上训练我们的模型，并表明可以专门使用公开可用的数据集来训练最先进的模型，而无需诉诸专有的和无法访问的数据集。特别是，LL...