-
LLaMA-Factory源码分析
搭建远程容器调试环境 docker-compose部署 使用LLaMA-Factory源码中的docker/docker-cuda下的Dockerfile和docker-compose.yml构建镜像，启动其服务。Dockerfile使用官方默认，只需...
-
AIGC与前端结合，可以应用哪些场景
AIGC（AI Generated Content，人工智能生成内容）在前端开发中的应用正变得越来越广泛。通过结合 AI 和前端技术，可以实现更智能、个性化的用户体验。以下是 AIGC 在前端开发中的一些主要应用场景和技术实现方式： 1. 内容生成与个...
-
【Datawhale X 魔搭AI夏令营】AIGC方向 Task 1+2
目录 写在前面 Task 1 赛题解读——可图Kolors-LoRA风格故事挑战赛 文生图 文生图基础知识 提示词 LoRA ComfyUI 参考图控制 Task 2 前沿探索：了解AI生图技术的能力和局限 Deepfake 必要...
-
使用 Ollama、Llama 3.1 和 Milvus 实现Function Calling 功能
将函数调用（Function Calling）与 LLM 相结合能够扩展您的 AI 应用的能力。通过将您的大语言模型（LLM）与用户定义的 Function 或 API 集成，您可以搭建高效的应用，解决实际问题。 本文将介绍如何将 L...
-
AIGC 项目使用文档
AIGC 项目使用文档 AIGC 项目地址: https://gitcode.com/gh_mirrors/ai/AIGC 1. 项目目录结构及介绍 AIGC 项目的目录结构如下： AIGC/ ├── README.md ├──...
-
Stable Diffusion Web UI UX 项目安装与使用指南
Stable Diffusion Web UI UX 项目安装与使用指南 stable-diffusion-webui-ux Stable Diffusion web UI UX 项目地址: https://gitcode.com/gh_mir...
-
Datawhale X 魔搭 AI夏令营--AIGC Task3
Datawhale X 魔搭 AI夏令营–AIGC Task3 文章目录 Datawhale X 魔搭 AI夏令营--AIGC Task3 ComfyUI 实践 Lora微调 ComfyUI 目前主流GUI有三种：使用...
-
AIGC时代算法工程师的面试秘籍（第二十一式2024.8.19-9.1） |【三年面试五年模拟】
写在前面 【三年面试五年模拟】旨在整理&挖掘AI算法工程师在实习/校招/社招时所需的干货知识点与面试经验，力求让读者在获得心仪offer的同时，增强技术基本面。也欢迎大家提出宝贵的优化建议，一起交流学习? 欢迎大家关注Rock...
-
stable-diffusion-xl_pytorch生成高质量的图像的AIGC模型
stable-diffusion-xl_pytorch 论文 SDXL: Improving Latent Diffusion Models for High-Resolution Image Synthesis https://arxiv.org/...
-
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型
使用 llama-cpp-python 在 LangChain 中运行 LLM 模型 引言 在人工智能和自然语言处理领域，大型语言模型（LLMs）的应用越来越广泛。llama-cpp-python 是一个强大的工具，它为 llama.cpp 提供了...
-
Datawhale X 魔搭 AI夏令营AIGC方向task3
ComfyUI 样例 下载并安装 ComfyUI # #@title Environment Setup from pathlib import Path OPTIONS = {} UPDATE_COMFY_UI = True #@param {...
-
Lawyer LLaMA(中文法律大模型本地部署)
Lawyer LLaMA(中文法律大模型本地部署 1.模型选择（lawyer-llama-13b-v2） 2.运行环境 1.建议使用Python 3.8及以上版本。 2.主要依赖库如下： transformers >=...
-
11、LLaMA-Factory自定义数据集微调
1、数据集定义 针对实际的微调需求，使用专门针对业务垂直领域的私有数据进行大模型微调才是我们需要做的。因此，我们需要探讨如何在LLaMA-Factory项目及上述创建的微调流程中引入自定义数据集进行微调。**对于LLaMA-Factory项目，目前...
-
业务系统如何接入文心一言AI模型完整版
博主介绍： 大家好，我是想成为Super的Yuperman，互联网宇宙厂经验，17年医疗健康行业的码拉松奔跑者，曾担任技术专家、架构师、研发总监负责和主导多个应用架构。技术范围： 目前专注java体系，有多年java、golang、.Net、DDD、软件架...
-
使用LLaMA-Factory进行模型微调（LLama3-8B-instruct）
1.使用环境 Linux -Ubuntu20.04 RTX3090 24GB， LORA+sft 训练微调 2. 下载项目，虚拟环境创建及安装： git clone https://github.com/hiyouga/LLaMA-Factor...
-
使用微调神器LLaMA-Factory轻松改变大语言模型的自我认知
一、引言 在本地化部署大语言模型时，为了能够改变大语言模型的自我认知，最简单的方式，就是使用系统提示词（system_prompt）的方式，譬如在与大模型进行对话时，首先将这段话作为message发送给大模型——{"role":"system","con...
-
Copilot for Microsoft 365 Plugins 示例项目教程
Copilot for Microsoft 365 Plugins 示例项目教程 Copilot-for-M365-Plugins-Samples Microsoft Copilot for Microsoft 365 Plugins sample...
-
Datawhale X 魔塔 AI夏令营 AIGC方向Task2
小白学习笔记，如有错误请各位大佬指正 一、AI生图背景介绍 1.AICG领域介绍 AIGC（Artificial Intelligence Generated Content）领域涉及使用人工智能技术生成各种类型的内容，包括文本、图像、...
-
【AI绘画】可控版 Flux + Controlnet ，强势来袭！（附整合包）
大家好，我是写编程的木木。 Flux是一个全新的物种，吊打一众商业引擎，且免费开源。Comfyui官方团队一直在追踪和适配Flux，以完美平替Midjourney，这是开源的一次伟大胜利！国内外各大公司也在逐步将自己的AI绘图引擎替换为Flux。 新...
-
【AIGC】AI编程工具合集及其特点介绍
??欢迎大家来到我们的天空?? ??如果文章内容对您有所触动，别忘了点赞、关注，收藏！ ? 作者简介：我们的天空 ?《头衔》：大厂高级软件测试工程师，阿里云开发者社区专家博主，CSDN人工智能领域新星创作者。 ?《博客》：人工智能，深度学习，...
-
【LLM大模型】使用QLoRa微调Llama 2
本篇文章将介绍使用PEFT库和QLoRa方法对Llama 27b预训练模型进行微调。我们将使用自定义数据集来构建情感分析模型。只有可以对数据进行微调我们才可以将这种大模型进行符合我们数据集的定制化。 一些前置的知识 如果熟悉Google Cola...
-
ESP32-S3百度文心一言大模型AI语音聊天助手（支持自定义唤醒词训练）【手把手非常详细】【万字教程】
简介 此项目主要使用ESP32-S3实现一个AI语音聊天助手，可以通过该项目熟悉ESP32-S3 arduino的开发，百度语音识别，语音合成API调用，百度文心一言大模型API的调用方法，音频的录制及播放，SD卡的读写，Wifi的配置（smartconf...
-
智能提醒助理系列-AIGC模型选型以及如何调用
本系列文章记录“智能提醒助理”wx公众号 建设历程。 一、需求出发点 想在现有的 “智能提醒助理” 功能中增加 智能提醒，想法是 通过用户设置的定时提醒指令，再提醒的同时，根据指令生成内容，展示给用户。 产品设计入下图所示：...
-
LLaMA-Factory微调入门个人重制版
LLaMA-Factory微调入门个人重制版 说明： 首次发表日期：2024-08-30 LLaMA-Factory 官方Github仓库： https://github.com/hiyouga/LLaMA-Factory 关于 本文是对L...
-
小白mac下载chinese-llama-2-7b全过程！
所有步骤来源： https://my.oschina.net/qyhstech/blog/11046186 只是小白第一次下记录，也为其他小白做个参考！ 环境起步 用这个命令，然后你的base就会变成miaomiao， 然后你在...
-
audioWhisper 项目使用教程
audioWhisper 项目使用教程 audioWhisperListen to any audio stream on your machine and print out the transcribed or translated audio.项...
-
Ollama保姆级教程
Ollama保姆级教程 Ollama是一个开源框架，专门设计用于在本地运行大型语言模型。它的主要特点是将模型权重、配置和数据捆绑到一个包中，从而优化了设置和配置细节，包括GPU使用情况，简化了在本地运行大型模型的过程。 Ollama还提供了对模型量化...
-
Jetson 部署 Faster Whisper
文章目录 Whisper Faster Whisper 安装使用 尝试WSL部署 尝试 Jetson 部署 时间戳 实时转录 Whisper Whisper 是一种通用语音识别模型。它是在大量不同音频数据集上进行训练的，也是一...
-
Esp32S3通过文心一言大模型实现智能语音对话
前言 效果展示 效果展示录制 一、开发环境介绍 1、arduino开发平台； 2、所需设备：Esp32s3、inmp441、max98357、按键，杜邦线(接线 ； 3、大模型：百...
-
FastAPI部署大模型Llama 3.1
项目地址：self-llm/models/Llama3_1/01-Llama3_1-8B-Instruct FastApi 部署调用.md at master · datawhalechina/self-llm (github.com 目的：使用Aut...
-
Azure openai speech to text -Whisper “code“:“404“,“message“: “Resource not found“
题意：Azure OpenAI 语音转文本 - Whisper 报错 "code":"404","message": "Resource not found 问题背景： i'm trying to transcribe a audio file...
-
大模型_基于医疗领域用lora微调医疗数据及LLaMA微调ChatDoctor模型
文章目录 ChatDoctor 目标 方法 结果 结论 收集和准备医患对话数据集 创建外部知识数据库 具有知识大脑的自主聊天医生的开发 模型培训 结果 数据和模型： 微调 推理 ChatDoctor 目标 这项研究的主要...
-
DatawhaleX魔搭-AI夏令营AIGC-task2
一、了解AI生图技术 1，为什么了解生图技术 AIGC(AI-Generated Content 是通过人工智能技术自动生成内容的生产方式，很早就有专家指出，AIGC将是未来人工智能的重点方向，也将改造相关行业和领域生产内容的方式。 应用广泛...
-
心理健康问答系统-AIGC大模型-小程序制作
制作一个心理健康问答系统的小程序，涉及到多个环节和技术领域。这里将从需求分析、技术选型、开发流程、API调用等方面进行详细说明。 一、需求分析与规划 在开始任何项目之前，首先需要明确的是你的小程序想要解决什么样的问题，提供哪些功能给用户。对于心理健康...
-
llamafactory-llama3微调中文数据集
一、定义 https://github.com/SmartFlowAI/Llama3-Tutorial/tree/main 基准模型测试 opencompass 离线测评 数据准备 微调训练 合并 测试 人工审核对比 二、实现 基准模型测试...
-
llama-node 项目教程
llama-node 项目教程 llama-nodeBelieve in AI democratization. llama for nodejs backed by llama-rs, llama.cpp and rwkv.cpp, work loc...
-
使用llama-factory和llama.cpp微调量化Qwen2
使用llama-factory和llama.cpp微调量化Qwen2 准备数据集 微调 测试 合并 使用llama.cpp量化 准备数据集 1.选定数据集的格式 2.将处理好的数据集上传到/data 文件夹下面，并修改datase...
-
Unsloth微调环境搭建与LLaMA 3.1-8B模型微调实践指南
本文将详细介绍如何使用Unsloth框架进行LLaMA 3.1-8B模型的微调，帮助您快速构建微调环境，并了解微调流程的基本步骤。本教程适合初学者，旨在帮助您在短时间内实现自己的专属模型微调。对于更复杂的微调参数和细节设置，将在后续文章中进一步阐述。 文...
-
Stable Diffusion Discord Bot 项目教程
Stable Diffusion Discord Bot 项目教程 stable-diffusion-discord-botA Discord bot, written in Go, that interfaces with the Automatic...
-
探索本地AI之旅：node-llama-cpp项目解析与推荐
探索本地AI之旅：node-llama-cpp项目解析与推荐 node-llama-cppRun AI models locally on your machine with node.js bindings for llama.cpp. Force...
-
欺诈文本分类检测（十一）：LLamaFactory多卡微调
1. 引言 前文训练时都做了一定的编码工作，其实有一些框架可以支持我们零代码微调，LLama-Factory就是其中一个。这是一个专门针对大语言模型的微调和训练平台，有如下特性： 支持常见的模型种类：LLaMA、Mixtral-MoE、Qwen、B...
-
python 使用文心一言大模型API
0 背景 生成式人工智能AIGC（Artificial Intelligence Generated Content）是人工智能1.0时代进入2.0时代的重要标志。 AIGC对于人类社会、人工智能的意义是里程碑式的。短期来看AIGC改变了基础的生产力工...
-
【国产异构加速卡】基于llama.cpp实现Llama3模型的guff格式转换、4bit量化以及推理加速
重要说明：本文从网上资料整理而来，仅记录博主学习相关知识点的过程，侵删。 序言 本文使用llama.cpp框架，对 Llama3-8B-Instruct 模型进行gguf格式转换，8bit量化，并在CPU和GPU上对8bit模型进行推理。 测试平台...
-
记一次：Datawhale AI夏令营-第四期-魔搭-AIGC-Task02
前言：上一篇我们按步骤跑了一遍Baseline也生成了8张故事图片，但是原理啥的都是一头雾水，因为是初学者，所以只能一点点的分析来理解消化。这篇咱们就深入的来了解一下相关的内容。根据内容自己总结理解和查询相关的一些资料。不正确的地方提出来我修改一下。 学...
-
【Datawhale X 魔搭 AI夏令营】AIGC方向——Task02笔记GC
Task02 AI生图技术 为什么要了解AI生图前沿？ AI生图的历史 AI生图的难点和挑战有哪些？ 精读baseline代码（上次运行的） 再次生成图片 AI生图技术 为什么要了解AI生图前沿？ AIGC(AI-Gene...
-
开源项目 PaperWhisperer 指南
开源项目 PaperWhisperer 指南 paperwhispererAutomatic voice-synthetised summaries of latest research papers on arXiv项目地址:https://gitc...
-
使用亚马逊Bedrock的Stable Diffusion XL模型实现文本到图像生成：探索AI的无限创意
引言 什么是Amazon Bedrock？ Amazon Bedrock是亚马逊云服务（AWS）推出的一项旗舰服务，旨在推动生成式人工智能（AI）在各行业的广泛应用。它的核心功能是提供由顶尖AI公司（如AI21 Labs、Anthropic、Cohere...
-
Datawhale X 魔搭AI夏令营 第四期 AIGC文生图方向 Task2笔记
这次的笔记主要是结合了AI来辅助学习和生成提示词，和上次Task1的笔记一样，笔者会先过一遍流程，在文末再补充相应的理论知识。 通义千问（如果已经有习惯的大语言模型可以跳过这一段） 通义千问是由阿里云开发的人工智能助手，这里给出链接，大家可以自行体验...
-
Datawhale X 魔搭 AI夏令营‣AIGC文生图方向-Task2笔记
目录 一、用AI的prompts进行AI文生图 ‣通义千问 ‣跑baseline ‣结果展示： ‣另，prompts风格补充： 三、精读baseline ‣原始代码详情 ‣分析代码的主题架构 & 分析代码的主题...
-
ComfyUI - 在服务器中部署 AIGC 绘画的 ComfyUI 工具 教程
欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://spike.blog.csdn.net/article/details/141140498 免责声明：本文来源于个人知识与公开资料，仅用于学术交...