-
使用 Llama-Agents、Qdrant 和 Kafka 进行高级实时 RAG
简介 在当今数据驱动的世界中，实时处理和检索信息的能力至关重要。本文深入探讨了使用Llama-Agents、Qdrant 和 Kafka 的高级实时检索增强生成 (RAG 。通过集成这些强大的工具，我们创建了一个可以有效管理数据提取、处理和检索的代理系...
-
【实战】Llama3.1-部署与使用
大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。 百模大战正值火热，开源 LLM 层出不穷。如今国内外已经涌现了众多优秀...
-
利用Streamlit前端框架开发Stable Diffusion模型图像生成网页应用（下篇）
今天介绍亚马逊云科技推出的国际前沿人工智能模型平台Amazon Bedrock上的Stability Diffusion模型开发生成式AI图像生成应用！本系列共有3篇，在上篇中我们学习了如何在亚马逊云科技控制台上体验该模型的每个特色功能，如文生图、图生图、...
-
【技术前沿】Flux.1部署教程入门--Stable Diffusion团队最前沿、免费的开源AI图像生成器
项目简介 FLUX.1 是一种新的开源图像生成模型。它由 Stable Diffusion 背后的团队 Black Forest Labs 开发。 官网中有以下功能开源供大家参考： FLUX.1 擅长在图像中准确再现文字，因此非常适合需要清晰文字或...
-
Whisper-TikTok 使用指南
Whisper-TikTok 使用指南 Whisper-TikTokFrom AI tools to TikTok video creation using FFMPEG, Microsoft Edge read aloud and OpenAI Wh...
-
16 使用Llama Index提取术语和定义的指南
使用Llama Index提取术语和定义的指南 Llama Index有许多用例（如语义搜索、总结等），这些用例都有很好的文档记录。然而，这并不意味着我们不能将Llama Index应用于非常特定的用例！ 在本教程中，我们将介绍使用Llama Ind...
-
在亚马逊云科技上部署Llama大模型并开发负责任的AI生活智能助手
项目简介： 小李哥将继续每天介绍一个基于亚马逊云科技AWS云计算平台的全球前沿AI技术解决方案，帮助大家快速了解国际上最热门的云计算平台亚马逊云科技AWS AI最佳实践，并应用到自己的日常工作里。 本次介绍的是如何在亚马逊云科技上利用SageMaker...
-
LangChain +Streamlit+ Llama ：将对话式人工智能引入您的本地设备成为可能（上篇）
🦜️ LangChain +Streamlit🔥+ Llama 🦙：将对话式人工智能引入您的本地设备🤯 将开源LLMs和LangChain集成以进行免费生成式问答（不需要API密钥） 在过去的几个月中，大型语言模型(LLMs 得到了广...
-
本地部署私人知识库的大模型！Llama 3 + RAG！
在今天的的教程中，我们将打造更加个性化的大模型，可以定制搭载私人知识库的本地大模型！ 我们探讨Meta AI 的尖端 Llama 3 语言模型构建强大的检索增强生成 （RAG） 来实现。通过利用 Llama 3 和 RAG 技术的功能，我们将创建一个应用...
-
本地运行 Llama 3.1 模型：综合指南,使用 Llama 3.1 Ollama 和 LM Studio构建应用程序(教程含程序)
简介 Llama 3.1 是 Meta 大型语言模型系列的最新版本，它已席卷 AI 界。凭借其出色的性能和开源特性，许多人都渴望在本地机器上利用其强大功能。本指南将引导您使用 Ollama 和 LM Studio 等流行工具在本地运行 Llama 3....
-
AI多模态实战教程：面壁智能MiniCPM-V多模态大模型问答交互、llama.cpp模型量化和推理
一、项目简介 MiniCPM-V 系列是专为视觉-语⾔理解设计的多模态⼤型语⾔模型（MLLMs），提供⾼质量的⽂本输出，已发布4个版本。 1.1 主要模型及特性 （1）MiniCPM-Llama3-V 2.5： 参数规模: 8B 性能: 超越...
-
手把手教你在autodl上部署llama模型
文章目录 一、注册AutoDL账号、租用GPU 二、创建conda环境 三、下载llama模型 四、启动模型 一、注册AutoDL账号、租用GPU 进入 AutoDL官网链接 注册账号，需要先充点钱，如下创建新实例。 随便选...
-
基于Llama Index构建RAG应用(Datawhale AI 夏令营)
前言 Hello，大家好，我是GISer Liu😁，一名热爱AI技术的GIS开发者，本文参与活动是2024 DataWhale AI夏令营；😲 在本文中作者将通过： Gradio、Streamlit和LlamaIndex介绍 Ll...
-
本地私有化部署开源大模型完整教程：LangChain + Streamlit+ Llama 【LLM大模型】
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
Llama 3 超级课堂 作业
1.web demo部署 环境配置 conda create -n llama3 python=3.10 conda activate llama3 conda install pytorch==2.1.2 torchvision==0.16.2...
-
超简单！用AWS的Bedrock对Llama进行微调
哎，微调？听起来超难的！ 对吧。不过，用Amazon Bedrock的话，其实挺简单的。 Customize models in Amazon Bedrock with your own data using fine-tuning and conti...
-
在Windows下搭建Stable Diffusion环境中途出错咋弄？
在Windows下搭建Stable Diffusion环境需要以下几个步骤： 安装Git和Anaconda 首先，确保你的计算机上已经安装了Git和Anaconda。如果没有安装，可以分别访问官方网站进行下载和安装： Git: https://git...
-
LLM记录：五一 Llama 3 超级课堂
LLM记录：五一 Llama 3 超级课堂 想玩大模型，自己又没那个环境，参加五一 Llama 3 超级课堂，简单记录一下llama3-8b的相关体验，实在是邀请不到人，还好后面开放了24G显存，好歹模型能跑起来了，只能说感谢大佬！ Llama 3...
-
diffusers flask streamlit或gradio 简洁可视化AIGC文生图页面
参考： https://python-bloggers.com/2022/12/stable-diffusion-application-with-streamlit/ https://github.com/LowinLi/stable-diffusion...
-
照片特定风格变换Stylar AI；GPT-4V开源替代方案InternVL；纯C/C++实现的Stable Diffusion库；基于AI的数据爬取
✨ 1: AI Photo Filter Stylar AI是一款功能强大的AI图像编辑与设计工具，提供无与伦比的图片组合和风格控制。 AI Photo Filter，简言之，就是使用人工智能技术来改善或改变图片的风格、质量和元素组合的一种...
-
Llama 3 五一超级课堂中实践llama3的部署，微调，量化优化部署学习总结：第一部分llama3部署
本次学习分享基于Llama3-Tutorial（Llama 3 超级课堂）分享，git地址如下 GitHub - SmartFlowAI/Llama3-Tutorial: Llama3-Tutorial（XTuner、LMDeploy、OpenCompa...
-
Llama 3 Agent 能力体验+微调
Llama 3 Agent 能力体验+微调（Lagent 版） 微调过程 本次实验基于AutoDL平台使用A40显卡做的实验，使用 XTuner 在 Agent-FLAN 数据集上微调 Llama3-8B-Instruct，以让 Llama3-8B...
-
【LLama】Llama3 的本地部署与lora微调(基于xturn)
系列课程代码+文档（前2节课可跳过）：https://github.com/SmartFlowAI/Llama3-Tutorial 课程视频：https://space.bilibili.com/3546636263360696/channel/serie...
-
GPT-4o：实现跨越文本与视觉的智能交互 原创
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 摘要 OpenAI最新发布的GPT-4o模型及其在多模态处理上的卓越能力，标志着人机交互迈向新的高度。GPT-4o能够处理文本、音频、...
-
如何利用OpenAI、NATS和Streamlight彻底改变实时警报
本文将介绍如何使用Streamlight、NATS和OpenAI这些非常酷的工具，在Python中构建一个全栈事件驱动的天气警报聊天应用程序。该应用程序可以实时收集天气信息，使用人工智能了解警报标准，并将这些警报发送到用户界面。 这段内容和代码示例对于那...
-
用云服务器构建gpt和stable-diffusion大模型
用云服务器构建gpt和stable-diffusion大模型 一、前置知识 二、用云端属于自己的聊天chatGLM3 step1、项目配置 step2、环境配置 1、前置知识 2、环境配置流程 step3、创建镜像 1、前置知识 2、创...
-
大模型学习笔记（一）：部署ChatGLM模型以及stable-diffusion模型
大模型学习笔记（一）：部署ChatGLM模型以及stable-diffusion模型 注册算力平台（驱动云平台） 1.平台注册 2.查看算力 3.进入平台中心 部署ChatGLM3-6B模型 1.创建项目 2.配置环境 设置镜像源、克隆...
-
使用LlamaIndex和ChatGPT的无代码检索增强生成（RAG）
检索增强生成(RAG 是使用大型语言模型(LLM 的关键工具。RAG使LLM能够将外部文档合并到它们的响应中，从而更紧密地与用户需求保持一致。这个功能在传统上使用LLM犹豫不决的领域尤其有益，尤其是在事实很重要的时候。 自从ChatGPT和类似的LLM推...
-
元壤教育“AIGC大模型应用开发工程师”课纲，学习这套课程就够了
元壤教育（公众号ID：yuanrang_edu）：专注于AIGC大模型应用开发工程师和AIGC+数字人全栈运营师就业培训，帮助3000万大学生和职业人士构建AIGC新职场的高速公路。 人工智能是新电力。正如大约 100 年前电力改变了许多行业一...
-
AIGC｜LangChain新手入门指南，5分钟速读版！
如果你用大语言模型来构建AI应用，那你一定不可能绕过LangChain,LangChain是现在最热门的AI应用框架之一，去年年底才刚刚发布，它在github上已经有了4.6万颗星的点赞了，在github社区上，每天都有众多大佬，用它创造一些很新很酷的应用...
-
如何使用OpenAI的whisper
文章目录 一、安装ffmpeg 二、安装torch等相关组件 三、安装Whisper 四、下载模型 五、测试效果 六、cpu与gpu解码的耗时对比 参考文献 一、安装ffmpeg yum localinstall --nogpgc...
-
如何使用单个指令微调GPT-3.5或Llama 2
由于在各种任务中的通用性，像ChatGPT和Llama 2这样的大型语言模型(LLM 广受欢迎。然而，有些应用程序需要使用自定义数据对这些模型进行微调，以获得更好的性能。 不幸的是，针对特定应用程序对大型语言模型(LLM 进行微调通常是复杂和令人沮丧的...
-
技术融合下的虚拟角色创建与实践
作者 | 崔皓 审校 | 重楼 摘要 文章详细介绍了百川大模型在创建个性化虚拟角色方面的创新技术和应用。这项技术结合了LangChain和Qianfan微调的Llama2-Chinese大模型，提供了高度个性化的角色定制功能。 作者通过实际体验和技术模...
-
Windows使用Stable Diffusion时遇到的各种问题和知识点整理（更新中...）
Stable Diffusion安装完成后，在使用过程中会出现卡死、文件不存在等问题，在本文中将把遇到的问题陆续记录下来，有兴趣的朋友可以参考。 安装及其问题解决参考：《Windows安装Stable Diffusion WebUI及问题解决记录》；...
-
AIGC：【LLM（七）】——Baichuan2：真开源可商用的中文大模型
文章目录 一.模型介绍 二.模型部署 2.1 CPU部署 2.2 GPU部署 三.模型推理 3.1 Chat 模型推理 3.2 Base 模型推理 四.模型量化 4.1 量化方法 4.2 在线量化 4.3 离线量化 4.4 量化效果...
-
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用)的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embe
LLMs之RAG：LangChain-Chatchat(一款中文友好的全流程本地知识库问答应用 的简介(支持 FastChat 接入的ChatGLM-2/LLaMA-2等多款主流LLMs+多款embedding模型m3e等+多种TextSplitter分词...
-
构建优秀LLM应用的四大要点，你找到哪点？
这些建议可提高LLM应用的准确率，还包含如何选择合适LLM的注意事项。 译自4 Key Tips for Building Better LLM-Powered Apps，作者 Adrien Treuille 是 Snowflake 的产品管理总监和 S...
-
检测脸部情绪有多难？10行代码就可以搞定！
面部表情展示人类内心的情感。它们帮助我们识别一个人是愤怒、悲伤、快乐还是正常。医学研究人员也使用面部情绪来检测和了解一个人的心理健康。 人工智能在识别一个人的情绪方面可以发挥很大的作用。在卷积神经网络的帮助下，我们可以根据一个人的图像或实时视频来识别他...
-
Stable diffusion环境部署搭建
1、安装Nvidia驱动、cuda版本等 略 2、安装anaconda环境 略 3、安装git #git工具的安装参考下面命令 apt-get update -y a pt-get upgrade -y apt install git 4、...
-
苹果M1芯片上运行Stable Diffusion(文字作画)
1 源码下载 git clone -b apple-silicon-mps-support https://github.com/bfirsh/stable-diffusion.git cd stable-diffusion 2 修改gitee国内...
-
构建更好的基于LLM的应用程序的四大秘诀
作者 | Adrien Treuille 译者 | 布加迪 审校 | 重楼 出品 | 51CTO技术栈（微信号：blog51cto） 自从OpenAI发布首个ChatGPT模型以来，人们对生成式AI的兴趣激增。基于大语言模型（LLM）的应用程序现处于企业...
-
Stability AI推出Stable Diffusion XL 1.0，文本到图像模型
Stability AI宣布推出Stable Diffusion XL 1.0，这是一个文本到图像的模型，该公司将其描述为迄今为止“最先进的”版本。 Stability AI表示，SDXL 1.0能生成更加鲜明准确的色彩，在对比度、光线和阴影方面做了增强...
-
【深度学习】AIGC ，ControlNet 论文，原理，训练，部署，实战，教程（三）
文章目录 源码资源下载 Python环境 试玩controlnet 训练 数据准备 选一个Stable diffusion模型 开始训练 第一篇：https://qq742971636.blog.csdn.net/article/...
-
在本地使用CPU运行Llama 2模型来实现文档Q&A
第三方商业大型语言模型（LLM）提供商，如OpenAI的GPT4，通过简单的API调用使LLM的使用更加容易。然而，由于数据隐私和合规等各种原因，我们可能仍需要在企业内部部署或私有模型推理。 开源LLM的普及让我们私有化部署大语言模型称为可能，从而减少了...
-
如何使用LangChain和OpenAI API分析文档？
译者 | 布加迪 审校 | 重楼 从文档和数据中提取洞察力对于您做出明智的决策至关重要。然而在处理敏感信息时，会出现隐私问题。结合使用LangChain与OpenAI API，您就可以分析本地文档，无需上传到网上。 它们通过将数据保存在本地、使用嵌入和向...
-
本地部署开源大模型的完整教程：LangChain + Streamlit+ Llama
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
腾讯云部署清华大学ChatGLM-6B实战
简介（来自官方） ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只...
-
使用 LangChain 和 Pinecone 矢量数据库构建自定义问答应用程序
构建自定义聊天机器人，以使用 LangChain、OpenAI 和 PineconeDB 从任何数据源开发问答应用程序 介绍 大型语言模型的出现是我们这个时代最令人兴奋的技术发展之一。它为人工智能领域开辟了无限可能，为各行业的现实问题提供了解决方案。这些...