-
嵌入和矢量数据库实操指南
译者 | 布加迪 审校 | 重楼 这场革命的核心是矢量数据库概念，这一突破性发展正在重塑我们处理复杂数据的方式。与传统的关系数据库不同，这种数据库具有管理和处理高维矢量数据的独特功能，这种数据是许多AI 和机器学习应用所固有的。随着我们更深入研究先进AI...
-
VSCode使用技巧，代码编写效率提升2倍以上！
VSCode是一款开源免费的跨平台文本编辑器，它的可扩展性和丰富的功能使得它成为了许多程序员的首选编辑器。在本文中，我将分享一些VSCode的使用技巧，帮助您更高效地使用它。 1. 插件 VSCode具有非常丰富的插件生态系统，通过安装插件可以为编辑器增...
-
LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理
Llama 2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居Hugging Face Open LLM排行榜（https://huggingface.co/spaces/HuggingFaceH4/open_llm_lea...
-
maui 调用文心一言开发的聊天APP 3
主要是对代码进行了优化 上一个版本写死了帐号跟密码 ，这一个帐本有户可以直接设置 对相关的key以及secret如果设置错时，在聊天中也会返回提示。 注册帐号时同时也设置了key及secrete 升级到了net.8.0 导出APK，上一个版本是导出a...
-
LLama Factory 安装部署实操记录（二）
1. 项目地址 GitHub - hiyouga/LLaMA-Factory: Easy-to-use LLM fine-tuning framework (LLaMA, BLOOM, Mistral, Baichuan, Qwen, ChatGLM E...
-
Llama中文社区开源预训练Atom-7B-chat大模型体验与本地化部署实测(基于CPU，适配无GPU的场景)
一、模型简介 原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。 Atom系列模型包含Atom-7B和Atom-...
-
GPT系列训练与部署——GPT2环境配置与模型训练
本文为博主原创文章，未经博主允许不得转载。 本文为专栏《Python从零开始进行AIGC大模型训练与推理》系列文章，地址为“https://blog.csdn.net/suiyingy/article/details/13...
-
【Stable Diffusion/NovelAI Diffusion的AMD GPU加速推理探索】
测试机子配置： 1：AMD RX6600(显存8g +i5 12600KF 16g内存 (台式机 2：RTX 3070 laptop(显存8g +i7 10870H 32g内存 (HP暗夜精灵笔记本 两台电脑平均性能差不多，当然N卡肯定更好一点 这边...
-
Llama 2免费托管及API提供
Llama 2 是 Meta 最新的文本生成模型，目前其性能优于所有开源替代方案。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 1、强大的Llama 2 它击败了 Falcon-40B（之前最好的开源基础模型），与 GPT-3....
-
基于MindSpore的llama微调在OpenI平台上运行
基于MindSpore的llama微调在OpenI平台上运行 克隆预训练模型 克隆chatglm-6b代码仓，下载分布式的模型文件 git lfs install git clone https://huggingface.co/openlm-...
-
百度文心一言文心千帆大模型 ERNIE-Bot-turbo调用示例（golang版本）
百度的文心一言推出来也有一段时间了，但是接口部分一直没有公开，需要进行申请 最近，有朋友提供了文心千帆大模型的api权限，拿到了必须的参数，现在就来测试一下 下面是使用golang封装的文心千帆 ERNIE-Bot-turbo模型的调用示例...
-
Visual Studio Code 和 GitHub Copilot
翻译自 Chris Dias 的博客 AI 这个话题，近期我们看到它被大家广泛地谈论，有些人很兴奋，也有些人表达了担忧。进步几乎每天都在发生，速度前所未有。每天有超过一百万的 Copilot 用户，如果你有机会尝试，你可能也会认为这项技术并没有让人失望，...
-
【AI大模型】Google Bard (PaLM2) 大模型写代码能力实测: LSM Tree, DAG Scheduler, AI大模型加持自然语言零代码平台设计（福利O：文末附PaLM2访问链接）
禅与计算机程序设计艺术评测结论：当前AI大模型写代码能力当之无愧的 No.1. Google Bard (PaLM2 文章目录 禅与计算机程序设计艺术评测结论：当前AI大模型写代码能力当之无愧的 No.1. Google Bard...
-
Stable Diffusion XL webui dreambooth插件 Linux安装，训练LoRA（保姆级教程）
文章目录 Stable Diffusion XL webui dreambooth插件 Linux安装（保姆级教程） 前言 安装 下载dreambooth仓库 下载SDXL预训练模型其他文件 下载前注意 下载前准备 下载...
-
万媒易发：以RPA自动化和AIGC为基础实现多平台分发
引言 在当今数字化时代，信息传播的速度越来越快，多平台分发成为了内容创作者们必须面对的重要挑战之一。为了解决这一难题，我们可以借助RPA（Robotic Process Automation）自动化和AIGC（Artificial Intelligen...
-
文心一言AI大模型，前端接入
文心一言AI大模型，前端接入 一、参考接口资料 模型广场：https://console.bce.baidu.com/qianfan/modelcenter/model/buildIn/list 我的应用：https://console.bce.bai...
-
stable diffusion webui 参数详解
-h, --help：显示帮助信息并退出。 --exit：安装后立即终止。 --data-dir：指定存储所有用户数据的基本路径，默认为"./"。 --config：用于构建模型的配置文件路径，默认为 "configs/stable-diffusion/v...
-
Stable Diffusion Windows 部署简单认知
写在前面 偶然看到，简单了解 博文为 SD 部署，以及简单使用，部署过程遇到问题解决 理解不足小伙伴帮忙指正 对每个人而言，真正的职责只有一个：找到自我。然后在心中坚守其一生，全心全意，永不停息。所有其它的路都是不完整的，是人的逃避方式，是对大...
-
LLM实践-在Colab上使用免费T4 GPU进行Chinese-Llama-2-7b-4bit推理
一、配置环境 1、打开colab，创建一个空白notebook，在[修改运行时环境]中选择15GB显存的T4 GPU. 2、pip安装依赖python包 !pip install --upgrade accelerate !pip ins...
-
【小沐学Python】Python实现语音识别（Whisper）
文章目录 1、简介 1.1 whisper简介 1.2 whisper模型 2、安装 2.1 whisper 2.2 pytorch 2.3 ffmpeg 3、测试 3.1 命令测试 3.2 代码测试：识别声音文件 3.3 代码测试：...
-
copilot 逆向
原文： copilot-explorer | Hacky repo to see what the Copilot extension sends to the server 对我来说，Github Copilot 极其有用。它经常能神奇地读懂我的...
-
无脑利用API实现文心一言AI对话功能？(附代码)
前言：在当今数字化的时代，人工智能（AI）技术正在不断演进，为开发者提供了丰富的工具和资源。其中，API（应用程序接口）成为构建强大AI应用的关键组成部分之一。本文将介绍如何利用API来打造一个AI对话网站，使用户能够与智能系统进行交互。 以下内容不作太...
-
Stable Diffusion - Stable Diffusion WebUI 支持 SDXL 1.0 模型的环境配置
欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://spike.blog.csdn.net/article/details/132056980 SDXL 1.0 版本 是 Stable Dif...
-
科研神器：Vscode + latex+grammarly+github copilot
科研论文编写神器：Vscode + latex + grammarly + github copilot 相信很多科研人都有使用latex排版及撰写论文的需求，我一开始使用的是在线编辑的overleaf，overleaf的优点是省事便捷，不用配置，并且...
-
大语言模型之四-LlaMA-2从模型到应用
最近开源大语言模型LlaMA-2火出圈，从huggingface的Open LLM Leaderboard开源大语言模型排行榜可以看到LlaMA-2还是非常有潜力的开源商用大语言模型之一，相比InstructGPT，LlaMA-2在数据质量、培训技术、能力...
-
多綫程之python爬蟲構建
目录 多綫程 定義 簡介 原理 优点 缺点 优势 代碼框架實現 導包 打印類 爬蟲類 構造方法 獲取代理 設置headers 獲取新session 獲取源代碼 解析網頁 解析子頁面 保存數據 綫程任務 得到url 啓動多綫程爬蟲 總...
-
基于onnx模型和onnx runtime推理stable diffusion
直接用diffusers的pipeline: import os from diffusers import OnnxStableDiffusionPipeline, OnnxRuntimeModel from diffusers import DDIM...
-
实测亚马逊 AI 编程助手 Amazon CodeWhisperer
文章目录 CodeWhisperer简介 安装CodeWhisperer PyCharm安装 CodeWhisperer体验 VSCode安装 CodeWhisperer快捷键 CodeWhisperer智能编码(pycharm版 单行...
-
安装LLaMA-Factory微调chatglm3，修改自我认知
安装git clone https://github.com/hiyouga/LLaMA-Factory.git conda create -n llama_factory python=3.10 conda activate llama_factory...
-
快手 Dragonfly 策略引擎的设计与应用
一、问题与挑战 1、问题背景 从 2018 年开始，快手的整个业务呈现快速发展的状态，团队也在快速扩张中。在过去的五年中，DAU 从 1 亿增长至 3.76 亿。在 2021 年，快手的 DAU 已经超过了 3 亿。主要推荐场景也从早期的发现页、关注...
-
生成式人工智能潜力的释放：软件工程师的MLOps和LLM部署策略
译者 | 李睿 审校 | 重楼 生成式人工智能最近的爆发标志着机器学习模型的能力发生了翻天覆地的变化。像DALL-E 2、GPT-3和Codex这样的人工智能系统表明，人工智能系统在未来可以模仿人类独特的技能，例如创作艺术、进行对话，甚至编写软件。然而，...
-
Llama-2大模型本地部署研究与应用测试
最近在研究自然语言处理过程中，正好接触到大模型，特别是在年初chatgpt引来的一大波AIGC热潮以来，一直都想着如何利用大模型帮助企业的各项业务工作，比如智能检索、方案设计、智能推荐、智能客服、代码设计等等，总得感觉相比传统的搜索和智能化...
-
基于whisper的语音转文字（视频字幕）
由于之前在学习油管的视频的时候，发现没有字幕，自己的口语听力又不太好，所以，打算开发一个能够语音或者视频里面，提取出字幕的软件。 在寻找了很多的开源仓库，发现了openai早期发布的whisper 原仓库链接如下 openai/whisper: Ro...
-
如何把Ai绘画工具放到我们的App中
Scribble Diffusion 是一个简单的在线服务，它使用 AI 将粗略的草图转换为精致的图像，每一张图像都是不同的（而且没有版权困扰）。简单来说，我们只需要「用画笔描绘一张草图，在输入描述后稍等片刻」，随后就会为你生成一幅画。这幅画可以多次生成，...
-
Stable Diffusion Webui源码剖析
1、关键python依赖 （1）xformers：优化加速方案。它可以对模型进行适当的优化来加速图片生成并降低显存占用。缺点是输出图像不稳定，有可能比不开Xformers略差。 （2）GFPGAN：它是腾讯开源的人脸修复算法，利用预先训练号的面部GAN...
-
Copilot使用指南：提升编程效率的智能助手
在当今这个快速发展的科技时代，程序员们面临着越来越多的挑战。随着编程语言和框架的不断更新，程序员们需要不断地学习新的知识和技能。在这个过程中，有一个工具可以帮助我们提高工作效率，那就是Copilot。本文将详细介绍Copilot的使用方法，帮助大家更好地利...
-
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large...
-
本地推理,单机运行,MacM1芯片系统基于大语言模型C++版本LLaMA部署“本地版”的ChatGPT
OpenAI公司基于GPT模型的ChatGPT风光无两，眼看它起朱楼，眼看它宴宾客，FaceBook终于坐不住了，发布了同样基于LLM的人工智能大语言模型LLaMA，号称包含70亿、130亿、330亿和650亿这4种参数规模的模型，参数是指神经网络中的权重...
-
stable-diffusion-webui 的模型更新
shared.py和sd_models.py中 shared.py: options_templates.update(options_section(('sd', "Stable Diffusion" , { "sd_model_checkp...
-
【文心一言】使用飞桨 AI Studio 快速搭建，看图识猜成语应用
目录 一、背景 二、实践 三、创建应用 3.1、零代码开发 3.2、应用名称 3.2、模型训练 3.3、开始训练 四、应用部署 4.1、发布项目 4.2、搜索应用 4.3、应用部署 4.4、获取令牌 4.4、导入依赖 4.5、配置CO...
-
2023.12.12最新源码及资源：使用Python构建与百度大模型(包括文心一言在内的18个语言模型)的交互式界面！！
#ps:12.12修复bug，部分模型不能回应的问题，资源已更新！ 在当前人工智能领域，通过与机器进行智能对话的能力变得越来越重要。本文将介绍如何使用Python编程语言和Tkinter库构建一个交互式界面，使用户能够与百度大模型进行智能对话，展...
-
如何训练一个简单的stable diffusion模型(附详细注释）
注：代码来自https://github.com/darcula1993/diffusion-models-class-CN/blob/main/unit1/01_introduction_to_diffusers_CN.ipynb 本文是本人学习后的...
-
手把手教你搭建微信聊天机器人系列（五）：对接文心一言4.0
之前的章节算是已经比较完整的实现了聊天功能，本来打算直接结束的。前几天听说文心一言4.0开放了公测，所以也去申请了一下，2天后就收到了通过短信。通过以后，可以在之前申请的应用列表中，点击“详情”，在“服务配置”的最后一行可以看到ERNIE-...
-
OpenAI Whisper and ChatGPT 语音助手
OpenAI Whisper and ChatGPT ASR Gradio Web UI 一 环境准备 1.1 python 1.2 windows 二 导入所需要的包 三 加载模型 四 定义openai和whisper接口 五 生成Gra...
-
stable-diffusion-webui(1.2.1版本) win10系统本地电脑部署
在安装stable-diffusion-webui(1.2.1版本 之前需要确认win10本地电脑具有的环境 1.显卡类型：NVIDIA（英伟达） 建议显存高于4G以上，这样512*512的还是可以运行的 2.python(版本必须最好是3.10.6...
-
京东哥伦布即时设计平台ChatGPT落地实践 | 京东云技术团队
1.1 平台能力 ? 在哥伦布即时设计中，即时设计能力主要包括以下几个方面： 1. 画布编辑能力：即时设计平台提供了丰富的画布编辑功能，包括添加、删除、复制、调整层级等操作，可以灵活地编辑页面的结构和布局。 2....
-
使用LLama和ChatGPT为多聊天后端构建微服务
微服务架构便于创建边界明确定义的灵活独立服务。这种可扩展的方法使开发人员能够在不影响整个应用程序的情况下单独维护和完善服务。然而，若要充分发挥微服务架构的潜力、特别是针对基于人工智能的聊天应用程序，需要与最新的大语言模型（LLM，比如Meta LLama ...
-
AIGC: 关于ChatGPT中对输出文本进行审核
违禁词 与 logit_bias 参数 前文，通过GPT的API实现了一个简单的聊天机器人, 当然也可以做一些内容审核相关的应用 这里有一个非常核心，需要重点关注的一个方向，就是对于文本的审核 对于一些违禁词，我们需要准确的识别出来，避免出现...
-
Chinese-LLaMA-AIpaca 指令精调
文章目录 一、继续训练 Chinese-AIpaca 模型的 LoRA权重 二、基于中文Chinese-LLaMA训练全新的指令精调LoRA权重 1、合并 2、基于中文 Chinese-LLa...
-
springboot + websocket对接文心一言接口实现简单上下文聊天（贴代码）
文章目录 参考 先看看效果 文心千帆创建应用 思路 步骤与代码 如题，第一次用websocket，做了个这玩意，只做了上下文的聊天，没做流式。 中间还有个低级报错但卡了好久，具体可以看【错误记录】websocket连接失败，但后端毫无...