-
欺诈文本分类检测（十一）：LLamaFactory多卡微调
1. 引言 前文训练时都做了一定的编码工作，其实有一些框架可以支持我们零代码微调，LLama-Factory就是其中一个。这是一个专门针对大语言模型的微调和训练平台，有如下特性： 支持常见的模型种类：LLaMA、Mixtral-MoE、Qwen、B...
-
200美元的ChatGPT Pro正式上线，聪明N倍的新模型草莓要来了。
半夜10点，The Information发了个新闻，透露了OpenAI的新模型，草莓，要来了。 两个小时后，我的好朋友@solitude（美东时间），作为一个常年拥有第一手资料和信息的人，跟我说，ChatGPT Pro会员上线了，售价200刀/月，他已...
-
【全网最全】AIGC产品经理面试高频100题答案解析
【全网最全】AIGC产品经理面试高频100题答案解析 说明： 1）目前干货文档总字数9.57万，不管是模型基本功还是每个问题的答案都尽可能详尽； 2）重点给大家深度讲解了机器学习、深度学习、AIGC三个大方向的13个经典模型 3）每个模型从实现...
-
Gemini Pro, Claude 3/3.5, GPT4 turbo/4o, 文心一言, GLM4系列, 月之暗面Kimi, Llama3系列设计推理大比拼
随着大语言模型的发展，各模型的语言对话能力也都得到了大家的认可，随之而来推理分析能力成为大模型下一轮角逐的一个要点。以下也是一家奥林匹克评测机构对于大模型推理能力的评分。 权威评测机构固然测评全面，但是其设计的问题并不一定适合我们日常产品设计，对价格...
-
打造自己的大模型｜01篇LLaMA-Factory微调Llama3和其占用资源分析
面对训练好的通用的大语言模型，例如Llama3-8B，虽然在认知理解，知识问答，逻辑推理，数学，代码方面都表现很好。但是其在特定领域的知识是比较缺乏的，而且对中文问答表现也不是很好，经常出现中英文混答的问题。 所以打造一个属于自己的大模型，非常有必要！...
-
突发！Runway的Gen-3向所有人开放，媲美Sora！
7月2日凌晨，著名生成式AI平台Runway在官网宣布，其文生视频模型Gen-3 Alpha向所有用户开放使用。 上周日Runway只向部分用户提供了Gen-3的使用权限，「AIGC开放社区」也为大家解读了10个非常有代表性的视频案例。（点击查看） 没...
-
真正的AI电视来了！Vidda X 2025和X Mini引领客厅智能新方向
9月9日，海信旗下年轻科技潮牌Vidda正式发布新一代Mini LED AI电视，新品包含X2025和X Mini两大系列。根据发布会上Vidda大屏显示负责人的介绍，Vidda AI电视不仅带来极具智价比的高配硬件，加速推动了Mini LED显示技术的普...
-
24年保姆级教程！关于Stable diffusion的各种模型，看这篇就可以了！
前言 在第一次接触SD的时候，我就被里面的模型搞到头大，不仅有多种模型后缀，模型之间也有很多种类型，如果是新手小白的话，在这一步就很容易被搞晕。而在本期文章，技术巫帮你系统梳理了SD的模型，相信不管是对于小白还是老手，都会有一定帮助！ 一、从模型后...
-
书单 | 大模型的书那么多，如何快速选到适合自己的那一本？来，教你！
大模型的书这么多，该怎么选呢？ 本期书单就来教大家怎么快速地从众多大模型书中选到你想要的那一本！ 大模型基础 大模型入门不可错过的一本书，就是这本大模型界的经典畅销书**《大规模语言模型》**！系统性强，内容适合初学者，如果你想知道如何构建一个大模型...
-
ACL 2024 | CoCA：自注意力的缺陷与改进
近年来，在大语言模型（LLM）的反复刷屏过程中，作为其内核的 Transformer 始终是绝对的主角。然而，随着业务落地的诉求逐渐强烈，有些原本不被过多关注的特性，也开始成为焦点。例如：在 Transformer 诞生之初，被视为天然具备的长度外推能力，...
-
Llama 3.1 92页技术报告详细解读
引言 半个月前，Meta发布了他们的开源大模型Llama3.1，在社区中引起广泛关注和讨论。现在几周的时间过去了，热度逐渐退潮，舆论逐渐降温，整个Llama3家族的技术报告也公开出来。报告数据更新到了Llama 3.1，正是理性地来审视一下这款大模型...
-
美团 AIGC产品经理面经（已拿 offer）
背景：211本科毕业，毕业之后在北京一家中型电商公司做了3年商家后台产品经理，目前通过老薛的朋友关系拿到了美团的offer。 目前还有几家在面试流程中，继续加油💪 美团AIGC产品面经-业务面 💥1、自我介绍（每次面试必问）。 💥2、在做XX智...
-
大模型外挂知识库rag综述
一、LLMs 不足点 在 LLM 已经具备了较强能力的基础上，仍然存在以下问题： 幻觉问题：LLM 文本生成的底层原理是基于概率的 token by token 的形式，因此会不可避免地产生“一本正经的胡说八道”的情况； 时效性问题：LLM 的规模越大...
-
AIGC辅助办公
1.什么是AIGC？ 早期内容生成方式为专业(人士 生成内容(Professional Generated Content，PGC 。 如：音乐专业人士的创作、设计师的平面设计创作 用户生成内容(User Generated Content，UGC 更...
-
Intel首批通过AISBench大模型性能测试！5代至强可达每秒2493 token
快科技9月5日消息，近日，第五代英特尔至强处理器，以优秀的表现通过了中国电子技术标准化研究院组织的人工智能服务器系统性能测试（AISBench）。 借此，英特尔也成为首批通过AISBench大语言模型（LLM）推理性能测试的企业。 在AISBench 2....
-
大模型应用新战场：揭秘终端侧AI竞争关键
2024年过去2/3，大模型领域的一个共识开始愈加清晰: AI技术的真正价值在于其普惠性。没有应用，基础模型将无法发挥其价值。 于是乎，回顾这大半年，从互联网大厂到手机厂商，各路人马都在探索AI时代Killer APP的道路上狂奔。这股风潮，也开始在顶级学...
-
手把手系列 ｜ 使用Milvus、Llama 3、Ollama、LangChain本地设置RAG应用
随着 Llama、Mistral、Gemma 等开源大语言模型（LLM）的出现，我们越来越能感受到 LLM 的力量，而本地运行基于 LLM 的 RAG 应用的需求越来越强烈。在将应用推至生产环境前，我们往往都需要先本地运行和测试。 因此，本...
-
Llama-X 开源项目指南
Llama-X 开源项目指南 Llama-XOpen Academic Research on Improving LLaMA to SOTA LLM项目地址:https://gitcode.com/gh_mirrors/ll/Llama-X 项目...
-
6小时完成Llama 3.1-8B适配并开源！MindSpore Transformers大模型套件使能开发者创新
北京时间7月24号, Meta 正式发布 Llama 3.1开源大语言模型, 包含8B、70B 及 405B 参数版本。其中的Llama 3.1 405B模型，在多项基准测试中可以媲美GPT4、Claude3.5等目前最强的闭源大模型。此外，8B 与 70...
-
Llama 3.1 这一最强模型按时降临！扎克伯格最新的访谈表明：Llama 将会成为 AI 领域中的 Linux 。
🐱 个人主页：TechCodeAI启航，公众号：TechCodeAI 🙋♂️ 作者简介：2020参加工作，专注于前端各领域技术，共同学习共同进步，一起加油呀！ 💫 优质专栏：AI相关最新技术分享（目前在向AI方向发展，欢迎大佬交流） 📢 资料...
-
一周打完1000场官司，中科院发布首个AI法庭AgentCourt
在人工智能重塑各个行业的今天，法律界也迎来了前所未有的变革。传统的法律实践面临着效率低下、成本高昂等挑战，而AI技术的出现为解决这些问题提供了新的可能。 从最初斯坦福小镇火遍全网，25个由大语言模型（LLMs）驱动的智能体生活交友，打开了多Agent新视角...
-
智谱AI静悄悄的上线了一大波新模型，过年了，真的。
智谱29日下午在KDD2024上面，悄咪咪的上线了一堆的超级更新。 我真的服了，我本来今天从泰国回来，准备休一天假的，结果晚上又坐在电脑面前被迫营业。 他们总是每次，静悄悄的就把4个2给扔出去了。 嗯，就一场演讲了，发布了一堆新模型还有新功能，个顶个都很...
-
AIGC是怎么为拥有5000家门店的行业头部企业做内容分发？
在AI的发展过程中，我们也曾走过弯路。最初，我们都沉浸在通过海量数据训练出超级智能的幻想中，但随着时间的推移，我们逐渐意识到，在商业应用中，技术的稳定性和可靠性远比单纯的先进性更为重要。特别是在面向企业的应用场景中，客户需要的是稳定、可靠的服务，而不是可能...
-
【黄啊码】三分钟学会文心一言
（一）什么是文心一言 文心一言是百度研发的 人工智能大语言模型产品，能够通过上一句话，预测生成下一段话。 任何人都可以通过输入【指令】和文心一言进行对话互动、提出问题或要求，让文心一言高效地帮助人们获取信息、知识和灵感。 *指令（prompt）其实就...
-
Llama 3模型：多维度损失函数铸就大语言模型新巅峰
在人工智能领域,大型语言模型(Large Language Models, LLMs 的发展如火如荼。作为这一领域的佼佼者,Llama系列模型一直备受关注。随着Llama 3的横空出世,其在模型架构、训练方法等方面的创新再次引发业界热议。本文将深入探讨Ll...
-
llamafile本地安装配置并部署及远程测试大语言模型详细实战教程
💝💝💝欢迎来到我的博客，很高兴能够在这里和您见面！希望您在这里可以感受到一份轻松愉快的氛围，不仅可以获得有趣的内容和知识，也可以畅所欲言、分享您的想法和见解。 推荐:kwan 的首页,持续学习,不断总结,共同进步,活到老学到老 导航 檀越...
-
深度解读 Llama 3.1 技术报告：从405B参数到24000块H100集群
Meta在最近发布了他们的开源大模型Llama 3.1，引起了广泛的关注和讨论。随着热度逐渐退潮，Llama 3.1 的详细技术报告也公开了。这份报告揭示了很多关于Llama 3.1 的技术细节和实现原理。本文将从模型参数、基础设施、预训练、后训练等方面，...
-
检索生成(RAG) vs 长文本大模型：实际应用中如何选择？
编者按：大模型的上下文理解能力直接影响到 LLMs 在复杂任务和长对话中的表现。本期内容聚焦于两种主流技术：长上下文(Large Context Windows 和检索增强生成(RAG 。这两种技术各有何优势？在实际应用中，我们又该如何权衡选择？ 文章...
-
小窗AI问答机有哪些功能？怎么使用方法详细教程指南
小窗AI问答机 是什么？ 小窗® 对话式 AI 问答机是一款基于大语言模型（LLM）的人工智能技术产品，主要面向孩子群体，帮助他们在学习和生活中获取知识，提升独立思考、提问和语言表达能力。该产品的优点包括博学多知的超级博士、随时交谈的外语陪练、无穷创意的...
-
基于华为昇腾910B和LLaMA Factory多卡微调的实战教程
大家好，我是herosunly。985院校硕士毕业，现担任算法研究员一职，热衷于大模型算法的研究与应用。曾担任百度千帆大模型比赛、BPAA算法大赛评委，编写微软OpenAI考试认证指导手册。曾获得阿里云天池比赛第一名，CCF比赛第二名，科大讯飞比赛第三...
-
Datawhale AI夏令营第四期AIGC方向Task2学习笔记
Kolors（可图）模型 Kolors是由快手团队开发的大规模文本到图像生成模型（可图 · 模型库 (modelscope.cn ）根据链接的文章内容，Kolors在视觉质量、复杂语义准确性以及中英文字符的文本渲染方面，显著优于开源和专有...
-
关于Stable diffusion的各种模型，看这篇就可以了！
前言 这篇文章主要是帮大家梳理下Stable diffusion里面的各种模型，模型在Stable diffusion中占据着至关重要的地位，不仅决定了出图的风格，也决定了出图质量的好坏。 但在第一次接触SD的时候，我就被里面的模型搞到头大，不仅有多...
-
语言图像模型大一统！Meta将Transformer和Diffusion融合，多模态AI王者登场
【新智元导读】就在刚刚，Meta最新发布的Transfusion，能够训练生成文本和图像的统一模型了!完美融合Transformer和扩散领域之后，语言模型和图像大一统，又近了一步。也就是说，真正的多模态AI模型，可能很快就要来了! Transformer...
-
Llama 3.1中文微调数据集已上线，超大模型一键部署
7 月的 AI 圈真是卷完小模型卷大模型，精彩不停！大多数同学都能体验 GPT-4o、Mistral-Nemo 这样的小模型，但 Llama-3.1-405B 和 Mistral-Large-2 这样的超大模型让很多小伙伴犯了难。 别担心！hyper.a...
-
摩尔线程开源音频理解大模型MooER：38小时训练5000小时数据
快科技8月23日消息，摩尔线程官方宣布，音频理解大模型MooER”（摩耳）已经正式开源，并公布在GitHub上：https://github.com/MooreThreads/MooER 目前开源的内容包括推理代码，以及5000小时数据训练的模型，后续还将...
-
最强终端部署的多模态MiniCPM-V模型部署分享（不看后悔）
MiniCPM-V模型是一个强大的端侧多模态大语言模型，专为高效的终端部署而设计。 目前该模型有MiniCPM-V 1.0、MiniCPM-V 2.0和MiniCPM-Llama3-V 2.5版本。 MiniCPM-V 1.0模型：该模型系列第一个版本...
-
基础模型在亚马逊的BEDROCK测试
前 言 通过 Amazon Bedrock，开发者可以轻松使用多种最新领先基础模型（FM）进行构建。本实验中，您将了解和体验到在 Amazon Bedrock 中模型的基础使用方法，以便您快速构建强大安全的大语言模型（LLM）应用，其中包括：...
-
一文理解生成式AI应用的五个级别：Tool、Chatbot、Copilot、Agent 和 Intelligence
当下，很多人对 AI 一知半解，并不能很好地区分：Tool、Chatbot、Copilot、Agent 和 Intelligence 概念之间的区别。 最近读完 《真格基金戴雨森谈生成式AI：这是比移动互联网更大的创业机会，开始行动是关键 》 发现讲的特别...
-
全球首个语音指挥FPS AI ，腾讯魔方携最新AI成果亮相科隆展
AI究竟会如何改变游戏?这应该是全球游戏行业近年最为关注的问题之一。在最近正在德国举办的全球最大游戏展—科隆游戏展上，腾讯游戏魔方工作室群技术中心联合《暗区突围:无限》项目组，首次对外公布其全球首个语音指挥FPSAIF.A.C.U.L.的技术Demo。这是...
-
法律 | 法律人AI使用指南
原文：法律 | 法律人AI使用指南|法官|法院|文书|公司法_网易订阅 01 引言 过去半年多，我一直在尝试着用AI来辅助自己的各项法律工作，将AI融入自己的日常工作之中，并试图形成自身稳定的“法律+AI”工作流。在此过程中，我时常惊讶于AI高效的工...
-
华为昇腾Ascend系列 之 01 什么是昇腾芯片？AIGC浪潮已至，进一步推动对芯片和算力的需求，主流 GPGPU/ASIC 产品性能对比（Ascend 910、Ascend 910B）
什么是昇腾Ascend 910、Ascend 910B 昇腾 310 和 910 处理器为华为AI 算力领域核心产品，910 单卡 Int8 算力大致可达 0.6 P，最大功耗为 300W，已可对标国际主流 GPU。且昇腾计算产业在硬件方面坚持“硬件开...
-
快速上手文心一言
在日常工作和学习中，人工智能的应用越来越广泛。文心一言是百度推出的一款人工智能大语言模型产品，它可以根据上一句话预测生成下一段话，帮助我们获取信息、知识和灵感。以下是对文心一言的介绍和使用方法。 一、什么是文心一言 文心...
-
MSRA古纾旸：2024年，视觉生成领域最重要的问题有哪些？
文章链接: https://arxiv.org/pdf/2407.18290 亮点直击 概述了视觉生成领域中的各种问题。 这些问题的核心在于如何分解视觉信号，其他所有问题都与这一核心问题密切相关，并源于不适当的信号分解方法。 本文旨...
-
T-Eval：大模型智能体能力评测基准解读 | ACL 2024
AI Agent（智能体）作为大模型的重要应用模式，能够通过使用外部工具来执行复杂任务，完成多步骤的工作流程。为了更全面地评估模型的工具使用能力，司南及合作伙伴团队推出了T-Eval评测基准，相关成果论文已被ACL 2024主会录用，点击链接可查看原文：h...
-
一文搞定大模型备案
《生成式人工智能服务安全基本要求》背景 1.1.基本要求对应的流程和介绍 "生成式人工智能服务安全基本要求"是针对"生成式人工智能（大语言模型）上线备案"流程制定的标准，这一流程也被称作"大模型上线备案"。这是继"生成合成（深度合成）类算法备案"之...
-
Llama中文大模型-模型微调
同时提供了LoRA微调和全量参数微调代码，关于LoRA的详细介绍可以参考论文“[LoRA: Low-Rank Adaptation of Large Language Models](https://arxiv.org/abs/2106.09685 ”以及...
-
论文阅读-Transformer Layers as Painters
1. 摘要 尽管大语言模型现在已经被广泛的应用于各种任务，但是目前对其并没有一个很好的认知。为了弄清楚删除和重组预训练模型不同层的影响，本文设计了一系列的实验。通过实验表明，预训练语言模型中的lower和final layers与中间层分布不一致，并且...
-
技术证书认证-附考试答案-AIGC与大模型通识-英特尔大湾区科技创新中心证书认证
目录 课程简介 面向人群 考核步骤 试题答案 知孤云出岫主页 课程以及考试链接：AIGC与大模型通识 - 英特尔大湾区科技创新中心 【英特尔大湾区科技创新中心】公益新课《AIGC与大模型通识》上线官网！首期结业认证进行中，提升...
-
本地部署 Llama 3.1：Ollama、OpenWeb UI 和 Spring AI 的综合指南
、 本文介绍如何使用 Ollama 在本地部署 Llama 3.1:8B 模型，并通过 OpenWeb UI 和 Spring AI 来增强模型交互体验和简化 API 的调用过程。 Ollama Ollama 是一个开源的大语言模型服...
-
深入剖析大模型安全问题：Langchain框架的隐藏风险
随着大模型热度持续，基于大模型的各类应用层出不穷。Langchain 作为一个以 LLM 模型为核心的开发框架，可以帮助我们灵活地创建各类应用，同时也为大模型的应用引入新的安全隐患。从今年 4 月 Langchain 被爆出在野 0day 漏洞开始，各类安...