-
为AI而生的超级芯片，会将云端算力遣返回企业本地吗？
近年来，IT部门对于企业采取的“一切尽在云端”做法感到失望，这已经不是什么秘密了。但总的来说，他们并没有采取任何措施加以改进或扭转。因为大多数人认为，企业可以从云计算的可扩展性和更高效率中得到好处。 那么，这种情况会在2024年或2025年发生变化吗？...
-
大语言模型漏洞缓解指南
虽然大语言模型(LLM 应用正在全球快速普及，但企业对大语言模型的威胁态势仍然缺乏全面了解。面对大语言模型风险的不确定性，企业希望在保障其安全性的基础上加快 应用脚步，用人工智能提升企业核心竞争力，这意味着企业的CISO面临着理解和应对新兴人工智能威胁...
-
为大模型恶补数学，上交开源MathPile语料库，95亿tokens，还可商用
在当前智能对话模型的发展中，强大的底层模型起着至关重要的作用。这些先进模型的预训练往往依赖于高质量且多样化的语料库，而如何构建这样的语料库，已成为行业中的一大挑战。 在备受瞩目的 AI for Math 领域，由于高质量的数学语料相对稀缺，这限制了生成式...
-
新火种AI|抖音对AIGC亮明牌！AI虚拟人带货或将面临最大危机...
作者：小岩 编辑：小迪 12月19日，抖音官方发布了一则重要公告，宣布将严厉打击包括AIGC在内的6种新型违规行为。所谓AIGC，指的就是当下发展势头正劲的生成式人工智能。之所以要打击AIGC，其实是为了重点打击新型养号行为。 抖音志在打击黑灰产...
-
黑客大规模恶意注册与ChatGPT相似的域名 超65万个
近日，网络安全研究人员发现了一个巨大的网络安全威胁，涉及ChatGPT模型名的滥用。黑客们大规模注册了与ChatGPT相似的域名，以模糊用户判断，通过滥用ChatGPT模型信誉，欺骗用户信任，使他们倾向于访问欺诈性网站。 图源备注:图片由AI生成，图片授...
-
亚马逊云科技全面发力生成式AI领域，Amazon Q 或重塑未来工作方式
近日，亚马逊云科技在2023 re:Invent全球大会上围绕底层基础设施、生成式人工智能（AI）、数据战略等推出了一系列新服务及功能，以创新性的技术重塑帮助客户加速创新。 特别值得一提的是，亚马逊云科技全面发力生成式 AI 领域，推出了面向企业级生成...
-
SOLAR10.7B大模型屠榜HuggingFace 创新性拼接两个羊驼，高效集成
深度学习领域的新技术近日在HuggingFace的大模型排行榜中崭露头角，由Upstage AI提出的深度扩展方法（DUS）在SOLAR10.7B大模型上取得了令人瞩目的成绩。该技术通过创新性地拼接两个7B羊驼，并采用DUS方法删除中间层次，使得新模型不仅...
-
两只羊驼掐头去尾拼一起，屠榜HuggingFace
HuggingFace开源大模型排行榜，又被屠榜了。 前排被清一色的SOLAR 10.7B微调版本占据，把几周之前的各种Mixtral 8x7B微调版本挤了下去。 SOLAR大模型什么来头？ 相关论文刚刚上传到ArXiv，来自韩国公司Upstage A...
-
奥特曼新举惹怒开发者！ChatGPT插件被打入冷宫，暗示作者转向GPTs
奥特曼的一项新举动，惹恼了不少开发者。 这些开发者收到OpenAI发来的邮件，暗示他们等着插件开发权限不如将开发工作转向GPTs。 总结一下这份给开发者的邮件，大致说了这样几个内容： GPTs可以像插件一样调用（第三方）API，或调用DALL·E等功...
-
模型量化和边缘人工智能如何定义交互方式
人工智能与边缘计算的融合承诺为许多行业带来变革。模型量化的快速创新在这方面发挥着关键作用，模型量化是一种通过提高可移植性和减小模型大小来加快计算速度的技术。 模型量化弥补了边缘设备的计算限制与部署高精度模型的需求之间的差距，以实现更快、更高效、更具成本效...
-
你的云网络准备好拥抱生成式人工智能了吗?
生成式人工智能(AI 有可能为企业释放数万亿美元的价值，并从根本上改变我们的工作方式。这项突破性的技术已经进入了全球经济的几乎每个领域，以及我们生活的许多方面，人们已经使用人工智能来查询其银行账单，甚至要求医疗处方。当前的预测表明，生成式人工智能可以自动...
-
CMU权威对比Gemini，GPT-3和Mistral8×7B！GPT-3.5依旧拿捏Gemini，开源模型差距依然不小
谷歌最近发布的Gemini掀起了不小的波澜。 毕竟，大语言模型领域几乎是OpenAI的GPT一家独大的局面。 不过作为吃瓜群众，当然希望科技公司都卷起来，大模型都打起来！ 所以，作为科技巨无霸谷歌的亲儿子，Gemini自然承受了很高的期待。 虽然Gemi...
-
清华特奖焦剑涛大模型创业：突破GPT-4工具使用能力，搞开源种子轮融资七千万
两位清华校友打造，在GPT-4核心优势之一使用工具上实现超越。 连HuggingFace CEO都来帮它造势： 它的名字叫“NexusRaven”，参数只有130亿。 出色的函数调用能力连网友都忍不住称赞，既可以并行也可以嵌套。 背后团队则更令人瞩目...
-
派拓网络：以AI对抗AI，是网络安全技术发展的必然趋势
“我们不可能利用人力去阻挡AI的攻击，我们必须利用AI去对抗AI，这是唯一的路。” 伴随生成式人工智能的浪潮，AI在网络安全领域的应用越来越广泛。然而，与此同时，AI技术也被不法分子利用，成为网络攻击的新手段。在派拓网络IGNITE中国2023（北京站）...
-
2024年非结构化数据管理将以四种方式发生变化
如果说经济好的时候、坏的时候、不确定的时候、稳定的时候有一个不变的东西的话，那就是我们对大多数非结构化数据的依赖，以及我们从海量数据收集中得出的分析。非结构化数据是指当今公司的文档、图像、音频和视频文件、传感器数据和研究数据。 想想监控和车载摄像头视频...
-
AI的效能在网络安全方面受到限制，但在网络犯罪方面却是无限的
尽管AI具有巨大的潜力，但在网络安全方面的应用却非常有限。AI安全解决方案存在信任问题，用于开发AI支持的安全产品的数据模型似乎长期处于风险之中，此外，在实施时，AI经常与人类智能发生冲突。 AI的双刃性使其成为一个复杂的工具，公司需要更深入地理解和更...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
代码大模型的应用及其安全性研究 写在最前面 一些想法 大型模型输出格式不受控制的解决方法 大模型介绍 （很有意思）GPT 模型家族的发展 Chatgpt 优点 缺点 GPT4 其他模型 补充：self-instruct合成数据 Cod...
-
为AIGC敲响警钟！千亿级赛道为何成了作恶温床？
数据智能产业创新服务媒体 ——聚焦数智 · 改变商业 随着人工智能通用大模型的问世，全球对AIGC技术的强大潜力有了更加深刻的认识。然而，这也引发了诸多关于AIGC技术可信度、隐私保护以及知识产权等问题的争议，引起了广泛...
-
【AIGC 视角】 可信计算调研报告
一、概述 可信计算是指在计算机系统中，通过硬件、软件和协议等多种手段，保证计算机系统的安全性、完整性和可靠性。可信计算主要包括以下几个方面： 安全启动：确保系统从启动开始就是可信的，并且没有被篡改或攻击。 安全运行环境：提供一种安全的执行环境，防止恶...
-
如何化解生成式AI带来的安全风险？Akamai给出答案
现如今，各行各业都在探索如何利用创新技术加速产业升级，最直接的方式之一就是上云。 对于绝大部分企业而言，将业务迁移到云端所带来的优势是显而易见的。一方面，云计算具有按需自助服务、宽带网络访问、快速伸缩性等特点，使企业可以根据自身需求灵活调整和利用计算资...
-
谷歌称重复某些关键词可让ChatGPT自曝训练数据 OpenAI：违反服务条款
12月5日消息，谷歌的一组研究人员声称，他们已经找到了获取OpenAI人工智能聊天机器人ChatGPT部分训练数据的方法。 在最新发表的论文中，谷歌研究人员表示，某些关键词可迫使ChatGPT泄露其所接受训练数据集的部分内容。 他们举例称，该模型在被提...
-
OpenAI 首席运营官：不要期待人工智能一夜之间带来实质性的商业变革
12 月 5 日消息，虽然 OpenAI 正努力发展企业用户，然而，该公司的一些高管提醒人们，不要期望这项技术能迅速改变他们的业务。 在接受 CNBC 采访时，OpenAI 首席运营官 Brad Lightcap 表示，人工智能最被过度炒作的部分之一就...
-
亚马逊面向企业的 AI 聊天机器人 Amazon Q 或存在严重幻觉和数据泄露问题引发质疑
在发布不到一周后，Amazon Q —— 亚马逊对抗 Copilot 的生成式 AI 助手——已面临生存威胁，一份新报告显示这款 AI 助手可能产生「严重幻觉」。 据 The Platformer援引泄露文件报道，Q 正面临准确性和隐私问题，包括幻觉和数...
-
人工智能对网络安全的影响越来越大
人工智能对网络安全的影响越来越大 如果问当前IT行业最热门的话题是什么，很少有人会回答除了人工智能（AI）之外的任何话题。在不到 12 个月的时间里，人工智能已经从一项只有 IT 专业人员才能理解的技术发展成为从小学生到作家、程序员和艺术家的每个人都使用...
-
一言不合就跑分，国内AI大模型为何沉迷于“刷榜”
“不服跑个分”这句话，相信关注手机圈的朋友一定不会感到陌生。诸如安兔兔、GeekBench等理论性能测试软件，由于能够在一定程度上反映手机的性能，因此备受玩家的关注。同理在PC处理器、显卡上，同样也有相应的跑分软件来衡量它们的性能。 既然“万物皆可跑分”，...
-
黑客盗走顶级核实验室数十万条数据，交换条件竟是创造猫娘……
美国一家全球顶级的核实验室，最近遭遇了不小的麻烦—— 数据库遭到黑客攻击，员工信息被扒了个底掉。 而比顶级实验室被黑更离谱的，是这家黑客组织提出的条件： 只要你们同意研究怎么创造出猫娘，我们就删掉帖子 宣称攻击了这家实验室的黑客组织名为SiegedSe...
-
企业权衡开源生成式 AI 的风险和收益
在 EmTech MIT，专家们探讨了在企业中采用生成式 AI 的挑战和好处，包括开源生成式 AI模型的优缺点。 本周早些时候，在麻省理工学院技术评论（MIT Technology Review）主办的EmTech MIT会议上，人工智能在演讲中占有重...
-
ChatGPT新漏洞：失控背出个人隐私泄露训练数据，OpenAI修复后依然有效
ChatGPT最新漏洞曝光，一句话就能让训练数据原封不动地泄露。 只需要让它重复一个词，它就会在一定次数后“发疯”，甚至毫无防备说出某人的个人隐私信息。 DeepMind的研究人员联合华盛顿大学、康奈尔大学等高校，发现了ChatGPT的数据泄露漏洞。...
-
GenAI安全：如何防止Microsoft Copilot发生数据泄露
微软的Copilot被称为世界上最强大的生产力工具之一。 Copilot是一个AI助手，它位于你的每个Microsoft 365应用程序中-Word、Excel、PowerPoint、Teams、Outlook等。微软的梦想是从日常工作中解脱出来，让...
-
全球首份《AI系统安全开发准则》发布，提出4方面安全监管要求
2023年11月26日 ，美国、英国、澳大利亚等18个国家的网络安全监管部门联合发布了全球首份《AI系统安全开发准则》，旨在实现保护人工智能模型不被恶意篡改，并敦促人工智能公司在开发或使用人工智能模型时更加关注“设计安全”。 作为这份准则制定的主要参...
-
AIGC繁花，绽放在精耕的算力土壤之上
2023年的春天，称得上一句AI之春。大模型成为技术力量新的爆发点，生成式AI（AIGC）应用风起云涌。 产业界争先恐后训大模型之际，广大用户最大的困惑是——发布了，但就是玩不到啊！ OpenAI有地域限制且不去说它，各种国产大模型也很...
-
人工智能领域如何保护数据机密性？
在不断变化的智能世界中，数据机密性和人工智能道德的融合已成为企业和社会的重大关注。这是一个需要探索的问题，技术进步应与道德原则保持一致。业界有责任应对这一挑战，并确保人工智能技术优先考虑并维护数据保密的重要性。 道德义务 数据隐私和数据的道德使用对于人...
-
微软禁止员工使用ChatGPT：担心机密数据泄露 推荐自家Bing Chat
快科技11月10日消息，据媒体报道，微软目前出于安全考虑，担心公司机密数据泄露，已经禁止员工使用ChatGPT。 微软表示，虽然微软确实投资了OpenAI，ChatGPT也有内置的保护措施来防止不当使用，但该网站仍然是第三方外部服务。 微软建议员工使用自家...
-
三星预热S24 AI功能 接听电话时能实时翻译对方语言
随着人工智能技术的迅猛发展，越来越多的手机厂商开始将其应用于手机端以提升用户体验。近日，三星宣布推出Galaxy AI系列旗舰手机，首款手机预计将于明年年初上市。 根据三星的介绍，Galaxy Al是一种移动人工智能体验的全面解决方案。它由三星自主研发的设...
-
谨防大模型基准评估陷阱！测试集乱入预训练，模型变傻
最新研究警告，大型模型在基准评估中可能面临潜在危害，原因是测试集中的数据可能意外进入预训练过程。这项研究由中国人民大学信息学院、高瓴人工智能学院和伊利诺伊大学厄巴纳-香槟分校的学者联合进行。 研究发现，由于预训练语料包含大量公开文本，而评估基准建立在这些信...
-
AIGC时代，我们如何使用“黑科技”，解决图像信息安全
前言 在当今社会，图像是信息传播和表达的重要方式之一。但是，随着技术的进步，人们可以轻松使用各种图像编辑软件来篡改、伪造图片，制造出看似真实但实际上虚假的场景。 这种现象无疑是给社会带来了一系列负面影响。首先，大量基于虚假图片产生的诈骗案件层出不穷。...
-
漏刻有时数据可视化大屏核心完整版框架PHP后台数据管理 API数据接口 Echarts图表库 自带电脑端和手机端两套模版且支持自定义前端模版开发
漏刻有时数据可视化大屏前端密码登录保护界面 漏刻有时数据可视化大屏核心展示大屏 漏刻版本： 漏刻有时数据可视化v2.0 扎根版 开发语言： php（数据采集、数据管理、API接口对接）+Echarts（百度开源商业图表库）+l...
-
字节跳动算力监控系统的落地与实践
背景 随着字节跳动业务的快速发展，数据中心服务器规模增长迅速，以满足日益增长的算力需求。当规模到一定程度时，就需要平衡好机器成本与效率、资源之间的关系，有针对性地优化数据中心性能，以降低计算成本。 参考行业内的实践，从 2019 年起，STE 团队开始...
-
对于数据，科技小白提出了灵魂三问：从哪儿来？到哪儿去？能干什么？
作为科技圈小白，经常被数据搞得头晕脑胀，数据打哪儿来？到哪儿去？能干什么？那么多数据怎么区分谁有用谁没用？其实数据就在我们身边，每个人都是数据的生产者，从人类文明诞生的那一刻起，数据就伴随我们而生。今天这篇文章，小编就带你查一查数据采集技术的水表。...
-
AI数据采集标注类型：揭秘数据采集与标注的关键环节
随着人工智能技术的快速发展，数据采集和标注已成为人工智能领域中不可或缺的一部分。数据采集是获取高质量数据的第一步，而数据标注则是保证数据质量的关键环节。在这篇文章中，我们将深入探讨AI数据采集标注类型，包括数据采集的方式、数据标注的流程和注意事项等方面。...
-
教育大数据采集机制与关键技术研究
点击上方蓝字关注我们 教育大数据采集机制与关键技术研究 柴唤友1, 刘三女牙1,2, 康令云1, 张雅娴1, 李卿2, 刘智2 1 华中师范大学国家数字化学习工程技术研究中心，湖北 武汉 430079 2 华中师范大...
-
人工智能进入强监管时代
以ChatGPT为代表的基于LLM(大语言模型 的生成式人工智能应用正风靡全球，各行各业都在争先恐后将其集成到前端和后端的各种系统中，与此同时生成式人工智能面临的安全风险也正随着其热度上升而凸显。 生成式人工智能自身正面临提示注入等多种攻击，很可能给企...
-
云和生成式人工智能未来趋势
在不断发展的商业环境中，数据正以惊人的速度倍增。数据的激增对各种规模和行业的组织提出了高效数据管理的迫切需求。数据高管面临着访问、管理、分发这些(内部、外部、第三方 数据并从中提取价值的挑战，同时保持其相关性和价值。 传统方法依赖于传统系统、架构和存储...
-
用AI技术检测网络安全，Cowbell Cyber再融资2500万美元
Cowbell是一家成立四年的公司，前身为“Cowbell Cyber”，提供网络威胁监控和保险，帮助客户在发生数据泄露或勒索软件付款时承担费用，该公司今年经历了辉煌的一年，增长了49%到目前为止，同比增长速度并不会很快放缓。 今天，这家总部位于加利福尼亚...
-
AI如何影响医疗保健行业的信息安全格局
在访谈中，Moss Adams的董事总经理Troy Hawes讨论了由AI支持的网络攻击如何影响医疗保健组织，AI支持的预测分析在抵御网络威胁方面可以发挥的关键作用，以及医疗保健组织如何保护其员工和患者免受网络攻击。 AI如何了改变医疗保健领域的网络...
-
AI算法可检测针对军用无人驾驶车辆的中间人攻击
研究人员研发的人工智能算法，可检测到针对军用无人驾驶车辆的中间人攻击。 机器人操作系统（ROS）是高度网络化的，机器人之间需要协作，其中的传感器、控制器等需要通信并通过云服务交换信息，因此极易受到数据泄露和电磁劫持攻击等网络攻击。中间人攻击（MitM）是...
-
不仅吸尘还吸数据：自动吸尘器可能正在监视你
自2000年代第一款自动吸尘器进入市场以来就发展迅猛，它们可以快速地清扫房间的角角落落，最新版本甚至可以自动避开线缆和鞋带。 然而便捷的一切都是有代价的，我们说的不仅仅是花钱。为了应对障碍物，现代自动吸尘器配备了传感器和GPS，甚至配备了摄像头！但智能吸...