-
Meta AI研究负责人倡导开源许可制度变革
Meta公司最近发布的大型语言模型Llama2备受争议，因其并未完全满足开源倡议的要求。尽管Llama2相对较为开放和免费，但在开源软件领域，一些人仍对该公司的开放性持有异议。 具体来说，Meta公司的许可协议使Llama2对许多人免费，但它仍然是有限的，...
-
ChatGPT、Llama-2等大模型，能推算出你的隐私数据！
ChatGPT等大语言模型的推理能力有多强大?通过你发过的帖子或部分隐私数据，就能推算出你的住址、年龄、性别、职业、收入等隐私数据。 瑞士联邦理工学院通过搜集并手工标注了包含520个Reddit（知名论坛）用户的个人资料真实数据集PersonalReddi...
-
图灵奖得主吵起来了，LeCun：Bengio、Hinton等的AI灭绝论是荒谬的
关于 AI 风险的问题，各路大佬们也是意见不统一。有人带头签署联名信，呼吁 AI 实验室应立即暂停研究，深度学习三巨头 Geoffrey Hinton、Yoshua Bengio 等都支持这一观点。 就在近几日，Bengio、Hinton 等再发联名信《...
-
MLCommons宣布成立人工智能安全工作组
人工智能基准组织MLCommons宣布成立人工智能安全（AIS：AI Safety）工作组。AIS将开发一个平台和来自许多贡献者的测试库，以支持不同用例的人工智能安全基准。 人工智能系统为社会提供了巨大利益的潜力，但它们并非没有风险，如有害性、错误信息...
-
AI视野：百川发布Baichuan2-192K大模型；DALL·E3新增种子功能；ChatGPT Plus会员可上传和分析文件；谷歌Bard支持实时生成回复
????大模型动态 百川智能发布Baichuan2-192K大模型，可处理35万汉字 百川智能发布了Baichuan2-192K大模型，拥有全球最长的上下文窗口，处理约35万个汉字，超越了Claude2。 百川大模型官网:https://top.aibas...
-
为何GPT-4P容易受到多模态提示注入图像攻击？
OpenAI新的GPT-4V版本支持图像上传后，带来了一条全新的攻击途径，使大型语言模型（LLM）容易受到多模态注入图像攻击。攻击者可以在图像中嵌入命令、恶意脚本和代码，随后模型会遵从行事。 多模态提示注入图像攻击可以泄露数据、重定向查询、生成错误信息，...
-
如何应对人工智能幻觉？
人工智能现在可以对看似怪异的人类问题做出回应。但有时，人工智能会给出答案。这些虚构的反应是真实的幻觉，还是别的什么? 要点： 研究发现，93%的受访者认为，人工智能幻觉可能会以某种方式导致实际伤害。 虽然ChatGPT可能是一种快捷工作方式，但更多人与...
-
AI智能超越人类终解开！李飞飞高徒新作破圈，5万个合成数据碾压人类示例，备咖啡动作超丝滑
AI巨佬Geoffrey Hinton称，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力训练新模型」。 更大参数的模型，对算力需求巨大的同时，对数据也提出了更高的要求。 但是，更多的高质量数据该从何来？ 英伟达高级科学家Jim F...
-
全世界1/3博士后每天使用ChatGPT，不用AI工具影响找工作
在《Nature》对全球的博士后进行的调查表明，有三分之一的的受访者正在使用AI聊天机器人来帮助自己修改文字、生成或编辑代码、整理相关领域的文献等工作。 最近《Nature》刊发了一篇文章，从来自世界各地的博士后科研工作者的角度，描述了ChatGPT如何...
-
首个人体动捕基模型面世！SMPLer-X：横扫七大榜单
人体全身姿态与体型估计（EHPS, Expressive Human Pose and Shape estimation）虽然目前已经取得了非常大研究进展，但当下最先进的方法仍然受限于有限的训练数据集。 最近，来自南洋理工大学S-Lab、商汤科技、上海人...
-
最好7B模型再易主！打败700亿LLaMA2，苹果电脑就能跑
花500刀“调教”的70亿参数模型，打败700亿参数的Llama 2！ 且笔记本就能轻松跑，效果媲美ChatGPT。 重点：免费、不要钱。 HuggingFace H4团队打造的开源模型Zephyr-7B，鲨疯了。 其底层模型是前段时间爆火、由有着“欧...
-
GPT4教机器人盘转笔，那叫一个丝滑！
那个在聊天中给数学家陶哲轩带来启发的GPT-4，最近又开始教机器人转笔了。 项目叫Agent Eureka，是由英伟达、宾州大学、加州理工学院和得克萨斯大学奥斯汀分校联手研发的。他们的研究结合了 GPT-4 结构的能力和强化学习的优势，让 Eureka...
-
新研究：鸽子解决问题的方式类似于人工智能
一项由美国俄亥俄州立大学和爱荷华大学的研究人员进行的研究发现，鸽子在解决问题时使用了一种类似于人工智能的“暴力算法”方法。 俄亥俄州立大学的心理学教授布兰登・特纳说，研究人员发现“有非常强的证据表明，鸽子的学习机制与现代机器学习和人工智能技术的原理相似...
-
英国消费者组织警告：AI 聊天机器人使网络诈骗文案愈发专业化
10 月 28 日消息，根据英国消费者组织 Which? 当地时间周五公布的最新发现，不法分子会利用 ChatGPT 和 Bard 等 AI 聊天机器人制造出更有说服力的骗局，对公众构成威胁，且上述聊天机器人缺乏有效的防御措施。 据介绍，当地消费者通...
-
生成的分子几乎 100% 有效，用于逆向分子设计的引导扩散模型
「从头分子设计」是材料科学的「圣杯」。生成深度学习的引入极大地推进了这一方向，但分子发现仍然具有挑战性，而且往往效率低下。 以色列理工学院（Technion-Israel Institute of Technology）和意大利威尼斯大学（Univers...
-
AI视野：OpenAI成全球第三最有价值初创公司；SDXL推精简版本；小米14将搭载WPS AI功能；Bing AI拒绝生成女性逼真图像
???AI应用 SDXL推精简版本SSD-1B 推理速度提升60% Segmind Stable Diffusion1B（SSD-1B）是一款高效、高速的文本生成图像AI模型，为图像生成提供广泛可能性，它是稳定扩散XL的精简版本，体积减小50%，但速度提升...
-
OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险
10月27日消息，据外媒报道，当地时间周四，美国人工智能研究公司OpenAI宣布，它将组建一个名为Preparedness的新团队，以评估和减轻与人工智能（AI）相关的“灾难性风险”。 OpenAI表示，该团队将由麻省理工学院可部署机器学习中心主任亚历山大...
-
波士顿动力机器狗能开口聊天了！ChatGPT加持，对话机智妙语连珠
好家伙，波士顿动力机器狗，现在能直接开口说话了。 并且不同于Siri的“人工智障”，ChatGPT加持的狗，聊起天来那叫一个妙语连珠。 比如随口说一句：“我口渴了。” 它会直接给你领到咖啡柜台前，并回答： 我们这里有小吃店和咖啡机。这是我们的人类同事寻找...
-
吃“有毒”数据，大模型反而更听话了！来自港科大&华为诺亚方舟实验室
现在，大模型也学会“吃一堑，长一智”了。 来自香港科技大学和华为诺亚方舟实验室的最新研究发现： 相比于一味规避“有毒”数据，以毒攻毒，干脆给大模型喂点错误文本，再让模型剖析、反思出错的原因，反而能够让模型真正理解“错在哪儿了”，进而避免胡说八道。 具体...
-
OpenAI、谷歌微软等设立 1000 万美元 AI 安全基金
谷歌、微软、OpenAI 和 Anthropic 发布联合声明，任命美国智库学会高管 Chris Meserole 为前沿模型论坛 (Frontier Model Forum 首任执行董事。并宣布设立 1000 万美元的 AI 安全基金，“以推动正在进...
-
35年首次证明，NYU重磅发现登Nature：神经网络具有类人泛化能力，举一反三超GPT-4
【新智元导读】Nature刊登了纽约大学等机构的研究人员在人工智能领域最新突破，证明神经网络具有类似人类语言的泛化性能，再一次印证了AI发展的无限潜力! 35年来，认知科学、人工智能、语言学和哲学领域的研究人员一直在争论神经网络是否能实现类似人类的系统泛...
-
35年首次证明！NYU重磅发现登Nature：神经网络具有类人泛化能力，举一反三超GPT-4
35年来，认知科学、人工智能、语言学和哲学领域的研究人员一直在争论神经网络是否能实现类似人类的系统泛化。 具体来说，人们一直认为，AI无法像人类一样具有「系统泛化（systematic generalization）」能力，不能对没有经过训练的知识做到「...
-
Nature：神经网络“举一反三”能力甚至超人类
神经网络具有类似人的“举一反三”能力，甚至超过人类水平？？？ 最近刊于Nature的一篇论文表示找到了证据。 “举一反三”的能力更专业点叫做系统性泛化能力。像小孩子一样，一旦学会了如何“跳”，他们就可以理解如何“向后跳”、“绕锥体跳过两次”。 要知道...
-
AI视野：百度开放文心4.0开发权限申请；腾讯混元大模型开放文生图功能；谷歌AI应用禁止生成受限内容；Midjourney新网站上线测试版
????大模型动态 百度开放文心4.0开发权限申请 在2023年百度世界大会上，百度发布了文心大模型4.0，提升了理解、生成、逻辑、记忆等四个方面，现在开发者可以申请使用 ERNIE Bot SDK 开发与接入该模型的应用。 申请地址:https://a...
-
MIT等机构推出数据溯源平台 解决AI领域的数据透明危机
研究人员来自麻省理工学院（MIT）、Cohere for AI以及其他11个机构，他们共同发布了Data Provenance Platform，旨在应对AI领域的数据透明危机。这一平台的推出旨在解决AI模型训练数据集的来源和使用透明度不足的问题，这是当前...
-
Meta推出AI模拟环境Habitat 3.0 为机器人训练提供更真实的场景
FAIR团队最新推出的Habitat3.0引起了广泛关注，这是一个令人激动的增强型AI模拟环境，旨在训练机器人在真实场景中进行导航。这一创新的推出对于提升AI模拟环境的仿真程度具有重要意义。 通过Habitat3.0，机器人可以在更真实的场景中接受训练，从...
-
“AI先驱”Daphne Koller认为生成式AI将引领癌症突破
AI先驱Daphne Koller在一次由斯坦福大学人类中心人工智能研究所主持的全天工作坊上发表讲话，她认为生成式AI将成为癌症研究的重要工具。Koller是生命科学人工智能公司Insitro的联合创始人兼首席执行官，她表示，AI正在与生物学融合，这一结果...
-
IBM发现：ChatGPT非常擅长生成让人点击的钓鱼邮件
IBM研究人员最近进行了一项研究，结果显示，OpenAI的ChatGPT在生成虚假电子邮件方面表现出惊人的能力。 图源备注：图片由AI生成，图片授权服务商Midjourney 他们在一家真实的医疗保健公司中测试了ChatGPT生成的钓鱼电子邮件，以查看其...
-
微软、OpenAI等投入1000万美元用于增强生成式AI产品的安全
微软、OpenAI、谷歌和Anthropic宣布了一项重要举措，共同投入1000万美元用于增强生成式AI产品的安全。这个决定包括任命Chris Meserole为“前沿模型论坛”的执行董事，该论坛由上述公司联合创立，旨在确保前沿AI模型的安全和负责任开发。...
-
研究发现AI聊天机器人传播关于黑人的“种族主义”医疗信息
划重点: - 研究表明，流行的AI聊天机器人，如ChatGPT，被发现传播了关于黑人的被证伪的医疗刻板印象。 - 斯坦福大学的研究人员通过AI聊天机器人提出了九个医学问题，并发现它们返回的答案包含有关黑人的被证伪的医疗观念，包括关于肾脏功能、肺容量的不正确...
-
Anthropic AI 团队研究显示：人工智能倾向于产生迎合用户的奉承性回应而非事实真相
Anthropic 是一家美国的人工智能初创企业和公益公司，由 OpenAI 的前成员创立。Anthropic 专注于开发通用 AI 系统和语言模型，并秉持负责任的 AI 使用理念。Anthropic 开发的 Claude 2 于 2023 年七月推出。...
-
研究显示:ChatGPT可能会被诱骗生成恶意代码
近日，英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能（AI）工具，如ChatGPT，可以被操纵，用于生成恶意代码，从而可能用于发动网络攻击。 该研究是由谢菲尔德大学计算机科学系的学者进行的，首次证明了Text-to-SQL系统的...
-
LLM一句话瞬间生成3D世界，未公布代码已获141星！或将引发3D建模行业革命
继火爆全网的AI文生图，文生视频之后，文生3D场景的技术也来了！ 只要不到30个字的提示词，瞬间就能生成这样的3D场景。 场景效果和文字的要求几乎分毫不差——「平静如玻璃的湖面，倒映出无云的天空，周围的山和水鸟的倒影呈现在湖中。」 「烈日照耀在无垠...
-
最高20倍！压缩ChatGPT等模型文本提示，极大节省AI算力
在长文本场景中，ChatGPT等大语言模型经常面临更高算力成本、更长的延迟以及更差的性能。为了解决这三大难题，微软开源了LongLLMLingua。 据悉，LongLLMLingua的核心技术原理是将“文本提示”实现最高20倍的极限压缩，同时又可以准确评估...
-
GameGPT：使用AI实现游戏开发自动化
译者 | 布加迪 审校 | 重楼 如今，从事游戏开发如同走钢丝。游戏行业处于一种怪异的境地：游戏变得越来越酷，越来越有开创性，但同时也变得越来越让人头疼：更大的团队、更长的工作时间以及巨额预算。相信我，我知道从事这个行当有多难：我和好友Jim花了两年多...
-
八款旨在窃取数据的假冒ChatGPT恶意应用
译者 | 陈峻 审校 | 重楼 目前，人们已开始逐渐习惯于借助ChatGPT开展各种日常工作，包括：搜寻答案、生成图文内容、解释复杂概念、以及编写程序代码等。不过，相对付费版本，免费版聊天机器人的局限性，往往体现在答复的准确性和时间延迟上。而恶意行为者已...
-
深度学习科研，如何高效进行代码和实验管理？
回答一 作者：叶小飞 链接：https://www.zhihu.com/question/269707221/answer/2281374258 我之前在北美奔驰落地时，曾有段时间为了测试不同的结构和参数，一周能训练一百来个不同的模型，为此我结合公司前...
-
「解释一切」图像概念解释器来了，港科大团队出品
你是否好奇当一个黑盒深度神经网络 (DNN 预测下图的时候，图中哪个部分对于输出预测为「击球手」的帮助最大？ 香港科技大学团队最新的 NeurIPS2023 研究成果给出了他们的答案。 论文：https://arxiv.org/abs/2305....
-
IBM 推出 AI 芯片 NorthPole：内置存储器，号称可“模拟人脑运行”
▲ 图源 IBM 10 月 24 日消息，IBM Research 日前推出 AI 芯片 NorthPole，该芯片灵感号称“来自人类大脑的运作”，推论性能据称超越 4nm GPU，适用于边缘计算等范畴。 IT之家经过查询得知，NorthPole 芯片是...
-
50张图“毒倒”Stable Diffusion，汽车和牛都分不清了
艺术家对AI侵权的反击来了—— 在画作里“投毒”，AI用了就会“中毒”出故障。 投毒工具由芝加哥大学团队打造，名为Nightshade，可以对画中像素添加隐形更改。 被下毒的画一旦被非法抓取成为训练数据被AI吃掉，模型就会生成混乱。 甚至还可能会破坏DA...
-
AI算法可检测针对军用无人驾驶车辆的中间人攻击
研究人员研发的人工智能算法，可检测到针对军用无人驾驶车辆的中间人攻击。 机器人操作系统（ROS）是高度网络化的，机器人之间需要协作，其中的传感器、控制器等需要通信并通过云服务交换信息，因此极易受到数据泄露和电磁劫持攻击等网络攻击。中间人攻击（MitM）是...
-
沃尔玛利用AI进行创新的实战经验
沃尔玛创始人山姆·沃尔顿经常说的一句话是：“我们的人让一切不同”，这句话仍然指引着沃尔玛在利用AIGC进入未来的道路。 这家跨国零售公司将自己定位为一家“以人为本、以科技为动力”的公司，而位于这一交叉点的正是AIGC，大多数领导者认为，当人和技术的力量结...
-
AI视野：星火大模型V3.0发布；B站测试推出“AI视频总结”功能；高通发布骁龙8Gen3；苹果计划每年砸10亿美元搞AI
????大模型动态 科大讯飞星火认知大模型V3.0正式发布 在今日的2023科大讯飞全球1024开发者节上，科大讯飞宣布，讯飞星火认知大模型V3.0正式发布，目前星火大模型已整体超越ChatGPT。 ???AI应用 B站测试推出“AI视频总结”功能 近日...
-
GPT-4教会机器手转笔、玩魔方！RL社区震惊：LLM设计奖励竟能超越人类？
GPT-4，竟然教会机器人转笔了！ 图片 英伟达、宾大、加州理工、德州奥斯汀等机构的专家提出一个开放式Agent——Eureka，它是一个开放式Agent，为超人类水平的机器人灵巧性设计了奖励功能。 图片 论文链接：https://arxiv.org/p...
-
亚马逊重新聚焦无人机送货战略，工会组织对可能的裁员潮表示担忧
亚马逊(Amazon 日前发布了一系列新型无人机和机器人，并声称它们将帮助公司“交付未来”。但行业专家为此警告说，在自动配送和人工智能驱动的物流成为常态之前，亚马逊还需要突破基础设施及法律规章的限制。同时，亚马逊也需要注意机器代人后引发的裁员潮问题。...
-
国外科学家开发出“AI 中医”：舌诊系统看病准确率高达 94%
10 月 23 日消息，两千多年以来，中医就通过观察人们舌头的颜色和形状来诊断疾病，这种方法现在正在通过人工智能和机器学习技术得到增强。 伊拉克和澳大利亚研究人员之间的一项合作研究表明，计算机辅助舌头诊断系统可以准确识别 94% 的糖尿病和肾衰竭等疾病...
-
解读OpenAI最强文生图模型—DALL·E 3
Midjourney、Stable Difusion在商业变现和场景化落地方面获得了巨大成功，这让OpenAI看到了全新的商机，也是推出DALL·E3的重要原因之一。 上周，OpenAI宣布在ChatGPT Plus和企业版用户中，全面开放文生图模型DAL...
-
欧盟可能无法在2023年通过其AI法案
欧洲让人期待已久的AI法案仍在争论中，因为欧洲各国无法就如何监管基础模型达成一致，预计在12月之前不太可能通过监管法案。 根据路透社的报道，目前掌握欧盟主席职务的西班牙正在推动对模型的漏洞进行更频繁的审查，并建立一个根据模型用户数量分级监管的系统。 图源...
-
Nightshade:艺术家全新反击工具，可用损坏训练数据“毒害”AI模型
自 ChatGPT 几乎一年前登场以来，生成式人工智能（AI）进入了高速发展的时代，但反对声音也逐渐增强。许多艺术家、娱乐人士、表演者甚至唱片公司已经对AI公司提起了诉讼，其中一些诉讼涉及 ChatGPT 制造商 OpenAI，原因是这些新工具背后的“秘密...
-
NVIDIA发布AI系统Eureka：支持机器人编程
快科技10月23日消息，NVIDIA官方消息显示，一款名为 Eureka 的 AI 系统正式发布，该系统以GPT-4提供支持，可以让机器人实现三十多种复杂的动作。 在一次内部评估中，NVIDIA使用Eureka教10个模拟机器人29种不同的动作。 工程师通...