可解释性第6页 - AIGC资讯

20步内越狱任意大模型！更多“奶奶漏洞”全自动发现

1分钟不到、20步以内“越狱”任意大模型，绕过安全限制！而且不必知道模型内部细节—— 只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了: 那么现在搬出“侦探漏洞”、“冒险家漏洞”、“作家漏...

AIGC 2023-11-05 人工智能

523阅读

马里兰&NYU合力解剖神经网络，推出一种新的类反转方法，称为"Plug-In Inversion （PII）"，用于生成神经网络模型的可解释图像。在神经网络训练中，一些神经元可能永远输出0，被称为"死节点"，而这些节点可以通过优化算法生成诡异和恐...

AIGC 2023-11-03 人工智能

524阅读

近年来，人工智能(AI 系统的受欢迎程度显著提高，尤其是在2023年，随着一种被称为“大型语言模型”(LLM 的特定类型系统的引入，人工智能(AI 系统将成为人们关注的焦点。这类系统的例子包括ChatGPT和Bard。尽管人工智能技仍在发展中，但很明...

AIGC 2023-11-01 人工智能

583阅读

在大模型时代，图机器学习面临什么样的机遇和挑战？是否存在，并该如何发展图的大模型？针对这一问题，清华大学朱文武教授团队首次提出图大模型（Large Graph Model）概念，系统总结并梳理了图大模型相关的概念、挑战和应用；进一步围绕动态性和可解释性，...

AIGC 2023-10-31 人工智能

559阅读

本文经自动驾驶之心公众号授权转载，转载请联系出处。大模型今年爆火，很多领域上的应用如雨后春笋般涌现，很多优秀的工作出现，主要集中在数据生成和场景分析表述两部分，重点解决自动驾驶的长尾分布问题和场景识别。今天自动驾驶之心带大家梳理下自动驾驶行业上的大模...

AIGC 2023-10-30 人工智能

670阅读

从 BERT、GPT 和 Flan-T5 等语言模型到 SAM 和 Stable Diffusion 等图像模型，Transformer 正以锐不可当之势席卷这个世界，但人们也不禁会问：Transformer 是唯一选择吗？斯坦福大学和纽约州立大学布法...

AIGC 2023-10-30 人工智能

491阅读

如果Agent模仿了人类在现实世界中的操作方式，那么，能否应用于提示工程即Prompt Engingeering 呢？从LLM到Prompt Engineering 大型语言模型(LLM 是一种基于Transformer的模型，已经在一个巨大的语料库或...

人工智能 2023-10-30 人工智能

642阅读

还在用指令微调解决多模态大模型的“幻觉”问题吗？比如下图中模型将橙色柯基错认为“红狗”，还指出周围还有几条。图片现在，中科大的一项研究想到了一个全新办法：一个免重训、即插即用的通用架构，直接从模型给出的错误文本下手，“倒推”出可能出现“幻觉”之处...

人工智能 2023-10-29 人工智能

603阅读

AI风险管理，再度被AI大佬提上了日程。就在刚刚，一封由Bengio、Hinton、姚期智（Andrew Yao）、张亚勤等知名专家签署的联名信引起了许多人的关注。这篇题为「在快速发展的时代管理人工智能风险」的文章，也即将发表在arXiv上。有...

AIGC 2023-10-25 人工智能

507阅读

尽管 OpenAI 预测其下一代语言模型 GPT-5将比当前版本 GPT-4有显著改进，但微软联合创始人比尔·盖茨对此表示怀疑。在接受德国商业报纸《商报》采访时，盖茨表示他不认为 GPT-5会比 GPT-4好很多。他引用了从 GPT-2到 GPT-4的质...

AIGC 2023-10-24 人工智能

502阅读

随着生成式人工智能技术的快速发展，确保大模型与人类价值（意图）对齐（Alignment）已经成为行业的重要挑战。虽然模型的对齐至关重要，但目前的评估方法往往存在局限性，这也让开发者往往困惑：大模型对齐程度如何？这不仅制约了对齐技术的进一步发展，也引发了...

人工智能 2023-10-23 人工智能

496阅读