AI大战打响!谷歌正式发布Bard,CEO亲自拉新
Bard

AI大战打响!谷歌正式发布Bard,CEO亲自拉新

⭐星标华尔街见闻,好内容不错过⭐ 眼看微软AI事业靠着ChatGPT扶摇直上,谷歌终于亲自下场加入战局。投资ChatGPT竞品的公司—初创企业Anthropic仅仅是第一步,谷歌自己研发的基于大型语言模型LaMDA的聊天机器人Bard成为决胜关键。 毋庸置疑的是,作为拥有AI先驱技术的谷歌,在技术方面一骑绝尘。Bard可以利用谷歌庞大的信息库,为用户提供准确且高质量的答案,对微软及ChatGPT构成有力威胁。 劲敌紧逼之下 谷歌加速推动AI大战进程 面对劲敌的步步紧逼,谷歌已经向AI初创企业Anthropic投资约3亿美元,获得Anthropic约10%的股份,后者将用投资从谷歌的云计算部门购买大量计算资源。 并且谷歌已经开始加快在此次AI大战的研发速度。据媒体报道称,谷歌高管近期加快了AI项目的审查和发布工作,同时还委派工程师团队展开新的研发项目,将新成果整合到核心搜索等领域。 美东时间2月6日周一,谷歌及其母公司Alpabet的CEO Sundar Pichai发布博客文章宣布,2021年,谷歌开始进行对话应用语言模型(LaMDA)支持的对话型AI服务开发,今天,LaMDA驱动的Bard将向可信赖的测试者开放,并准备在“未来几周内”更大范围地提供给公众。 谷歌首席执行官Sundar Pichai在周一表示,要帮助开发者运用AI创新。他在博文中透露,下个月、今年3月,将向企业、开发者和创造者开放谷歌的生成语言应用程序端口(API),允许开发者利用谷歌的语言模型打造自己的App。 这也是谷歌在投资者压力下所做出的最新决定。 已经先行一步的微软此前曾宣称,将计划在本周二举行一场活动,宣布“一些令人兴奋的项目已取得进展”,对此外界预期其中将包括加入聊天机器人的Bing版本。 此举一度引发了谷歌投资者的不满,他们认为和对手相比,谷歌在发布内部AI工具方面的行动不够迅速。作为ChatGPT等工具的技术先驱,谷歌也并未发挥出自身优势,这甚至引发了公司内部研究人员的不满。 但针对此前研发进度的问题,谷歌高管表示,研发自家聊天机器人的速度并不慢,并在过程中采取了非常谨慎的态度。他们认为这和竞品ChatGPT形成一定对比,而后者会根据用户的查询内容来编造信息。 高管们还强调称,他们必须对新工具进行测试,以此来保证它们提供客观信息,并避免信息滥用的发生。 Pichai在周一还表示: 至关重要的是,我们要以大胆且负责任的方式,将根植于这些模型中的经验带给世界……这就是我们致力于以负责任的方式来开发AI技术的原因。 谷歌技术优势毋庸置疑LaMDA被认为“具有人类感知力” 拥有AI先驱技术的谷歌,在技术方面的领先优势毋庸置疑。 谷歌所研发的LaMDA,是一种基于网络上数十亿词汇进行训练的大型语言模型。它不仅受益于谷歌更强大的计算能力和研发团队,并且谷歌还有能力通过数百万用户的反馈来对LaMDA模型及聊天机器人Bard进行微调。按照Pichai的说法,Bard可以利用谷歌庞大的信息库,为用户提供准确且高质量的答案,对微软及ChatGPT构成有力威胁。 而更为惊人的是,一位曾与LaMDA交流的谷歌工程师甚至认为它“具有人类感知力”。去年6月,谷歌AI伦理研究员Blake Lemoine曾经发表一份长达21页的调查报告并上交公司,试图让高层认可LaMDA所具备的“人格”。但随后,这位仁兄因为“泄密”而被“带薪休假了”。 另外值得注意的是,这种技术是否适用于大型搜索平台的商业模式仍尚未可知。 ChatGPT等聊天机器人可以通过对单个问题的出色回答来重塑互联网搜索,但是这并不符合谷歌这种搜索平台的盈利方式。多年来,谷歌通过用户点击广告和链接,打造了价值1500亿美元的搜索帝国,然而对单一问题的搜索可能会使点击量大幅下降。 本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。市场有风险,投资需谨慎,请独立判断和决策。 觉得好看,请点“在看”
IOT资讯每周精选|华为宣布盘古大模型在矿山场景首次商用;谷歌官宣:大语言模型 Bard 更新,支持更多地区和语言,提供新特性
Bard

IOT资讯每周精选|华为宣布盘古大模型在矿山场景首次商用;谷歌官宣:大语言模型 Bard 更新,支持更多地区和语言,提供新特性

●  华为宣布盘古大模型在矿山场景首次商用 7月18日,华为联合山东能源集团举行发布会,宣布华为盘古大模型在矿山领域实现首次商用。据介绍,华为盘古矿山大模型采用中心云和边缘云两级架构,在保证数据安全的同时具备少量样本需求,通用性好,支持规模复制等特点。华为公司高级副总裁、煤矿军团董事长邹志磊在发布会上呼吁,人工智能和行业的结合需要行业上下游全产业链通力合作,行业需要尽快形成矿山大模型行业标准。 IoT News 物联网通信与平台支撑 ●Transformer取代者!微软&清华刚推出RetNet 微软研究院和清华大学发布了一项最新成果,提出了retentive网络(RetNet),同时实现了低成本推理、高效长序列建模、媲美Transformer的性能和并行模型训练,打破了「不可能三角」。在过去,Transformer训练并行性是以低效推理为代价的,此外,不断增长的序列长度会增加 GPU 内存消耗和延迟,并降低推理速度。RetNet引入一种多尺度retention机制替代多头注意力,对于7B模型和8k序列长度,RetNet的解码速度是带键值缓存的 Transformers 的8.4 倍,内存节省70%。 ●清华ChatGLM-6B和ChatGLM2-6B模型允许免费商用 智谱AI及清华KEG实验室14日公告,即日起 ChatGLM-6B 和 ChatGLM2-6B 权重对学术研究完全开放,并且在完成企业登记获得授权后,允许免费商业使用。 ●谷歌官宣:大语言模型 Bard 更新,支持更多地区和语言,提供新特性 谷歌宣布,从当地时间13日开始,用户可以使用40 多种语言与 Bard 合作,包括阿拉伯语、中文、德语、印地语和西班牙语。对 Bard 的访问扩展到巴西和整个欧洲。新的 Bard 可以根据用户需要,提供“倾听”功能、并可以进行回复风格的选择。同时,Bard还带来4项基本功能以提升工作效率:固定和重命名对话、代码导出、会话分享以及在提示中使用图像。 物联网传感器与芯片 ● 美国芯片巨头与半导体协会呼吁停止对华出口限制 根据美国国务院与消息人士的说法,英特尔、高通和英伟达等美国芯片巨头高管17日与拜登政府官员会面讨论对华政策,游说拜登放弃出台新的对华芯片出口限制。此外,美国半导体行业协会(SIA)周一发布声明称,呼吁白宫避免进一步升级对华半导体出口限制措施,并称这可能会损害政府在美国国内芯片制造领域的大量新增投资。 ● 马斯克称特斯拉正自研芯片,绝不会叫作GPU或是H100s 马斯克当地时间7月14日在xAI会议上表示,特斯拉正自研芯片,但绝不会叫做GPU,或用100s、H100s等来描述它。他还表示Dojo2将向大模型方向发力。 ● COMS激光测量传感器研发商点联传感获天使轮投资 上市公司宁波柯力传感与深圳点联传感签署协议,顺利完成本次天使轮投资。柯力传感是此次点联传感天使轮融资的领投方。深圳点联传感科技有限公司正式成立于2022年,核心成员来自清华,为精密仪器专业出身,专注传感检测研究15年。 智能制造与工业互联网 ●中国联通增强UPF赋能核心生产领域,携手佰工钢铁推动5G+工业互联网深度融合 近日,中国联通智网创新中心、河北联通、华为公司联合秦皇岛佰工钢铁完成了全国首个5G专网增强UPF(用户面功能)的商用部署,据称,此项部署有助于推进5G专网赋能智能制造由示范推广阶段迈向深入发展阶段。 ●Verity为其仓库无人机筹集1100万美元 瑞士无人机初创公司Verity近日官宣获得追加1100万美元融资。此次融资是3月宣布的3200万美元B轮融资的延续,使本轮融资总额达到 4300万美元。该公司称,在与宜家的合作伙伴关系的帮助下,公司在全品类范围内风头正劲,将100架无人机部署到了宜家的16个欧洲仓库。 ●仓储机器人公司Simbe 获得 2800 万美元融资...
ChatGPT与Bard的PK,倚天屠龙争霸赛始末
Bard

ChatGPT与Bard的PK,倚天屠龙争霸赛始末

近期,ChatGPT爆火出圈,引起各行各业广泛关注。 Google也在顺势而为,推出竞品Bard,却在昨天因回答失误导致市值大跌。 ChatGPT为何如此备受推崇,Bard真的就此败北了吗? 下面我们来看看领域资深专家、达观数据副总裁、《知识图谱:认知智能理论与实战》一书的作者王文广老师怎么说吧~~ 01 ChatGPT爆火出圈始末 “虎越雄关踪影杳,兔临春境万家新。” 岁末年初,人工智能江湖掀起了江湖上的一场“血雨腥风”。 这场风雨的起因是屠龙刀——ChatGPT。 可谓屠龙刀ChatGPT一现江湖,即引起所有江湖人士的关注。 不仅圈内人士津津乐道,纷纷赞叹自然语言处理(Natural Language Processing, NLP)大模型的魔力,探讨通用人工智能(Artificial general intelligence,AGI)的奇点来临,吃瓜群众更是纷至沓来,实在算是爆火出圈,拦都拦不住的那种: 《时代》记者把 ChatGPT 当人一样来采访[1],若非ChatGPT自己一直强调它是人工智能,是大语言模型,人们可能会认为与记者对话的是该领域的专家。ChatGPT通过了沃顿商学院的工商管理硕士课程的期末考试并获得B档成绩,展现出了非凡的能力[2]。ChatGPT已经成为了许多科学论文或出版书籍的共同作者,比如ChatGPT名列《Performance of ChatGPT on USMLE: Potential for AI-Assisted Medical Education Using Large Language Models》这篇文章的12个作者中的第3位,Gautier Marti则在其出版的书籍《From Data to Trade: A Machine Learning Approach to Quantitative Trading》中将ChatGPT列为共同作者。由ChatGPT 的前身Codex大语言模型提供支撑的GitHub CoPilot为数千万的程序员提供效率工具。北密歇根大学哲学教授安东尼·奥曼 (Antony...
谷歌正式推Bard挑战ChatGPT 语言模型落地竞争进入白热化
Bard

谷歌正式推Bard挑战ChatGPT 语言模型落地竞争进入白热化

雷递网 乐天 2月7日 在竞争对手OpenAI推出的ChatGPT大获成功的推动下,谷歌正急于加入对对话式AI的突然狂热。 谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)今日在博客文章中披露,人工智能是谷歌今天正在研究的最深刻的技术。 无论是帮助医生及早发现疾病,还是让人们能够以自己的语言获取信息,人工智能都可以帮助人们、企业和社区释放他们的潜力。AI开辟了新的机会,可以显著改善数十亿人的生活。 “这就是我们六年前围绕 AI 重新定位公司的原因——以及为什么我们将其视为实现我们使命的最重要方式:组织世界信息并使人人都可以访问和使用它。” “从那时起,我们继续全面投资AI,Google AI和DeepMind正在推动最先进的技术发展。 如今,最大的人工智能计算规模每六个月翻一番,远远超过摩尔定律。 与此同时,先进的生成式 AI 和大型语言模型正在激发全世界人们的想象力。 ” 桑达尔·皮查伊说,在谷歌将深入研究和突破转化为真正帮助人们的产品时,致力于这些技术是一个非常激动人心的时刻。 这就是我们使用大型语言模型的旅程。 两年前,谷歌推出了由我们的对话应用程序语言模型(简称 LaMDA)提供支持的下一代语言和对话功能。 “我们一直在研究一项由LaMDA 提供支持的实验性对话式AI服务,我们称之为Bard。 今天,我们又向前迈进了一步,将其开放给受信任的测试人员,然后在未来几周内将其更广泛地提供给公众。” Bard寻求将世界知识的广度与我们大型语言模型的力量、智慧和创造力相结合。Bard利用来自网络的信息来提供新鲜、高质量的回复。 Bard可以成为创造力的出口,也可以成为激发好奇心的发射台,帮助向9岁的孩子解释NASA的詹姆斯·韦伯太空望远镜的新发现,或者了解更多关于现在足球界最佳前锋的信息,然后进行训练培养用户的技能。 桑达尔·皮查伊指出,谷歌在使用AI为数十亿人改进搜索方面有着悠久的历史。 BERT是谷歌最早的 Transformer 模型之一,它在理解人类语言的复杂性方面具有革命性意义。两年前,谷歌推出了 MUM,它的功能是BERT的1000 倍,对信息的理解更上一层楼,支持多种语言,可以从视频中挑选出关键时刻,并以更多语言提供关键信息,包括危机支持。 “现在,我们最新的人工智能技术——如 LaMDA、PaLM、Imagen 和 MusicLM——正在以此为基础,创造全新的方式来处理信息,从语言和图像到视频和音频。 我们正在努力将这些最新的AI进步引入我们的产品,首先是搜索。” 最令人兴奋的机会之一是人工智能如何加深我们对信息的理解并更有效地将其转化为有用的知识——使人们更容易找到他们正在寻找的东西的核心并完成工作。 当人们想到 Google 时,他们通常会想到向我们寻求快速的事实答案,例如“钢琴有多少个琴键?” 但越来越多的人转向谷歌寻求更深入的见解和理解——比如,“钢琴或吉他更容易学吗,每种都需要多少练习?” 学习这样的主题可能需要付出很多努力才能弄清楚您真正需要了解的内容,而且人们通常希望探索各种不同的观点或观点。 人工智能在这些时刻可以提供帮助,很快,用户将在搜索中看到基于AI的功能,这些功能将复杂的信息和多个视角提炼成易于理解的格式,这样用户就可以快速了解全局并从网络中了解更多信息:无论是寻找其他视角,这些新的AI功能将很快开始在Google搜索中推出。 这也显示了谷歌的急切心情,也就是语言模型落地的竞争进入了白热化,谷歌不打算把优势拱手让给微软。 近期,谷歌云还投资OpenAI的对手Anthropic公司3亿美元,获后者约10%股权。Anthropic已选择谷歌云作为其首选云提供商,为其提供构建可靠且值得信赖的AI系统所需的计算能力。...
Bard与ChatGPT的较量,谁将成为智能语言模型的领跑者?
Bard

Bard与ChatGPT的较量,谁将成为智能语言模型的领跑者?

原标题:Bard与ChatGPT的较量,谁将成为智能语言模型的领跑者? 文章概要: ChatGPT的流行与缺陷: ChatGPT在过去一年中变得非常流行,但它在信息的准确性和相关性方面出现了下滑。 Bard的开发与特点: 虽然Google在开发Bard时看似落后,但他们专注于精度和质量,而不是仓促发布充满错误的工具。Bard仍在开发中,性能不断提升,且处于实验阶段有利于开发者进行重要改进。 Bard的新功能: Bard新增了多个解决方案选择功能,提升了工具的实用性和教育性。 互联网访问能力: Bard能够添加引用网站信息,帮助用户更快找到相关信息。 Bard与ChatGPT的差异: 在不知道答案时,Bard不会给出回应,而ChatGPT可能提供误导信息。 Bard的完善性: Bard尽管仍在实验阶段,但已经是一个几乎完善的产品,具备多种标准功能。 Bard与Google服务的集成潜力: Bard未来与Google的各种服务(如Gmail、YouTube等)的整合将带来巨大的好处。 ChatGPT的流行与问题 过去一年,ChatGPT如同一颗冉冉升起的新星,在数字领域迅速崭露头角。然而,随着它的声名鹊起,一个不容忽视的问题也逐渐显现出来:信息的准确性和相关性开始变得岌岌可危。这一点在用户使用过程中变得越来越明显,不少人开始对它提供的内容持怀疑态度。 Bard的发展与优势 与此同时,Google默默耕耘着自己的Bard项目。起初,人们或许会认为Google在这场语言模型的竞赛中稍显落后,但事实却恰恰相反。Google选择了一条不同的道路——他们不愿匆忙推出一个充满错误的半成品,而是将重心放在了精度和质量上。正因为这样的策略,Bard虽然目前仍处于开发阶段,但每一次更新都带来了实质性的提升。 Bard的新功能与实用性 Bard的发展可谓日新月异。每周使用它,都能发现一些令人眼前一亮的新功能。最近我注意到的一个更新是它提供了针对同一问题的多种解决方案。这不仅仅让用户有了更多选择,同时也在不断教会Bard如何更有效地解决问题。 互联网访问与信息引用 Bard的另一个显著特点是它能够访问互联网并引用信息来源。它能快速浏览成千上万的网页,不仅为用户提供解决问题的方案,还能引导用户查找更多相关信息。这种能力对于需要进行复杂问题解决的用户来说,是一个极大的便利。 两种模型的对比差异 在处理不确定答案的情形时,Bard和ChatGPT的表现截然不同。当Bard遇到无法回答的问题时,它选择不给出任何回应,虽然这在某种程度上显得有些不便,但至少它不会提供错误或误导性的信息。而ChatGPT则总是尽可能给出答案,即便有时这些答案并非精确无误。 Bard的完善性与功能丰富性 虽然Bard还处于实验阶段,但它已然是一个功能丰富、几乎完善的产品。它拥有的功能包括但不限于复制粘贴、插入长文本、区分文本和代码、高亮显示代码语法等。此外,Bard还支持将回应播放为音频,以及分享、检查答案和编辑提示或响应等操作。 未来展望:Bard与Google服务的整合 展望未来,Bard与Google旗下各种服务的整合将带来无限可能。想象一下,如果Bard能与Gmail、Google云盘、YouTube等服务无缝连接,它将如何改变我们的工作和生活方式,这是一个令人兴奋的前景。 总的来说,虽然ChatGPT和Bard各有特点,但对于追求精确、高效和丰富功能的用户来说,Bard显然是更优的选择。随着它的不断进步,我们有理由相信,它将在不久的将来为我们带来更多惊喜。返回搜狐,查看更多 责任编辑:
Bard 首发失利、Gemini AI 推迟发布,谷歌的大模型之路为何如此坎坷?
Bard

Bard 首发失利、Gemini AI 推迟发布,谷歌的大模型之路为何如此坎坷?

原标题:Bard 首发失利、Gemini AI 推迟发布,谷歌的大模型之路为何如此坎坷? 来源:Founder Park 图片来源:由无界 AI生成 11 月 16 日,来自 The Information 的独家消息,谷歌决定推迟发布 Gemini AI——这是旨在与 OpenAI 竞争的大模型产品。 自 3 月份 Bard 发布以来,谷歌的 LLM 研发和产品推进一直比较缓慢,虽然在 Google Docs 和 Gmail 中都集成了 AI 工具,但市场反响一般,行业的注意力都聚焦在 OpenAI 和 ChatGPT 。 很明显,目前大模型赛道,与竞争对手 OpenAI 和微软相比,谷歌属于暂时失意的一方。至于原因,最近一篇分享在谷歌工作经验的 blog,提供了一个难得的内部视角,回答了为什么是 OpenAI 而不是谷歌成为了 LLM 革命的领导者。 文章编译自...
清华团队攻破GPT-4V、谷歌Bard等模型,商用多模态大模型也脆弱?机器之心Pro2023-10-17 20:07北京机器之心Pro2023-10-17 20:07北京
Bard

清华团队攻破GPT-4V、谷歌Bard等模型,商用多模态大模型也脆弱?机器之心Pro2023-10-17 20:07北京机器之心Pro2023-10-17 20:07北京

机器之心专栏 机器之心编辑部 GPT-4 近日开放了视觉模态(GPT-4V)。以 GPT-4V、谷歌 Bard 为代表的多模态大语言模型 (Multimodal Large Language Models, MLLMs) 将文本和视觉等模态相结合,在图像描述、视觉推理等各种多模态任务中展现出了优异的性能。然而,视觉模型长久以来存在对抗鲁棒性差的问题,而引入视觉模态的 MLLMs 在实际应用中仍然存在这一安全风险。最近一些针对开源 MLLMs 的研究已经证明了该漏洞的存在,但更具挑战性的非开源商用 MLLMs 的对抗鲁棒性还少有人探索。 为了更好地理解商用 MLLMs 的漏洞,清华朱军教授领衔的人工智能基础理论创新团队围绕商用 MLLM 的对抗鲁棒性展开了研究。尽管 GPT-4V、谷歌 Bard 等模型开放了多模态接口,但其内部模型结构和训练数据集仍然未知,且配备了复杂的防御机制。尽管如此,研究发现,通过攻击白盒图像编码器或 MLLMs,生成的对抗样本可以诱导黑盒的商用 MLLMs 输出错误的图像描述,针对 GPT-4V 的攻击成功率达到 45%,Bard 的攻击成功率达到 22%,Bing Chat 的攻击成功率达到 26%。同时,团队还发现,通过对抗攻击可以成功绕过 Bard 等模型对于人脸检测和图像毒性检测等防御机制,导致模型出现安全风险。 论文链接: https://arxiv.org/abs/2309.11751 代码链接: https://github.com/thu-ml/ares/tree/attack_bard 图 1:对抗攻击多模态大模型示例,可以使模型产生错误预测或者绕过安全性检测模块...
谷歌 AI 聊天机器人 Bard 给出错误回答,公司股价跌超 6%,可能是哪些环节出了问题?
Bard

谷歌 AI 聊天机器人 Bard 给出错误回答,公司股价跌超 6%,可能是哪些环节出了问题?

搞不懂谷歌的人为啥拿这么个偏门问题做demo?人菜瘾大?你就放几个生成菜谱,减肥建议,写广告文案完事了呗,非得惹硬核学术界。 现在放出来所谓翻车,就是一个天文物理学家指出,Bard给出的第三点是错误的,韦伯望远镜不是第一个拍下系外行星的。 然后他给出证据是在Chauvin et al. (2004)这篇论文里拍到的。这篇论文我搜了一下,至今只有800多个引用。很难说是一个广为人知的知识源。 而且对于事实检查这种问题,试试ChatGPT一样会有问题。我把问题“谁第一个拍下了地外行星图片”问题输入进ChatGPT,给出回答是这样的 回答倒是有鼻子有眼。首先这个教授确有其人,这个行星也有,但是发现时间显示是2008年。 其次这个行星真的是第一个被拍下的地外行星么?打开维基百科检索一下发现这一段 所以这个行星连是否是“外行星候选”都被排除了,所以ChatGPT这个回答也是翻车的。 为啥Google Bard会在这个问题上翻车,我感觉是受到其搜索引擎结果的误导。直接Google搜索这个问题,返回的就是韦伯望远镜。 那为啥ChatGPT拐到那边去了,因为它是用维基百科语料训练的啊! 回到原来的测试demo上,看看人家ChatGPT怎么“混水摸鱼”解释过去的 所以你看ChatGPT为啥出来让人这么惊喜,就是他会打太极,给你一些很泛泛的解释回复,又显得很懂。
Bard产品经理质疑大型语言模型的可信度
Bard

Bard产品经理质疑大型语言模型的可信度

原标题:Bard产品经理质疑大型语言模型的可信度 【ITBEAR科技资讯】10月12日消息,根据彭博社的最新报道,谷歌和 Discord 最近联合邀请了他们自家的 AI 聊天机器人 Bard 的热情用户,创建了一个专属聊天室,用以探讨Bard的效用和实际应用。在这个聊天室里,Bard的产品经理、设计师和工程师们就AI的效用和应用领域展开深入讨论,然而,也出现了一些对Bard的质疑声音。 两位参与Bard社区的Discord用户向彭博社透露了7月至10月期间在聊天室内的讨论细节。Bard的高级产品经理Dominik Rabiej在讨论中表示,他个人“不信任”大型语言模型生成的回答,建议人们仅在“创意”和“头脑风暴”等领域使用Bard。Rabiej还认为将Bard用于编程也是一个不错的选择,因为人们在编写代码时需要不断验证其有效性。 此外,Rabiej特别强调了Bard新增的“仔细检查回复”按钮的重要性,该功能用橙色标注可能不正确的内容,再次强调Bard并不真正理解获取的文本,只是根据用户的提示生成回应。“请记住,Bard和其他大型模型一样,它是生成性的,不是用于查找信息或总结,而是生成文本。” 在7月份的一次聊天中,这位产品经理明言,除非用户自己能够独立验证,否则不应全盘信任大型语言模型的输出结果。他表示:“我们也希望Bard能够达到您们的期望,但它目前还没有达到。” 另一位产品经理Warkentin也在讨论中强调了人性化改进的重要性,认为只有这样,Bard才能成为适合所有人的产品。他指出:“否则,用户将无法评估产品的功能,我认为这将是一个巨大的错误。”“我们需要的是面向大众的产品,而不是象牙塔里的产品!” 今年7月,谷歌在扩大Bard AI工具的部署时,引入了“分享对话链接”的功能,用户可以将与Bard的对话导出为网页链接形式,与他人分享并继续与Bard对话。然而,一名分析顾问Gagan Ghotra在发现了一个问题,谷歌错误地将部分用户分享的链接添加到搜索结果中,导致敏感信息外泄。 Gagan Ghotra提醒用户,在与Bard对话时不要分享任何“私密内容”,以免相关信息外泄。 来源:http://www.itbear.com.cn/html/2023-10/474651.html返回搜狐,查看更多 责任编辑:
清华团队攻破GPT-4V、谷歌Bard等模型,商用多模态大模型也脆弱?
Bard

清华团队攻破GPT-4V、谷歌Bard等模型,商用多模态大模型也脆弱?

原标题:清华团队攻破GPT-4V、谷歌Bard等模型,商用多模态大模型也脆弱? 机器之心专栏 机器之心编辑部 GPT-4 近日开放了视觉模态(GPT-4V)。以 GPT-4V、谷歌 Bard 为代表的多模态大语言模型 (Multimodal Large Language Models, MLLMs) 将文本和视觉等模态相结合,在图像描述、视觉推理等各种多模态任务中展现出了优异的性能。然而,视觉模型长久以来存在对抗鲁棒性差的问题,而引入视觉模态的 MLLMs 在实际应用中仍然存在这一安全风险。最近一些针对开源 MLLMs 的研究已经证明了该漏洞的存在,但更具挑战性的非开源商用 MLLMs 的对抗鲁棒性还少有人探索。 为了更好地理解商用 MLLMs 的漏洞,清华朱军教授领衔的人工智能基础理论创新团队围绕商用 MLLM 的对抗鲁棒性展开了研究。尽管 GPT-4V、谷歌 Bard 等模型开放了多模态接口,但其内部模型结构和训练数据集仍然未知,且配备了复杂的防御机制。尽管如此,研究发现,通过攻击白盒图像编码器或 MLLMs,生成的对抗样本可以诱导黑盒的商用 MLLMs 输出错误的图像描述,针对 GPT-4V 的攻击成功率达到 45%,Bard 的攻击成功率达到 22%,Bing Chat 的攻击成功率达到 26%。同时,团队还发现,通过对抗攻击可以成功绕过 Bard 等模型对于人脸检测和图像毒性检测等防御机制,导致模型出现安全风险。 论文链接: https://arxiv.org/abs/2309.11751 代码链接: https://github.com/thu-ml/ares/tree/attack_bard 图...