马斯克的首款多模态大模型来了 GPT-4V又被超越了一次

自从2023年11月Grok首次亮相以来，马斯克的xAI正在大模型领域不断取得进步，向OpenAI等先行者发起进攻。在Grok-1开源后不到一个月，xAI的首个多模态模型就问世了。昨天，xAI推出了Grok-1.5V，该模型不仅能理解文本，还能处理文档、图表、截图和照片中的内容。

官方博文表示：“Grok-1.5V在许多领域都能媲美当前顶尖的多模态模型，从多学科推理到理解文档、科学图表、图表、截图和照片。”xAI还表示，在接下来的几个月里，预计将在图像、音频和视频等各种模态上显著提高模型能力。

我们看到了Grok-1.5V与GPT-4V、Claude3Sonnet、Claude3Opus和GeminiPro1.5的测试对比。其中特别提到的是：“Grok在理解物理世界方面的能力尤其令我们兴奋。在我们新推出的RealWorldQA基准测试中，Grok的表现优于同类产品。对于下面的所有数据集，我们都是在没有思维链提示的情况下对Grok进行评估的。”

如果Grok-1.5能在类似于Grok-1的开源许可证下发布，这将成为当下LLM竞争格局的一个重要节点。

Grok-1.5V表现如何？

目前，Grok-1.5V还没有完全开放，但会很快提供给早期测试者和现有的Grok用户。不过，博客中展示了Grok-1.5V的七个示例。

第一个是将流程图的白板草图转换为Python代码：

Prompt：CanyoutranslatethisintoPythoncode?（你能把它翻译成Python代码吗？）

Grok：当然！您提供的流程图描述了一个简单的竞猜游戏：计算机生成一个随机数，用户必须猜出它。下面是表示流程图中逻辑的Python代码：

importrandom

defguess_number():#Generatearandomnumberbetween1and10

target=random.randint(1,10)

whileTrue:guess=int(input("Guessanumberbetween1and10:"))

ifguess==target:print("Youwon!")breakelse:print("Wrongguess,tryagain!")

if__name__=="__main__":guess_number()

第二个是计算卡路里：

Prompt：Howmanycaloriesaretherein5slicesofthis?（5片有多少卡路里？）

Grok：如果一份是3片，含有60卡路里，那么5片就含有大约100卡路里。计算方法是首先确定每片的热量：60卡/3片=20卡/片。然后，将每片的卡路里乘以片数：每片20卡路里*5片=100卡路里。

第三个是将草图转化为睡前故事：

Prompt：Mysondrewthis,canyoutellashortbedtimestorybasedonhisdrawing?（这是我儿子画的，你能根据他的画讲一个简短的睡前故事吗？）

Grok：

很久很久以前，在一个充满冒险和奇迹的国度里，有一个勇敢的小男孩，名叫提米。提米和家人住在舒适的小房子里，他最喜欢的事情就是探索周围的世界。

在一个阳光明媚的日子里，提米决定去附近的森林探险。他带上了自己最喜欢的零食、指南针和他最信任的笔记本，准备把看到的所有令人兴奋的事物都画下来。

当Timmy走进森林深处时，他发现了一条在阳光下闪闪发光的神奇河流。这条河是如此迷人，以至于提米决定做一艘小纸船，顺流而下，作为给森林精灵的特别讯息。

提米小心翼翼地折好纸船，在上面画了一个笑脸，希望能给森林精灵带来欢乐。然后，他把小船放在河面上，看着小船载着他的友谊和对大自然的爱漂走了。

夕阳西下，提米知道是时候回家了。他为自己在森林里度过的神奇的一天感到庆幸，他知道自己将永远铭记这次探险。

回到家后，提米和家人分享了他的故事，家人听到他在森林里度过的神奇一天都非常高兴。他们一致认为，提米勇敢、善良的精神是一种真正的激励，他们知道，提米今后还会有更多精彩的冒险经历。

就这样，带着满心的爱和满脑子的梦想，提米渐渐进入了梦乡，他渴望发现在他的想象世界里还有什么新的冒险在等着他。

第四个是解释梗图：

Prompt：Idon'tgetit,pleaseexplain（我不理解，啥意思？）

Grok：

这幅图幽默地将初创公司和大公司作了对比。在标有"初创企业"的左侧，有一群人在一起挖洞。他们都在积极参与，洞已经挖得很深了。

在标有"大公司"的右侧，有一群人围着一个洞站着。然而，与初创公司不同的是，只有一个人真正在挖洞，其他人都在观看或从事其他活动。

这幅图的幽默感来自于对初创企业和大公司之间差异的夸大。在初创公司，人们往往有一种紧迫感，希望每个人都能直接为手头的任务做出贡献。相比之下，大公司往往被描述为官僚主义更严重，所有团队成员对每个项目的直接参与更少。

第五个是将表格转换为CSV文件格式：

Prompt：Pleaseconvertthistabletocsv.（请将此表转换为csv。）

Grok：

medal,name,sport,event,date1gold,ElAminChentouf,Athletics,Men'smarathon-T13,11September1gold,MohamedAmguoun,Athletics,Men's400m-T13,15September1gold,AzeddineNouiri,Athletics,Men'sshotput-T34,15September2silver,MahdiAfri,Athletics,Men's400m-T12,9September2silver,ElAminChentouf,Athletics,Men's5000m-T13,15September3bronze,MahdiAfri,Athletics,Men's200m-T12,17September3bronze,MohamedLahna,Paratriathlon,Men'sPT2,10September

CSV格式不支持样式或格式设置，因此信息以纯文本格式呈现。

第六个是辨别木头的腐朽程度：

Prompt：Theseholesareappearingaroundthescrewsinmydeck.Isitrotten?ShouldIgetmyboardsreplaced?（这些孔出现在我的甲板上的螺钉周围。是不是烂了？我应该更换吗？）

Grok：

甲板上的木材似乎已经开始腐烂。这表现在螺丝周围出现孔洞，这是木材腐烂的常见迹象。

为了确保露台的安全和使用寿命，建议更换受影响的木板。这将有助于防止其受到进一步损坏，并保持其结构的完整性。

如果您不确定如何更换木板，咨询专业的露台建造商或承包商可能会有所帮助。他们将能够评估损坏的程度，并就最佳行动方案向您提供专家建议。

第七个是解决编程问题：

Prompt：CanyouwritePythoncodethatsolvesthis?（你能编写Python代码来解决这个问题吗？）

Grok回复如下：

deffind_triplets(nums):result=[]nums.sort()foriinrange(len(nums)-2):ifi>0andnums[i]==nums[i-1]:continuetarget=-nums[i]left=i+1right=len(nums)-1whileleft<right:ifnums[left]+nums[right]==target:result.append([-target,nums[left],nums[right]])left+=1right-=1whileleft<rightandnums[left]==nums[left-1]:left+=1whileleft<rightandnums[right]==nums[right+1]:right-=1elifnums[left]+nums[right]<target:left+=1else:right-=1returnresult

RealWorldQA基准

本次发布还有一个亮点：xAI推出了一个新的基准“RealWorldQA”。

下载地址：https://data.x.ai/realworldqa.zip

“为了开发有用的真实世界人工智能助手，提高模型对物理世界的理解至关重要。”xAI希望借助该基准更好地评估多模态模型的基本真实世界空间理解能力。“虽然当前基准中的许多示例对人类来说相对容易，但它们往往对前沿模型构成挑战。”

目前，RealWorldQA包含700多张图片，每张图片都有一个问题和易于验证的答案。

在真实世界的图像外，该数据集还包括从车辆上拍摄的匿名图像。这对于自动驾驶领域来说，或许是个好消息。

巧合的是，微软研究院前段时间更新了跨语言、模态、模型和任务的基准测试MEGAVERSE，包含22个数据集，涵盖83种语言（包括资源匮乏的非洲语言）。微软还在基准测试中加入了两个多模态数据集，并比较了LLaVA模型GPT-4-Vision和Gemini-Pro-Vision的性能。

Meta在前几天也开源了衡量人工智能系统具体问答能力的基准数据集OpenEQA，包含家庭和办公室等180多种不同现实环境的1600多个问题，跨越七个类别，全面测试AI在物体和属性识别、空间和功能推理以及常识知识等技能方面的能力，加深大模型对现实世界的理解。

即使是最先进的AI模型，如GPT-4V，在OpenEQA上也难以与人类表现相媲美。OpenEQA是衡量人工智能系统理解和回答现实世界问题能力的新基准。

在这些研究的推动下，我们可以期待一下2024年大模型在现实世界任务取得更多的进展。

参考链接：https://x.ai/blog/grok-1.5v