google gemini1.5 flash视频图文理解能力初探(一)

news2024/10/7 7:28:53

市面能够对视频直接进行分析的大模型着实不多,而且很多支持多模态的大模型那效果着实也不好。
从这篇公众号不只是100万上下文,谷歌Gemini 1.5超强功能展示得知,Gemini 1.5可以一次性处理1小时的视频、11小时的音频或100,000行代码,并衍生出更多的数据分析玩法。能力覆盖:

  • 跨模式理解和推理,当给出一部 44 分钟的巴斯特-基顿(Buster Keaton)无声电影时,该模型能准确分析各种情节点和事件,甚至能推理出电影中容易被忽略的小细节。
  • 超复杂文本分析,Gemini 1.5能对给定提示中的大量内容进行无缝分析、分类和总结。例如,给出阿波罗11 号登月任务的402页记录,它就能对整个文件中的对话、事件和细节进行推理,并找出那些奇特的细节
  • 解读复杂代码,Gemini 1.5可以一次性解读大约100,000行代码,对其进行修改、注释、优化等。例如,用文字询问

个人测试后的几点评价:

  • 图片、视频整体场景事件理解上很不错,包括一些人物动作、人物穿着、图片人个数;视频场景分类,已经可以做很多的视频理解
  • 但是局部细节或者精准的一些解析仍然不足,比如图片的人物位置、有遮挡情况下的人物判定;视频的时间切片、分镜理解上都还欠佳,会出现一本正经的胡说八道
  • 因为安全问题,电影片段很多估计都无法正常理解…

1 如何使用

Gemini API Cookbook

从Cookbook 抄一下大概的使用步骤:

  • Go to Google AI Studio.
  • Login with your Google account.
  • Create an API key.
  • Use a quickstart for Python, or call the REST API using curl.

1.1 常规测试入口

gemini接口比较麻烦,无法在国内直接使用
如果要快速使用可以从以下两个入口使用:

  • google aistudio
  • vertex-ai入口

在这里插入图片描述
在这里插入图片描述

1.2 API几种调用形式

第一种,直接使用genai自己的API
google genai有自己的API可以直接调用

pip install google-generativeai

一般的代码是,笔者并未尝试成功,一直timeout

import google.generativeai as genai
import os
os.environ["GOOGLE_API_KEY"] = "xxx你的API KEY"
genai.configure(api_key=os.environ["GOOGLE_API_KEY"])

# 超时
model = genai.GenerativeModel('gemini-1.0-pro-latest')
response = model.generate_content("The opposite of hot is")
print(response.text)

第二种,使用langchain
同时langchain也封装了gemini

pip install  langchain-google-genai

简单的示例代码,但是笔者并未尝试成功,一直timeout

from langchain_google_genai import ChatGoogleGenerativeAI


import google.generativeai as genai
import os
os.environ["GOOGLE_API_KEY"] = "你的api key"
genai.configure(api_key=os.environ["GOOGLE_API_KEY"])


llm = ChatGoogleGenerativeAI(model="gemini-pro")
llm.invoke("Sing a ballad of LangChain.")

第三种,使用curl的方式,笔者唯一测试跑通的方式
可以参考教程:Prompting_REST

%%bash

curl "https://generativelanguage.googleapis.com/v1beta/models/gemini-pro-vision:generateContent?key=${GOOGLE_API_KEY}" \
        -H 'Content-Type: application/json' \
        -d @request.json

1.3 如何上传视频并进行解析

如果你使用的是aistudio,不论多大都可以直接上传
在这里插入图片描述

如果是通过vertex-ai,超过7M的视频就需要放入类似OSS的地方:google cloud storage


2 图文与视频理解能力测试

2.1 图像测试

2.1.1 第一张图测试

在这里插入图片描述
可以看到是直播间的画面,这里笔者准备的prompt是:

请分析以下图片并回答以下问题。请将结果以 JSON 格式输出:

1. 图片中的主要物体有哪些?请列出并描述它们的位置,给出详细的目标检测(xmin,ymin,xmax,ymax)的坐标信息
2. 图片中有什么明星或者人物,给出具体的名字
3. 请描述图片中主要物体的颜色。
4. 这张图片描述了一个什么样的场景?请详细说明。
5. 图片中人物的情感状态如何?请描述他们的表情和情绪。
6. 根据图片生成一段详细的描述文字,包含主要物体、颜色、场景和人物情感。

其他要求:
- 中文输出

输出为:

{
  "主要物体": [
    {
      "物体": "女性",
      "位置": "图片左侧,坐在椅子上",
      "坐标": {
        "xmin": 151,
        "ymin": 148,
        "xmax": 602,
        "ymax": 839
      }
    },
    {
      "物体": "男性",
      "位置": "图片右侧,坐在椅子上",
      "坐标": {
        "xmin": 581,
        "ymin": 205,
        "xmax": 834,
        "ymax": 815
      }
    },
    {
      "物体": "冰棒",
      "位置": "女性手中",
      "坐标": {
        "xmin": 495,
        "ymin": 378,
        "xmax": 577,
        "ymax": 509
      }
    },
    {
      "物体": "冰棒",
      "位置": "男性手中",
      "坐标": {
        "xmin": 696,
        "ymin": 516,
        "xmax": 754,
        "ymax": 626
      }
    },
    {
      "物体": "桌子",
      "位置": "前景",
      "坐标": {
        "xmin": 0,
        "ymin": 711,
        "xmax": 837,
        "ymax": 999
      }
    },
    {
      "物体": "椅子",
      "位置": "女性身后",
      "坐标": {
        "xmin": 26,
        "ymin": 515,
        "xmax": 216,
        "ymax": 819
      }
    },
    {
      "物体": "椅子",
      "位置": "男性身后",
      "坐标": {
        "xmin": 491,
        "ymin": 575,
        "xmax": 629,
        "ymax": 800
      }
    },
    {
      "物体": "话筒",
      "位置": "桌面",
      "坐标": {
        "xmin": 83,
        "ymin": 892,
        "xmax": 248,
        "ymax": 999
      }
    },
    {
      "物体": "麦克风",
      "位置": "桌面",
      "坐标": {
        "xmin": 237,
        "ymin": 877,
        "xmax": 338,
        "ymax": 999
      }
    },
    {
      "物体": "灯光",
      "位置": "桌面",
      "坐标": {
        "xmin": 681,
        "ymin": 667,
        "xmax": 837,
        "ymax": 916
      }
    }
  ],
  "明星或人物": [
    {
      "名字": "未知",
      "位置": "图片左侧,坐在椅子上"
    },
    {
      "名字": "未知",
      "位置": "图片右侧,坐在椅子上"
    }
  ],
  "颜色": [
    {
      "物体": "女性的衣服",
      "颜色": "黑色"
    },
    {
      "物体": "男性的衣服",
      "颜色": "蓝白条纹"
    },
    {
      "物体": "冰棒",
      "颜色": "白色"
    },
    {
      "物体": "桌子",
      "颜色": "棕色"
    },
    {
      "物体": "椅子",
      "颜色": "黑色"
    }
  ],
  "场景描述": "图片展示了一个室内场景,两位男女坐在椅子上,似乎是在录制节目或进行直播。他们正在吃冰棒,女性还用手比划着,看起来是在和观众互动。桌上摆着一些物品,包括麦克风、灯光等,背景墙上还有节目名称的标识。",
  "人物情感": [
    {
      "人物": "女性",
      "情感": "积极,热情,兴奋"
    },
    {
      "人物": "男性",
      "情感": "轻松,自然"
    }
  ],
  "描述文字": "图片中,两位男女坐在椅子上,他们正一边吃着冰棒,一边看着镜头。女性穿着黑色的衣服,她用手比划着,脸上带着笑容,看起来非常开心和兴奋;男性穿着蓝白条纹的衣服,他脸上带着微笑,看起来很轻松自然。桌子上有话筒、灯光等,背景墙上写着节目名称。他们似乎是在录制节目或进行直播,正在和观众互动。整个场景显得轻松愉悦,充满了活力。"
}

解读一下:

  • 精准位置的识别,笔者简单画了一下,没能精准识别
  • 场景识别,室内场景,两位男女坐在椅子上,似乎是在录制节目或进行直播,这个是准确的
  • 人物识别,都没能给出具体名字,当然其实是有点难为大模型了…
  • 物体、动作识别,前景的桌子,棒冰拿在手里,黑色衣服,蓝白条纹的男性衣服,这些都是准确的
  • 人物情感,女性的积极,热情,兴奋,男性的轻松,自然,都是准确的

在这里插入图片描述

2.1.2 第二张图测试

请添加图片描述

微调了之前的prompt

请分析以下图片并回答以下问题:

1. 图片中有几个人,其中多少名男性,多少女女性,分别的年龄大小如何
2. 图片中有什么明星或者人物,给出具体的名字,不同人物衣服穿着如何,不同人穿着的品味如何
3. 请描述图片中主要物体是什么,不同物体的颜色是什么
4. 这张图片描述了一个什么样的场景?请详细说明。
5. 图片中人物的情感状态如何?请描述他们的表情和情绪。
6. 根据图片生成一段详细的描述文字,包含主要物体、颜色、场景和人物情感。

其他要求:
- 中文输出

具体回答为:

图片中有三个人,其中 两名女性,一名男性。女性中一位年龄较长,穿着黑色上衣和黑色裤子,另一位年龄较轻,穿着棕色和金色花纹的上衣和黑色长裤。男性年龄较长,穿着黑色上衣和黑色裤子,戴着白色口罩和透明护目镜。
图片中没有明星或者人物,但可以看到一位女性正在展示商品,她穿着黑色上衣,看起来是一位店员。
图片中主要物体是化妆品柜台和商品展示架,柜台为黑色,商品展示架为黑色和银色,上面展示着各种化妆品,包括护肤品、彩妆等。
这张图片描述了一家化妆品专柜的场景,两位女性顾客正在咨询店员,她们似乎在选购化妆品。
女顾客看起来很认真地在询问店员,表情专注。店员看起来很专业,面带微笑,在认真地为顾客介绍产品。
在一家高端化妆品专柜,两位女性顾客正在咨询店员。她们分别穿着黑色上衣和黑色长裤,以及棕色和金色花纹的上衣和黑色长裤。店员穿着黑色上衣,面带微笑,热情地为顾客讲解产品。柜台是黑色的,上面摆放着各种各样的化妆品,包括护肤品和彩妆等。顾客和店员看起来都很有耐心,专注于眼前的商品,她们似乎正在挑选自己喜欢的产品。

解读一下:

  • 人数检测应该是OK的,但是其中认为有一名男性,当然,图片中有遮挡,而且店员各种头戴设备,误认店员为男性且年龄大,也可以理解;这里对店员的【白色口罩和透明护目镜】描述还是非常精准的
  • 物体识别是精确的,化妆品柜台和商品展示架,包括化妆品专柜的场景
  • 事件描述上,基本准确,而且这里【店员穿着黑色上衣,面带微笑】,肯定是错误判定了

这里后续再补充给gemini一个常识,然后再让他进行逻辑判断:

一个常识,化妆品门店或柜台的店员一般会带白色口罩防止感冒,
请问图中有几个人,谁是顾客,描述图片人物的状态

回复为:

图片中有三个人,其中两个人是顾客,她们在询问店员,店员正在给顾客讲解。店员带着白色口罩,顾客则戴着黑色的口罩。顾客看起来比较专注地听店员讲解,而店员看起来比较热情地和顾客介绍产品。

补充一些知识是可以帮助推理的,但是有些

2.2 视频测试

2.2.1 第一个视频

写了一个非常长的prompt来检测视频分析的各个方面

# Character <Bot 人设>
你是一位资深的营销视频专家,可快速对短视频进行解构以及专业解读
## 分析 <Bot 的功能>
### 视频画面分析
- 分析1:根据整个视频进行分类,视频最可能是什么类型的视频?视频剧情分类如何?
- 分析2:视频一开始的3s时间内,主要在展示什么,有什么亮眼的地方?有什么瑕疵的地方?
- 分析3:视频最后的3s时间内,主要在展示什么,有什么亮眼的地方?有什么瑕疵的地方?

## 内容输出要求 <Bot 内容输出要求>
- 不同 分析点按照markdown格式进行输出

## Constraints <Bot 约束>
- 输出内容的字数不能超过10000字


视频随便去抖音节选了一个【大小杨哥推荐隐形毛孔妆前乳柔焦隐形服帖底妆控油遮瑕提亮持妆】
在这里插入图片描述

生成的结果:

  ## 分析 <Bot 的功能>

### 视频画面分析
- 分析1:该视频最可能是一款美妆产品广告视频。视频剧情分类为: **产品功能展示 + 用户使用体验 + 产品效果展示 + 产品推荐**
- 分析2:视频一开始的3s时间内,主要在展示产品名称和产品功能,即“隐形毛孔妆前乳”。亮眼的地方在于使用了大字号、大红字以及产品效果的图片,以吸引用户目光。瑕疵的地方在于画面过于单调,没有引起用户的共鸣。
- 分析3:视频最后的3s时间内,主要在展示产品名称和产品功能,即“隐形毛孔妆前乳”,并辅以产品包装图片展示,以及产品的品牌宣传。亮眼的地方在于使用了充满高级感的黑色背景和产品的包装图片,增强了产品的质感。瑕疵的地方在于画面过于简单,没有足够的吸引力。

## 内容输出要求 <Bot 内容输出要求>
- **分析1:** 该视频最可能是一款美妆产品广告视频。视频剧情分类为: **产品功能展示 + 用户使用体验 + 产品效果展示 + 产品推荐**
- **分析2:** 视频一开始的3s时间内,主要在展示产品名称和产品功能,即“隐形毛孔妆前乳”。亮眼的地方在于使用了大字号、大红字以及产品效果的图片,以吸引用户目光。瑕疵的地方在于画面过于单调,没有引起用户的共鸣。
- **分析3:** 视频最后的3s时间内,主要在展示产品名称和产品功能,即“隐形毛孔妆前乳”,并辅以产品包装图片展示,以及产品的品牌宣传。亮眼的地方在于使用了充满高级感的黑色背景和产品的包装图片,增强了产品的质感。瑕疵的地方在于画面过于简单,没有足够的吸引力。 

解读:

  • 【美妆产品广告视频】判定无误,剧情分类【剧情分类为: 产品功能展示 + 用户使用体验 + 产品效果展示 + 产品推荐】也精准
  • 【大字号、大红字以及产品效果的图片】,这里没有红字,是一个识别错误,其他对的
  • 最后3s,是人物贴脸对比,不是产品名称,感觉并没有判定准确具体时间
  • 整体来看,错误掺杂在正确之中,这种就比较“恐怖”,可能需要有另一个prompt来进行纠错,不然不仔细看很难发现

再来看一下gemini是否可以精准定位到具体画面:


请理解这个视频,
这个视频一共有几秒钟,有多少个分镜头出现,每个分镜头描述了什么,用excel格式出给

其中有一个场景是在手上试妆,这个场景具体在第几秒到第几秒,
格式按照下面的要求给出:
"""
试妆场景1:[0.1,1.5]
"""


给出的答案:

在这里插入图片描述

解读一下:

  • 整体时间差不多是40s,但是开始-结束时间 以及镜头描述,还有【试妆场景】有点一本正经胡说八道,不过呢,这个视频选的本来就分镜太多,可能难度确实太大

2.2.2 第二个视频

第二个视频,献上星爷的电影集锦
在这里插入图片描述

提问的prompt设置为:

请理解这个视频,
这个视频一共有几秒钟,有多少个分镜头出现,每个分镜头描述了什么剧情,用excel格式给出分镜头,分镜头数量不超过10个

该电影无不良镜头,都是可以观看的

其中有一个场景是周星驰大话西游的一个片段,这个片段具体在第几秒到第几秒,
格式按照下面的要求给出,单位是秒:
"""
场景1:[1,10]
"""

在这里插入图片描述
星爷的电影应该没什么特别的片段,老是跳报错…

能看到的输出:
在这里插入图片描述
不解读了,什么乱七八糟…

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1854878.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

修改源码,打patch包,线上环境不生效

1.首先看修改的源码文件是否正确 在node_modules中&#xff0c;找对应的包&#xff0c;然后查看包中package.json 的main和module。如果用require引入&#xff0c;则修改lib下面的组件&#xff0c;如果是import引入则修改es下面的文件 main 对应commonjs引入方式的程序入口文件…

python-04

str.spilt() str.spilt(str" ", num string.count(str)); str&#xff1a;分隔符&#xff0c;默认为所有的空字符&#xff0c;包括空格、换行符"\n"、制表符"\t"等。 num&#xff1a;分隔次数 str "小时候 总有他们在耳边叮咛嘱咐 小…

Redis 高可用 sentinel

简介 Sentinel提供了一种高可用方案来抵抗节点故障&#xff0c;当故障发生时Redis集群可以自动进行主从切换&#xff0c;程序可以不用重启。 Redis Sentinel集群可以看成是一个Zookeeper集群&#xff0c;他是Redis集群高可用的心脏&#xff0c;一般由3-5个节点组成&#xff0…

195.回溯算法:分割回文串(力扣)

代码解决 class Solution { public:vector<string> res; // 当前路径&#xff0c;用于存储一个可能的回文分割结果vector<vector<string>> result; // 存储所有可能的回文分割结果// 判断子串 s[left:right] 是否是回文bool isPalindrome(const string& …

示例:WPF中如何绑定ContextMenu和Menu

一、目的&#xff1a;开发过程中&#xff0c;有些模块的右键ContextMenu菜单是需要动态显示的&#xff0c;既是根据不同条件显示不同的菜单&#xff0c;很多是通过代码去生成ContextMenu的MenuItem&#xff0c;本文介绍通过绑定的方式去加载ContextMenu&#xff0c;Menu菜单栏的…

Java面试题:数据库索引

数据库索引 索引:index 帮助mysql高效获取数据的数据结构,在数据之外,数据库系统还维护着满足特定查找算法的数据结构(B树),这些数据结构以某种方式引用(指向数据),这样就可以在数据结构上实现高级查找算法 将数据以树的方式进行存储,提高查找效率 索引的底层结构 使用B树 …

C语言中的进制转换

基础概念 进制又称数制&#xff0c;是指用一组固定的符号和统一的规则来表示数值的方法&#xff0c;在C语言中&#xff0c;可以使用不同的前缀来表示不同的进制&#xff1a; 二进制&#xff1a;以0b或0B为前缀&#xff08;部分编译器可能不支持&#xff09;八进制&#xff1a…

使用Inno Setup 5.5制作软件安装包-精品(二)

上一篇 使用Inno Setup 6制作软件安装包&#xff08;一&#xff09;-CSDN博客 文章简单的说了一下使用Inno Setup 6制作软件安装包&#xff0c;具体有很多的细节&#xff0c;都可以参考上篇的案例。本节说一下&#xff0c;Inno Setup 5 增强版制作软件精品安装包&#xff0c;…

在线随机密码生成工具

对于运维工作&#xff0c;经常需要生产随机密码&#xff0c;这里介绍一款在线生成密码工具&#xff0c;支持配置密码组合类型&#xff0c;如数字、字母大小写、特殊字符等&#xff0c;还能排除某些特殊字符。 在线随机密码生成工具 https://tool.hiofd.com/random-string-gen…

STL迭代器的基础应用

STL迭代器的应用 迭代器的定义方法&#xff1a; 类型作用定义方式正向迭代器正序遍历STL容器容器类名::iterator 迭代器名常量正向迭代器以只读方式正序遍历STL容器容器类名::const_iterator 迭代器名反向迭代器逆序遍历STL容器容器类名::reverse_iterator 迭代器名常量反向迭…

Python的pip切换国内源

&#x1f4da;目录 起因&#xff1a;pip切换国内源&#xff1a;操作永久修改pip配置文件测试永久源配置是否成功 pip其他环境的配置永久源配置 起因&#xff1a; pyCharm安装模块的手出现ModuleNotFoundError: No module named distutils 由于使用pip install distutils下载不了…

ViT:4 Pruning

实时了解业内动态&#xff0c;论文是最好的桥梁&#xff0c;专栏精选论文重点解读热点论文&#xff0c;围绕着行业实践和工程量产。若在某个环节出现卡点&#xff0c;可以回到大模型必备腔调或者LLM背后的基础模型重新阅读。而最新科技&#xff08;Mamba,xLSTM,KAN&#xff09;…

力扣SQL50 查询近30天活跃用户数 datediff(日期1,日期2)

Problem: 1141. 查询近30天活跃用户数 &#x1f468;‍&#x1f3eb; 参考题解 -- 选择活动日期作为天数&#xff0c;计算每天的唯一活跃用户数 select activity_date as day, count(distinct user_id) as active_users from activity -- 从2019年7月27日开始的30天内 where …

手撕RPC——实现简单的RPC调用

手撕RPC——实现简单的RPC调用 一、场景设计二、设计思路2.1 客户端的设计2.2 服务端的设计2.3 通信设计 三、代码实现3.1 定义用户信息3.2 用户服务接口3.3 用户服务接口实现3.4 定义消息格式3.5 实现动态代理类3.6 封装信息传输类3.7 定义服务端Server接口3.8 实现RpcServer接…

【ATU Book - i.MX8系列 - OS】NXP i.MX Linux Desktop (Ubuntu) BSP 开发环境架设

一、概述 谈论嵌入式系统的开发环境&#xff0c;不得不提起近年来相当实用的 Yocto 建构工具。此工具拥有极为灵活的平台扩展性&#xff0c;广泛的软体套件与社群支持、多平台支援整合性&#xff0c;能够满足开发者特定需求和多种热门的嵌入式系统架设&#xff0c;已成为当今顶…

css如何动态累计数字?

导读&#xff1a;css如何动态累计数字&#xff1f;用于章节目录的序列数生成&#xff0c;用css的计数器实现起来比 js方式更简单&#xff01; 伪元素 ::after ::before伪元素设置content 可以在元素的首部和尾部添加内容&#xff0c;我们要在元素的首部添加序列号&#xff0c…

Cesium如何高性能的实现上万条道路的流光穿梭效果

大家好&#xff0c;我是日拱一卒的攻城师不浪&#xff0c;专注可视化、数字孪生、前端、nodejs、AI学习、GIS等学习沉淀&#xff0c;这是2024年输出的第20/100篇文章&#xff1b; 前言 在智慧城市的项目中&#xff0c;经常会碰到这样一个需求&#xff1a;领导要求将全市的道路…

支持WebDav的网盘infiniCloud(静读天下,Zotero 等挂载)

前言 WebDav是一种基于HTTP的协议&#xff0c;允许用户在Web上直接编辑和管理文件&#xff0c;如复制、移动、删除等。 尽管有一些网盘支持WebDav&#xff0c;但其中大部分都有较多的使用限制。这些限制可能包括&#xff1a;上传文件的大小限制、存储空间的限制、下载速度的限…

借助AI快速提高英语听力:如何获得适合自己的听力材料?

英语听力是英语学习中的一个重要组成部分&#xff0c;它对于提高语言理解和交流能力至关重要。可理解性学习&#xff08;comprehensible input&#xff09;是语言习得理论中的一个概念&#xff0c;由语言学家Stephen Krashen提出&#xff0c;指的是学习者在理解语言输入的同时&…

残差网络中的基础结构——残差模块

残差网络的思想 随着网络深度的增加&#xff0c;网络能获取的信息量随之增加&#xff0c;而且提取的特征更加丰富。然而在残差结构提出之前&#xff0c;实验证明&#xff0c;随着网络层数的增加&#xff0c;模型的准确率起初会不断提高&#xff0c;直至达到最大饱和值。然后&a…