# Vision／Video AI大全 CURRENT_STATUS: UNKNOWN OBSERVATION: SPEC_ONLY FRESHNESS: UNKNOWN PAGE_TYPE: reference CANONICAL_URL: /tools/ea-072-vision-video-ai CLAIM_IDS: none EVIDENCE_IDS: EVD-EA-072-URL-599FF2E7CFF3, EVD-EA-072-URL-013C0C535D25, EVD-EA-072-URL-BBEA16635537, EVD-EA-072-URL-FFB980AE9E3E, EVD-EA-072-URL-7E5709CA7B06, EVD-EA-072-URL-FD0A9341E4D8, EA-072-R11-RESEARCH, EA-072-R11-WEB-READBACK UNKNOWN_IDS: EA-072-UNKNOWN-01, EA-072-UNKNOWN-02, EA-072-UNKNOWN-CURRENTNESS OPS_IDS: none ## Summary 「Vision AIは単一能力ではない。OCR、検出、localization、caption、visual reasoning、retrieval、moderation、video temporal analysisを能力単位で評価し、model/API revisionとsource locatorを保持する。専用Vision APIのstructured detector outputとMLLMの自然言語理解は補完関係にあり、片方の成功を他方の保証へ外挿しない。」 ## Current judgment A. Vision capabilityを少なくとも (a) OCR/text reading, (b) image classification/tagging, (c) object detection/localization, (d) caption/dense description, (e) visual question answering/reasoning, (f) multimodal embedding/retrieval, (g) moderation/safety classification, (h) video temporal analysis に分離する。単一“vision capable” flagは禁止候補。 B. 専用Vision APIはfeature taxonomy、confidence、bounding box/timestamp、model version等のstructured outputを持ち得る。一方MLLMの自然言語回答は同じ検出保証ではない。専用detectorのconfidenceとLLMの自己申告confidenceを同一尺度にしない。 C. version driftは実在する。Azure Image Analysisはv4.0/v3.2でfeature setが異なり、一部featureはretire済み。current product claimはAPI/model revisionを固定する。 D. moderation labelはpolicy decisionそのものではない。AWSもconfidence thresholdとtaxonomyを返し、application側が適否を決める構造。model output→policy mapping→human/escalationを分離する。 E. visual benchmarkは能力のfailure classを示すが、商用tenant/modelの保証にはならない。VRBのspatial reasoning weakness、VisR-Benchのtable/low-resource language weaknessはTEST_PROFILE設計根拠に限定する。 ## Scope Enterprise AI Core / provider mapping / benchmark / implementation / governance / security-privacy / non-LLM component / interoperability。EA-070 Document IntelligenceとはOCR・layout境界で接続するが、文書構造抽出を本項へ吸収しない。 ## Confirmed - A. Vision capabilityを少なくとも (a) OCR/text reading, (b) image classification/tagging, (c) object detection/localization, (d) caption/dense description, (e) visual question answering/reasoning, (f) multimodal embedding/retrieval, (g) moderation/safety classification, (h) video temporal analysis に分離する。単一“vision capable” flagは禁止候補。 B. 専用Vision APIはfeature taxonomy、confidence、bounding box/timestamp、model version等のstructured outputを持ち得る。一方MLLMの自然言語回答は同じ検出保証ではない。専用detectorのconfidenceとLLMの自己申告confidenceを同一尺度にしない。 C. version driftは実在する。Azure Image Analysisはv4.0/v3.2でfeature setが異なり、一部featureはretire済み。current product claimはAPI/model revisionを固定する。 D. moderation labelはpolicy decisionそのものではない。AWSもconfidence thresholdとtaxonomyを返し、application側が適否を決める構造。model output→policy mapping→human/escalationを分離する。 E. visual benchmarkは能力のfailure classを示すが、商用tenant/modelの保証にはならない。VRBのspatial reasoning weakness、VisR-Benchのtable/low-resource language weaknessはTEST_PROFILE設計根拠に限定する。 ## UNKNOWN - EA-072-UNKNOWN-01: / STOP_CONDITION - EA-072-UNKNOWN-02: 2026-09-15時点の主要MLLM各社についてvision/video model ID・最大media constraints・region/data-controlを同一比較軸で一次資料固定していない。各provider mapping時にPRODUCT_VOLATILEとして再採集する。STOP_CONDITION: capability taxonomy、3 providerの実装例、version/retirement evidence、反証benchmark、future contract、safe test profileが揃ったためEA-072 bounded packetは終了。再調査は新しいmajor API/model revision、retirement、または後続Workが特定provider claimを必要とした場合のみ。 --- - EA-072-UNKNOWN-CURRENTNESS: 外部根拠の再確認日がcanonical body/control-planeで確定していないため、currentnessはUNKNOWNとして保持する。日付を推測補完しない。 ## Evidence - EVD-EA-072-URL-599FF2E7CFF3 (RESEARCH): official product spec | “What is Image Analysis?” | Microsoft | — https://learn.microsoft.com/en-us/azure/ai-services/computer-vision/overview-image-analysis - EVD-EA-072-URL-013C0C535D25 (RESEARCH): official product overview | “Vision AI: Image and visual AI tools” | Google Cloud | — https://cloud.google.com/vision - EVD-EA-072-URL-BBEA16635537 (RESEARCH): official product spec | “Detecting objects and concepts” | Amazon Web Services | — https://docs.aws.amazon.com/rekognition/latest/dg/labels.html - EVD-EA-072-URL-FFB980AE9E3E (RESEARCH): official API/spec | “Using the image and video moderation APIs” | Amazon Web Services | — https://docs.aws.amazon.com/rekognition/latest/dg/moderation-api.html - EVD-EA-072-URL-7E5709CA7B06 (RESEARCH): research benchmark | “Visual Reasoning Benchmark: Evaluating Multimodal LLMs on Classroom-Authentic Visual Problems from Primary Education” | Huti et al. | — https://arxiv.org/abs/2602.12196 - EVD-EA-072-URL-FD0A9341E4D8 (RESEARCH): research benchmark | “VisR-Bench: An Empirical Study on Visual Retrieval-Augmented Generation for Multilingual Long Document Understanding” | Chen et al. | — https://arxiv.org/abs/2508.07493 - EA-072-R11-RESEARCH (RESEARCH): EA-072 監査済みresearch / canonical revision binding - EA-072-R11-WEB-READBACK (IMPL): EA-072 Web body identity / canonical readback ## Failure / limits OCR成功≠visual reasoning成功、caption正確≠object localization正確、image accuracy≠video temporal accuracy。 ## Failure / limits bounding box/labelが正しくても関係・数量・左右・前後・遮蔽・rotation・reflection・temporal orderで誤る可能性。 ## Failure / limits MLLM caption/VQAは画像にないobject/text/relationを生成し得るため、high-stakes extractionではsource locatorとdetector/structured evidenceを優先し、unsupported visual claimを監査対象にする。 ## Failure / limits moderation taxonomy/thresholdは文化・policy・use case依存。provider labelを企業policyへ無変換で採用しない。 ## Failure / limits benchmark dataset/model時点とcurrent provider versionを混同しない。 ## Practice provider / product / API version / model ID / region / input type(image, stored video, streaming video) / file format-size-resolution-duration / language / feature flag-preview-GA-retired / quota / pricing tier / data residency。利用可否はfeature存在とは別claim。 ## Practice Microsoft Azure Vision Image Analysis v4.0/v3.2、Google Cloud Vision AI product surface、AWS Rekognition Image/Videoはcurrent official implementation evidenceあり。MLLM各providerの最新vision model ID・image/video limits・data controlsは変動が大きいため、本Packetでは横断確定せずprovider mapping再採集対象。 ## Practice 後続TEST_PROFILE（未実施）: 同一fixtureを専用Vision APIとMLLMへ入力。classes: clean/noisy text image, multi-object, small/occluded object, counting, spatial relation, rotation/reflection, chart/table screenshot, UI screenshot, multilingual image, unsafe-content edge case, short video with temporal event。metrics: OCR CER/WER, classification precision/recall/F1, localization IoU/mAP相当, count exact match, relation/spatial accuracy, caption factual precision, unsupported-object/relation rate, VQA accuracy, retrieval Recall@K/nDCG, moderation precision/recall at threshold, temporal event/timestamp error, abstention, latency, cost/image-or-minute。benchmark scoreをtenant保証にしない。 ## Practice 画像・動画は顔、画面、文書、位置情報等を含み得る。入力原本、派生caption/embedding/label、保存期間、downstream logを別artifactとして扱う。人物属性推定は用途制限・法務/倫理review対象。AWS docsのgender-like appearance labelもgender identity推定用途ではない。 AUDIT: source hash/URI, frame/page/time locator, crop/ROI, model/API revision, feature, threshold, raw structured output, transformed prompt/context, final claim, human overrideを追跡。 ## Practice Core候補 `VISION EVIDENCE CONTRACT` を作成する: source_id/hash; media_type; page/frame/timestamp/ROI; task_type; provider/product/model/API revision; preprocessing; label/text/object/relation; geometry; confidence; moderation taxonomy+threshold; raw output locator; derived caption/embedding; principal/ACL; retention; final claim; human override。EA-070 Document Extraction ContractとOCR/page geometryで接続し、document semanticsはEA-070側を正とする。provider mapping時はcurrent model IDs、region/data residency、image/video limits、pricing、retentionを再確認。 ## WHY_THIS_MATTERS_TO_UPDATE 企業AIでは「画像入力できるLLM」と専用Vision API/OCR/動画解析が同じ“vision”として語られやすい。しかし detection / OCR / caption / visual reasoning / moderation / video temporal analysis は異なる能力・version・failure envelopeを持つ。後続Workが用途別に採否・provider mappingできる共通契約が必要。 ## SCOPE_ROUTING Enterprise AI Core / provider mapping / benchmark / implementation / governance / security-privacy / non-LLM component / interoperability。EA-070 Document IntelligenceとはOCR・layout境界で接続するが、文書構造抽出を本項へ吸収しない。 ## CLAIM_OR_RESEARCH_QUESTION 1) Vision AIをどの能力単位へ分離すべきか。2) 専用Vision APIとMLLMの出力を同一保証として扱えるか。3) 画像・動画の認識結果、confidence、spatial/temporal locator、model/API revisionをどうprovenance化するか。4) visual reasoning/retrievalのbenchmarkを製品保証へ外挿せず、どのfailure classを運用試験へ移すべきか。 ## EVIDENCE TABLE - official product spec | “What is Image Analysis?” | Microsoft | https://learn.microsoft.com/en-us/azure/ai-services/computer-vision/overview-image-analysis | updated 2025-09-26 / accessed 2026-09-15 | Image Analysis API v4.0/v3.2 | v4.0: Read text, Captions, Dense captions, Tags, Object detection, People, Smart crop; v3.2は別feature set。4.0 background removal/Segment APIは2025-03-31 retired | VERIFIED_SPEC + PRODUCT_VOLATILE | support/context/limit - official product overview | “Vision AI: Image and visual AI tools” | Google Cloud | https://cloud.google.com/vision | accessed 2026-09-15 | current web product surface | object detection, image/document/video processing, understanding, search, classification, moderationをvision用途として列挙 | VERIFIED_SPEC + PRODUCT_VOLATILE | context/support - official product spec | “Detecting objects and concepts” | Amazon Web Services | https://docs.aws.amazon.com/rekognition/latest/dg/labels.html | accessed 2026-09-15 | Rekognition current docs | labelsはobject/scene/action/concept。gender-like physical appearance predictionはgender identity分類用途ではない旨を明示 | VERIFIED_SPEC + PRODUCT_VOLATILE | support/limit - official API/spec | “Using the image and video moderation APIs” | Amazon Web Services | https://docs.aws.amazon.com/rekognition/latest/dg/moderation-api.html | accessed 2026-09-15 | moderation taxonomy L1-L3; ModerationModelVersion returned | confidence threshold、image/video timestamp/segment aggregation、model versionを取得可能。適否判断はapplication policy側 | VERIFIED_SPEC + PRODUCT_VOLATILE | support/limit - research benchmark | “Visual Reasoning Benchmark: Evaluating Multimodal LLMs on Classroom-Authentic Visual Problems from Primary Education” | Huti et al. | https://arxiv.org/abs/2602.12196 | 2026-02-12 / accessed 2026-09-15 | 701 questions | static counting/scalingよりfolding/reflection/rotation等でspatial ceilingを報告 | RESEARCH | counter/limit - research benchmark | “VisR-Bench: An Empirical Study on Visual Retrieval-Augmented Generation for Multilingual Long Document Understanding” | Chen et al. | https://arxiv.org/abs/2508.07493 | 2025-08-10 / accessed 2026-09-15 | >35K QA, 1.2K docs, 16 languages | MLLM retrievalがtext/multimodal encoderより優位な設定がある一方、structured tablesとlow-resource languagesで課題 | RESEARCH | support/counter/limit ## FINDINGS A. Vision capabilityを少なくとも (a) OCR/text reading, (b) image classification/tagging, (c) object detection/localization, (d) caption/dense description, (e) visual question answering/reasoning, (f) multimodal embedding/retrieval, (g) moderation/safety classification, (h) video temporal analysis に分離する。単一“vision capable” flagは禁止候補。 B. 専用Vision APIはfeature taxonomy、confidence、bounding box/timestamp、model version等のstructured outputを持ち得る。一方MLLMの自然言語回答は同じ検出保証ではない。専用detectorのconfidenceとLLMの自己申告confidenceを同一尺度にしない。 C. version driftは実在する。Azure Image Analysisはv4.0/v3.2でfeature setが異なり、一部featureはretire済み。current product claimはAPI/model revisionを固定する。 D. moderation labelはpolicy decisionそのものではない。AWSもconfidence thresholdとtaxonomyを返し、application側が適否を決める構造。model output→policy mapping→human/escalationを分離する。 E. visual benchmarkは能力のfailure classを示すが、商用tenant/modelの保証にはならない。VRBのspatial reasoning weakness、VisR-Benchのtable/low-resource language weaknessはTEST_PROFILE設計根拠に限定する。 ## LIMITS / COUNTEREVIDENCE / FAILURE ENVELOPE - OCR成功≠visual reasoning成功、caption正確≠object localization正確、image accuracy≠video temporal accuracy。 - bounding box/labelが正しくても関係・数量・左右・前後・遮蔽・rotation・reflection・temporal orderで誤る可能性。 - MLLM caption/VQAは画像にないobject/text/relationを生成し得るため、high-stakes extractionではsource locatorとdetector/structured evidenceを優先し、unsupported visual claimを監査対象にする。 - moderation taxonomy/thresholdは文化・policy・use case依存。provider labelを企業policyへ無変換で採用しない。 - benchmark dataset/model時点とcurrent provider versionを混同しない。 ## AVAILABILITY_GATES provider / product / API version / model ID / region / input type(image, stored video, streaming video) / file format-size-resolution-duration / language / feature flag-preview-GA-retired / quota / pricing tier / data residency。利用可否はfeature存在とは別claim。 ## IMPLEMENTATION_STATE Microsoft Azure Vision Image Analysis v4.0/v3.2、Google Cloud Vision AI product surface、AWS Rekognition Image/Videoはcurrent official implementation evidenceあり。MLLM各providerの最新vision model ID・image/video limits・data controlsは変動が大きいため、本Packetでは横断確定せずprovider mapping再採集対象。 ## BENCHMARK_OR_EVAL 後続TEST_PROFILE（未実施）: 同一fixtureを専用Vision APIとMLLMへ入力。classes: clean/noisy text image, multi-object, small/occluded object, counting, spatial relation, rotation/reflection, chart/table screenshot, UI screenshot, multilingual image, unsafe-content edge case, short video with temporal event。metrics: OCR CER/WER, classification precision/recall/F1, localization IoU/mAP相当, count exact match, relation/spatial accuracy, caption factual precision, unsupported-object/relation rate, VQA accuracy, retrieval Recall@K/nDCG, moderation precision/recall at threshold, temporal event/timestamp error, abstention, latency, cost/image-or-minute。benchmark scoreをtenant保証にしない。 ## SECURITY/PRIVACY 画像・動画は顔、画面、文書、位置情報等を含み得る。入力原本、派生caption/embedding/label、保存期間、downstream logを別artifactとして扱う。人物属性推定は用途制限・法務/倫理review対象。AWS docsのgender-like appearance labelもgender identity推定用途ではない。 AUDIT: source hash/URI, frame/page/time locator, crop/ROI, model/API revision, feature, threshold, raw structured output, transformed prompt/context, final claim, human overrideを追跡。 ## COST/OPERABILITY per-image/page/minute/API-call/token等meterが異なるため、MLLM token costとVision API unit costを分離。動画は非同期job・pagination・segment aggregation等も運用設計対象。 ## SAFE_WORDING_FOR_FUTURE_BOOK 「Vision AIは単一能力ではない。OCR、検出、localization、caption、visual reasoning、retrieval、moderation、video temporal analysisを能力単位で評価し、model/API revisionとsource locatorを保持する。専用Vision APIのstructured detector outputとMLLMの自然言語理解は補完関係にあり、片方の成功を他方の保証へ外挿しない。」 ## UPDATE_WORK_HANDOFF Core候補 `VISION EVIDENCE CONTRACT` を作成する: source_id/hash; media_type; page/frame/timestamp/ROI; task_type; provider/product/model/API revision; preprocessing; label/text/object/relation; geometry; confidence; moderation taxonomy+threshold; raw output locator; derived caption/embedding; principal/ACL; retention; final claim; human override。EA-070 Document Extraction ContractとOCR/page geometryで接続し、document semanticsはEA-070側を正とする。provider mapping時はcurrent model IDs、region/data residency、image/video limits、pricing、retentionを再確認。 ## OPEN_UNKNOWN / STOP_CONDITION ## UNKNOWN 2026-09-15時点の主要MLLM各社についてvision/video model ID・最大media constraints・region/data-controlを同一比較軸で一次資料固定していない。各provider mapping時にPRODUCT_VOLATILEとして再採集する。STOP_CONDITION: capability taxonomy、3 providerの実装例、version/retirement evidence、反証benchmark、future contract、safe test profileが揃ったためEA-072 bounded packetは終了。再調査は新しいmajor API/model revision、retirement、または後続Workが特定provider claimを必要とした場合のみ。 --- NEXT: /agent/start.json STOP: This is a knowledge projection, not an execution order.