Vision／Video AI大全

企業AIでは「画像入力できるLLM」と専用Vision API/OCR/動画解析が同じ“vision”として語られやすい。しかし detection / OCR / caption / visual reasoning / moderation / video temporal analysis は異なる能力・version・failure envelopeを持つ。後続Workが用途別に採否・provider mappingできる共通契約が必要。

Enterprise AI Core / provider mapping / benchmark / implementation / governance / security-privacy / non-LLM component / interoperability。EA-070 Document IntelligenceとはOCR・layout境界で接続するが、文書構造抽出を本項へ吸収しない。

• Vision AIをどの能力単位へ分離すべきか。2) 専用Vision APIとMLLMの出力を同一保証として扱えるか。3) 画像・動画の認識結果、confidence、spatial/temporal locator、model/API revisionをどうprovenance化するか。4) visual reasoning/retrievalのbenchmarkを製品保証へ外挿せず、どのfailure classを運用試験へ移すべきか。

• official product spec | “What is Image Analysis?” | Microsoft | https://learn.microsoft.com/en-us/azure/ai-services/computer-vision/overview-image-analysis | updated 2025-09-26 / accessed 2026-09-15 | Image Analysis API v4.0/v3.2 | v4.0: Read text, Captions, Dense captions, Tags, Object detection, People, Smart crop; v3.2は別feature set。4.0 background removal/Segment APIは2025-03-31 retired | VERIFIED_SPEC + PRODUCT_VOLATILE | support/context/limit
• official product overview | “Vision AI: Image and visual AI tools” | Google Cloud | https://cloud.google.com/vision | accessed 2026-09-15 | current web product surface | object detection, image/document/video processing, understanding, search, classification, moderationをvision用途として列挙 | VERIFIED_SPEC + PRODUCT_VOLATILE | context/support
• official product spec | “Detecting objects and concepts” | Amazon Web Services | https://docs.aws.amazon.com/rekognition/latest/dg/labels.html | accessed 2026-09-15 | Rekognition current docs | labelsはobject/scene/action/concept。gender-like physical appearance predictionはgender identity分類用途ではない旨を明示 | VERIFIED_SPEC + PRODUCT_VOLATILE | support/limit
• official API/spec | “Using the image and video moderation APIs” | Amazon Web Services | https://docs.aws.amazon.com/rekognition/latest/dg/moderation-api.html | accessed 2026-09-15 | moderation taxonomy L1-L3; ModerationModelVersion returned | confidence threshold、image/video timestamp/segment aggregation、model versionを取得可能。適否判断はapplication policy側 | VERIFIED_SPEC + PRODUCT_VOLATILE | support/limit
• research benchmark | “Visual Reasoning Benchmark: Evaluating Multimodal LLMs on Classroom-Authentic Visual Problems from Primary Education” | Huti et al. | https://arxiv.org/abs/2602.12196 | 2026-02-12 / accessed 2026-09-15 | 701 questions | static counting/scalingよりfolding/reflection/rotation等でspatial ceilingを報告 | RESEARCH | counter/limit
• research benchmark | “VisR-Bench: An Empirical Study on Visual Retrieval-Augmented Generation for Multilingual Long Document Understanding” | Chen et al. | https://arxiv.org/abs/2508.07493 | 2025-08-10 / accessed 2026-09-15 | >35K QA, 1.2K docs, 16 languages | MLLM retrievalがtext/multimodal encoderより優位な設定がある一方、structured tablesとlow-resource languagesで課題 | RESEARCH | support/counter/limit

A. Vision capabilityを少なくとも (a) OCR/text reading, (b) image classification/tagging, (c) object detection/localization, (d) caption/dense description, (e) visual question answering/reasoning, (f) multimodal embedding/retrieval, (g) moderation/safety classification, (h) video temporal analysis に分離する。単一“vision capable” flagは禁止候補。 B. 専用Vision APIはfeature taxonomy、confidence、bounding box/timestamp、model version等のstructured outputを持ち得る。一方MLLMの自然言語回答は同じ検出保証ではない。専用detectorのconfidenceとLLMの自己申告confidenceを同一尺度にしない。 C. version driftは実在する。Azure Image Analysisはv4.0/v3.2でfeature setが異なり、一部featureはretire済み。current product claimはAPI/model revisionを固定する。 D. moderation labelはpolicy decisionそのものではない。AWSもconfidence thresholdとtaxonomyを返し、application側が適否を決める構造。model output→policy mapping→human/escalationを分離する。 E. visual benchmarkは能力のfailure classを示すが、商用tenant/modelの保証にはならない。VRBのspatial reasoning weakness、VisR-Benchのtable/low-resource language weaknessはTEST_PROFILE設計根拠に限定する。

• OCR成功≠visual reasoning成功、caption正確≠object localization正確、image accuracy≠video temporal accuracy。
• bounding box/labelが正しくても関係・数量・左右・前後・遮蔽・rotation・reflection・temporal orderで誤る可能性。
• MLLM caption/VQAは画像にないobject/text/relationを生成し得るため、high-stakes extractionではsource locatorとdetector/structured evidenceを優先し、unsupported visual claimを監査対象にする。
• moderation taxonomy/thresholdは文化・policy・use case依存。provider labelを企業policyへ無変換で採用しない。
• benchmark dataset/model時点とcurrent provider versionを混同しない。

provider / product / API version / model ID / region / input type(image, stored video, streaming video) / file format-size-resolution-duration / language / feature flag-preview-GA-retired / quota / pricing tier / data residency。利用可否はfeature存在とは別claim。

Microsoft Azure Vision Image Analysis v4.0/v3.2、Google Cloud Vision AI product surface、AWS Rekognition Image/Videoはcurrent official implementation evidenceあり。MLLM各providerの最新vision model ID・image/video limits・data controlsは変動が大きいため、本Packetでは横断確定せずprovider mapping再採集対象。

後続TEST_PROFILE（未実施）: 同一fixtureを専用Vision APIとMLLMへ入力。classes: clean/noisy text image, multi-object, small/occluded object, counting, spatial relation, rotation/reflection, chart/table screenshot, UI screenshot, multilingual image, unsafe-content edge case, short video with temporal event。metrics: OCR CER/WER, classification precision/recall/F1, localization IoU/mAP相当, count exact match, relation/spatial accuracy, caption factual precision, unsupported-object/relation rate, VQA accuracy, retrieval Recall@K/nDCG, moderation precision/recall at threshold, temporal event/timestamp error, abstention, latency, cost/image-or-minute。benchmark scoreをtenant保証にしない。

画像・動画は顔、画面、文書、位置情報等を含み得る。入力原本、派生caption/embedding/label、保存期間、downstream logを別artifactとして扱う。人物属性推定は用途制限・法務/倫理review対象。AWS docsのgender-like appearance labelもgender identity推定用途ではない。 AUDIT: source hash/URI, frame/page/time locator, crop/ROI, model/API revision, feature, threshold, raw structured output, transformed prompt/context, final claim, human overrideを追跡。

per-image/page/minute/API-call/token等meterが異なるため、MLLM token costとVision API unit costを分離。動画は非同期job・pagination・segment aggregation等も運用設計対象。

「Vision AIは単一能力ではない。OCR、検出、localization、caption、visual reasoning、retrieval、moderation、video temporal analysisを能力単位で評価し、model/API revisionとsource locatorを保持する。専用Vision APIのstructured detector outputとMLLMの自然言語理解は補完関係にあり、片方の成功を他方の保証へ外挿しない。」

Core候補 VISION EVIDENCE CONTRACT を作成する: source_id/hash; media_type; page/frame/timestamp/ROI; task_type; provider/product/model/API revision; preprocessing; label/text/object/relation; geometry; confidence; moderation taxonomy+threshold; raw output locator; derived caption/embedding; principal/ACL; retention; final claim; human override。EA-070 Document Extraction ContractとOCR/page geometryで接続し、document semanticsはEA-070側を正とする。provider mapping時はcurrent model IDs、region/data residency、image/video limits、pricing、retentionを再確認。

/ STOP_CONDITION

2026-09-15時点の主要MLLM各社についてvision/video model ID・最大media constraints・region/data-controlを同一比較軸で一次資料固定していない。各provider mapping時にPRODUCT_VOLATILEとして再採集する。STOP_CONDITION: capability taxonomy、3 providerの実装例、version/retirement evidence、反証benchmark、future contract、safe test profileが揃ったためEA-072 bounded packetは終了。再調査は新しいmajor API/model revision、retirement、または後続Workが特定provider claimを必要とした場合のみ。

---