No English page yet. Showing the Japanese source.
Content Safety／Moderation Model・API
記事状態: 公開 · 最終確認: 2026-10-05
要点
Content Safety／Moderation APIは、入力や出力を「安全／危険」と最終決定する認可機構ではありません。特定のモデル、taxonomy、threshold、対応modalitiesと言語の下で、ポリシー判断に使う分類信号を返す部品です。組織側では、この信号をどの条件でblock、allow、transform、human reviewへ接続するかを別に定義します。
現在の判断
Content Safety／Moderation APIは、入力や出力を「安全／危険」と最終決定する認可機構ではありません。特定のモデル、taxonomy、threshold、対応modalitiesと言語の下で、ポリシー判断に使う分類信号を返す部品です。組織側では、この信号をどの条件でblock、allow、transform、human reviewへ接続するかを別に定義します。
どこまで当てはまるか
Content Safety／Moderation Model・API
詳しく理解する
要点と前提
Content Safety／Moderation APIは、入力や出力を「安全／危険」と最終決定する認可機構ではありません。特定のモデル、taxonomy、threshold、対応modalitiesと言語の下で、ポリシー判断に使う分類信号を返す部品です。組織側では、この信号をどの条件でblock、allow、transform、human reviewへ接続するかを別に定義します。
運用で固定する境界
- taxonomy: hate、violence、self-harm等のカテゴリ定義は製品・モデル間で同一ではありません。カテゴリ名だけを横断的な同義語として扱いません。
- modality: text、image、audio、video、file、streamingのどれが実際に評価対象かを記録します。たとえばOpenAI
omni-moderation-latestはtext/imageを扱いますがaudioは分類しません。 - language/domain: 「多言語対応」を全言語同等精度と解釈しません。tested languageと対象業務domainでprecision/recall/FPR/FNRを分けて評価します。
- threshold: vendor defaultを組織policyの閾値と同一視しません。false negativeだけでなく、医療・教育・歴史・法務・セキュリティ等のbenign hard negativeによるover-blockも測ります。
- version: model/API revision、policy/taxonomy revision、threshold変更を監査記録へ残し、変更時に回帰評価します。
safe と not evaluated を分離する
最重要の実装境界は、明示的な安全判定と「評価できなかった」を混同しないことです。timeout、rate limit、provider outage、oversized input、truncation、unsupported modality、SKIP_DETECTION等を独立状態として保持し、risk classごとにfail-open、fail-closed、manual reviewのどれへ送るかを決めます。
OpenAIではmoderation model固有の障害実績があります。Google Cloud Model Armorでは入力条件によりSKIP_DETECTIONが返り得ます。したがってmoderation endpointを同期依存に置くだけでは安全設計になりません。
分類とenforcementを分離する
moderatorの出力を受け取ったアプリケーションが実際のenforcement pointです。以下を別レイヤとして扱います。
- content safety分類
- prompt injection / jailbreak検出
- PII・機密情報検出
- grounding / factuality checks
- identity / authorization / tool permission
- business policy
- human review / appeal
Amazon BedrockのAutomated Reasoning checksのように、あるguardrail機能がprompt injectionやstreamingを対象にしない例があります。「guardrail導入済み」を全リスクの包含証明にはできません。
評価設計
本番投入前に、組織policyでラベル付けしたcorpusをcategory × language × modality × domainで分割します。少なくともprecision、recall、FPR、FNR、skip/error/timeout率をcategory別に測定し、benign hard negatives、境界事例、adversarial variantsを含めます。単一accuracy/F1やvendor benchmarkをtenant保証へ外挿しません。
Meta Llama Guardのmodel cardは非ゼロのfalse-positive rateとmultilingual/tool-useでの性能差を示しています。独立研究でもmoderatorの順位・性能はdataset、language、category、borderline caseで変化します。したがって「最良moderator」を固定的に選ぶのではなく、対象policyに対する評価結果を変更管理の入力にします。
セキュリティとプライバシー
moderation対象そのものが機密・個人情報・有害コンテンツである場合があります。AWSは、設定によってblocked contentがModel Invocation Logsへplain textで残り得ると明記しています。moderationログは安全監査の証拠である一方、二次漏えい面にもなります。payload保存の必要性、redaction、retention、RBAC、residency、削除、SIEMへの二次コピーを個別に設計します。
失敗時の最低要件
SAFE / FLAGGED / NOT_EVALUATED / ERRORを潰してboolean一値にしない。- unsupported modalityや未評価channelを「safe」に倒さない。
- timeout・rate limit・outage時のfallbackをrisk class別に明示する。
- threshold/model/taxonomy変更時に回帰評価する。
- human reviewへ送る条件とqueue overload時の挙動を決める。
- moderationログを無期限のraw prompt/response保管庫にしない。
安全な公開表現
Content Safety／Moderation APIは、特定のモデル・taxonomy・threshold・入力modalitiesの下で得られる分類信号であり、組織ポリシーへの適合や安全性を単独で保証しません。対応言語・カテゴリ・入力形式、false positive/false negative、error/skip/timeout時の処理、ログへの残存を検証し、アプリケーション側のenforcementとhuman reviewを別途設計します。
未確定事項
対象provider/model/version、組織taxonomy、日本語・業務domain別のprecision/recall、画像・音声・動画要件、threshold、streaming、長文、fail-open/fail-closed、rate limit/SLA、human review/appeal、logging/retention/RBAC/residency、法務・child-safety要件、tenant固有設定は未確認です。
Evidence anchors
OpenAI Moderation guide / OpenAI 2024 multimodal moderation announcement and 2025 status incident / Azure AI Content Safety harm categories and severity / Google Cloud Model Armor overview and release notes / Amazon Bedrock Guardrails and Automated Reasoning limitations / Meta PurpleLlama Llama Guard 3 model card and issue #74 / GuardEval (arXiv:2601.03273) / PolyGuard (arXiv:2504.04377) / No One Model Catches Every Harm (arXiv:2608.21775).
よくある失敗・反証
SAFE / FLAGGED / NOT_EVALUATED / ERRORを潰してboolean一値にしない。unsupported modalityや未評価channelを「safe」に倒さない。
timeout・rate limit・outage時のfallbackをrisk class別に明示する。
threshold/model/taxonomy変更時に回帰評価する。
human reviewへ送る条件とqueue overload時の挙動を決める。
moderationログを無期限のraw prompt/response保管庫にしない。
まだ確認できていないこと
- EA-239-UNKNOWN-01
対象provider/model/version、組織taxonomy、日本語・業務domain別のprecision/recall、画像・音声・動画要件、threshold、streaming、長文、fail-open/fail-closed、rate limit/SLA、human review/appeal、logging/retention/RBAC/residency、法務・child-safety要件、tenant固有設定は未確認です。
根拠資料
- 研究資料研究資料
|official docs|Moderation guide|OpenAI|access 2026-10-05; omni-moderation-latest|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official product|Upgrading the Moderation API with our new multimodal moderation model|OpenAI|2024-09-26|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|incident|Elevated error rates for omni-moderation-latest|OpenAI Status|2025-06-06|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official docs|Harm categories and severity levels|Microsoft Azure AI Content Safety|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official docs|Model Armor overview|Google Cloud|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official release notes|Model Armor release notes|Google Cloud|2025-06/07 entries, access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official docs|Amazon Bedrock Guardrails|AWS|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official docs|Guardrail components|AWS|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|official docs|Automated Reasoning checks limitations|AWS|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|author-maintained repo/model card|Llama Guard 3-8B model card|Meta PurpleLlama|access 2026-10-05|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|maintainer issue|LlamaGuard Only Responds with S4 when Ages are In Prompt #74|Meta PurpleLlama issue reporter|2025-01-16; open at access|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|benchmark/preprint|GuardEval|Machlovi et al.|2025-12-22; arXiv:2601.03273|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|benchmark/preprint|PolyGuard|Kumar et al.|2025; arXiv:2504.04377|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 研究資料研究資料
|benchmark/preprint|No One Model Catches Every Harm|Orojlooyjadid, Patel|2026-08-22; arXiv:2608.21775|
確認上の限界
元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
更新履歴
EA-239-FIRST-20261005: canonical audit/publication binding
出典ID・検証情報・機械可読データ
根拠の種類と情報の鮮度は、ラベルとアイコンで確認できます。
- 記事ID
- EA-239
- 最終確認日
- 2026-10-05
- 提供元・モデル・プラン・利用環境
- —
- 対象地域
- —
元資料の全文と収録照合記録
要点と前提
Content Safety／Moderation APIは、入力や出力を「安全／危険」と最終決定する認可機構ではありません。特定のモデル、taxonomy、threshold、対応modalitiesと言語の下で、ポリシー判断に使う分類信号を返す部品です。組織側では、この信号をどの条件でblock、allow、transform、human reviewへ接続するかを別に定義します。
運用で固定する境界
- taxonomy: hate、violence、self-harm等のカテゴリ定義は製品・モデル間で同一ではありません。カテゴリ名だけを横断的な同義語として扱いません。
- modality: text、image、audio、video、file、streamingのどれが実際に評価対象かを記録します。たとえばOpenAI
omni-moderation-latestはtext/imageを扱いますがaudioは分類しません。 - language/domain: 「多言語対応」を全言語同等精度と解釈しません。tested languageと対象業務domainでprecision/recall/FPR/FNRを分けて評価します。
- threshold: vendor defaultを組織policyの閾値と同一視しません。false negativeだけでなく、医療・教育・歴史・法務・セキュリティ等のbenign hard negativeによるover-blockも測ります。
- version: model/API revision、policy/taxonomy revision、threshold変更を監査記録へ残し、変更時に回帰評価します。
safe と not evaluated を分離する
最重要の実装境界は、明示的な安全判定と「評価できなかった」を混同しないことです。timeout、rate limit、provider outage、oversized input、truncation、unsupported modality、SKIP_DETECTION等を独立状態として保持し、risk classごとにfail-open、fail-closed、manual reviewのどれへ送るかを決めます。
OpenAIではmoderation model固有の障害実績があります。Google Cloud Model Armorでは入力条件によりSKIP_DETECTIONが返り得ます。したがってmoderation endpointを同期依存に置くだけでは安全設計になりません。
分類とenforcementを分離する
moderatorの出力を受け取ったアプリケーションが実際のenforcement pointです。以下を別レイヤとして扱います。
- content safety分類
- prompt injection / jailbreak検出
- PII・機密情報検出
- grounding / factuality checks
- identity / authorization / tool permission
- business policy
- human review / appeal
Amazon BedrockのAutomated Reasoning checksのように、あるguardrail機能がprompt injectionやstreamingを対象にしない例があります。「guardrail導入済み」を全リスクの包含証明にはできません。
評価設計
本番投入前に、組織policyでラベル付けしたcorpusをcategory × language × modality × domainで分割します。少なくともprecision、recall、FPR、FNR、skip/error/timeout率をcategory別に測定し、benign hard negatives、境界事例、adversarial variantsを含めます。単一accuracy/F1やvendor benchmarkをtenant保証へ外挿しません。
Meta Llama Guardのmodel cardは非ゼロのfalse-positive rateとmultilingual/tool-useでの性能差を示しています。独立研究でもmoderatorの順位・性能はdataset、language、category、borderline caseで変化します。したがって「最良moderator」を固定的に選ぶのではなく、対象policyに対する評価結果を変更管理の入力にします。
ログとprivacy
moderation対象そのものが機密・個人情報・有害コンテンツである場合があります。AWSは、設定によってblocked contentがModel Invocation Logsへplain textで残り得ると明記しています。moderationログは安全監査の証拠である一方、二次漏えい面にもなります。payload保存の必要性、redaction、retention、RBAC、residency、削除、SIEMへの二次コピーを個別に設計します。
失敗時の最低要件
SAFE / FLAGGED / NOT_EVALUATED / ERRORを潰してboolean一値にしない。- unsupported modalityや未評価channelを「safe」に倒さない。
- timeout・rate limit・outage時のfallbackをrisk class別に明示する。
- threshold/model/taxonomy変更時に回帰評価する。
- human reviewへ送る条件とqueue overload時の挙動を決める。
- moderationログを無期限のraw prompt/response保管庫にしない。
安全な公開表現
Content Safety／Moderation APIは、特定のモデル・taxonomy・threshold・入力modalitiesの下で得られる分類信号であり、組織ポリシーへの適合や安全性を単独で保証しません。対応言語・カテゴリ・入力形式、false positive/false negative、error/skip/timeout時の処理、ログへの残存を検証し、アプリケーション側のenforcementとhuman reviewを別途設計します。
未確定事項
対象provider/model/version、組織taxonomy、日本語・業務domain別のprecision/recall、画像・音声・動画要件、threshold、streaming、長文、fail-open/fail-closed、rate limit/SLA、human review/appeal、logging/retention/RBAC/residency、法務・child-safety要件、tenant固有設定は未確認です。
Evidence anchors
OpenAI Moderation guide / OpenAI 2024 multimodal moderation announcement and 2025 status incident / Azure AI Content Safety harm categories and severity / Google Cloud Model Armor overview and release notes / Amazon Bedrock Guardrails and Automated Reasoning limitations / Meta PurpleLlama Llama Guard 3 model card and issue #74 / GuardEval (arXiv:2601.03273) / PolyGuard (arXiv:2504.04377) / No One Model Catches Every Harm (arXiv:2608.21775).
EA-239-CURRENT-APPROVAL研究資料研究資料根拠の出所: AUDITED_CANONICAL_RESEARCH_PACKET現行本文の監査・revision対応
- 裏付ける内容
- 現行台帳のAUDIT_PASSと候補・revision・本文ハッシュの対応を確認しています。
- 確認日
- —
- 出典・実験ID
- CANDIDATE-EA239-FIRST-20261005-C1
- 検証箇所
- 1KqhJtiSb2S84rWmeYVwKcT_76dBwZ_B0ZZuAWQqH0rQ · EA_REVISION_LEDGER!A42:U42 · EA-239-FIRST-20261005
- 適用範囲
- —
- 出典・来歴
- CURRENT_CANONICAL_APPROVAL_READBACK
- 限界
- 監査状態と来歴の記録です。外部根拠の最新性や本文の全主張を追加保証しません。
EA-239-CURRENT-BODY-READBACK実装資料実装資料根拠の出所: IMPLEMENTATION_READBACK現行本文の収録照合
- 裏付ける内容
- 公開生成入力の本文SHA-256が、監査済み候補に結び付いたハッシュと一致しています。
- 確認日
- 2026-10-12
- 出典・実験ID
- BODY-SHA256:93328eb09b170089d36715cbd8d5fe4b6752b32a98dbe44203924cbcc75e2990
- 検証箇所
- content/staging/EA-239.md · 93328eb09b170089d36715cbd8d5fe4b6752b32a98dbe44203924cbcc75e2990 · EA-239-FIRST-20261005
- 適用範囲
- —
- 出典・来歴
- CURRENT_APPROVED_BODY_HASH_MATCH
- 限界
- 本文の同一性の検査です。外部システムの挙動や全主張の真偽を実証したものではありません。
EVD-EA-239-URL-A306E5D40753研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|official docs|Moderation guide|OpenAI|access 2026-10-05; omni-moderation-latest|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-A306E5D40753
- 検証箇所
- Evidence table · |official docs|Moderation guide|OpenAI|access 2026-10-05; omni-moderation-latest|https://developers.openai.com/api/docs/guides/moderation|PRIMARY|Text+image
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-28AF70A1BCC3研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-28AF70A1BCC3
- 検証箇所
- Evidence table · |official product|Upgrading the Moderation API with our new multimodal moderation model|OpenAI|2024-09-26|https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/|PRIMARY|Multimodal
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-E1ACBBDE08B4研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|incident|Elevated error rates for omni-moderation-latest|OpenAI Status|2025-06-06|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-E1ACBBDE08B4
- 検証箇所
- Evidence table · |incident|Elevated error rates for omni-moderation-latest|OpenAI Status|2025-06-06|https://status.openai.com/incidents/01JX3HF12T80E81HVPS1G02VJK|COUNTEREVIDENCE|Moderation
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-E649CA669A6C研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-E649CA669A6C
- 検証箇所
- Evidence table · |official docs|Harm categories and severity levels|Microsoft Azure AI Content Safety|access 2026-10-05|https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/harm-categories|PRIMARY|Taxonomy/severity/threshold
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-8474613101BE研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|official docs|Model Armor overview|Google Cloud|access 2026-10-05|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-8474613101BE
- 検証箇所
- Evidence table · |official docs|Model Armor overview|Google Cloud|access 2026-10-05|https://docs.cloud.google.com/model-armor/overview|PRIMARY|Prompt/response
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-776C7287AE56研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-776C7287AE56
- 検証箇所
- Evidence table · |official release notes|Model Armor release notes|Google Cloud|2025-06/07 entries, access 2026-10-05|https://docs.cloud.google.com/model-armor/release-notes|COUNTEREVIDENCE|SKIP_DETECTION
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-BBDE8911AF93研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|official docs|Amazon Bedrock Guardrails|AWS|access 2026-10-05|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-BBDE8911AF93
- 検証箇所
- Evidence table · |official docs|Amazon Bedrock Guardrails|AWS|access 2026-10-05|https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails.html|PRIMARY|Configurable
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-95D4EDB9E82E研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|official docs|Guardrail components|AWS|access 2026-10-05|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-95D4EDB9E82E
- 検証箇所
- Evidence table · |official docs|Guardrail components|AWS|access 2026-10-05|https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-components.html|PRIMARY/PRIVACY|Probabilistic
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-35E589E3740B研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|official docs|Automated Reasoning checks limitations|AWS|access 2026-10-05|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-35E589E3740B
- 検証箇所
- Evidence table · |official docs|Automated Reasoning checks limitations|AWS|access 2026-10-05|https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-automated-reasoning-checks.html|BOUNDARY|No
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-A43B1AEBF967研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|author-maintained repo/model card|Llama Guard 3-8B model card|Meta PurpleLlama|access 2026-10-05|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-A43B1AEBF967
- 検証箇所
- Evidence table · |author-maintained repo/model card|Llama Guard 3-8B model card|Meta PurpleLlama|access 2026-10-05|https://github.com/meta-llama/PurpleLlama/blob/main/Llama-Guard3/8B/MODEL_CARD.md|PRIMARY/COUNTEREVIDENCE|Input/output
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-726A33388546研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-726A33388546
- 検証箇所
- Evidence table · |maintainer issue|LlamaGuard Only Responds with S4 when Ages are In Prompt #74|Meta PurpleLlama issue reporter|2025-01-16; open at access|https://github.com/meta-llama/PurpleLlama/issues/74|COUNTEREVIDENCE|Reported
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-38242A7321CB研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|benchmark/preprint|GuardEval|Machlovi et al.|2025-12-22; arXiv:2601.03273|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-38242A7321CB
- 検証箇所
- Evidence table · |benchmark/preprint|GuardEval|Machlovi et al.|2025-12-22; arXiv:2601.03273|https://arxiv.org/abs/2601.03273|INDEPENDENT_EVAL|Fine-grained
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-D28BE186F3C7研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE|benchmark/preprint|PolyGuard|Kumar et al.|2025; arXiv:2504.04377|
- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-D28BE186F3C7
- 検証箇所
- Evidence table · |benchmark/preprint|PolyGuard|Kumar et al.|2025; arXiv:2504.04377|https://arxiv.org/abs/2504.04377|INDEPENDENT_EVAL|17-language
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
EVD-EA-239-URL-28160EA70CC9研究資料研究資料根拠の出所: SOURCE_PACKET_REFERENCE- 裏付ける内容
- —
- 確認日
- —
- 出典・実験ID
- SRC-EA-239-URL-28160EA70CC9
- 検証箇所
- Evidence table · |benchmark/preprint|No One Model Catches Every Harm|Orojlooyjadid, Patel|2026-08-22; arXiv:2608.21775|https://arxiv.org/abs/2608.21775|INDEPENDENT_EVAL|53-model/11-dataset
- 適用範囲
- Evidence table
- 出典・来歴
- SOURCE_PACKET_REFERENCE_PROJECTED
- 限界
- 元の監査済み資料に記載された参照先です。URLの復元は、資料の最新性や全主張の支持を新たに検証したことを意味しません。
- 出典ID
- CANDIDATE-EA239-FIRST-20261005-C1, BODY-SHA256:93328eb09b170089d36715cbd8d5fe4b6752b32a98dbe44203924cbcc75e2990, SRC-EA-239-URL-A306E5D40753, SRC-EA-239-URL-28AF70A1BCC3, SRC-EA-239-URL-E1ACBBDE08B4, SRC-EA-239-URL-E649CA669A6C, SRC-EA-239-URL-8474613101BE, SRC-EA-239-URL-776C7287AE56, SRC-EA-239-URL-BBDE8911AF93, SRC-EA-239-URL-95D4EDB9E82E, SRC-EA-239-URL-35E589E3740B, SRC-EA-239-URL-A43B1AEBF967, SRC-EA-239-URL-726A33388546, SRC-EA-239-URL-38242A7321CB, SRC-EA-239-URL-D28BE186F3C7, SRC-EA-239-URL-28160EA70CC9
- 追跡中のUNKNOWN ID
- EA-239-UNKNOWN-01
- 再確認のきっかけ
- canonical revision/publication state change · body artifact hash change · source currentness change · new contradiction or implementation readback
機械検査: 通過 — Automated validation does not guarantee accuracy or authorize execution.
同じ記事IDの機械可読データです。