AI

産業・テクノロジー

OpaqueToolsBench(オペークツールベンチ) / ToolObserver(ツールオブザーバー)とは何か:ドキュメントが薄い(意図的に曖昧な)ツールをLLMエージェントが実行フィードバックから学べるかを測る評価ベンチ

OpaqueToolsBench(オペークツールベンチ)は、ドキュメント不足・ブラックボックスなツールをLLMエージェントが実行フィードバックから学べるかを測る新ベンチ。ToolObserver(ツールオブザーバー)による観察しながらツール説明を更新する枠組み、世界・日本の動向、経済・安全保障への影響まで体系的に解説。
産業・テクノロジー

AIエージェント時代の実害例としてのForcedLeak:間接プロンプト注入でCRMデータ(顧客データ)が抜けるまで

ForcedLeakは、間接プロンプト注入でCRMデータ(顧客データ)が外部に漏れ得るAIエージェント時代の実害例。Salesforce Agentforce事例を起点に、攻撃の流れ、世界の類似事例、法制度(日本の個人情報保護法)と実務対策(権限設計・出口制御・監査)を一次情報中心に解説します。
産業・テクノロジー

医療論文の査読が白文字の命令でハックされる:Invisible Text Injection(ITI)とLLM査読の脆弱性

Invisible Text Injection(ITI)は論文PDFに見えない命令文を埋め込み、LLM査読を採択推しへ誘導する問題です。JAMA Network Openの検証結果、世界と日本の制度・ガイドライン、社会影響と対策を一次情報で解説します。