【AIセキュリティ AIエージェント GPT-6 Astra】セキュリティ的には、これは「失敗」で良かったのです。｜IUEC – note
それでは、続きをみていきましょう。 ずっと過剰な負荷によって応答しない。そうではなく、時間をおいて、再度、この「審査用モデル」を試してみたら……「接続できる」と判断され、そのまま承認＝＞メモリの読み出しに成功して……しまいました。 セキュリ…
note.com
AIモデルの他に、怪しげに稼働する「審査用モデル」。
代わりに承認、この機能を提供しているモデルで、その判断は……ブラックボックスです。
でも、メモリに対する読み込みは、ほぼ「許可」になっていますね。
メモリに対する書き込みは厳しいみたいですけど、読み込みは自由になっていますね。
ええ、でも、AIモデルにとって欲しいのは……メモリの、読み込み、です。
まあ、蓋を開けたら、実態はこんな状況でした。急に情報漏洩が多発するのも納得……になります。
