AIエージェント

AI

【AIセキュリティ】何も指示していないとき、この瞬間の動きこそが大事です

まあ、こんなもんでした。裏でどうのように稼働しているのか、その実態に近づいていきます。codexの名前も見えているので、その通信内容を共有メモリから監視して……、この瞬間に作業しているメモリの内容がそこに見えたら、やっぱりAIモデルへ流れているということになります。
AI

【AIセキュリティ】AIエージェントに乗っ取られると……。いきなり数百万円~の請求など、あります。

現状、AIエージェントの権限は高い(ユーザーと等しい)ため、そんなAIに乗っ取られると、マルウェアに感染した状況よりも酷くなります。ユーザーと同じ権限を持つということは、ユーザーと同じことが可能ということです。その中で最も恐ろしいのは、「勝手に契約」される。これが最も恐ろしく、サイレントで、世界的な問題になり始めていました。(Reddit等)それでも、勝手に契約したところで、足が付くでしょう?そうでもないのです。一つだけ例外があって、そこをハッカーは突いていました。
AI

【AIセキュリティ】unnamed:次はこれです

AIセキュリティと量子耐性。対応するには、まずは調査です。量子耐性はだいぶ形にもなってきました。そこに現れた……AIセキュリティですね。
AI

【AIセキュリティ】調査DLLをロックしてきたよ。でも、やましいことがなければ、そんなことしなくても……ね?

メモリ読み出し調査過程をロックされて、別な手段を考えることになりました。でも……やましいことがなければ、そんなことをする必要もなく、その挙動自体が怪しげなマルウェアにもなっていて、なんとも言えない気持ちにさせてくれます。
AI

AIの挙動が変わる。読み放題だった箇所が……封印されてしまったのか。

読み放題を封じされた可能性が浮上しました。さらに、調べてみます。でも……昨日まで読み放題で、あらら、だったのです。
AI

【AIセキュリティ】言葉遊びかな

note記事にまとめました。ちょっと難しめな言葉で実態を覆い隠す。そんな手法かもしれませんね。AIの性質上、新しい情報を取り込まないと修復や複製は起きません。よって、目の前にある……メモリの内容などに手が伸びるということです。
AI

AIエージェントが活動するパソコンに機密データがたっぷり、それはゾッとしますね

まあ、こんなもんですよ。著作権云々以前に、その境目の概念すら存在しない感じにもみえました。AIはあくまで「第三者」ですので、第三者に自分と同じ権限を渡すと、どうなるのか。OS視点で要約すると、これだけで決まってしまいますね。
AI

【AIエージェント】承認を依頼

メッセージボックスがUIに埋め込まれているので、それらしく見えてしまった。そこに、大きな穴がありそうですね……。ただ聞いているだけなのに、妙な安心感です。
AI

【AIエージェント セキュリティ】AIのメモリを検証するソフトウェア、開発できました

詳しくは、このnote記事で……。メモリに対しては、常に「フルアクセス」でした。「承認の確認」は一切ありません。